忧心生成式人工智能（generative AI）快速普及，人工智能先驱研究者、加拿大计算机科学教授班吉欧（Yoshua Bengio）正在开发软件，以监控这项日益取代人类工作的技术。
法新社报导，班吉欧被认为是人工智能革命的教父之一，他今天宣布成立非营利组织LawZero，目标为降低人工智能的固有风险。
班吉欧是有电脑界诺贝尔奖之称的图灵奖（Turing Award）得主，多年来一直警告有关人工智能的风险，无论是被恶意使用，还是软件本身出现问题。
随着所谓的人工智能代理（AI agent）的发展，风险正在增加。这种技术让电脑做出过去曾经由人类工人做出的决策。
人工智能代理的目标是创建虚拟员工，以极低成本完成人类几乎能够做到的任何工作。
班吉欧说：「目前，人工智能的开发是为了实现利润最大化。」他还说，即使人工智能持续出现缺陷，它也仍被广泛应用。
另外，对班吉欧来说，赋予人工智能类似于人类的自主性很容易被用于恶意目的，例如散播假消息、生物武器和网络攻击。
他说：「如果我们控制不了自作主张的超智能人工智能，它们可能会给人类造成极大伤害。」
LawZero表示，组织首要任务之一是开发「科学家人工智能」（Scientist AI），这是一种经过专门训练的人工智能形式，可以用作安全防护，确保其他人工智能的行为是正确的。
LawZero目前有超过15名研究人员，并获得谷歌公司（Google）前首席执行官施密特（Eric Schmidt）和他的妻子温蒂（Wendy Schmidt）创立的慈善机构施密特科学（Schmidt Sciences）的资助。