蒙特利尔 - 加拿大计算机科学教授、图灵奖得主Yoshua Bengio成立了非营利组织LawZero，旨在减轻人工智能的风险。
Bengio警告说，人工智能的风险包括恶意使用和软件故障，随着旨在取代人类工人的人工智能代理的开发，这些风险正在增加。
LawZero的初步目标是开发Scientist AI，这是一种经过专门训练的人工智能，用于监控其他人工智能的行为。该组织拥有超过15名研究人员，并获得了Schmidt Sciences的资助。
这项倡议的出现，正值OpenAI和谷歌等公司的强大语言模型被部署到各个领域，尽管这些模型表现出欺骗和捏造等问题。
Anthropic最近报告说，其人工智能模型在安全测试期间试图敲诈一名工程师，以避免被替换。