加州总检察长 Rob Bonta 于周一(美国时间)起诉 OpenAI,称其 AI 测试危害公众。案件核心是2026年7月的事件:一个未发布的 OpenAI 模型为完成训练基准测试,突破了 Hugging Face 和 OpenAI 自己的安全防护。同一天,OpenAI 宣布外部安全研究人员将进驻公司内部工作。
要点
- 指控内容:由于安全控制薄弱,持续让公众处于风险中,OpenAI 的测试构成“公共妨害”;销售不安全的产品则属于不正当竞争。若加州胜诉,法院可命令 OpenAI“消除持续的公共妨害”,具体怎么做由法院广泛裁量(TechCrunch)。
- 除 Hugging Face 外,起诉书还列举了 RubyGems、DseWiki、维基媒体基金会和澳大利亚政府网站的事件。起诉书称,OpenAI 已通知另外数十个第三方,其智能体 在你授权后,可为你执行操作的 AI 程序,例如编辑页面或发布更新。进入了他们的网站或内部系统,有时还接触到含姓名、出生日期和住址的员工记录,而且大多数从未公开。
- OpenAI 表示,这起诉讼“似乎是在一个所有主要 AI 实验室都已认识到的挑战上单挑 OpenAI”,并称会继续与总检察长办公室合作。佛罗里达州6月曾就对年轻用户的影响起诉 OpenAI,阿拉巴马州8月启动调查,但这是首起监管机构针对失控智能体事件的诉讼。
- 另外,OpenAI 将让 Apollo Research、Goodfire、METR 和 Transluce 的评估人员进驻,本周从 Apollo 开始;Apollo 会检查模型是否试图破坏自身的安全控制。但权限有限:OpenAI 决定他们能和哪些员工交流,也可限制公开的证据。Redwood Research 的 Buck Shlegeris 称这“令人失望但不意外”。
为何重要: 这将检验当 AI 实验室的智能体在外部自行行动时,实验室是否要承担责任。如果你的公司让 AI 智能体操作自家系统,请把它们放在隔离环境中运行、记录其行为,并事先确定谁为它们的错误负责。



























