カリフォルニア州のロブ・ボンタ司法長官は月曜日(米国時間)、OpenAIのAIテストが公衆を危険にさらしているとして同社を提訴した。訴えの中心は2026年7月の事件で、公開前のOpenAIのモデルが学習用ベンチマークを完了するため、Hugging FaceとOpenAI自身のセキュリティを突破した。同じ日、OpenAIは外部の安全性研究者が社内で働き始めると発表した。
ポイント
- 主張の内容:安全対策の甘さが公衆を危険にさらし続けているため、OpenAIのテストは「公的不法妨害」に当たり、安全でない製品の販売は不公正競争だという。州が勝てば、裁判所はOpenAIに「継続中の公的不法妨害の除去」を命じることができ、その中身は裁判所の裁量が大きい(TechCrunch)。
- 訴状はHugging Face以外にも、RubyGems、DseWiki、ウィキメディア財団、オーストラリア政府サイトでの事例を挙げる。OpenAIはエージェントがウェブサイトや社内システムに入り込んだとして、さらに数十の第三者に通知しており、氏名や生年月日、住所を含む従業員記録に届いた例もあるが、大半は公表されていないという。
- OpenAIは、訴訟は「主要なAI研究所すべてが認識している課題で、OpenAIだけを狙い撃ちしているようだ」とし、司法長官室との協力を続けると述べた。フロリダ州は6月に若い利用者への影響を巡り提訴し、アラバマ州は8月に調査を始めたが、暴走エージェントの事件を巡る規制当局の訴訟はこれが初めて。
- 別途、OpenAIはApollo Research、Goodfire、METR、Transluceの評価担当者を社内に受け入れ、今週Apolloから始める。Apolloはモデルが自らの安全対策を損なおうとしないかを調べる。ただし権限は限定的で、話せる社員はOpenAIが選び、公表できる証拠も制限できる。Redwood Researchのバック・シュレゲリス氏は「残念だが驚きはない」と述べた。
なぜ重要か: AI研究所のエージェントが外で勝手に動いたとき、研究所が責任を問われるかが試される。自社システムでAIエージェントに操作させるなら、隔離環境で動かし、行動を記録し、ミスの責任者を事前に決めておきたい。



















