今日のNotion

AI委託先Fireworksへの攻撃で、一部のNotion AIのチャットが流出

Notionによると、一部のAI処理を委託していた外部企業Fireworks AIのセキュリティ事故で、Notionワークスペース全体の1%未満にあたるNotion AINotion AI Notion's built-in AI assistant that can answer questions, write or edit pages, and take actions inside a workspace.のチャット記録が流出しました。Notionは11月9日（米国時間）に告知を出し、影響を受けた顧客には連絡済みとしています。連絡が来ていなければ、あなたのワークスペースは影響対象と特定されておらず、今のところ対応は不要だとしています。

わかったこと

1. Notionの時系列：11月2日夜にFireworksから最初の連絡があり、このとき盗まれたのはテスト用データだけでした。11月3日朝までにNotionはFireworksとの接続を切り、そこにあったデータを削除しました。11月6日、Fireworksは顧客データも盗まれた可能性があると伝え、11月8日にその2つ目のデータを確認しました。
2. 流出したのは、チームのAI利用状況を示すNotionの機能「InsightsInsights A weekly view for Notion workspace admins of how their team uses Notion AI. To build it, Notion used to send saved AI chats to an outside company to turn each one into a short description. Notion has now switched this feature off.」用のチャットのコピーです。Notionによると、影響を受けたワークスペースの大半では、誰がどのワークスペースで書いたかが分からず、AIが使ったツールの結果も含まれていません。ただし、チャットに入力した内容そのものは本文に残っています。
3. NotionはInsightsを調査中は停止し、Notion内でオープンウェイトモデルを動かすためのFireworksの利用もやめました。他のNotionの機能には影響がなく、Notion自身のシステムが侵害されたわけではないとしています。
4. Fireworksによると、攻撃者は「LLMjackingLLMjacking When criminals steal access to someone else's AI services and use or resell it, leaving the victim with the bill.」を行う金銭目的の犯罪グループとつながっています。アカウント情報や請求情報が盗まれ、一部の顧客ではシークレット、データセット、学習途中のモデルも盗まれました。調査にはPalo Alto NetworksのUnit 42を起用しています。

なぜ重要か： Notionからメールが届いたワークスペースは、案内に従ってNotion内で対象のチャットを確認し、流出したものとして扱い、Notion AIに貼り付けたパスワードやAPIAPI Application programming interface: a door that lets one piece of software ask another for data or actions.キーなどの認証情報をローテーション（交換）しましょう。それ以外の人も、AIのチャット欄はメールと同じと考え、秘密情報は入れないようにしましょう。

この記事を共有