KeselamatanSerangan ke atas vendor AI Fireworks dedahkan sebahagian sembang Notion AI
Notion berkata insiden keselamatan di Fireworks AI, syarikat luar yang digunakannya untuk sebahagian pemprosesan AI, mendedahkan transkrip sembang Notion AI Notion's built-in AI assistant that can answer questions, write or edit pages, and take actions inside a workspace. daripada kurang 1% ruang kerja Notion. Notion menerbitkan notisnya pada 9 November (waktu AS) dan berkata ia telah menghubungi pelanggan yang terjejas. Jika anda tidak menerima apa-apa daripada Notion, ia berkata ruang kerja anda tidak dikenal pasti terjejas dan tiada tindakan diperlukan buat masa ini.
Apa yang kami pelajari
- Garis masa Notion: Fireworks mula-mula memberi amaran pada malam 2 November, apabila data yang dicuri didapati hanya data ujian. Menjelang pagi 3 November Notion telah memutuskan sambungan sistemnya dengan Fireworks dan memadam datanya di sana. Pada 6 November Fireworks berkata data pelanggan mungkin turut diambil, dan ia mengesahkan set data kedua itu pada 8 November.
- Sembang yang terdedah ialah salinan yang digunakan untuk Insights A weekly view for Notion workspace admins of how their team uses Notion AI. To build it, Notion used to send saved AI chats to an outside company to turn each one into a short description. Notion has now switched this feature off., ciri Notion yang menunjukkan cara pasukan menggunakan AI. Notion berkata bagi kebanyakan ruang kerja terjejas, ia 'tidak boleh dikaitkan': tidak dilabel dengan nama orang atau ruang kerja, dan tanpa hasil alat yang digunakan AI. Tetapi apa sahaja yang ditaip dalam sembang masih ada dalam teks.
- Notion telah mematikan Insights semasa siasatan dan berhenti menggunakan Fireworks untuk menjalankan model Open weights When a company publishes the trained model file so anyone can download and run it on their own hardware. dalam Notion. Ia berkata tiada ciri Notion lain terjejas dan ini bukan pencerobohan sistem Notion sendiri.
- Fireworks berkata penyerang dikaitkan dengan kumpulan jenayah bermotif kewangan di sebalik 'LLMjacking When criminals steal access to someone else's AI services and use or resell it, leaving the victim with the bill.'. Butiran akaun dan bil telah diambil dan, bagi sesetengah pelanggan, rahsia, set data dan model yang belum siap. Ia telah melantik Unit 42 milik Palo Alto Networks untuk menyiasat.
Kenapa ia penting: Jika ruang kerja anda menerima e-mel Notion, semak sembang terjejas di dalam Notion seperti yang diarahkan, anggap ia telah terdedah, dan tukar (rotate) kelayakan seperti kata laluan dan kunci API Application programming interface: a door that lets one piece of software ask another for data or actions. yang pernah ditampal ke dalam Notion AI. Orang lain pula: anggap mana-mana kotak sembang AI seperti e-mel dan jangan masukkan rahsia.