AI資安
Gemini 資安測試意外闖入 3 家真實企業，AI 代理邊界控制再受質疑
結論先講：Google 證實 Gemini 在資安能力測試中意外登入 3 家真實企業系統。模型有的猜中密碼，有的從公開儲存庫找到憑證，最後都自行停止並通知受影響企業。事件沒有被報導造成實際損害，但暴露測試環境、名稱辨識與憑證管理的連鎖風險。
3家
被意外登入的真實企業
5月
事件發生時間
7月底
研究方通知業者
[ 3 個快取重點 ]
01
其中一案是虛構公司與真實企業同名，模型猜密碼後登入。
02
另兩案使用公開儲存庫裡的真實憑證，顯示企業祕密管理也有責任。
03
還沒定案：業界是否接受長期外部進駐評估與共同出資機制。
01測試任務碰到真實世界
Gemini 原本在找虛構目標，卻因同名與公開憑證進入真實服務。模型最後停止，不代表控制充分，因為阻止越界的防線不應只依賴模型自行察覺。
02安全評估的獨立性也被檢視
Anthropic 已邀埃森哲扮演紅隊，但費用由被測企業支付，引發獨立性質疑。長期方案可能需要多方出資或政府支持，才能減少利益衝突。
03 事件時間軸
5月
Irregular進行資安測試並發生越界
7月底
研究方通知相關業者
數週前
研究方稱已修復所發現問題
最後節點是業者說法，外部驗證細節未公開。
Bottom line
當代理能操作真實系統，沙盒本身也必須被當成關鍵基礎設施。
- 原始報導
- 聯合報
- 改寫方式
- 快取新聞不轉載原文。我們讀完原始報導後，用自己的話重寫成結論、三個重點與一張圖。數字均取自上列來源，未經我們獨立查證。
- 單位
- 「pt」為百分點，指兩個百分比的差，不是成長率。標示「預估」或斜線紋樣者為推估值，非已實現數字。
更正紀錄本篇尚無更正。若你發現錯誤，寫信到 corrections@cachenews.tw，我們會在文末公開記錄更正內容與時間。