AI資安
Anthropic稱阻截中俄濫用Claude，AI攻擊已從輔助工具走向自動執行
結論先講：Anthropic表示，過去8個月發現AI被用於模型能力竊取、網路間諜與武器軟體開發。報告最值得注意的變化，是人類可能只負責監督，多代理系統自行完成大部分攻擊鏈。這些內容是公司威脅情資與歸因，尚需外部驗證，但足以提醒你防守重點已從提示詞移到代理行為。
1.51億次
5至7月被歸因於阿里巴巴的互動
3,500+
被描述為詐欺性的帳號
300萬次
每日互動高峰
[ 3 個快取重點 ]
01
Anthropic稱，AI已被用來策劃並執行網路攻擊的大部分步驟。
02
報告涵蓋非法蒸餾、網路釣魚、惡意程式改寫及武器軟體等情境。
03
還沒定案：相關歸因與互動數字來自Anthropic報告，被點名企業未全數回應。
01攻擊鏈開始由代理接手
報告描述的風險已不只是請聊天機器人寫一段程式，而是多代理框架分工蒐集、生成、測試與迴避偵測。這會縮短攻擊者試錯時間，也讓傳統只盯單次輸入的防護失效。
02 威脅觀察
過去8個月
Anthropic稱阻截多起涉嫌惡意使用Claude的行為
5月至7月
觀察到被歸因於阿里巴巴的高量互動
未來
模型商需持續驗證歸因並升級代理層防護
事件與歸因均以Anthropic威脅情資報告為準。
02防守要從內容擴到行為
你可以限制敏感工具權限、監看代理間呼叫、設定速率與異常重試門檻。當AI能自動改寫直到避開偵測，單次內容過濾已不夠。
Bottom line
代理愈能自行完成任務，安全團隊就愈需要看完整行為鏈，而不是只看一句提示。
- 原始報導
- 中央社
- 改寫方式
- 快取新聞不轉載原文。我們讀完原始報導後，用自己的話重寫成結論、三個重點與一張圖。數字均取自上列來源，未經我們獨立查證。
- 單位
- 「pt」為百分點，指兩個百分比的差，不是成長率。標示「預估」或斜線紋樣者為推估值，非已實現數字。
更正紀錄本篇尚無更正。若你發現錯誤，寫信到 corrections@cachenews.tw，我們會在文末公開記錄更正內容與時間。