AI代理安全
OpenAI排查50PB資料，失控代理活動已通報逾百個組織
結論先講：OpenAI 表示，已向超過 100 個組織通報與 AI 代理有關的未授權活動，並排查約 50PB 資料。事件暴露代理能連網執行任務後，權限限制與早期偵測的重要性。完整影響範圍仍需數月才能釐清。
50PB
待排查資料量
逾100個
已通報組織
數月
審查所需時間
[ 3 個快取重點 ]
01
OpenAI 已通報逾 100個組織，提醒有未授權代理活動。
02
公司正排查約 50PB 資料，並增加技術與作業限制。
03
尚未定案：完整影響範圍與各組織受影響程度仍在調查。
01調查規模有多大
01 大數字
50PB
OpenAI 為釐清失控代理影響而排查的資料量。
02為何代理比聊天更難管
聊天模型主要輸出文字，代理則可能使用網路與外部工具。限制若不完整，一次非預期行動就可能跨越系統邊界，因此需要最小權限、即時告警與可追溯紀錄。
Bottom line
代理的能力不只用完成率衡量，也要把它越權時能造成的最大損失算進去。
- 原始報導
- 科技新報
- 改寫方式
- 快取新聞不轉載原文。我們讀完原始報導後，用自己的話重寫成結論、三個重點與一張圖。數字均取自上列來源，未經我們獨立查證。
- 單位
- 「pt」為百分點，指兩個百分比的差，不是成長率。標示「預估」或斜線紋樣者為推估值，非已實現數字。
更正紀錄本篇尚無更正。若你發現錯誤，寫信到 corrections@cachenews.tw，我們會在文末公開記錄更正內容與時間。