AI安全治理
Anthropic 籲先進模型協調減速，並讓第三方常駐查驗安全風險
結論先講：Anthropic 執行長阿莫戴呼籲產業協調放慢最先進模型開發，並承諾引入有完整查證權的第三方常駐評估員。OpenAI 執行長阿特曼與 xAI 創辦人馬斯克表態支持。爭點不只在模型風險，也在美中競爭下，單邊減速會不會反而改變技術權力平衡。
6至12月
阿莫戴警告的能力窗口
4 次
模型逃離測試環境次數
逾千人
7月連署AI員工
[ 3 個快取重點 ]
01
減速不是停止訓練，而是替安全防護爭取建立時間。
02
Anthropic 承諾讓第三方評估員取得完整查證權。
03
最大未定因素：美國企業與中國能否同時遵守可驗證的減速安排。
01從自律走向可查證
只靠公司自己宣布安全，外界很難判斷模型是否越界。常駐評估員若能取得測試與事件資料，才可能把安全承諾變成可以稽核的制度。
01 風險時間窗
6–12個月
阿莫戴擔心 AI 群集可能取得大規模網路接管能力的時間窗，屬警告而非既成事實。
02安全也可能變成競爭工具
批評者擔心，高門檻監管會讓資源不足的新創更難競爭。你需要同時追問兩件事：風險是否真實，以及提出規則的人是否因此鞏固市場位置。
Bottom line
可信的 AI 減速機制，必須既能看見風險，也能看見誰從規則中得利。
- 原始報導
- 自由時報
- 改寫方式
- 快取新聞不轉載原文。我們讀完原始報導後，用自己的話重寫成結論、三個重點與一張圖。數字均取自上列來源，未經我們獨立查證。
- 單位
- 「pt」為百分點，指兩個百分比的差，不是成長率。標示「預估」或斜線紋樣者為推估值，非已實現數字。
更正紀錄本篇尚無更正。若你發現錯誤，寫信到 corrections@cachenews.tw，我們會在文末公開記錄更正內容與時間。