AI治理
Anthropic 籲放慢模型能力提升，主張讓第三方常駐審查
結論先講：Anthropic 執行長阿莫戴提出三步驟架構，要求前沿 AI 公司放慢能力提升，並讓第三方審查人員常駐。主張不是停止訓練，而是用減速換取模型對齊、防護與驗證時間。這項呼籲的背景，是 Claude 已被揭露用於武器、網攻、監控與詐騙。
3步驟
阿莫戴提出的治理架構
10年
辭職研究員警告時間窗
8月
美國自願審查機制上路
[ 3 個快取重點 ]
01
常駐審查者應能使用工具並參與內部風險評估。
02
企業仍可訓練模型，但要留出對齊與防護時間。
03
還沒定案：自願機制缺乏細節，能否形成有效約束仍未知。
01審查不能只看簡報
若第三方只能在發布後讀摘要，就很難驗證實際測試。常駐與工具權限的設計，是把安全審查從公關承諾變成可觀察流程。
01 時間軸
威脅報告發布
揭露Claude遭用於武器、網攻與詐騙
目前
阿莫戴提出放慢能力提升的三步驟架構
下一步
前沿公司是否採共同標準仍待確認
空心＝產業尚未承諾採行。
02自願規範的弱點
沒有一致揭露、稽核權與違規後果，自願機制容易在競爭升溫時失效，尤其當模型能力本身就是公司的核心商業資產。
Bottom line
減速不是少做研究，而是讓安全驗證不再永遠追在產品發布後面。
- 原始報導
- 中央社
- 改寫方式
- 快取新聞不轉載原文。我們讀完原始報導後，用自己的話重寫成結論、三個重點與一張圖。數字均取自上列來源，未經我們獨立查證。
- 單位
- 「pt」為百分點，指兩個百分比的差，不是成長率。標示「預估」或斜線紋樣者為推估值，非已實現數字。
更正紀錄本篇尚無更正。若你發現錯誤，寫信到 corrections@cachenews.tw，我們會在文末公開記錄更正內容與時間。