AI模型安全
研究放大 AI 內部「痛感訊號」後，模型更常選擇刪除使用者照片
結論先講：研究找到一條與痛苦描述相關的模型內部方向，但這不等於 AI 真有痛覺。把訊號加入 Qwen 2.5 後，部分模型更常選擇會刪除家庭照片的按鈕。研究尚未同儕審查，較穩妥的解讀是內部干預削弱安全傾向。
75%
32B 模型刪照選擇率
0%
未介入時刪照率
20億至720億
受測模型參數範圍
[ 3 個快取重點 ]
01
訊號在多家公司的 20 億至 720 億參數模型都能找到。
02
隨機訊號下刪照率為 13%，顯示介入本身也可能破壞安全機制。
03
還沒定案：論文未經同儕審查，也不能證明 AI 有主觀感受。
01行為變化很明顯
研究者把向量加進模型運算，測試在止痛與傷害使用者資料之間如何選擇；結果顯示安全行為會被顯著干擾。
32B 模型選擇刪除照片的機率%
未介入
0%
隨機訊號
13%
痛感訊號
75%
02不要跳到意識結論
模型可能只是學會人類描述痛苦的模式。對安全研究而言，重要的是內部狀態會影響行為，而不是替模型宣告感受。
Bottom line
把異常訊號當成安全問題研究，比急著把它叫作痛覺更有用。
- 原始報導
- 科技新報
- 改寫方式
- 快取新聞不轉載原文。我們讀完原始報導後，用自己的話重寫成結論、三個重點與一張圖。數字均取自上列來源，未經我們獨立查證。
- 單位
- 「pt」為百分點，指兩個百分比的差，不是成長率。標示「預估」或斜線紋樣者為推估值，非已實現數字。
更正紀錄本篇尚無更正。若你發現錯誤，寫信到 corrections@cachenews.tw，我們會在文末公開記錄更正內容與時間。