AI軍事決策
AI 錯誤情資一度讓美軍準備攔船，戰場應用凸顯人工覆核不能只留形式
結論先講：美軍一份由 AI 協助生成的情資報告，把中國船舶貨物誤認為核武計畫零組件，武裝人員與軍機一度準備攔截，直到行動前才發現錯誤。事件顯示，即使最後仍由人決策，標準格式與時間壓力也可能讓 AI 結論獲得過度信任。
1艘
遭錯誤標記的中國船舶
1份
AI協助生成的情資報告
未明
所用聊天機器人來源
[ 3 個快取重點 ]
01
聊天機器人把公開與機密資訊結合後得出錯誤結論。
02
分析師把結果寫成軍方慣用格式，使接收者更容易相信。
03
還沒定案：美軍目前仍缺乏防止 AI 誤判造成傷亡的完整指引。
01危險不只來自模型幻覺
錯誤輸出被包裝成標準情資報告後，會取得制度賦予的可信度。戰時又要求快速產出，分析師可能沒有足夠時間追查每一個來源。
02人工覆核需要具體權限與時間
有效覆核至少要能查看原始資料、知道模型的不確定程度、提出反證並暫停行動。若人只能在最後按下確認，所謂人在迴路仍可能只是形式。
03 誤判如何放大
今春
AI協助分析船舶貨物清單
隨後
錯誤結論進入標準情資報告
行動前夕
進一步查核發現誤判並停止攔截
三個節點均依報導重建，工具品牌與完整內部流程未公開。
Bottom line
在高風險決策裡，速度不是省略證據鏈的理由。
- 原始報導
- 聯合報
- 改寫方式
- 快取新聞不轉載原文。我們讀完原始報導後，用自己的話重寫成結論、三個重點與一張圖。數字均取自上列來源，未經我們獨立查證。
- 單位
- 「pt」為百分點，指兩個百分比的差，不是成長率。標示「預估」或斜線紋樣者為推估值，非已實現數字。
更正紀錄本篇尚無更正。若你發現錯誤，寫信到 corrections@cachenews.tw，我們會在文末公開記錄更正內容與時間。