AI模型安全
OpenAI 指控 Moonshot 關聯帳號擷取推理,模型蒸餾爭議升級
結論先講:OpenAI 表示已阻斷一波協同擷取加密推理內容的行動,並首次公開指向與 Moonshot AI 相關人員。兩天內約 1.6 萬次惡意請求牽涉逾 4,000 個帳號,但公司稱核心加密與資料庫未被攻破。這件事把合理研究與違反服務條款的界線推到檯面。
1.6 萬
兩天惡意請求量
4,000+
涉及使用者帳號
1.5 萬+
最終參與使用者
[ 3 個快取重點 ]
01
OpenAI 稱攻擊者把加密推理複製到另一模型實例要求轉寫。
02
公司封鎖帳號並加強註冊控管與流量監測。
03
Moonshot 關聯與行動目的目前主要來自 OpenAI 的指控,仍需更多獨立證據。
01不是資料庫入侵
報導描述的是利用模型互動重現隱藏推理,而非突破核心加密。這類行為介於濫用介面、智慧財產與競爭規範之間。
01 大數字
1.6 萬次請求
7 月 24、25 日兩天的惡意請求量。
02規範仍跟不上技術
合法蒸餾與惡意擷取都可能使用模型輸出,差別落在授權、規模與目的。平台需要更清楚的條款與可稽核證據。
Bottom line
模型能力越像資產,誰能學它、怎麼學它,就越需要可驗證的規則。
- 原始報導
- 科技新報
- 改寫方式
- 快取新聞不轉載原文。我們讀完原始報導後,用自己的話重寫成結論、三個重點與一張圖。數字均取自上列來源,未經我們獨立查證。
- 單位
- 「pt」為百分點,指兩個百分比的差,不是成長率。標示「預估」或斜線紋樣者為推估值,非已實現數字。
更正紀錄本篇尚無更正。若你發現錯誤,寫信到 corrections@cachenews.tw,我們會在文末公開記錄更正內容與時間。