AI語言模型
史丹佛 NCM 先產生文字骨架再補細節，特定任務最高快 31 倍
結論先講：NCM 不逐字寫，而是先產生整段文字的粗骨架，再平行補細節。研究在部分任務上比擴散語言模型快 10 到 31 倍，數獨解題率也更高。不過模型規模小、尚未同最佳化自迴歸模型正面比較，離取代商用大模型很遠。
31倍
XSum 任務最高速度差
86.1%
困難數獨解出率
1億
主要測試模型參數量
[ 3 個快取重點 ]
01
NCM 以多層編碼先粗後細，同一層的內容可平行預測。
02
困難數獨解出率 86.1%，高於基準模型 81.3%。
03
還沒定案：論文是未同儕審查預印本，擴大到商用模型仍待驗證。
01為何可能更快
自迴歸模型必須逐詞等待前一步，NCM 則一次產生一個抽象層級。它像先定大綱再填句子，因此能用較少模型運算形成完整文本。
困難數獨解出率%
NCM
86.1%
FMLM+
81.3%
自迴歸模型
1%
02限制比倍數更重要
31 倍是對特定擴散模型與任務的結果，不等於對所有 LLM 都快 31 倍。固定層數、任務個別訓練與小模型規模，都是目前的外推限制。
Bottom line
新架構最有價值的地方不是宣告舊方法退場，而是打開另一條可被驗證的生成路線。
- 原始報導
- 科技新報
- 改寫方式
- 快取新聞不轉載原文。我們讀完原始報導後，用自己的話重寫成結論、三個重點與一張圖。數字均取自上列來源，未經我們獨立查證。
- 單位
- 「pt」為百分點，指兩個百分比的差，不是成長率。標示「預估」或斜線紋樣者為推估值，非已實現數字。
更正紀錄本篇尚無更正。若你發現錯誤，寫信到 corrections@cachenews.tw，我們會在文末公開記錄更正內容與時間。