AI開源推論
DeepSeek開源DeepInfer，把模型推論優化延伸到輝達與華為硬體
結論先講：DeepSeek把推論框架DeepInfer以Apache 2.0協定開源，並同時支援NVIDIA與華為昇騰950 NPU。它鎖定的是離線推論與企業私有部署，不是完整的線上即時服務。你如果評估導入，應把框架效能與缺少調度能力分開看。
2套
支援NVIDIA與華為硬體
Apache 2.0
開源授權協定
950
支援的昇騰NPU型號
[ 3 個快取重點 ]
01
DeepInfer整合TileLang編譯工具與既有推理算子庫。
02
框架可讓DeepSeek-V4.1-Flash執行離線推論，方便私有環境部署。
03
限制仍在：目前不含完整線上即時調度服務。
01開源範圍深入到推論底層
DeepInfer不是再推出一個聊天介面，而是處理模型如何被編譯、如何呼叫推理算子，以及如何配合特定晶片。這類底層整合直接影響推論速度與部署成本。
01 大數字
2類硬體
DeepInfer可支援NVIDIA GPU與華為昇騰950 NPU。
02企業仍需補上服務層
離線推論適合批次作業與受控環境，但大量使用者同時上線時，還需要資源調度、流量治理與可靠性工具。開源框架降低底層門檻，並不等於完整產品已經備妥。
Bottom line
真正的硬體自主，不只要有晶片，也要有能把晶片效能用滿的軟體。
- 原始報導
- 科技新報
- 改寫方式
- 快取新聞不轉載原文。我們讀完原始報導後，用自己的話重寫成結論、三個重點與一張圖。數字均取自上列來源，未經我們獨立查證。
- 單位
- 「pt」為百分點，指兩個百分比的差，不是成長率。標示「預估」或斜線紋樣者為推估值，非已實現數字。
更正紀錄本篇尚無更正。若你發現錯誤，寫信到 corrections@cachenews.tw，我們會在文末公開記錄更正內容與時間。