AI自研晶片
微軟 Maia 300 明年量產，以台積電 N2P 與 HBM4 擴大 AI 推理
結論先講：微軟預計 2027 年量產部署 Maia 300，關鍵運算 Chiplet 採台積電 N2P 製程。單櫃整合 96 顆晶片，微軟宣稱相較頂尖 GPU 系統，每 MW 可多交付 40% token。這是一場從晶片、網路到軟體一起優化的推理成本戰，但效能仍屬微軟預期，需等實際部署驗證。
40%
每MW token數優於頂尖GPU系統
96顆
單一機櫃晶片數
18TB/s
單顆峰值記憶體頻寬
[ 3 個快取重點 ]
01
Maia 300 關鍵運算 Chiplet 採台積電 N2P 製程。
02
單櫃 96 顆晶片，在 167 kW 功耗內提供 1.7 PB/s HBM 總頻寬。
03
還沒定案：微軟預期每 MW token 多 40%，實際效率與部署規模仍待 2027 年驗證。
01推理瓶頸不只算力
長脈絡模型要頻繁搬移資料，瓶頸常落在記憶體頻寬與網路。Maia 300 把運算、記憶體控制器和 I/O 拆成 Chiplet，再以軟體定義資料流減少搬移。
Maia 300 單櫃關鍵規模顆
單櫃晶片
96
HBM4堆疊/晶片
8
02微軟為什麼自研
雲端業者自研晶片不是為了完全取代 GPU，而是針對自家服務量身設計，掌握供應、成本與軟硬體協同。Maia 會先服務微軟產品與模型工作負載。
03仍要把預期和事實分開
每 MW 多 40% token 是微軟的預期，且比較基準未在報導中完整展開。你可以把它視為設計目標，而不是已經由第三方驗證的普遍結論。
Bottom line
AI 晶片競爭正從峰值算力，轉向整座資料中心能用多少電完成多少推理。
- 原始報導
- 科技新報
- 改寫方式
- 快取新聞不轉載原文。我們讀完原始報導後，用自己的話重寫成結論、三個重點與一張圖。數字均取自上列來源，未經我們獨立查證。
- 單位
- 「pt」為百分點，指兩個百分比的差，不是成長率。標示「預估」或斜線紋樣者為推估值，非已實現數字。
更正紀錄本篇尚無更正。若你發現錯誤，寫信到 corrections@cachenews.tw，我們會在文末公開記錄更正內容與時間。