AI雲端算力
甲骨文導入 Vera CPU 與 Rubin,代理式 AI 算力不再只看 GPU
結論先講:甲骨文與輝達擴大合作,OCI 已提供 Vera Rubin NVL72 與 Vera CPU,部署規模規劃達數 GW。代理式 AI 需要 CPU 處理工具呼叫、程式碼和檢索,GPU 不再是唯一瓶頸。這是把整套系統效率放在單顆晶片之前。
72
顆 GPU/NVL72 機櫃
數GW
規劃部署規模
逾10萬
OpenAI 使用的 Blackwell GPU
[ 3 個快取重點 ]
01
Vera CPU 負責程式碼執行、工具操作與資料檢索等工作。
02
OCI 也規劃較小型 NVL8,搭配 8 顆 Rubin GPU。
03
未定案:數 GW 擴展仍是計畫,實際時程與利用率未公布。
01代理工作負載改變系統設計
生成文字主要考驗模型推論,代理則頻繁切換到外部工具。若 CPU 或網路跟不上,GPU 等待時間就會吞掉算力投資的效益。
01 部署進程
既有環境
OCI 已部署 GB200、GB300 系統
現在
Vera Rubin NVL72 與 Vera CPU 上線
擴展計畫
部署規模朝數 GW 推進
空心=規劃中的擴展。
Bottom line
AI 基建的下一場競賽,是讓每一顆昂貴晶片少一點等待。
- 原始報導
- 科技新報
- 改寫方式
- 快取新聞不轉載原文。我們讀完原始報導後,用自己的話重寫成結論、三個重點與一張圖。數字均取自上列來源,未經我們獨立查證。
- 單位
- 「pt」為百分點,指兩個百分比的差,不是成長率。標示「預估」或斜線紋樣者為推估值,非已實現數字。
更正紀錄本篇尚無更正。若你發現錯誤,寫信到 corrections@cachenews.tw,我們會在文末公開記錄更正內容與時間。