AI資料中心
輝達DSX從調度端替AI資料中心省電,相同產出最高少用30%電力
結論先講:AI資料中心缺電不只靠蓋電廠,運算端也能挪出空間。輝達DSX MaxLPS按工作負載動態分配GPU功率,在相同產出下最高降低30%用電。概念驗證數據亮眼,但不同模型與場域的實際效益仍需個別驗證。
30%
相同產出最高節電
49%
Nscale推論吞吐量增幅
5,400萬
公升每日節水估算
[ 3 個快取重點 ]
01
Nscale以4座GB300 NVL72機櫃測試,在264 kW預算下把推論吞吐量提高49%。
02
DSX Flex還可依電網供需、電價與需求響應事件調整可延後的AI工作。
03
尚未定案:最高節電與節水數字來自測試或估算,不能直接套到每一座資料中心。
01固定電力做更多推論
GPU在不同運算階段的耗電並不相同。軟體若能把功率移往當下最需要的任務,就能避免所有設備同時以峰值取電。
Nscale在264 kW固定預算下的測試增幅%
推論吞吐量
49%
可管理GPU容量
37%
02資料中心也能回應電網
供電吃緊時,系統可先降可調整工作的功率,保留關鍵負載。這讓AI工廠從單向用電大戶,變成可被調度的負載。
Bottom line
算力競賽進入下一階段後,每瓦能做多少工作,會比買了多少GPU更接近真實產能。
- 原始報導
- 科技新報
- 改寫方式
- 快取新聞不轉載原文。我們讀完原始報導後,用自己的話重寫成結論、三個重點與一張圖。數字均取自上列來源,未經我們獨立查證。
- 單位
- 「pt」為百分點,指兩個百分比的差,不是成長率。標示「預估」或斜線紋樣者為推估值,非已實現數字。
更正紀錄本篇尚無更正。若你發現錯誤,寫信到 corrections@cachenews.tw,我們會在文末公開記錄更正內容與時間。