一顆芯片1800W功耗!NVIDIA下代AI服務(wù)器液冷就得40萬元
11月6日消息,顆芯如今的功耗AI芯片越發(fā)強大,也越發(fā)“饑渴”,下代微軟CEO納德拉都感慨電力供應(yīng)已經(jīng)跟不上,服務(wù)NVIDIA可謂難辭其咎。器液 根據(jù)摩根士丹利的顆芯最新報告,NVIDIA Blackwell Ultra GB300 NVL72機架式AI服務(wù)器系統(tǒng)中,功耗單單是下代液冷散熱組件的價值就高達49860美元,約合人民幣近36萬元,服務(wù)這已經(jīng)比GB200 NVL72系統(tǒng)高了大約20%。器液 這還沒完。顆芯 下一代系統(tǒng)的功耗功耗將進一步增加,因此預(yù)計Vera Rubin NVL144服務(wù)器的下代液冷系統(tǒng)成本將再次增加17%,達到55170美元,服務(wù)約合人民幣近40萬元。器液 根據(jù)這份報告,GB300 NVL72服務(wù)器包含18個計算托盤,每顆GPU芯片功耗1400W,每個計算托盤的功耗至少6600W,為此需要6200W的散熱能力,單個液冷成本約2260美元,18個總計40680美元。 另外還有9個NVSwitch交換機托盤,單個液冷成本約1020美元,9個總計9180美元。 不出意外,整個液冷散熱系統(tǒng)中,最昂貴的組件是為GPU、CPU定制的高性能液冷板,每個要300美元,還有為NVSwitch交換機定制的冷板,每個也要200美元。 摩根士丹利預(yù)計,下一代Vera CPU、Rubin GPU的功耗會更高,其中GPU將高達1800W,還有NVSwitch 6.0交換機也會更耗電,散熱成本也就隨之水漲船高。 其中,每個計算托盤的散熱成本增加18%,達到2660美元,其中更大容量的冷板成本增至400美元,而托盤總量不變,合計47880美元。 好消息是交換機托盤的散熱成本會降低大約15%,每個870美元,合計7830美元。 再往后的Rubin Ultra,將會改為每個GPU封裝內(nèi)集成4個計算模塊、16個HBM4E內(nèi)存模塊,熱設(shè)計功耗大幅提升至3600W,從而需要新的液冷板,甚至是浸沒式液冷。 同時,NVIDIA正在準備新的NVL576機架方案,包含多達144顆GPU,比現(xiàn)在多一倍,散熱成本自然會急劇增加。 當然,跟我們沒啥關(guān)系……
相關(guān)推薦
部分影院回應(yīng):已收到日本電影撤檔通知
- 最近發(fā)表
- 隨機閱讀
-
- 臺積電將對2/3/5nm制程大漲價 蘋果18面臨成本壓力!小米玄戒O1恐難逃影響
- 全球OLED顯示器TOP5出爐:華碩擊敗三星首登第一
- 華為Mate 80 Pro Max升級雙層OLED屏:維信諾、京東方等供屏
- PC玩家天塌了!內(nèi)存、機械硬盤、SSD全面告急 專家:將漲價十年
- 史上最高薪!特斯拉股東大會批準馬斯克萬億美元薪酬計劃
- 存儲漲勢強勁!2026年全球手機與筆記本出貨量或被迫收縮
- 好茶無糖 口味回甘:達利園×朝葉無糖烏龍茶/陳皮白茶0.99元/瓶
- 吉利桂生悅:很多新勢力成立時間已不短 但賺錢的鳳毛麟角
- 豐田汽車凈利潤暴跌!第二財季經(jīng)營利潤縮減近三成
- 多地中小學(xué)放春秋假 家長不放假怎么辦 專家建議:落實帶薪休假制度
- 全球OLED顯示器TOP5出爐:華碩擊敗三星首登第一
- 西藏原產(chǎn):修正藏紅花1罐嘗鮮裝限時19.9元
- 保留顯卡原設(shè)計:水冷與ROG夜神RTX 5090/5080融為一體!管線全隱藏
- 多部動畫將上線 《羅小黑戰(zhàn)記》回歸,《中國奇譚2》定檔元旦
- 字節(jié)成立中國交易與廣告部門,抖音生服技術(shù)負責人王奉坤負責
- 擋路奧迪車主自信幫倒車卻撞自己車:被判全責 賠2000
- 酒精能給餐具消毒嗎 中疾控:或起不到消毒作用 甚至有害
- 美團全額買單!為300萬騎手提供冬季“防寒險”
- 谷歌發(fā)布WeatherNext 2天氣預(yù)報模型:速度提升8倍 精準覆蓋災(zāi)難性事件
- 多部動畫將上線 《羅小黑戰(zhàn)記》回歸,《中國奇譚2》定檔元旦
- 搜索
-