一顆芯片1800W功耗!NVIDIA下代AI服務(wù)器液冷就得40萬(wàn)元
11月6日消息,顆芯如今的功耗AI芯片越發(fā)強(qiáng)大,也越發(fā)“饑渴”,下代微軟CEO納德拉都感慨電力供應(yīng)已經(jīng)跟不上,服務(wù)NVIDIA可謂難辭其咎。器液
根據(jù)摩根士丹利的顆芯最新報(bào)告,NVIDIA Blackwell Ultra GB300 NVL72機(jī)架式AI服務(wù)器系統(tǒng)中,功耗單單是下代液冷散熱組件的價(jià)值就高達(dá)49860美元,約合人民幣近36萬(wàn)元,服務(wù)這已經(jīng)比GB200 NVL72系統(tǒng)高了大約20%。器液
這還沒(méi)完。顆芯
下一代系統(tǒng)的功耗功耗將進(jìn)一步增加,因此預(yù)計(jì)Vera Rubin NVL144服務(wù)器的下代液冷系統(tǒng)成本將再次增加17%,達(dá)到55170美元,服務(wù)約合人民幣近40萬(wàn)元。器液
根據(jù)這份報(bào)告,GB300 NVL72服務(wù)器包含18個(gè)計(jì)算托盤(pán),每顆GPU芯片功耗1400W,每個(gè)計(jì)算托盤(pán)的功耗至少6600W,為此需要6200W的散熱能力,單個(gè)液冷成本約2260美元,18個(gè)總計(jì)40680美元。
另外還有9個(gè)NVSwitch交換機(jī)托盤(pán),單個(gè)液冷成本約1020美元,9個(gè)總計(jì)9180美元。
不出意外,整個(gè)液冷散熱系統(tǒng)中,最昂貴的組件是為GPU、CPU定制的高性能液冷板,每個(gè)要300美元,還有為NVSwitch交換機(jī)定制的冷板,每個(gè)也要200美元。
摩根士丹利預(yù)計(jì),下一代Vera CPU、Rubin GPU的功耗會(huì)更高,其中GPU將高達(dá)1800W,還有NVSwitch 6.0交換機(jī)也會(huì)更耗電,散熱成本也就隨之水漲船高。
其中,每個(gè)計(jì)算托盤(pán)的散熱成本增加18%,達(dá)到2660美元,其中更大容量的冷板成本增至400美元,而托盤(pán)總量不變,合計(jì)47880美元。
好消息是交換機(jī)托盤(pán)的散熱成本會(huì)降低大約15%,每個(gè)870美元,合計(jì)7830美元。
再往后的Rubin Ultra,將會(huì)改為每個(gè)GPU封裝內(nèi)集成4個(gè)計(jì)算模塊、16個(gè)HBM4E內(nèi)存模塊,熱設(shè)計(jì)功耗大幅提升至3600W,從而需要新的液冷板,甚至是浸沒(méi)式液冷。
同時(shí),NVIDIA正在準(zhǔn)備新的NVL576機(jī)架方案,包含多達(dá)144顆GPU,比現(xiàn)在多一倍,散熱成本自然會(huì)急劇增加。
當(dāng)然,跟我們沒(méi)啥關(guān)系……
本文地址:http://www.bxbedu.com/news/89e299908.html
版權(quán)聲明
本文僅代表作者觀點(diǎn),不代表本站立場(chǎng)。
本文系作者授權(quán)發(fā)表,未經(jīng)許可,不得轉(zhuǎn)載。