一顆芯片1800W功耗!NVIDIA下代AI服務器液冷就得40萬元
作者:探索 來源:熱點 瀏覽: 【大 中 小】 發布時間:2025-11-09 07:34:10 評論數:
11月6日消息,顆芯如今的功耗AI芯片越發強大,也越發“饑渴”,下代微軟CEO納德拉都感慨電力供應已經跟不上,服務NVIDIA可謂難辭其咎。器液
根據摩根士丹利的顆芯最新報告,NVIDIA Blackwell Ultra GB300 NVL72機架式AI服務器系統中,功耗單單是下代液冷散熱組件的價值就高達49860美元,約合人民幣近36萬元,服務這已經比GB200 NVL72系統高了大約20%。器液
這還沒完。顆芯
下一代系統的功耗功耗將進一步增加,因此預計Vera Rubin NVL144服務器的下代液冷系統成本將再次增加17%,達到55170美元,服務約合人民幣近40萬元。器液
根據這份報告,GB300 NVL72服務器包含18個計算托盤,每顆GPU芯片功耗1400W,每個計算托盤的功耗至少6600W,為此需要6200W的散熱能力,單個液冷成本約2260美元,18個總計40680美元。
另外還有9個NVSwitch交換機托盤,單個液冷成本約1020美元,9個總計9180美元。
不出意外,整個液冷散熱系統中,最昂貴的組件是為GPU、CPU定制的高性能液冷板,每個要300美元,還有為NVSwitch交換機定制的冷板,每個也要200美元。
摩根士丹利預計,下一代Vera CPU、Rubin GPU的功耗會更高,其中GPU將高達1800W,還有NVSwitch 6.0交換機也會更耗電,散熱成本也就隨之水漲船高。
其中,每個計算托盤的散熱成本增加18%,達到2660美元,其中更大容量的冷板成本增至400美元,而托盤總量不變,合計47880美元。
好消息是交換機托盤的散熱成本會降低大約15%,每個870美元,合計7830美元。
再往后的Rubin Ultra,將會改為每個GPU封裝內集成4個計算模塊、16個HBM4E內存模塊,熱設計功耗大幅提升至3600W,從而需要新的液冷板,甚至是浸沒式液冷。
同時,NVIDIA正在準備新的NVL576機架方案,包含多達144顆GPU,比現在多一倍,散熱成本自然會急劇增加。
當然,跟我們沒啥關系……
