今天小编分享的科技经验:单卡功耗可达1400W!黄仁勋:下代GPU伺服器必须水冷,欢迎阅读。
NVIDIA CEO 黄仁勋在近日的 2024 SIEPR 经济峰会上透露,下一代 DGX GPU 伺服器将会采用水冷散热,整个系统非常壮观 ( magnificent ) 、非常迷人 ( beautiful ) 。
黄仁勋还提到,新一代 DGX 伺服器很快就会到来,暗示着 Blacwell B100 GPU 加速卡距离发布已经不远了——官方只说 2024 年内,消息称已提前到二季度。
戴尔此前的一次会议中确认,NVIDIA 明年还会推出更新版 B200 GPU,最高功耗可达 1000W,甚至有说法称会有恐怖的 1400W!
NVIDIA 目前的主力 AI GPU H100 和更新版 H200 最大功耗为 700W,核心面积 814 平方毫米,均只需风冷。
AMD MI300X 则需要 750W,但是面积也更大一些达到了 1017 平方毫米。
现如今,伺服器和数据中心使用浸没式液冷散热已经稀松平常,但也有很多专家对这种发展途径吃反对态度。
Moor Insights & Strategy 的创始人、CEO 兼首席分析师 Patrick Moorhead 就明确提出,为了提高性能,并控制合理的功耗、发热,我们已经穷尽了手段,但接下来该怎么办?上液氮吗?是时候重新思考了。