今天小編分享的科技經驗:消息稱英偉達 H200 芯片 2024Q3 大量交付,B100 明年上半年出貨,歡迎閱讀。
IT 之家 7 月 3 日消息,台媒《工商時報》消息,英偉達 H200 上遊芯片端于二季度下旬起進入量產期,預計在三季度以後開始大規模交付。
據 IT 之家此前報道,OpenAI 近日在舊金山舉辦了一場研讨會,英偉達首席執行官黃仁勳親自出席,共同宣布交付第一台 Nvidia DGX H200。
H200 作為 H100 的迭代更新產品,基于 Hopper 架構,首次采用了 HBM3e 高帶寬内存技術,實現了更快的數據傳輸速度和更大的内存容量,對大型語言模型應用表現出顯著優勢。
根據英偉達官方發布的數據,在處理諸如 Meta 公司 Llama2 這樣的復雜大語言模型時,H200 相較于 H100 在生成式 AI 輸出響應速度上最高提升了 45%。
供應鏈指出,目前待出貨的客戶端訂單仍多集中于 HGX 架構的 H100,H200 比重有限,因采用配貨制,目前各家終端系統合作夥伴的出貨主力 H100 GPU,到貨時間最長仍可能達 20 周。
消息稱 B100 将于明年上半年出貨。英偉達 CEO 黃仁勳此前表示,從 B100 開始未來所有產品的散熱技術都将由風冷轉為液冷。英偉達 H200 GPU 的 TDP 為 700W,保守估計 B100 的 TDP 接近千瓦,傳統風冷不能滿足芯片工作過程中對于散熱需求,散熱技術将全面向液冷革新。