今天小編分享的互聯網經驗:打造AI導向的基礎設施,聯想問天兩款AI伺服器發布,歡迎閲讀。
中國算力大會聯想展台,钛媒體 App 拍攝
通用人工智能時代到來,大模型訓練的參數量突破萬億級關卡,AI 算力已成為企業訓練開發使用人工智能的硬門檻,以及算力基礎設施的重要發展方向。據 IDC 報告顯示,随着生成式人工智能應用的爆發,各行業對智算的需求首次超過通用算力,AI 算力已成為算力發展的主要方向。
同時,中國信通院發布的數據也指出,截至 2021 年底,基礎算力穩定增長,規模為 95EFLOPS,增速為 24%,占比為 47%。智能算力增長迅速,2021 年規模達到 104EFLOPS,增速為 85%,占比為 51.5%。智能算力的比重提升代表智算應用場景的不斷豐富,智能算力成增長動力。
聯想中國區基礎設施業務群伺服器事業部總經理陳振寬
聯想集團副總裁、聯想中國區基礎設施業務群伺服器事業部總經理陳振寬表示,AI 算法模型的變革使 AI 算力需求進入爆發式增長階段,2010 年之前,訓練算力的增長率約 20 個月翻一番;2012 年深度學習來臨,訓練算力每 6 個月翻一番;2018 年以來基于 Transformer 架構的大模型訓練算力需求每年數百倍增長。
"AI 算力已經成為中國算力發展的主要方向,根據 IDC 統計,中國 AI 算力持續高速增長,2022 年規模達 268 百億億次 / 秒 ( EFLOPS ) 。同時未來幾年的復合增長率高達 52.3%。"
相比較通用算力,AI 算力有着明顯的差異。從千萬級的參數到千億級的參數,從深度學習需要中等規模的訓練和推理到現在要全面地去實現超大規模的訓練,AI 算力需要依據 AI 數據和算法的特性設計和優化,具體到 AI 算力基礎設施層面就需要根據特性進行針對性的優化。
此前,在聯想集團2023/24 财年第一季度業績會上,聯想集團執行副總裁兼中國區總裁劉軍透露,聯想在 AI 的基礎設施上,也有比較前瞻和顯著的布局。截至目前,有 60 多款產品都是 AI 基礎設施產品,包括推理伺服器、訓練伺服器、AI 存儲等。
钛媒體 App 了解到,普慧算力包含 " 普适 " 和 " 智慧 ",是聯想算力發展的戰略方向,也是聯想的價值主張。其中,普适是指希望算力能夠像水和電一樣,可以人人即取即用而不必見;智慧更多是指人人可以随需使用而不必問,人們無需在使用算力前,詢問它能否滿足要求,需要使用、随需使用就可以。
陳振寬稱,聯想 AI 算力戰略有兩大特征,一個是 AI 賦智,二是綠色賦能。其中,"AI 賦智 " 即讓 100% 算力基礎設施產品支持 AI,50% 基礎設施研發投入在 AI 領網域,全面 AI 技術覆蓋全網域 AI 應用;" 綠色賦能 " 則是全面布局和引領液冷技術,打造液冷集群方案燈塔,以綠色算力基礎設施助推智算產業可持續發展。
在中國算力大會上,聯想發布了兩款全新 AI 伺服器產品—聯想問天 WA7780 G3 AI 大模型訓練伺服器和聯想問天 WA5480 G3 AI 訓推一體伺服器。聯想方面表示,在通用算力向 AI 算力發展的當下,聯想問天 WA7780 G3 AI 大模型訓練伺服器和聯想問天 WA5480 G3 AI 訓推一體伺服器兩款新品将分别滿足不同類型的 AI 應用場景需求。
聯想問天 WA7780 G3
具體來看,聯想問天 WA7780 G3 是一款專為 AI 大模型訓練所打造的伺服器,采用了三重獨立風道設計,預留了液冷冷板,基于第四代英特爾 ® 至強 ® 可擴展處理器,将 AI 算力提升了 3.44 倍,至高可達 32P FLOPS AI 算力。NVIDIA H800 GPU 匹配第四代 Tensor Core 配合 Transformer 引擎(FP8 精度),與上一代產品相比,可為大模型 AI 訓練速度帶來高達 9 倍提升,可将大模型 AI 推理速度提升高達 30 倍。
聯想問天 WA5480 G3
聯想問天 WA5480 G3 AI 訓推一體伺服器是一款 4U 機架式 AI 伺服器,支持多元算力和豐富的生态,采用 2 顆第四代英特爾 ® 至強 ® 可擴展處理器,支持最新 PCIe 5.0。通過 PCIe 擴展,最多可以支持 10 張包括最新 NVIDIA H800 GPU 在内的,多類型、多品牌 AI 加速卡。
在聯想的理念中,兼顧不同算力形态,會從不同場景上提供全面的產品來滿足不同算力需求。這次推出的這兩款產品比較偏向于大規模的推理和大規模的訓練,就是大規模和超大規模。同時,兩款 AI 伺服器新品也可以配合聯想的邊緣計算的產品來實現邊緣推理。
聯想集團董事長兼 CEO 楊元慶在業績會上表示,在未來三年裏會追加投入 10 億美元(70 億人民币)在人工智能方向的所有領網域,這個領網域包括适合人工智能計算需要的伺服器存儲的產品,包括給雲計算廠商的,也包括企業級的。
面向未來的發展,陳振寬稱,聯想也在積極了解客户在不同領網域上的需求和痛點,以 AI 導向的基礎設施助力人工智能加速,通過 AI 技術,覆蓋全網域應用,加速實現普慧算力。(本文首發钛媒體 App,作者 / 杜志強,編輯 / 鍾毅)