今天小编分享的互联网经验:打造AI导向的基础设施,联想问天两款AI伺服器发布,欢迎阅读。
中国算力大会联想展台,钛媒体 App 拍摄
通用人工智能时代到来,大模型训练的参数量突破万亿级关卡,AI 算力已成为企业训练开发使用人工智能的硬门槛,以及算力基础设施的重要发展方向。据 IDC 报告显示,随着生成式人工智能应用的爆发,各行业对智算的需求首次超过通用算力,AI 算力已成为算力发展的主要方向。
同时,中国信通院发布的数据也指出,截至 2021 年底,基础算力稳定增长,规模为 95EFLOPS,增速为 24%,占比为 47%。智能算力增长迅速,2021 年规模达到 104EFLOPS,增速为 85%,占比为 51.5%。智能算力的比重提升代表智算应用场景的不断丰富,智能算力成增长动力。
联想中国区基础设施业务群伺服器事业部总经理陈振宽
联想集团副总裁、联想中国区基础设施业务群伺服器事业部总经理陈振宽表示,AI 算法模型的变革使 AI 算力需求进入爆发式增长阶段,2010 年之前,训练算力的增长率约 20 个月翻一番;2012 年深度学习来临,训练算力每 6 个月翻一番;2018 年以来基于 Transformer 架构的大模型训练算力需求每年数百倍增长。
"AI 算力已经成为中国算力发展的主要方向,根据 IDC 统计,中国 AI 算力持续高速增长,2022 年规模达 268 百亿亿次 / 秒 ( EFLOPS ) 。同时未来几年的复合增长率高达 52.3%。"
相比较通用算力,AI 算力有着明显的差异。从千万级的参数到千亿级的参数,从深度学习需要中等规模的训练和推理到现在要全面地去实现超大规模的训练,AI 算力需要依据 AI 数据和算法的特性设计和优化,具体到 AI 算力基础设施层面就需要根据特性进行针对性的优化。
此前,在联想集团2023/24 财年第一季度业绩会上,联想集团执行副总裁兼中国区总裁刘军透露,联想在 AI 的基础设施上,也有比较前瞻和显著的布局。截至目前,有 60 多款产品都是 AI 基础设施产品,包括推理伺服器、训练伺服器、AI 存储等。
钛媒体 App 了解到,普慧算力包含 " 普适 " 和 " 智慧 ",是联想算力发展的战略方向,也是联想的价值主张。其中,普适是指希望算力能够像水和电一样,可以人人即取即用而不必见;智慧更多是指人人可以随需使用而不必问,人们无需在使用算力前,询问它能否满足要求,需要使用、随需使用就可以。
陈振宽称,联想 AI 算力战略有两大特征,一个是 AI 赋智,二是绿色赋能。其中,"AI 赋智 " 即让 100% 算力基础设施产品支持 AI,50% 基础设施研发投入在 AI 领網域,全面 AI 技术覆盖全網域 AI 应用;" 绿色赋能 " 则是全面布局和引领液冷技术,打造液冷集群方案灯塔,以绿色算力基础设施助推智算产业可持续发展。
在中国算力大会上,联想发布了两款全新 AI 伺服器产品—联想问天 WA7780 G3 AI 大模型训练伺服器和联想问天 WA5480 G3 AI 训推一体伺服器。联想方面表示,在通用算力向 AI 算力发展的当下,联想问天 WA7780 G3 AI 大模型训练伺服器和联想问天 WA5480 G3 AI 训推一体伺服器两款新品将分别满足不同类型的 AI 应用场景需求。
联想问天 WA7780 G3
具体来看,联想问天 WA7780 G3 是一款专为 AI 大模型训练所打造的伺服器,采用了三重独立风道设计,预留了液冷冷板,基于第四代英特尔 ® 至强 ® 可扩展处理器,将 AI 算力提升了 3.44 倍,至高可达 32P FLOPS AI 算力。NVIDIA H800 GPU 匹配第四代 Tensor Core 配合 Transformer 引擎(FP8 精度),与上一代产品相比,可为大模型 AI 训练速度带来高达 9 倍提升,可将大模型 AI 推理速度提升高达 30 倍。
联想问天 WA5480 G3
联想问天 WA5480 G3 AI 训推一体伺服器是一款 4U 机架式 AI 伺服器,支持多元算力和丰富的生态,采用 2 颗第四代英特尔 ® 至强 ® 可扩展处理器,支持最新 PCIe 5.0。通过 PCIe 扩展,最多可以支持 10 张包括最新 NVIDIA H800 GPU 在内的,多类型、多品牌 AI 加速卡。
在联想的理念中,兼顾不同算力形态,会从不同场景上提供全面的产品来满足不同算力需求。这次推出的这两款产品比较偏向于大规模的推理和大规模的训练,就是大规模和超大规模。同时,两款 AI 伺服器新品也可以配合联想的边缘计算的产品来实现边缘推理。
联想集团董事长兼 CEO 杨元庆在业绩会上表示,在未来三年里会追加投入 10 亿美元(70 亿人民币)在人工智能方向的所有领網域,这个领網域包括适合人工智能计算需要的伺服器存储的产品,包括给云计算厂商的,也包括企业级的。
面向未来的发展,陈振宽称,联想也在积极了解客户在不同领網域上的需求和痛点,以 AI 导向的基础设施助力人工智能加速,通过 AI 技术,覆盖全網域应用,加速实现普慧算力。(本文首发钛媒体 App,作者 / 杜志强,编辑 / 钟毅)