今天小编分享的互联网经验:神州数码联合华为打造昇腾能力中心,聚焦边缘推理应用,欢迎阅读。
文 | 田哲
编辑 | 苏建勋
9 月 19 日,神州数码宣布合作华为打造基于华为昇腾 310 处理器的昇腾能力中心,该能力中心将 AI 芯片销售、软硬體开发于一体,可针对不同行业的 AI 推理场景需求,提供 AI 产品开发环境。
大模型对算力需求整体体现在预训练、推理、调优三部分,其中通过推理,开发人员可定位模型中潜在问题,提升模型性能。
随着模型越发庞大,对推理算力需求也将持续增长。华为昇腾计算整机业务总监胡宣春表示:"AI 正在从感知识别迈向内容生成,从专用 AI 模型转向更为广泛的通用 AI 模型。AI 应用的爆发式增长,可能带动 AI 推理算力需求激增至训练算力的百倍。"
IDC 数据显示,我国 23H1 训练工作负载的伺服器占比达到 49.4%,预计全年的占比将达到 58.7%。随着训练模型的完善与成熟,模型和应用产品逐步投入生产,推理端的人工智能伺服器占比将随之攀升,预计 2027 年,用于推理的工作负载将达到 72.6%。
神州数码信创业务集团副总裁、研发中心总经理周川告诉 36 氪,以前的推理以中心推理为主,而现在的推理应用更多在边缘侧,后者对算力需求相对更大。因此有必要推出更大算力、基于边缘推理应用的参考设计方案。
因此,神州鲲泰计划与华为合作推出昇腾能力中心,为不同行业的客户提供产品软硬體的设计能力以及应用迁移适配调优的能力,缩短客户产品上市时间。
公开资料显示,神州数码集团于 2019 年加入华为鲲鹏生态,2020 年发布自有品牌 " 神州鲲泰 ",已推出数据计算、终端、DCN 数据通信、KunTai 数据通信四条产品线。
周川认为,由于基础设施不断建设,训练模型最终会变成应用落地,训练的高峰发展期可能即将结束。由于许多客户的数据十分敏感,不能流通,因此有着本地建设推理中心的推理需求,推理侧将存在大量建设、应用机会。
他表示,不同行业的推理应用形态不一,华为难以支撑所有客户应用需求,神州数码的昇腾能力中心可以帮助华为覆盖中小型客户,这是神州数码对比友商的最大差异点与优势。