今天小编分享的科技经验：AI时代，伺服器厂商能否打破薄利的命运？，欢迎阅读。
文 | 光锥智能，作者｜刘俊宏，编辑｜王一粟
AI 大模型正在引发新一轮的 " 算力焦渴 "。
近日，OpenAI 刚发布的 o1 大模型再次刷新了大模型能力的上限。对比上一次迭代的版本，o1 的推理能力全方位 " 吊打 " 了 GPT-4o。更优秀的能力，来自与 o1 将思维链引入进了推理过程。在 o1 对问题 " 一边拆解一边回答 " 的过程中，" 环环相扣 " 的思维链让答案也变得更加 " 靠谱 "。
思考模式的更新，也意味着更大的算力需求。由于模型原理是在 LLM 训练额外添加了 RL（强化学习）的 Post-Training（后训练），这意味着一次推理和训练所需的算力将再次增加。
"AI 研究中遇到的最大困难就是缺少算力—— AI 本质就是暴力计算。" 华为副董事长、轮值董事长徐直军此前总结道。
于是，近几年科技大厂对 AI 基础设不断加大投入，除了英伟达股价不断升高，卖 "AI 铲子 " 的 AI 伺服器厂商们也在本季度迎来了翻倍的业绩增长。
并且，随着 AI 算力下一步的需求增长和基础设施下放，伺服器厂商们有望凭借 AI 赚得越来越多。
厂商们业绩的 " 高歌猛进 "，是伺服器与 AI 深度结合的结果。
其中在 AI 训练环节，伺服器大厂们纷纷采用不同方式加速整个 AI 训练过程，让异构计算的 AI 伺服器，成为一台高效的 AI 训练任务 " 分发机 "。另一边，在解决算力硬體紧缺的问题中，AI 伺服器厂商也结合大型伺服器集群的运营经验，落地了各种让英伟达、AMD、华为昇腾、Intel 等厂商 GPU 混训大模型的平台。
伴随着对 AI 从训练到硬體优化的深入理解，越来越了解 AI 的伺服器厂商也在从原本卖硬體组装的身份，提升着在 AI 产业链的价值。
其中，聚焦到智算中心建设层面，不少伺服器厂商已经根据 AI 需求调整了 AI 伺服器集群的硬體基础设施。并且，随着对国产算力芯片的深度结合，基于 AI 伺服器厂商自己定制的解决方案正在广泛落地。
另一边在軟體层面，更懂 AI 的伺服器厂商也在开始挖掘 AI 在基础设施中的生产力属性。伴随着伺服器厂商推出的 AI 大模型、Agent，伺服器厂商与 AI 应用客户业务的结合也愈发紧密，从而进一步获得更多軟體层面的解决方案收入。
毫无疑问，AI 时代的变革也改变了整个算力载体的行业逻辑。
AI 伺服器厂商们正在以各种方式为用户带来更密集、更高效的算力供应。在当下的 " 算力焦渴 " 时代，AI 伺服器厂商正在成为愈发重要的 " 卖水人 "。
AI 行业，" 卖铲子 " 的先赚钱了
AI 大厂们的加速投入，让 " 卖铲子 " 的 AI 伺服器厂商开始赚钱了。
根据 IT 桔子数据显示，截止到 9 月 1 日，AI 相关上市公司整体还是亏损居多。其中，15 家盈利的 AI 上市公司累计净利润为 27.8 亿元，亏损的 19 家累计净额为 62.4 亿元。
AI 尚不能让行业实现整体盈利，一个原因是 AI 巨头们仍处于加速投入阶段。
据统计，今年上半年，国内三家 AI 巨头（BAT）在 AI 基础设施上的资本支出总额高达 500 亿元人民币，比去年同期的 230 亿元人民币，增长了一倍多。全球范围，随着亚马逊在上季度增长了 18% 的固定资本开支，再次进入了资本扩张周期。微软、亚马逊、谷歌、Meta 等美股 "Mag7" 们，也达成了继续加码 AI 的共识。
" 对 AI 投资不足的风险，远超投资过度风险。"谷歌母公司 Alphabet 首席执行官 Sundar Pichai 显然非常激进，并不认为目前是投资泡沫。
而借着加大投入的风口，提供 AI 基础设施的 AI 伺服器玩家们 " 大赚特赚 "。
其中，全球老牌伺服器厂商惠普和戴尔在 AI 时代迎来了 " 第二春 "。根据惠普最新披露的业绩（2024 三季度）显示，其伺服器业务同比增长 35.1%。戴尔上季度财报显示（对应 2024 年 5 月— 2024 年 7 月），其伺服器和网络业务营收同比增长 80%。
同样在国内厂商中，联想在最新一季财报中提到，受 AI 需求增长，其基础设施方案业务集团季度收入首次突破 30 亿美元，同比增长 65%。浪潮的中报数据显示，公司实现归属于上市公司股东的净利润为 5.97 亿元，较去年同期增长 90.56%。神州数码这边，其归属于上市公司股东的净利润为 5.1 亿元，同比增长 17.5%，旗下神州鲲泰 AI 伺服器实现收入 5.6 亿元，同比增长 273.3%。
业绩超过 50% 以上的增长，是 AI 伺服器大规模落地的结果。
除了云厂商，运营商是 AI 伺服器的主要需求方。自 2023 年开始，运营商们加大了对 AI 算力的布局。其中，电信和移动对 AI 伺服器的需求增长了一倍以上。
同时，基于智算中心的需求也在快速推动 AI 伺服器落地。根据 Intel 旗下 AI 芯片公司 Habana 中国区负责人于明扬在 2024 全球 AI 芯片峰会上的分享，近三年来大约有 50 多个政府主导的智算中心陆续建成，目前还有 60 多个智算中心项目正在规划和建设。
旺盛的 AI 伺服器需求，改写了整个伺服器行业的增长结构。
根据 TrendForce 集邦咨询近期发布的一份报告显示，在今年大型 CSPs（云端服务供应商）对 AI 伺服器的采购下，以产值估算，预计 2024 年 AI 伺服器产值将达 1870 亿美元，成长率达 69%。作为对比，一般伺服器的预计年出货量增长仅为 1.9%。
未来，随着 CSP 逐步完成智算中心的建设，AI 伺服器还将会随着更广泛的边缘计算需求，进一步加速增长。AI 伺服器的销售环节，也将随着 CSP 大批量集中采购切换至企业边缘计算的小批量购买。
换句话说，AI 伺服器厂商的议价权和盈利能力，将随着采购模式的变化进一步提升。
伺服器厂商接下来还会靠 AI 赚的越来越多。如此趋势，跟 AI 伺服器客户漫长的回本周期拉开了巨大差距。
以算力租赁的商业模式作为参考，行业内早就合计出了一笔账。算上智算中心配套的设备（存储、网络），在不考虑算力价格每年下降的前提下，采用英伟达 H100 作为算力卡的投资回报周期长达 5 年，采用性价比最高的英伟达 4090 显卡，回报周期也在两年以上。
如此一来，如何帮客户用好 AI 伺服器，成了整个伺服器行业最核心的竞争方向。
加速、稳定，AI 伺服器厂商各显神通
" 大模型落地过程复杂，涉及分布式并行计算、算力调度、存储分配、大规模组网等多种先进技术和流程支持。" 对于 AI 伺服器落地应用中需要解决的问题，新华三集团智慧计算产品线高级产品经理冯良磊曾总结道。
上述难题，对应着 AI 伺服器落地的两大类问题——算力优化和大规模使用。
一位销售人员对光锥智能也介绍到，" 常见的客户需求，其一是硬體指标，第二是 AI 训练的支持能力，最后还有大规模集群的能力。"
其中，算力优化部分主要对应着 AI 伺服器的异构计算问题。目前，行业提供的解决方案主要分为优化算力分配和异构芯片协作的两个大方向。
由于 AI 伺服器的运作模式不再是 CPU 独立处理任务，而是 CPU 与算力硬體（GPU、NPU、TPU 等）的协作。当前行业的主流解决模型，是用 CPU 把计算任务拆解到专用算力硬體。
这种算力分配模式，与英伟达 CUDA 的基本原理相同。CPU 同时 " 带动 " 的算力硬體越多，整体算力就越大。
异构计算算力分配原理
对应到伺服器硬體层面的改变，是 AI 伺服器成了可以堆叠算力硬體的 " 积木 "。AI 伺服器的体积开始 " 加大加粗 "，从通用伺服器的 1U（伺服器高度基本部門）更新至目前常见的 4U、7U。
针对算力进一步优化，不少伺服器厂商提出了自己的方案。例如新华三的傲飞算力平台支持对算力和显存按 1% 和 MB 的细粒度切分，并按需调度。联想的万全异构智算平台则是以知识库的形式，自动识别 AI 场景、算法和算力集群。客户只需输入场景和数据，即可自动加载最优算法，并调度最佳集群配置。
在另一边的异构芯片协作上，主要解决的是不同算力硬體伺服器之间的协同问题。
由于英伟达 GPU 长时间将处于供不应求的状态，不少智算中心会选择将搭载了英伟达、AMD、华为昇腾、Intel 等厂商 GPU 混用，或多种 GPU 混训一个 AI 大模型。如此一来，整个 AI 训练环节就会出现通信效率、互联互通、协同调度等一系列问题。
AI 伺服器搭载不同厂商 AI 芯片占比 来源：TrendForce
" 伺服器集群训练 AI 的过程，可以简单理解成‘一轮一轮’的进行。一个任务先被拆解到所有算力硬體，结果汇总后再更新至下一轮计算。如果过程配合不好，比如有的 GPU 算的慢，或者通信不畅，相当于其他算力硬體要‘一起等’。轮数多了，整个 AI 训练时长就被极大拖延。" 对于异构算力硬體协作解决的实际问题，一位技术人员对光锥智能举了一个形象的例子来解释。
目前，解决该问题的主流方案是利用云管系统（包括调度、PaaS 和 MaaS 平台）对整个 AI 训练（和神经网络）进行精细拆分。
例如，新华三的方案是建设一套异构资源管理平台，通过开发统一的集合通信库实现对不同厂商 GPU 的纳管，从而屏蔽不同厂商之间的差异。百度百舸异构计算平台的多芯混合训练方案，是将各类芯片融合成一个大集群，再支持整个训练任务。
大同小异的解决方案，其目标正如无问芯穹联合创始人兼 CEO 夏立雪总结，" 打开水龙头前，我们不需要知道水是从哪条河里来的。"
异构计算问题解决后，意味着智算集群可选择的硬體种类得以彻底解放。伺服器、算力芯片、AI Infra 等厂商之间的配合，也有了协同效应，共同维护着 AI 伺服器组建大规模算力集群的稳定性。
参考 Meta 公司使用算力集群的经验，AI 大模型训练并非 " 一帆风顺 "。据统计，Meta 16K H100 集群的同步训练中，曾在 54 天内出现了 466 次作业异常。如何让伺服器集群在出现问题后快速回到运行状态，主流的解决方案是在训练过程中加一道 " 防火墙 "。
例如，联想的解决方案是 " 用魔法打败魔法 "。通过使用 AI 模型预测 AI 训练故障的方式，联想的解决方案能在断点前优化备份。超聚变和华为昇腾则采用了简单直接的对策。当检测到节点故障时，自动隔离故障节点后，从最近的 Checkpoint 点恢复训练。
整体来看，AI 伺服器厂商在了解 AI，实现算力优化和稳定性更新的过程中，提升自己的附加值。
借助 AI 对行业的改造，AI 伺服器的玩家们正在以垂直一体化的姿态，让伺服器这个经典 ToB 行业焕发出新的价值。
AI 让伺服器厂商更有价值？
复盘历史，伺服器厂商们一直被 " 困在 " 微笑曲线的中间地带。
第三次工业革命之后，随着伺服器市场空间越来越大，一批又一批的伺服器厂商诞生。
在 PC 时代，Wintel 联盟的 X86 架构，催生了戴尔和惠普两家国际伺服器巨头。在云计算时代，大量的数字化需求催生了浪潮、工业富联等一系列 OEM 厂商。
然而，就在伺服器厂商在每年几百、几千亿营收的华袍下，净利润率却常年为个位数。在浪潮开创的 JDM（联合设计制造）模式下，极致的生产制造带来的是净利率仅为 1-2 个点。
" 微笑曲线形成的原因，并不是因为制造环节本身的问题。是不能掌握产业链核心技术和专利，只能标准化生产，无法具备不可替代性的结果。" 对于伺服器厂商的困境，一位国泰君安电子分析师对光锥智能如此解释道。
在 AI 时代，伺服器厂商的价值正在随着 AI 重新定义算力应用而改变。对 AI 的垂直整合能力，成了当下伺服器厂商角逐的中心。
聚焦到硬體层面，不少伺服器厂商已经深入到了智算中心的建设环节。
例如针对 PUE（电源使用效率），新华三、浪潮、超聚变、联想等厂商纷纷推出了液冷整机柜的解决方案。其中，新华三除了推出了硅光交换机（CPO）来降低整个机房的能耗外，还对整个网络产品线都进行了 AI 优化。另一边，在突破英伟达算力芯片限制层面，神州数码、联想等厂商在积极推进国产算力芯片的落地，共同实现中国芯片产业弯道超车。
在軟體层面，伺服器厂商还在积极挖掘 AI 的生产力属性，让业务不局限于卖硬體。
最常见的，是伺服器厂商推出的 AI 赋能平台。其中，神州数码在神州问学平台上就整合了模型算力管理、企业私網域知识和 AI 应用工程模块。神州数码通过原生 AI 平台的方式，将 Agent 能力融入到伺服器的使用环节，让用户的使用过程 " 越用越好用 "。
神州数码副总裁李刚对此评价称，" 我们需要有这样一个平台，用于内嵌企业被环境验证过的 Agent 知识框架，同时还可以不断地去积淀新的 Agent 框架，这个就是神州问学 AI 应用工程平台的价值所在。"
新华三则是充分结合网络产品已有的优势，利用 AIGC 实现了通信领網域的异常检测、趋势预测、故障诊断和智能调优。除了运维环节，新华三还发布了百业灵犀 AI 大模型，试图用通用大模型 " 带动 " 行业大模型的方式，进入到不同行业客户的业务环节，进而扩张原本 ToB 硬體的业务范围。
" 通过不断的科技创新和持续的产品打磨，寻求 AI 潮流中的新突破，释放 AI 基础设施的新动能。"
正如联想集团副总裁、中国基础设施业务群总经理陈振宽总结，伺服器厂商正是在不断加深 AI 垂直一体化的进程中，收获了如今利润率大涨的成果。
跳出制造的伺服器厂商们，正在迎来属于自己的 AI 大时代。
