今天小编分享的互联网经验：对话百度：国内构建十万卡集群的三大难题，欢迎阅读。
图片系 AI 生成
自 OpenAI 发布 ChatGPT 两年来，大模型产业发展的脚步似乎慢了。然而大洋彼岸，xAI、Meta、OpenAI 等众多科技巨头都在积极布局 10 万卡乃至更大规模的智算集群，冲刺 AGI，国内同样循着相似的步调。然而，受限于芯片供应等原因，国内构建 10 万卡集群面临着三大难题：跨地網域部署、多芯混训以及集群稳定性，这些难题包括技术和工程上的多重挑战。
十万卡，AGI 的门槛
7 月 22 日，马斯克宣布位于美国田纳西州孟菲斯市的孟菲斯超级集群开始投入训练。该集群配备了 10 万个英伟达 H100 GPU，被称为 " 世界上最强大的 AI 训练集群 "。两个月后，马斯克在 X 平台上宣布该集群名为 "Colossus（巨人）"，将在未来几个月内再增加 10 万颗 GPU，其中 5 万颗将是更为先进的英伟达 H200。 Grok 3 大模型正在超算中心中进行训练，训练预计在三到四个月内完成，目标是在今年 12 月发布 Grok 3。
另一家科技巨头 Meta 也不示弱。Meta 首席执行官马克 · 扎克伯格在第三季度财报电话会议上透露，Llama 4 模型正在一个由 10 万片 H100 GPU 组成的集群上进行训练，并预计在明年首次推出。为了支持大模型，Meta 预计本年度资本支出将高达 400 亿美元，比去年增加了超过 42%。扎克伯格在财报电话会议中强调，明年将进一步加大对 AI 基础设施的投资。
而大模型领头羊 OpenAI 与微软的 " 黄金搭档 " 却因为计算集群的交付进度产生了分歧。此前微软与 OpenAI 合作共建一个代号为 " 星际之门 " 的巨型数据中心项目。这个项目预计成本超过 1150 亿美元，旨在容纳一台面向 AI 的配备数百万块 GPU 的超级计算机。
据报道，微软计划到明年年底向 OpenAI 提供约 30 万个英伟达最新的 GB200 图形处理器。然而面对步步紧逼的对手，阿尔特曼似乎对微软的速度不满意。完成 66 亿美元融资后，OpenAI 开始寻求更加独立的数据中心和云服务方式并与甲骨文达成了協定，将在德克萨斯州的一个新数据中心租用伺服器。该数据中心被誉为世界上最大的数据中心之一，未来可能容纳数十万个英伟达 AI 芯片。
百度杰出系统架构师、百度智能云 AI 计算部负责人王雁鹏表示，从美国科技企业疯狂布局 10 万卡可以看出，Scaling Law 定律目前看仍然有效。公开数据显示，GPT-3 的训练数据集包含 3000 亿个 token，而 GPT-4 的训练数据集包含约 13 万亿个 token。模型的持续更新，意味着数据量的指数级增长，而训练数据量的更新对计算集群也提出了挑战，10 万卡的训练集群正是为了满足模型参数增长所带来的高算力需求。
10 万卡集群难在哪？
10 万卡虽好，但部署如此大规模的算力集群会面临很大挑战。王雁鹏介绍，经过多年的技术积累和产业实践，百度的百舸 4.0 已能够实现 10 万卡集群的高效管理，并通过 HPN 高性能网络、自动化混训切分策略、自研集合通信库等一系列产品技术创新，一定程度上解决了上述难题。
例如，美国老旧的电网就无法跟上大模型的步伐。由于集群耗电量巨大，美国的众多数据中心都遭遇了电网崩溃。一位微软工程师曾表示，为 GPT-6 搭建 10 万个 H100 训练集群时，整个电网发生了崩溃。据估算，一个 10 万卡集群每天的耗电量达到 300 万度，相当于北京市东城区一天的居民用电量。此外，10 万卡集群需要大约 10 万平方米，相当于 14 个标准足球场的面积，如果想在单一建筑中部署这么大的集群，将面临选址困难和法规限制等挑战。
出于上述原因，美国科技公司的超大集群大多选择跨地網域部署。为了突破单一数据中心的规模限制，谷歌和微软已着手将大规模模型训练扩展至多个数据中心园区。其中，谷歌的 Gemini 1 Ultra 模型已率先实现多数据中心训练。微软计划将其在凤凰城的 AI 训练基地扩展至 10 座建筑，自建 24 个数据中心，在多个超大规模园区互联，实施覆盖全美的大规模分布式训练。
王雁鹏介绍，由于电网配电限制、占地空间大等原因，十万卡集群需要跨楼、跨园区，甚至跨城部署。而这种跨地網域部署势必会增加网络通信的复杂性。跨地網域通信需要解决长距离通信延迟、拥塞控制等技术问题。
国内企业构建 10 万卡集群还面临着一个现实的困难：芯片。国内企业面临算力供应不稳定的挑战，较难构建单一大规模训练集群。现实情况是，企业内部会出现同一厂商不同代际芯片，或者不同厂商芯片共存的情况。这些芯片如何进行混部训练，同时保证混部训练的效率也是难题。
此外，随着芯片集成度的不断提高，芯片的故障率也会相应上升，英伟达 H 系列芯片的故障率比 A 系列高 3-4 倍。并且算力集群规模越大，其故障率就越高。按照 H 系列芯片的故障率水平，十万卡集群每 20 分钟就会出现故障。较高的故障率对稳定性训练保障提出了更高的要求。
王雁鹏介绍，包括百度在内的国内厂商正在破解这些难题。在跨地網域方面，针对由于传输距离变长所产生的高延迟，百舸 4.0 已经构建了十万卡级别的超大规模 HPN 高性能网络，通过提供更高效的拓扑结构、更优的多路径负载均衡策略及通信策略，能够实现几十公里的跨地網域通信。同时，在通信效率上，通过优化的拥塞控制算法、集合通信算法策略，将带宽有效率提升至 95%，实现了完全无阻塞。最后，通过 10ms 级别超高精度网络监控，保障了网络稳定性。
在多芯混训方面，百舸能够将不同地点、不同规模的异构算力进行统一管理，构建起多芯资源池。当业务提交工作负载时，可自动进行芯片选型，依据集群剩余的芯片资源，选择性价比最高的芯片来运行任务，从而最大化地利用集群的剩余资源。最终，可实现高达 95% 的万卡多芯混合训练效能。
在集群稳定性方面，百舸提供全面的故障诊断手段，可以快速自动侦测到导致训练任务异常的节点故障。同时，百度自研的 BCCL（百度集合通信库），能够快速定位故障同时提供自动化的容错能力，重新调度任务到健康节点，继续完成训练，目前已经将故障恢复时间从小时级降低到分钟级。
王雁鹏表示，公有云是企业进行大模型训练的主流方式。在 10 万卡集群出现之前，为满足企业大模型的训练需求，云厂商常常采用服务一个企业，搭建一个集群的方式。然而，这种方式存在明显劣势，即每个集群都是为特定企业服务，在企业的训练任务不处于高峰期时，集群中的计算资源可能会处于闲置状态，造成资源的浪费。而当 10 万卡集群出现后，云厂商就可以依靠这个大型集群为众多企业提供服务，根据不同企业的需求动态分配计算资源，这样不仅提高了资源利用率，也降低了企业使用云服务的成本，增强了云厂商在市场中的竞争优势。
（本文首发于钛媒体 APP，作者 | 张帅，编辑 | 盖虹达）
