今天小编分享的科学经验:为什么说MEMS-OXC在智算场景没有未来?,欢迎阅读。
智算中心是这一轮科技革命的算力 " 心脏 ",更是国际科技博弈的长期焦点。智算中心建设方案,一直牵动着国人的神经。
近期,OXC 光交换技术在智算场景的应用,走进了大众视野,这个技术及其解决方案,撑得起智算中心网络吗?
深入技术本质、落地实践、产业进程来看,恐怕都要说一句,"OXC 技术在智算场景其实没有未来 "。
技术上看,OXC 光交换技术在智算场景中会面临光电协同、不支持 AI 任务多对多传输等技术挑战,很难有效解决。
实践上看,当前业界仅谷歌一家商用 MEMS-OXC 设备,而谷歌 TPU 集群用 OXC 的核心目的是解决 Torus 拓扑的可用度问题,但网络可用度的短板其实是在接入端口,OXC 不解决网络可用度问题,所以实际上跟自动配线架没有本质区别。
产业上看,谷歌商用 OXC 全球仅此一家,根据 LightCounting 预测,到 2029 年 OXC 的全球市场空间约为 5 亿美元,其中大部分是谷歌,产业规模仅为电交换的二十分之一。
综合上述维度,不难得出结论,OXC 技术在智算场景中只是配线架,无法真的规模化落地,也支撑不了超万卡集群智算中心网络。
接下来咱们就从技术的起点到产业的终点,全面掀开智算场景 MEMS-OXC 的面纱。
简单来说,OXC 光交换技术就是在不同的光路径之间进行光信号交换。技术路径包括 MEMS、DLC、和 DLBS。其中,MEMS 技术是目前最主流的方案,MEMS-OXC 设备也是目前唯一被谷歌这一家所商用的。
但在超万卡集群的智算中心网络中,MEMS-OXC 发挥的作用其实就是配线架。
我们先来看看,智算中心组网是怎么实现的。ODCC(开放数据中心委员会)发布的《AI 数据中心网络建网》报告提到,AI 参数面网络有两层 Spine — Leaf,以及三层 CLOS 架构组网,而在 AI 集群组网实践中,通过三层组网达到十万卡以上的组网规模。
目前,Meta、OpenAI、微软等 AI 巨头,都是通过从两层向三层扩展的组网模式,去构建超大规模集群的,也就是在 Leaf 层、Spine 层之外增加 Core 层。其中,两层组网使用的是电交换机。比如目前业界唯一的 OXC 商用实践——谷歌也采用的是光电混合架构。
可以看到,智算中心网络如果采用两层组网,不需要 OXC;如果是三层组网,MEMS -OXC 设备在 Core 层主要发挥的作用是灵活配线,与自动配线架没有本质区别。
引入 MEMS-OXC,不仅无法给网络带来增益,还可能制造出额外的问题:
首先,光电协同问题。
如果在第三层引入 OXC 光交换机,但数据中心网络底层用的还是电交换机,这就需要光电之间的协同、通信、配合,对整个数据中心网络的冲击是比较大的。
举个例子,OXC 技术有灵活切换的特征,但对于整网来说,光交换机一会儿连通、一会儿断开,这就需要整个接入层和 Spine 层,都要随之进行策略调整。
试想一下,智算场景下的大模型训练大多采用并行训练,业务流随时变化,如果数据中心网络随时随地在进行秒级调整,那训练的可靠性就很难保证了。任何一个大模型研发团队,恐怕都无法接受训练的高频中断。
其次,OXC 与 AI 业务的适配问题。
OXC 光交换技术是不支持多对多通信的,只能进行纯物理的转发。而在智算场景中,AI 任务是有很多算法和算子的,不同算法的通信模式都不太一样,可能需要一对多、多对一、多对多等多种转发方式。这些算法的高效通信,OXC 技术就很难满足,导致相关智算业务无法开展。
第三大问题,就是 OXC 的耗能问题。
OXC 光交换机的插损很大,也就是信号在光折射的过程中产生了衰减。那么为了弥补 OXC 的插损,就不得不采用更大功率或更长距离的光模块,这又会导致能耗上升。此外,插损问题,还会导致光模块速率无法演进。
由于上述问题的存在,智算中心结合插损、功耗等多方面进行考量,算一笔综合账,就会发现 MEMS-OXC 设备还不如自动配线架。
MEMS-OXC 不如自动配线架的另一个关键因素,就是商用前景。
我们知道,一项新技术都必须在商业市场中完成闭环,能够通过使用来回收投资,才能吸引基础设施的进一步投入,形成良性循环。而 OXC 技术的产业化,良性商业闭环是很难的。
最首要的制约,是成本。
OXC 技术的落地需要光交换机的大量使用,并且所有的相关器件如光模块都需要进行更新,这会导致前期投资巨大,综合成本高。
ODCC(开放数据中心委员会)在《AI 网络光交换机技术报告》中提出,考虑到网络系统和 OCS(光交换机)本身的挑战,从端口数量需求、切换时间需求、低成本、高可靠性、拓扑易于管理等维度分析,光交换机还需要优化设计以降低插损和回波损耗,以及探索与电交换机组网方案来降低成本等。
而上述投资,都需要从产业用户身上完成商业回报。但如前所说,受限于光交换技术本身的瓶颈,许多 AI 任务及场景是短期内难以落地的,这就导致 OXC 的商业不确定性强。
这样综合考虑下来,就导致业界落地 OXC 的步伐明显冷静,基本处于观望状态。
技术不是生存在真空之中的,是寄生在人才、资金、产业、实体经济等多重因素的现实中。
中国智算产业仍处于追赶阶段,资源、人才等都相对不足,既要把握发展前景与机遇,也要面对当下生存、商业的现实挑战,甚至有的还要处理历史遗留问题。
这种情况下,如果国内智算产业将宝贵的资源,投入并不适合用来组网的 OXC 身上,可能会导致一系列连锁反应。
比如产业资源的分散,智算中心建设昂贵,而在组网规模、插损、功耗、成本等方面都没有优势的 OXC 设备,意味着低效投资,降低科技企业的抗风险能力。
MEMS-OXC 设备在智算集群中的落地效果并不显著,解决不了网络可用度问题,引入 OXC 会影响到 AI 算力的传输与供给,进而阻碍 AI 训练、AI 推理等业务的韧性开展。
更需要警惕的是,对 OXC 路线的炒作,可能导致国内智算错过对其他技术路线的探索,由此带来的机会成本,是无法估量的。
所以,只能作为自动配线架的 OXC,并不适合成为智算中心组网的选择,在智算场景没有未来。眼下,中国智算产业真正该做的,是把自身在成熟交换技术、现有宝贵资源、产业智能化机遇等方面的核心优势,进一步发挥好。