今天小编分享的科技经验:中美之外,新加坡正在“扫货”英伟达GPU,欢迎阅读。
图片来源 @视觉中国
文 | 甲子光年,作者|赵健
领土小国新加坡,正在成为 AI 大国。
2023 年 11 月 21 日,英伟达向美国证券交易委员会(简称 SEC)提交的檔案显示,英伟达 2024 财年第三季度(对应 2023 年 8 月 ~10 月)有大约 15% 的收入(约 27 亿美元)来自新加坡,位列美国、中国台湾、中国大陆(含香港)之后,跻身英伟达的全球第四大市场。
值得一提的是,这是英伟达在财报中首次将新加坡作为一个单独的消费市场披露数据。在此之前,英伟达只披露美国、中国大陆与中国台湾的收入数据,这三大市场通常占据 70%~85% 的市场份额,包括新加坡在内的其他市场均归为 " 其他 "。
近期,英伟达 CEO 黄仁勋的亚洲四国之行,在日本之后的东南亚第一站就来到了新加坡,也印证了新加坡在东南亚市场的战略地位。黄仁勋宣布了与新加坡在本土 AI 大模型领網域的合作,以及未来的基础设施投资。这是黄仁勋时隔 25 年后再度到访新加坡。
新加坡是东南亚的金融、经济与航运中心,但国土面积仅为 733.1 平方公里(2021 年),大约是台湾省的 1/50。这样一个领土小国,却是一个芯片消费大国。上一季度新加坡人均在英伟达芯片上花费了 600 美元,而美国仅为 60 美元,中国人均约为 3 美元。
为什么新加坡一跃成为英伟达的全球第四大市场?
单季度 GPU 收入增长 4 倍
2024 财年第三季度,英伟达的总收入为 181.2 亿美元,全球四大市场为美国、中国台湾、中国大陆、新加坡,分别贡献收入 63.02 亿美元、43.33 亿美元、40.30 亿美元、27.02 亿美元。
新加坡对于英伟达的算力需求,几乎是在上一季度突然 " 狂飙 "。在上一财年的第三季度,新加坡为英伟达贡献的收入只有 5.36 亿美元,占比 9.04%;而到了今年第三季度,新加坡为英伟达贡献的收入占比达到了 14.91%。
同一时期,英伟达的整体收入只增长了 200%,中国大陆地区贡献的收入增长了 250%,而新加坡贡献的收入增长了 400%。新加坡也从 " 其他国家与地区 ",一跃成为英伟达的第四大市场。
是谁在买英伟达的芯片?
英伟达不会直接透露客户名字。在财报中,英伟达表示最终客户通常并不会直接向英伟达采购,而是向英伟达的客户——包括原始设备制造商、系统构建商、系统集成商、零售商 / 分销商、汽车制造商与一级汽车供应商等采购。今年第三季度,客户 A 的销售占总收入的 12%;前九个月,客户 B 的销售占总收入的 11%,这两者都归于计算与网络部门。
计算与网络部门是英伟达的第一大部门,其中就包括最热门的数据中心加速计算平台。今年第三季度,英伟达的数据中心收入达到 145.14 亿美元,同比大涨 279%。
H100 是目前英伟达在售产品中的最强芯片(更强的 H200 预计 2024 年第二季度上市),是数据中心建设不可替代的 "AI 燃料 "。根据 Omdia Research 的数据,第三季度 Meta、微软购买了最多的 H100,分别为 15 万张,其次是谷歌、亚马逊、Oracle、腾讯、CoreWeave、百度、阿里巴巴、Lambda Labs、字节跳动与特斯拉。
英伟达 H100 出货量,图片来自 Omdia Research
尽管无法直接把这些科技巨头的名单与新加坡市场相关联,但这份名单中的云厂商,几乎都在新加坡建设并运营数据中心。
数据中心,会是新加坡主要的算力需求吗?
领土小国,数据中心大国
" 一个小小的国家用这些芯片做什么?当然是建设数据中心!" 前淡马锡和 GIC 高管 Sang Shin 在 LinkedIn 上如此说道。他此前曾担任淡马锡数字创新总监以及 GIC 数字战略和架构主管,现在是 AI 初创公司 FoFty 的创始人。
虽然国土面积狭小,但新加坡是一个数据中心大国。
根据高纬环球(Cushman and Wakefield)的一份报告数据,新加坡在数据中心市场排名方面位居全球第三、亚太地区第一。并列排名第一的是美国北弗吉尼亚州和波特兰,中国香港排名第四。
由于强大的基础设施、卓越的国际和区網域连接、自然灾害风险低以及数字技术的广泛应用,新加坡成为亚太地区的数据中心枢纽,汇集了该地区 60% 的数据中心。中美两国的很多大型科技公司都选择到新加坡建设数据中心,比如美国的谷歌、亚马逊、微软、IBM,中国的阿里、腾讯、字节跳动等等。
根据新加坡经济发展局(EDB)的一份报告,全球 500 强企业,有三分之一在新加坡设有区網域总部。
不过,数据中心是一个 " 耗电大户 "。新加坡目前有 70 多个运营中的数据中心,总功率超过 378 兆瓦,占新加坡电力总量的 7% 以上。
为了履行 2015 年《巴黎协定》规定的环保义务,应对削减碳排放的挑战,新加坡当局在 2019 年下达了数据中心 " 禁令 ",暂停了新数据中心的建设,开始大力发展太阳能、氢能等绿色能源,并尝试将绿色能源、液冷等技术应用于可持续的数据中心。
在 " 冷却 " 了三年之后,新加坡在 2022 年 1 月解除了这一禁令。2022 年 7 月,新加坡经济发展局和资讯通信媒体发展局(IMDA)宣布了一项试点计划,允许满足要求的数据中心新项目建设。
2022 年底 ChatGPT 的横空出世,为新加坡恢复增长的数据中心市场添了一把火。以 GPU 驱动的加速计算数据中心,成为发展生成式 AI 产业不可或缺的发动机。最大的受益方当然是英伟达,英伟达 CEO 黄仁勋今年曾信誓旦旦地表示:" 我们正处于一个为期十年的数据中心智能化的第一年。"
2023 年 7 月,新加坡当局向四家数据中心运营商分配了约 80MW 的新产能,这是数据中心禁令放宽之后的第一次产能分配。这四家运营商为——美国数据中心运营商 Equinix、微软、中国数据中心运营商万国数据(GDS),以及澳大利亚数据中心运营商 AirTrunk 和字节跳动组成的财团。
新加坡希望在这一轮生成式 AI 浪潮中,继续担任亚太乃至全球市场的数据中心领导者地位。新加坡联合早报在《全球化算力中心的新加坡机遇》一文中表示:AI 引领新一轮技术爆炸后,算力将成为全球经济循环中的 " 上游资源 "。新加坡若能抓住时机,成为区網域乃至全球的算力中心,将在地区和全球高科技产业链中占有重要地位。
除了数据中心的建设,新加坡也在加大对人工智能的投资布局。一位毕业于新加坡南洋理工大学的从业者告诉「甲子光年」,人工智能一直是新加坡政府支持的方向。
新加坡政府在 2023 年 12 月 4 日发布了更新的国家人工智能战略 2.0(NAIS 2.0),在未来三到五年内,新加坡的目标是将本地的人工智能从业者人数增加两倍以上,达到 15000 人,并建立一个 " 标志性 " 网站来培育该国的人工智能社区。
新加坡副总理黄循财于 2023 年 12 月 4 日在 NAIS 2.0 启动仪式上发表讲话,图片来自:CNA/Davina Tham
近期,黄仁勋先后走访日本、新加坡、马来西亚与越南,与当地政府与大企业谈合作、谈投资。黄仁勋表示,英伟达将与新加坡加深人工智能领網域的合作,目前正与咨询通信媒体发展局合作创建一个 11 种语言的大语言模型,以发展当地的人工智能,供新加坡的研究人员、初创公司和 AI 产业使用。
英伟达在新加坡已经有一台超级计算机,但希望在新加坡做更多的事情,包括建造一台更大的超级计算机,并 " 可能投资一个重要的人工智能标志性网站 "。
黄仁勋在新加坡也谈到了人工智能芯片和系统的需求,他表示全球最大的互联网和云服务提供商发起了第一波浪潮,英伟达看到下一波浪潮正在迅速兴起,核心需求方是国家——建设主权人工智能基础设施的国家,随之而来的是建设人工智能工厂的行业、公司和部门。
一个明显的趋势是,数据中心加人工智能这两大算力需求驱动了新加坡大量的 GPU 部署。
不过,这就是全部的原因吗?
GPU 中转站
新加坡本地的数据中心建设与人工智能,会消化所有的英伟达芯片吗?答案是否定的。
实际上,新加坡数据中心的建设有着严苛的碳排放指标。
新加坡当局规定,数据中心建设提案必须投资氢能或太阳能电池板,电力使用效率(PUE)为 1.3 及以下,获得新加坡 BCA-IMDA 绿色标志的白金认证,并使用 " 最先进的技术和可持续发展的最佳实践 "。此外,提案还应加强新加坡的国际连通性和作为区網域中心的地位,并为新加坡更广泛的经济目标做出重大贡献。
所以,这也是为什么第一批数据中心建设的产能分配给了 Equinix、微软、万国数据、AirTrunk 和字节跳动的财团四家实力雄厚的公司。
一位中国公司的新加坡办公室负责人对「甲子光年」表示:" 由于碳排放指标的限制,新加坡本地的数据中心建设需求实际上没有那么高。在新加坡采购的芯片,很有可能是分销到东南亚的其他国家建设数据中心了。"
在前淡马锡和 GIC 高管 Sang Shin 对新加坡芯片市场观点的 LinkedIn 帖子中,马来西亚的企业级营销公司 MACROKIOSK 的首席运营官 Henry Goh 给出了类似的观点:" 这些芯片不一定在新加坡消费或使用,而是从新加坡的实体公司转售,并重新分发到整个亚洲(中国除外)。"
Henry Goh 表示,英伟达在新加坡只有一个东盟办事处,这意味着所有东盟国家都将通过该办事处购买芯片。MACROKIOSK 就是这样操作的。
同时,他也表示,如果事实的确如此,至于英伟达为什么在财报中体现为新加坡而非东南亚,可能只有英伟达官方才能回答这个问题。
东南亚目前是一片淘金热土,数据中心的建设需求也水涨船高。高纬环球在 2023 年上半年的亚太地区数据中心报告中表示:" 新加坡 IT 产能的暂停限制导致市场需求未得到满足,这种需求已蔓延到马来西亚的柔佛州等近岸市场,柔佛州正在开发大量数据中心项目,并承诺提供土地储备。同样,印度尼西亚首都雅加达的大型数据中心是由其位于东南亚的中心地理位置推动的,而且该国巨大的人口增长维持了其对主要投资者和运营商的吸引力。"
值得一提的是,由于美国禁令的原因,中国市场自然被排除在了新加坡的转销体系之外。
今年 10 月 17 日,美国商务部工业和安全局(BIS)发布了针对芯片的出口禁令新规,对于中国半导体的制裁进一步更新。受此影响,中国客户将无法购买英伟达的 A100、A800、H100、H800、L40、L40s 等高性能芯片。
不过,中国公司的出海业务暂时还不受影响。上述新加坡办公室负责人对「甲子光年」表示,他们位于新加坡的办公室可以从正常渠道向英伟达采购芯片。当然,相比于中国大陆庞大的市场需求,这些海外业务的需求可能微不足道。
英伟达并不想放弃中国市场,不仅在于中国是英伟达的第三大市场,在上一季度贡献了 22% 的收入,更在于这种禁令可能会倒逼中国的芯片公司加速成长,成为英伟达的竞争对手。
在被英伟达 GPU 卡脖子之后,中国的 AI 公司并没有太过悲观,而是逐步实现国产替代。
在今年 9 月的华为全联接大会上,华为发布了全新架构的昇腾 AI 计算集群,宣称可支持超万亿参数的大模型训练,为全球客户提供第二算力选择。科大讯飞是华为重要的大模型客户,其董事长刘庆峰曾公开为华为站台,称华为昇腾 910B 已经可以对标英伟达的 A100。
「甲子光年」了解到,华为昇腾与多地合作共建人工智能计算中心部署的是昇腾 910A 芯片,预计今年底将扩容全新的昇腾 910B 芯片。多个行业内信源向「甲子光年」透露,基于昇腾 910B 芯片的全套国产智算集群,正在部署到相关智算中心," 在一些大模型测试中,910A 和 910B 都是可以对标英伟达 A100 的,而 910B 性能会更好。" 某地智算中心相关负责人透露。
在新加坡接受采访时,黄仁勋也公开表示,华为、英特尔和不断壮大的半导体初创公司对英伟达在人工智能加速器市场的主导地位构成了严峻挑战。
除华为之外,国内还有一批芯片初创公司逐渐成熟,将其 AI 芯片产品陆续推向市场,接受客户的检验。在 11 月浪潮信息举办的 AICC 人工智能算力大会上,有一面芯片墙专门展示了各家芯片公司的计算卡、加速卡、训练卡和推理卡。
国产芯片产品,「甲子光年」拍摄
中国芯片与英伟达还有明显的差距,不仅在于产品本身,更在于生态。在近期「甲子光年」举办的 2023 甲子引力年终盛典上,善思开悟 COO 余溢就表示,现在大部分的国产厂商,如果他们自己去开发自己的生态或軟體,可能研发人员都不知道该怎么用。
某国内大模型公司技术负责人对「甲子光年」表示,适配国产算力最大的难题在于算法适配,工程量极大,可能需要 2~3 个月。对于算法迭代速度极快的大模型而言,这是 AI 公司无法承受的时间成本。
但如果无法获得英伟达芯片,倒逼算法公司与国产算力公司进行生态合作,在实践中发现问题、迭代产品,长期来看会加速促进生态的良性发展。
如果大模型是下一场工业革命,这对于国产算力与模型而言,既是一场凶险的挑战,也是一场巨大的机遇。