大酷樂
  • 汽车
  • 理财
  • 军事
  • 科技
  • 游戏
  • 互联网
  • 娱乐
  • 财经
  • 科学
  • 社会
  • 亲子
  • 电影
  • 健康
  • 教育
  1. 首頁
  2. 科技

有多少AI公司,如今困在智算中心?

2024-11-10 简体 HK SG TW

今天小编分享的科技经验:有多少AI公司,如今困在智算中心?,欢迎阅读。

文 | 新眸,作者|李小东

直到现在,算力仍然被看作是制约国内 AI 发展的主要因素。

为了解决这一问题,尤其是 ChatGPT 出现后,智算中心被视为 AI 时代如同水和电一般的新基建,在全国各地落地开花。截至今年上半年,全国建成和在建的智算中心超过 250 个,有媒体报道,仅今年前七个月,就涌现出了 140 个新的得標项目。

建设这些智算中心背后涉及的公司和机构,除了城投、运营商、金融企业和一些央国企,大型的互联网云计算公司,比如华为云、阿里云、腾讯云,甚至还有些从房地产等行业跨界过来的公司。

但另一组数据同样值得关注:IDC 指出,以企业为主要用户的通用算力中心利用率,目前仅为 10%-15%;之前有中科院院士公开表示,一些重量级的智算中心,现在大多甚至都处于闲置状态。

从算力不足,到所谓的算力 " 过剩 ",核心问题实际上并没有完全解决。这就意味着,动辄投资数十亿甚至过百亿的大项目,不仅没有发挥出应该有的价值,还成了这场 AI 热潮中代价最高的新难题。

算力供给风起云涌

不少人对 " 智算中心 " 这个词可能还感到陌生。但它其实不算个新词,可以理解为更高阶的 " 计算中心 "。

在计算机科学兴起之初,由于计算设备昂贵且稀缺,许多机构和组织会建立专门的计算中心,来集中提供高性能的计算资源和服务。随着计算机技术的不断进步和普及,从最初的大型机时代到如今的云计算、边缘计算,计算中心的形式和功能也发生了变化。

相较于传统算力中心,智算中心在硬體层面使用 GPU 替代 CPU,GPU 并行处理在面对大规模数据集运算时计算效率更高;另一方面,智算中心在軟體层面部署了 AI 框架,能将计算任务调配给不同的计算平台,从而实现最大的效率。

按应用角度来看,传统计算中心更多地以存储数据和提供互联网服务为主;而智算中心是专门给 AI 应用提供算力和数据存储。

三年前,在推动产业数字化转型的背景下,国内首个智算中心落地武汉,总投资约 4.6 亿元,由于这类项目的建设过程中,通常会采用预制模块化机房和整柜交付的方式,所以实际建设周期很短,仅仅 6 个月就能够建成。

当时一期的建设规模为 100P FLOPS 的 AI 算力,由数千颗昇腾 AI 处理器组成,算力峰值性能相当于 5 万台高性能 PC 机。这是个怎样的概念呢?以天文探索的场景为例,普通算力需要 169 天才能找到的特定星星,智算中心只用不到 100 秒。

新眸统计 2021 以来建成的智算中心,从以地方主导的项目,如武汉、合肥、南京、京津冀等,到后来以商汤、阿里云、百度云等大厂为主开始投资运营,投入资金、算力规模整体呈现出明显逐阶上涨的趋势。

比如 2022 年投入运营的 " 商汤科技人工智能智算中心 ",一期投入 56 亿元,机柜数量 5000 个,峰值训练算力达到 3740P FLOPS;同年后来阿里云的张北智算中心上线,算力规模达到 12000P FLOPS,总投入 180 亿元。

过去的一年里,智算中心以量出圈。

具体表现在,一些四五线城市的智算中心拔地而起,比如甘肃庆阳、安徽宿州、山东枣庄等。相比大城市,这些城市土地资源丰富且价格低廉,渴望经济转型,并带动周边产业发展,因此对智算中心给予如税收优惠和资金补贴等支持,并且审批流程更简化,建设进度更快。

另一方面,智算中心需要实现算力的标准化、服务化,达到随用随取,类似于传统公有云服务。这意味着智算中心不仅仅是提供硬體资源,而是要转型为提供算力服务,因此很多企业,甚至是传统企业都涌入了跨界做算力租赁的赛道。

同花顺数据显示,截至目前,算力租赁概念股已经多达 108 家。例如,主营彩票印刷业务的鸿博股份,是 A 股首家宣布跨界算力的上市公司;莲花健康主业是做味精的,也采购了大量英伟达 GPU 开展算力租赁业务。

算力租赁,一个新的风口赛道

简单来说,算力租赁就是当你在需要强大算力来完成某个项目时,不去自己购买昂贵的计算设备,而是去租用。服务商根据需求,搭建好所需的计算环境或系统,然后通过签订合同的方式,把这套计算能力租给你用。

客户付的是租金,用完之后这套设备的所有权还是归服务提供方,也不需要自己去维护或者买下这些设备。通常情况下,算力租赁有四种收费方式,按小时、按算力规模、按使用量和套餐计费。

具体来看,一般小型科创公司在做一些科研项目、短期的数据处理任务等,对算力的使用时间不确定,按小时计费就可以灵活控制成本。比如 SFCompute 公司提供按小时计费的服务,用户可以根据自己的需求租用 H100 GPU,价格还很便宜。

按算力规模计费,通常涉及到伺服器性能、GPU 数量等方面的评估,性能越好、效率越高,服务租金也更高。其次还有按照数据处理量、网络流量的使用情况来计费的方式。针对一些大型企业或有特殊需求的客户,提供商可以根据客户的具体要求定制个性化的套餐。

为什么要租?

众所周知,这两年大模型训练、微调、推理需求急剧增加,但关键在于,AI 应用在不同的开发阶段,对算力的需求也不同。在开发周期中,需要大量的训练算力;当模型开发完成上线后,就不再需要训练算力而是推理算力。

当下算力租赁下的迫切需求,更多是源于模型训练。至于需要多少,参考 GPT-4 训练过程中 A100 卡数量达到万张量级。考虑到伺服器采购与租金成本,以及对算力的弹性需求,调试、维护成本,工程师研发时间成本,算力租赁成为大多数大模型厂商的最佳选择。

然而,在目前的算力租赁市场,竞争格局呈现户参与者众多,但格局分散的特点。传统的云服务提供商,高端算力资源相对充足,但对外租赁的比例较少。具备 IDC 建设运营能力的企业,比如浪潮信息、中科曙光,以及跨行过来做算力的企业也越来越多。

另一个问题,国内在近几年的算力投入下,与国外的差距不断缩小,甚至单从规模上看,已经到了全球顶尖的水准,尤其是智算中心的储备,也远非供不应求的状态。

那么,在这种情况下,为什么还会有那么多公司争相做租赁生意?

事实上,在供需方面,国内的算力规模虽然增长,但面向 AI、高性能计算的算力缺口一直存在。根据赛迪顾问的数据,2023 年国内智能算力需求达 123.6EFLOPS,但供给仅有 57.9EFLOPS,不到一半。

另一方面,算力需求未被云计算大厂承接住。据业内人士指出,主要是因为大模型训练需高性能 GPU 集群,而大厂提供的多是单节点服务,缺乏节点间超高带宽互联基础设施,无法满足需求。

再加上建设新集群成本高,现有基础设施又无法重复利用,并且大厂更关注在单节点可用性与可靠性,在高性能集群业务上并无优势,要不然也不会有其他算力租赁公司的发展机会。

据东吴证券研报,算力租赁公司的毛利率约为 40% 左右,净利率约为 20% 左右,最大的一个门槛就是资金——用来硬體采购、场地租赁、运维团队组建;但技术门槛并不高,企业可以通过与技术供应商合作、引进专业人才等方式快速搭建和运营大规模的算力中心。

对于一些主业经营承压、急于寻找新盈利增长点的企业来说,这个新赛道的吸引力巨大。

智算中心的背后逻辑

2023 年,莲花控股成立莲花紫星开展算力租赁业务。公告显示,算力项目预计总投入约 2.9 亿元。今年前 8 个月,莲花紫星营业收入超过 3515 万元,但净利润为 -398.13 万元。整体仍处于亏损,主要原因是设备的折旧及利息费用影响金额较大,人员成本支出占比较高,尚未发挥出规模效应。

短时间内赚不到钱,并不是说这不是一门好生意。通过梳理开展算力租赁的 A 股公司的财务数据发现,大部分的确都处在增收不增利的状态,极少数实现盈利,但这些与 " 算力 " 概念相关的企业,最直接的收获,可能就是短期内几乎都出现过明显上涨的股价。

如果要问算力租赁还有哪些不确定性,市场需求、政策变化、技术水平,以及交付和供应链、国产替代等等,都是重要的影响因素。不过对于当下涉足这个赛道的企业来说,更关键的问题是真正的 know how。

智算中心并非买了一堆 GPU 后就能靠租售躺赚。单就硬體部署,要解决的就包括:高性能的 AI 芯片、异构架构设计、高速低延迟的网络、存储系统、安全配置、监控管理、液冷装置等等复杂步骤。

除此以外,训练算力的租赁对象主要是大模型公司,那么租赁公司,尤其是跨行的企业,怎么获取这些客户资源,获取稳定的客户支持?这些问题在实操的过程中更难解决。截至目前,已经陆续有几家上市公司放弃了算力租赁业务。

那回到开头的话题,智算中心的 ROI 过低,什么原因?

除了供给与需求的不匹配,地区间的经济发展水平和产业结构差异,比如东部地区算力需求旺盛而供给相对不足之外,最早撇下的泡沫,是那些在缺乏充分市场调研的情况下,盲目投入智算中心建设的公司。

其次,结合算力租赁市场当下的窘境,智算中心的高效运行不仅依赖于高性能的硬體,还需要軟體层面的优化和协调。智算不仅仅是卡的问题,而是一个软硬體协调的系统。当軟體能力不够时,卡自身的发挥也会受限,导致用卡效率不高。

智算中心不景气,直接影响了算力租赁市场的低迷,反过来,算力资源无法得到有效利用,一些企业因缺乏应用场景而闲置算力资源,造成浪费,如此循环。

值得注意的是,囿于国内外技术差距以及芯片卡脖子,国产替代越发的被反复提及。但在这个过程中,最难解决的是应用生态的问题。

打个比方,如果国内芯片厂商在技术上采取封闭式模式,厂商通过高价设备销售、辅助运营服务等方式实现了商业利益的最大化,虽然能够集中力量办大事,实现端到端的控制。

但封闭性也会导致可用的开源軟體、商用軟體极少,用户自有軟體的迁移适配成本极高,一些用户的軟體无法适配,依此建立的智算中心只能处于闲置状态。

熱門排行
  • 王治郅:杨瀚森主要的问题是速度 他 王治郅:杨瀚森主要的问题是速度 他 郟君昊 | 2025-05-05
  • 贸易战烧进电影院:特朗普拟重税打击 贸易战烧进电影院:特朗普拟重税打击 習又夏 | 2025-05-05
  • 贷款追高炒黄金的人后悔了!有人一天 贷款追高炒黄金的人后悔了!有人一天 寸飛蘭 | 2025-05-05
  • 手机电池突破8000mAh?硅碳技术的回 手机电池突破8000mAh?硅碳技术的回 衛青柏 | 2025-05-05
  • 贷款追高炒黄金的人后悔了!有人一天 贷款追高炒黄金的人后悔了!有人一天 繁綺文 | 2025-05-05
  • 任天堂对Genki提起Switch 2商标侵 任天堂对Genki提起Switch 2商标侵 郜萌運 | 2025-05-05
  • 哪吒汽车APP和官网恢复正常 知情人 哪吒汽车APP和官网恢复正常 知情人 袁曼雁 | 2025-05-05
  • 极越汽车 CEO 夏一平名下青岛/义乌 极越汽车 CEO 夏一平名下青岛/义乌 集玲琳 | 2025-05-05
  • 全国经济第一大省明确,推动组建农商 全国经济第一大省明确,推动组建农商 佼昌翰 | 2025-05-05
  • 桑保利:亚马尔有配合意识&有点像梅 桑保利:亚马尔有配合意识&有点像梅 甄正浩 | 2025-05-05
  • 高露现身上海虹桥机场 黑色外套点缀亮色爱心装饰俏皮亮眼 高露现身上海虹桥机场 黑色外套点缀亮色爱心装饰俏皮亮眼 惠惠君 | 2023-05-02
  • 《歧路旅人2》:向光而生 《歧路旅人2》:向光而生 衛青柏 | 2023-05-02
  • vivo X90S曝光:处理器更新为天玑9200+ 安卓最强芯 vivo X90S曝光:处理器更新为天玑9200+ 安卓最强芯 袁曼雁 | 2023-05-05
  • “懒癌”发病率上升,定期体检别忽视 “懒癌”发病率上升,定期体检别忽视 幸聽楓 | 2023-05-02
  • 宋慧乔获百想视后 韩素希发图手动加爱心表情庆祝 宋慧乔获百想视后 韩素希发图手动加爱心表情庆祝 賁芳蕤 | 2023-05-02
  • 曹操墓,里面都有啥? 曹操墓,里面都有啥? 衛青柏 | 2023-05-02
  • 十年了,他们终于要HE! 十年了,他们终于要HE! 惠惠君 | 2023-05-07
  • 中央部署经济工作,释放5大信号 中央部署经济工作,释放5大信号 郜萌運 | 2023-05-02
  • 高德上线手机弯道会车预警功能 高德上线手机弯道会车预警功能 習又夏 | 2023-05-02
  • 陈自瑶抱病为爱女做蛋糕庆生,王浩信点赞没露面 陈自瑶抱病为爱女做蛋糕庆生,王浩信点赞没露面 賁芳蕤 | 2023-05-02
  • 等比例长大的童星,李兰迪算一个 等比例长大的童星,李兰迪算一个 郟君昊 | 2023-05-02
  • 这些被抓来做实验的流浪狗,最终拯救了无数糖尿病人 这些被抓来做实验的流浪狗,最终拯救了无数糖尿病人 集玲琳 | 2023-05-02
  • 高端国产车:军车血统,目前电动车越野的“天花板”? 高端国产车:军车血统,目前电动车越野的“天花板”? 謝飛揚 | 2023-05-02
  • 《云襄传》终于抬上来啦,男O女A让人好上头! 《云襄传》终于抬上来啦,男O女A让人好上头! 集玲琳 | 2023-05-02
  • 21家A股游戏公司2022年收入651亿 今年“游戏+AI”能否逆风翻盘? 21家A股游戏公司2022年收入651亿 今年“游戏+AI”能否逆风翻盘? 衛青柏 | 2023-05-04
  • 与周立波夫妇闹纠纷成老赖,唐爽被司法拘留15日 与周立波夫妇闹纠纷成老赖,唐爽被司法拘留15日 寸飛蘭 | 2023-05-05
  • 信用风险释放趋缓,结构性风险需重点关注 ——2023年一季度债市信用风险回顾与下阶段展望 信用风险释放趋缓,结构性风险需重点关注 ——2023年一季度债市信用风险回顾与下阶段展望 袁曼雁 | 2023-05-02
  • 普京签署总统令,批准对俄刑法典相关法条的修正案 普京签署总统令,批准对俄刑法典相关法条的修正案 集玲琳 | 2023-05-02
  • 中银证券给予南京银行增持评级 中银证券给予南京银行增持评级 袁曼雁 | 2023-05-03
  • 解除资格!停止一切合作 解除资格!停止一切合作 佼昌翰 | 2023-05-02
  • 3699起 联想小新mini主机上架 13代酷睿标压处理器 3699起 联想小新mini主机上架 13代酷睿标压处理器 習又夏 | 2023-05-05
  • 前董事长被免,天山生物全面进入“中植系”时代?股价曾在一月内暴涨超400% 前董事长被免,天山生物全面进入“中植系”时代?股价曾在一月内暴涨超400% 惠惠君 | 2023-05-02
  • 疯成这样,怎么还能被全网吹捧? 疯成这样,怎么还能被全网吹捧? 郜萌運 | 2023-05-02
  • 狂吼11次“让一下”!交警咆哮开道嘶吼到吐 狂吼11次“让一下”!交警咆哮开道嘶吼到吐 寸飛蘭 | 2023-05-03
  • 摩根大通收购美国第一共和银行 摩根大通收购美国第一共和银行 謝飛揚 | 2023-05-02
  • 台剧赢麻了,又来一部8.9 台剧赢麻了,又来一部8.9 衛青柏 | 2023-05-02
  • 事关农村土地承包和农民权益,《农村土地承包合同管理办法》5月1日起施行 事关农村土地承包和农民权益,《农村土地承包合同管理办法》5月1日起施行 郟君昊 | 2023-05-02
  • 下降45分,上涨35分!34所自划线院校复试分数线涨幅汇总 下降45分,上涨35分!34所自划线院校复试分数线涨幅汇总 袁曼雁 | 2023-05-07
  • "三高"已盯上青少年,做好这件事是关键 "三高"已盯上青少年,做好这件事是关键 習又夏 | 2023-05-05
  • 五一档没一个能打的 五一档没一个能打的 集玲琳 | 2023-05-05
  • 恐怖韩剧下神坛,这次胆小可入 恐怖韩剧下神坛,这次胆小可入 袁曼雁 | 2023-05-05
  • 这剧是不是用ChatGPT写的呀? 这剧是不是用ChatGPT写的呀? 惠惠君 | 2023-05-02
  • 200户连夜疏散,原因让人愤怒!“损失超一亿”,官方通报 200户连夜疏散,原因让人愤怒!“损失超一亿”,官方通报 袁曼雁 | 2023-05-03
  • 性骚扰惯犯,滚出娱乐圈 性骚扰惯犯,滚出娱乐圈 謝飛揚 | 2023-05-05
  • 48岁何炅自曝已老花眼,黄磊睡前认老,《向往的生活》证实将停办 48岁何炅自曝已老花眼,黄磊睡前认老,《向往的生活》证实将停办 佼昌翰 | 2023-05-02
  • 一个《长月烬明》倒了,《狐妖》《长相思》《与凤行》…在路上了 一个《长月烬明》倒了,《狐妖》《长相思》《与凤行》…在路上了 惠惠君 | 2023-05-02
  • 张天爱假期晒“酷”存照 卷发披肩穿黑色吊带裙大秀好身材 张天爱假期晒“酷”存照 卷发披肩穿黑色吊带裙大秀好身材 嬴覓晴 | 2023-05-02
  • 当年轻人开始不随份子钱 当年轻人开始不随份子钱 袁曼雁 | 2023-05-02
  • 毕滢用8年时间成功逼宫?曾被传已婚生子的她,不容小觑 毕滢用8年时间成功逼宫?曾被传已婚生子的她,不容小觑 幸聽楓 | 2023-05-03
  • 宋慧乔获视后首次晒照,拿奖杯笑容温柔 宋慧乔获视后首次晒照,拿奖杯笑容温柔 郜萌運 | 2023-05-02

©2022 大酷樂 版權所有

隱私政策 | 服務條款 | 聯繫我們