大酷樂
  • 汽車
  • 理财
  • 軍事
  • 科技
  • 遊戲
  • 互聯網
  • 娛樂
  • 财經
  • 科學
  • 社會
  • 親子
  • 電影
  • 健康
  • 教育
  1. 首頁
  2. 科技

有多少AI公司,如今困在智算中心?

2024-11-10 简体 HK SG TW

今天小編分享的科技經驗:有多少AI公司,如今困在智算中心?,歡迎閱讀。

文 | 新眸,作者|李小東

直到現在,算力仍然被看作是制約國内 AI 發展的主要因素。

為了解決這一問題,尤其是 ChatGPT 出現後,智算中心被視為 AI 時代如同水和電一般的新基建,在全國各地落地開花。截至今年上半年,全國建成和在建的智算中心超過 250 個,有媒體報道,僅今年前七個月,就湧現出了 140 個新的得標項目。

建設這些智算中心背後涉及的公司和機構,除了城投、運營商、金融企業和一些央國企,大型的互聯網雲計算公司,比如華為雲、阿裡雲、騰訊雲,甚至還有些從房地產等行業跨界過來的公司。

但另一組數據同樣值得關注:IDC 指出,以企業為主要用戶的通用算力中心利用率,目前僅為 10%-15%;之前有中科院院士公開表示,一些重量級的智算中心,現在大多甚至都處于閒置狀态。

從算力不足,到所謂的算力 " 過剩 ",核心問題實際上并沒有完全解決。這就意味着,動辄投資數十億甚至過百億的大項目,不僅沒有發揮出應該有的價值,還成了這場 AI 熱潮中代價最高的新難題。

算力供給風起雲湧

不少人對 " 智算中心 " 這個詞可能還感到陌生。但它其實不算個新詞,可以理解為更高階的 " 計算中心 "。

在計算機科學興起之初,由于計算設備昂貴且稀缺,許多機構和組織會建立專門的計算中心,來集中提供高性能的計算資源和服務。随着計算機技術的不斷進步和普及,從最初的大型機時代到如今的雲計算、邊緣計算,計算中心的形式和功能也發生了變化。

相較于傳統算力中心,智算中心在硬體層面使用 GPU 替代 CPU,GPU 并行處理在面對大規模數據集運算時計算效率更高;另一方面,智算中心在軟體層面部署了 AI 框架,能将計算任務調配給不同的計算平台,從而實現最大的效率。

按應用角度來看,傳統計算中心更多地以存儲數據和提供互聯網服務為主;而智算中心是專門給 AI 應用提供算力和數據存儲。

三年前,在推動產業數字化轉型的背景下,國内首個智算中心落地武漢,總投資約 4.6 億元,由于這類項目的建設過程中,通常會采用預制模塊化機房和整櫃交付的方式,所以實際建設周期很短,僅僅 6 個月就能夠建成。

當時一期的建設規模為 100P FLOPS 的 AI 算力,由數千顆昇騰 AI 處理器組成,算力峰值性能相當于 5 萬台高性能 PC 機。這是個怎樣的概念呢?以天文探索的場景為例,普通算力需要 169 天才能找到的特定星星,智算中心只用不到 100 秒。

新眸統計 2021 以來建成的智算中心,從以地方主導的項目,如武漢、合肥、南京、京津冀等,到後來以商湯、阿裡雲、百度雲等大廠為主開始投資運營,投入資金、算力規模整體呈現出明顯逐階上漲的趨勢。

比如 2022 年投入運營的 " 商湯科技人工智能智算中心 ",一期投入 56 億元,機櫃數量 5000 個,峰值訓練算力達到 3740P FLOPS;同年後來阿裡雲的張北智算中心上線,算力規模達到 12000P FLOPS,總投入 180 億元。

過去的一年裡,智算中心以量出圈。

具體表現在,一些四五線城市的智算中心拔地而起,比如甘肅慶陽、安徽宿州、山東棗莊等。相比大城市,這些城市土地資源豐富且價格低廉,渴望經濟轉型,并帶動周邊產業發展,因此對智算中心給予如稅收優惠和資金補貼等支持,并且審批流程更簡化,建設進度更快。

另一方面,智算中心需要實現算力的标準化、服務化,達到随用随取,類似于傳統公有雲服務。這意味着智算中心不僅僅是提供硬體資源,而是要轉型為提供算力服務,因此很多企業,甚至是傳統企業都湧入了跨界做算力租賃的賽道。

同花順數據顯示,截至目前,算力租賃概念股已經多達 108 家。例如,主營彩票印刷業務的鴻博股份,是 A 股首家宣布跨界算力的上市公司;蓮花健康主業是做味精的,也采購了大量英偉達 GPU 開展算力租賃業務。

算力租賃,一個新的風口賽道

簡單來說,算力租賃就是當你在需要強大算力來完成某個項目時,不去自己購買昂貴的計算設備,而是去租用。服務商根據需求,搭建好所需的計算環境或系統,然後通過籤訂合同的方式,把這套計算能力租給你用。

客戶付的是租金,用完之後這套設備的所有權還是歸服務提供方,也不需要自己去維護或者買下這些設備。通常情況下,算力租賃有四種收費方式,按小時、按算力規模、按使用量和套餐計費。

具體來看,一般小型科創公司在做一些科研項目、短期的數據處理任務等,對算力的使用時間不确定,按小時計費就可以靈活控制成本。比如 SFCompute 公司提供按小時計費的服務,用戶可以根據自己的需求租用 H100 GPU,價格還很便宜。

按算力規模計費,通常涉及到伺服器性能、GPU 數量等方面的評估,性能越好、效率越高,服務租金也更高。其次還有按照數據處理量、網絡流量的使用情況來計費的方式。針對一些大型企業或有特殊需求的客戶,提供商可以根據客戶的具體要求定制個性化的套餐。

為什麼要租?

眾所周知,這兩年大模型訓練、微調、推理需求急劇增加,但關鍵在于,AI 應用在不同的開發階段,對算力的需求也不同。在開發周期中,需要大量的訓練算力;當模型開發完成上線後,就不再需要訓練算力而是推理算力。

當下算力租賃下的迫切需求,更多是源于模型訓練。至于需要多少,參考 GPT-4 訓練過程中 A100 卡數量達到萬張量級。考慮到伺服器采購與租金成本,以及對算力的彈性需求,調試、維護成本,工程師研發時間成本,算力租賃成為大多數大模型廠商的最佳選擇。

然而,在目前的算力租賃市場,競争格局呈現戶參與者眾多,但格局分散的特點。傳統的雲服務提供商,高端算力資源相對充足,但對外租賃的比例較少。具備 IDC 建設運營能力的企業,比如浪潮信息、中科曙光,以及跨行過來做算力的企業也越來越多。

另一個問題,國内在近幾年的算力投入下,與國外的差距不斷縮小,甚至單從規模上看,已經到了全球頂尖的水準,尤其是智算中心的儲備,也遠非供不應求的狀态。

那麼,在這種情況下,為什麼還會有那麼多公司争相做租賃生意?

事實上,在供需方面,國内的算力規模雖然增長,但面向 AI、高性能計算的算力缺口一直存在。根據賽迪顧問的數據,2023 年國内智能算力需求達 123.6EFLOPS,但供給僅有 57.9EFLOPS,不到一半。

另一方面,算力需求未被雲計算大廠承接住。據業内人士指出,主要是因為大模型訓練需高性能 GPU 集群,而大廠提供的多是單節點服務,缺乏節點間超高帶寬互聯基礎設施,無法滿足需求。

再加上建設新集群成本高,現有基礎設施又無法重復利用,并且大廠更關注在單節點可用性與可靠性,在高性能集群業務上并無優勢,要不然也不會有其他算力租賃公司的發展機會。

據東吳證券研報,算力租賃公司的毛利率約為 40% 左右,淨利率約為 20% 左右,最大的一個門檻就是資金——用來硬體采購、場地租賃、運維團隊組建;但技術門檻并不高,企業可以通過與技術供應商合作、引進專業人才等方式快速搭建和運營大規模的算力中心。

對于一些主業經營承壓、急于尋找新盈利增長點的企業來說,這個新賽道的吸引力巨大。

智算中心的背後邏輯

2023 年,蓮花控股成立蓮花紫星開展算力租賃業務。公告顯示,算力項目預計總投入約 2.9 億元。今年前 8 個月,蓮花紫星營業收入超過 3515 萬元,但淨利潤為 -398.13 萬元。整體仍處于虧損,主要原因是設備的折舊及利息費用影響金額較大,人員成本支出占比較高,尚未發揮出規模效應。

短時間内賺不到錢,并不是說這不是一門好生意。通過梳理開展算力租賃的 A 股公司的财務數據發現,大部分的确都處在增收不增利的狀态,極少數實現盈利,但這些與 " 算力 " 概念相關的企業,最直接的收獲,可能就是短期内幾乎都出現過明顯上漲的股價。

如果要問算力租賃還有哪些不确定性,市場需求、政策變化、技術水平,以及交付和供應鏈、國產替代等等,都是重要的影響因素。不過對于當下涉足這個賽道的企業來說,更關鍵的問題是真正的 know how。

智算中心并非買了一堆 GPU 後就能靠租售躺賺。單就硬體部署,要解決的就包括:高性能的 AI 芯片、異構架構設計、高速低延遲的網絡、存儲系統、安全配置、監控管理、液冷裝置等等復雜步驟。

除此以外,訓練算力的租賃對象主要是大模型公司,那麼租賃公司,尤其是跨行的企業,怎麼獲取這些客戶資源,獲取穩定的客戶支持?這些問題在實操的過程中更難解決。截至目前,已經陸續有幾家上市公司放棄了算力租賃業務。

那回到開頭的話題,智算中心的 ROI 過低,什麼原因?

除了供給與需求的不匹配,地區間的經濟發展水平和產業結構差異,比如東部地區算力需求旺盛而供給相對不足之外,最早撇下的泡沫,是那些在缺乏充分市場調研的情況下,盲目投入智算中心建設的公司。

其次,結合算力租賃市場當下的窘境,智算中心的高效運行不僅依賴于高性能的硬體,還需要軟體層面的優化和協調。智算不僅僅是卡的問題,而是一個軟硬體協調的系統。當軟體能力不夠時,卡自身的發揮也會受限,導致用卡效率不高。

智算中心不景氣,直接影響了算力租賃市場的低迷,反過來,算力資源無法得到有效利用,一些企業因缺乏應用場景而閒置算力資源,造成浪費,如此循環。

值得注意的是,囿于國内外技術差距以及芯片卡脖子,國產替代越發的被反復提及。但在這個過程中,最難解決的是應用生态的問題。

打個比方,如果國内芯片廠商在技術上采取封閉式模式,廠商通過高價設備銷售、輔助運營服務等方式實現了商業利益的最大化,雖然能夠集中力量辦大事,實現端到端的控制。

但封閉性也會導致可用的開源軟體、商用軟體極少,用戶自有軟體的遷移适配成本極高,一些用戶的軟體無法适配,依此建立的智算中心只能處于閒置狀态。

熱門排行
  • 王治郅:楊瀚森主要的問題是速度 他的速度跟不上現代籃球的節奏 王治郅:楊瀚森主要的問題是速度 他的速度跟 郟君昊 | 2025-05-05
  • 貿易戰燒進電影院:特朗普拟重稅打擊外國電影 逼好萊塢等回美拍片 貿易戰燒進電影院:特朗普拟重稅打擊外國電影 習又夏 | 2025-05-05
  • 貸款追高炒黃金的人後悔了!有人一天虧掉6年工資,賣掉舍不得,不賣扛不住 貸款追高炒黃金的人後悔了!有人一天虧掉6年 寸飛蘭 | 2025-05-05
  • 手機電池突破8000mAh?矽碳技術的回旋镖:「折壽」換容量 手機電池突破8000mAh?矽碳技術的回旋镖:「折 衛青柏 | 2025-05-05
  • 貸款追高炒黃金的人後悔了!有人一天虧掉6年工資,賣掉舍不得,不賣扛不住 貸款追高炒黃金的人後悔了!有人一天虧掉6年 繁綺文 | 2025-05-05
  • 任天堂對Genki提起Switch 2商标侵權訴訟,後者回應稱将嚴肅對待 任天堂對Genki提起Switch 2商标侵權訴訟,後 郜萌運 | 2025-05-05
  • 哪吒汽車APP和官網恢復正常 知情人士:之前斷網因流量欠費 哪吒汽車APP和官網恢復正常 知情人士:之前斷 袁曼雁 | 2025-05-05
  • 極越汽車 CEO 夏一平名下青島/義烏兩家公司被列入經營異常 極越汽車 CEO 夏一平名下青島/義烏兩家公司 集玲琳 | 2025-05-05
  • 全國經濟第一大省明确,推動組建農商聯合銀行 全國經濟第一大省明确,推動組建農商聯合銀行 佼昌翰 | 2025-05-05
  • 桑保利:亞馬爾有配合意識&有點像梅西 姆巴佩更專注進球&更像C羅 桑保利:亞馬爾有配合意識&有點像梅西 姆巴佩 甄正浩 | 2025-05-05
  • 高露現身上海虹橋機場 黑色外套點綴亮色愛心裝飾俏皮亮眼 高露現身上海虹橋機場 黑色外套點綴亮色愛 惠惠君 | 2023-05-02
  • 《歧路旅人2》:向光而生 《歧路旅人2》:向光而生 衛青柏 | 2023-05-02
  • vivo X90S曝光:處理器更新為天玑9200+ 安卓最強芯 vivo X90S曝光:處理器更新為天玑9200+ 安卓最 袁曼雁 | 2023-05-05
  • “懶癌”發病率上升,定期體檢别忽視 “懶癌”發病率上升,定期體檢别忽視 幸聽楓 | 2023-05-02
  • 宋慧喬獲百想視後 韓素希發圖手動加愛心表情慶祝 宋慧喬獲百想視後 韓素希發圖手動加愛心表 賁芳蕤 | 2023-05-02
  • 曹操墓,裡面都有啥? 曹操墓,裡面都有啥? 衛青柏 | 2023-05-02
  • 十年了,他們終于要HE! 十年了,他們終于要HE! 惠惠君 | 2023-05-07
  • 中央部署經濟工作,釋放5大信号 中央部署經濟工作,釋放5大信号 郜萌運 | 2023-05-02
  • 高德上線手機彎道會車預警功能 高德上線手機彎道會車預警功能 習又夏 | 2023-05-02
  • 陳自瑤抱病為愛女做蛋糕慶生,王浩信點贊沒露面 陳自瑤抱病為愛女做蛋糕慶生,王浩信點贊沒露 賁芳蕤 | 2023-05-02
  • 等比例長大的童星,李蘭迪算一個 等比例長大的童星,李蘭迪算一個 郟君昊 | 2023-05-02
  • 這些被抓來做實驗的流浪狗,最終拯救了無數糖尿病人 這些被抓來做實驗的流浪狗,最終拯救了無數糖 集玲琳 | 2023-05-02
  • 高端國產車:軍車血統,目前電動車越野的“天花板”? 高端國產車:軍車血統,目前電動車越野的“天花 謝飛揚 | 2023-05-02
  • 《雲襄傳》終于抬上來啦,男O女A讓人好上頭! 《雲襄傳》終于抬上來啦,男O女A讓人好上頭! 集玲琳 | 2023-05-02
  • 21家A股遊戲公司2022年收入651億 今年“遊戲+AI”能否逆風翻盤? 21家A股遊戲公司2022年收入651億 今年“遊 衛青柏 | 2023-05-04
  • 與周立波夫婦鬧糾紛成老賴,唐爽被司法拘留15日 與周立波夫婦鬧糾紛成老賴,唐爽被司法拘留15 寸飛蘭 | 2023-05-05
  • 信用風險釋放趨緩,結構性風險需重點關注 ——2023年一季度債市信用風險回顧與下階段展望 信用風險釋放趨緩,結構性風險需重點關注 — 袁曼雁 | 2023-05-02
  • 普京籤署總統令,批準對俄刑法典相關法條的修正案 普京籤署總統令,批準對俄刑法典相關法條的修 集玲琳 | 2023-05-02
  • 中銀證券給予南京銀行增持評級 中銀證券給予南京銀行增持評級 袁曼雁 | 2023-05-03
  • 解除資格!停止一切合作 解除資格!停止一切合作 佼昌翰 | 2023-05-02
  • 3699起 聯想小新mini主機上架 13代酷睿标壓處理器 3699起 聯想小新mini主機上架 13代酷睿标壓 習又夏 | 2023-05-05
  • 前董事長被免,天山生物全面進入“中植系”時代?股價曾在一月内暴漲超400% 前董事長被免,天山生物全面進入“中植系”時 惠惠君 | 2023-05-02
  • 瘋成這樣,怎麼還能被全網吹捧? 瘋成這樣,怎麼還能被全網吹捧? 郜萌運 | 2023-05-02
  • 狂吼11次“讓一下”!交警咆哮開道嘶吼到吐 狂吼11次“讓一下”!交警咆哮開道嘶吼到吐 寸飛蘭 | 2023-05-03
  • 摩根大通收購美國第一共和銀行 摩根大通收購美國第一共和銀行 謝飛揚 | 2023-05-02
  • 台劇赢麻了,又來一部8.9 台劇赢麻了,又來一部8.9 衛青柏 | 2023-05-02
  • 下降45分,上漲35分!34所自劃線院校復試分數線漲幅匯總 下降45分,上漲35分!34所自劃線院校復試分數線 袁曼雁 | 2023-05-07
  • 事關農村土地承包和農民權益,《農村土地承包合同管理辦法》5月1日起施行 事關農村土地承包和農民權益,《農村土地承包 郟君昊 | 2023-05-02
  • "三高"已盯上青少年,做好這件事是關鍵 "三高"已盯上青少年,做好這件事是關鍵 習又夏 | 2023-05-05
  • 五一檔沒一個能打的 五一檔沒一個能打的 集玲琳 | 2023-05-05
  • 恐怖韓劇下神壇,這次膽小可入 恐怖韓劇下神壇,這次膽小可入 袁曼雁 | 2023-05-05
  • 這劇是不是用ChatGPT寫的呀? 這劇是不是用ChatGPT寫的呀? 惠惠君 | 2023-05-02
  • 200戶連夜疏散,原因讓人憤怒!“損失超一億”,官方通報 200戶連夜疏散,原因讓人憤怒!“損失超一億”, 袁曼雁 | 2023-05-03
  • 性騷擾慣犯,滾出娛樂圈 性騷擾慣犯,滾出娛樂圈 謝飛揚 | 2023-05-05
  • 48歲何炅自曝已老花眼,黃磊睡前認老,《向往的生活》證實将停辦 48歲何炅自曝已老花眼,黃磊睡前認老,《向往的 佼昌翰 | 2023-05-02
  • 一個《長月燼明》倒了,《狐妖》《長相思》《與鳳行》…在路上了 一個《長月燼明》倒了,《狐妖》《長相思》《 惠惠君 | 2023-05-02
  • 張天愛假期曬“酷”存照 卷發披肩穿黑色吊帶裙大秀好身材 張天愛假期曬“酷”存照 卷發披肩穿黑色吊 嬴覓晴 | 2023-05-02
  • 當年輕人開始不随份子錢 當年輕人開始不随份子錢 袁曼雁 | 2023-05-02
  • 畢滢用8年時間成功逼宮?曾被傳已婚生子的她,不容小觑 畢滢用8年時間成功逼宮?曾被傳已婚生子的她, 幸聽楓 | 2023-05-03
  • 宋慧喬獲視後首次曬照,拿獎杯笑容溫柔 宋慧喬獲視後首次曬照,拿獎杯笑容溫柔 郜萌運 | 2023-05-02

©2022 大酷樂 版權所有

隱私政策 | 服務條款 | 聯繫我們