大酷樂
  • 汽車
  • 理财
  • 軍事
  • 科技
  • 遊戲
  • 互聯網
  • 娛樂
  • 财經
  • 科學
  • 社會
  • 親子
  • 電影
  • 健康
  • 教育
  1. 首頁
  2. 科技

AI算力軍備競賽,五大科技巨頭屯了多少GPU?

2024-12-06 简体 HK SG TW

今天小編分享的科技經驗:AI算力軍備競賽,五大科技巨頭屯了多少GPU?,歡迎閱讀。

随着人工智能的加速發展,科技巨頭之間掀起了一輪輪 AI 算力競賽。日前,馬斯克的 xAI 集群數據曝光,其正在推出基于 10 萬個 H100 GPU 的 Colossus 訓練集群。Meta 也計劃購買 35 萬個 H100 GPU,加強 Llama 4 AI 模型的算力。LessWrong 網站對幾大 AI 巨頭的 GPU/TPU 數量進行估算,預計到 2025 年,微軟、谷歌、Meta、亞馬遜和 xAI 所擁有 GPU 的等效 H100 數量将超過 1240 萬塊。這表明科技巨頭間的算力 " 軍備競賽 " 仍在延續。

超 1240 萬塊,巨頭繼續布局算力版圖

最近,LessWrong 網站上發表了一篇博客,根據公開數據對英偉達芯片的產量、幾大 AI 巨頭的 GPU/TPU 數量進行了估算。其中,微軟擁有 75 萬 -90 萬塊等效 H100,明年預計達到 250 萬 -310 萬塊;谷歌擁有 100 萬 -150 萬塊等效 H100,明年預計達到 350 萬 -420 萬塊;Meta 擁有 55 萬 -65 萬塊等效 H100,明年預計達到 190 萬 -250 萬塊;亞馬遜擁有 25 萬 -40 萬塊等效 H100,明年預計達到 130 萬 -160 萬塊;xAI 擁有 10 萬塊等效 H100,明年預計達到 55 萬 -100 萬塊。

可以看出,幾大科技巨頭都在緊鑼密鼓地布局自己的算力版圖,開展下一代更先進模型的訓練。馬斯克此前即透露 Grok 3 将在年底前亮相。他表示,在法律問題數據集上完成訓練後,下一代 Grok 3 将是一個強大的私人律師,能全天候提供服務。谷歌 Gemini 2.0 預計在本月正式上線。OpenAI 更是宣布,将開啟為期 12 天的 "Shipmas" 新功能、新產品和演示活動,将展示文本轉視頻 AI 工具 Sora、新的推理模型等。

這些先進模型的訓練和推理需要龐大的算力資源。馬斯克聲稱,其 Colossus 集群是 " 世界上最強大的人工智能訓練系統 "。集群配備英偉達 HGX H100 伺服器,每台伺服器内含 8 張 H100 GPU,每個機架可容納 8 台伺服器,8 台伺服器組成 1 個陣列,每個陣列有 512 個 GPU,整個 Colossus 集群内有超過 1500 個 GPU 機架,支持着龐大的算力運行。

Meta 也在使用超過 10 萬個 Nvidia H100 GPU 的集群,訓練其最新 Llama 4 AI 模型,成為目前規模最大的 AI 訓練集群之一。明年 Meta 可能會使用 35 萬個 H100 GPU。至于 OpenAI,其背後支持者微軟很可能是英偉達近兩年的最大客戶。據 Omdia Research 分析,2023 年微軟和 Meta 是 H100 的最大買家,預計采購量達到 15 萬個。而到了 2024 年,微軟的 AI 芯片囤貨目标更是提升到了驚人的 180 萬塊,其中大部分來自英偉達。

英偉達繼續領先,定制芯片市場值得關注

在 AI 巨頭繼續大規模部署 AI 算力的情況下,展望 2025 年 AI 芯片市場,英偉達作為全球 AI 芯片市場的領導者,仍将繼續保持其強大的市場影響力和技術領先地位。‌ 2024 年 AI 芯片市場占有率:英偉達占據約 75%,其他定制化芯片占 10%-15%,剩餘的 10%-15% 由超微、英特爾等企業瓜分。另據 DIGITIMES Research 數據,2024 年高端伺服器 GPU 產值預估将達到 1022 億美元。

從此前的產品規劃來看,英偉達的 AI 芯片 Blackwell 產品發貨将從 2025 财年的四季度開始,屆時将同時發貨 Blackwell 和 Hopper 兩大系列的產品。而芯片業則已開始着眼英偉達的下一代 Rubin 芯片。大摩分析師 Charlie Chan 透露,台積電和供應鏈已在為 Rubin 芯片的推出做準備,推出的時間有可能從 2026 年上半年提前到 2025 年下半年。2025 年下半年将進入流片階段。下一代 Rubin 芯片将采用 3nm 工藝、CPO(共同封裝光學元件)和 HBM4(第六代高頻寬内存)等,性能将更加強大。

AMD 作為英偉達的主要競争對手之一,在 AI 芯片市場也表現出強勁增長勢頭。下一代 AMD Instinct MI350 系列加速器有望在 2025 年下半年上市。其基于 AMD CDNA 4 架構,推理性能比基于 AMD CDNA 3 的加速器提高 35 倍。

英特爾在 AI 芯片市場也擁有一定份額,但今年推出的 Gaudi 3 表現并不令人滿意,盡管 Gaudi 3 在性能上有所提升,可市場份額仍然較小‌,預計占有率約為 1%。不過,2025 年英特爾寄予厚望的 Intel 18A 将會量產。下一代 AI PC 處理器 Panther Lake 和下一代數據中心處理器 Clearwater Forest 将基于 Intel 18A,也在明年發布。此外,按此前的規劃,2025 年英特爾還将推出一款全新的 AI 加速器產品 Falcon Shores。這是 Gaudi 系列的後續產品。2025 年,英特爾能否在 AI 芯片市場有所表現,受到業界關注。

更令人關注的是幾大 AI 巨頭的定制芯片開發與應用進程。近日,亞馬遜 AWS 宣布推出全新的 AI 定制芯片 Trainium3,與上代 Trainium2 相比,采用 3nm 工藝,計算性能增加 2 倍,能效提升 40%。該產品預計于 2025 年底量產。據了解,Adobe、AI 新創公司 Poolside、數據平台服務 Databricks 以及芯片大廠高通都采用 Trainium2 訓練其 AI 模型。未來,AI 巨頭的定制芯片将是英偉達 GPU 的重要競争對手。

端側 AI 需求爆發,各大廠商提前卡位

2025 年的另一個重要趨勢是,AI 模型的邊緣和推理計算需求将迅速增長。迄今為止,大多數 AI 芯片活動都集中在數據中心方面,端側手機、PC 的 AI 應用也大多是從雲端調用。然而,具有真正端側 AI 功能的設備預計将于 2025 年推出,邊緣 AI 将變得更加普及。

在數據中心領網域 GPU 占據 AI 加速的主導地位,但邊緣側的情況将更加復雜多樣,企業需要通過靈活地配置 CPU、GPU 和 NPU,以滿足 AI 加速的廣泛需求。在英特爾日前舉辦的新質生產力技術生态大會上,記者看到一款英特爾與新華三共同推出的 AIGC 靈犀一體機,其基于至強處理器與 Gaudi2D 加速卡,可以在私網域靈活布局,進行多模型的高效推理和業務場景的閉環交付,滿足邊緣側 AI 應用的多模融合、靈活便捷等多元需求。在 AI PC 方面,英特爾展示的基于 XPU 的 AI 算力優化案例也頗具代表性,顯示 AI PC 在遊戲、教育教學、工廠制造、商場支付等方面的廣泛潛力。

高通在端側 AI 方面的舉措同樣值得關注。在骁龍峰會期間,高通推出骁龍 8 至尊版移動平台,面向終端側生成式 AI,采用新一代 Hexagon NPU,推理性能提升 45%,能效提升 45%,能夠支持更復雜的端側 AI 應用,互動體驗更加流暢直觀。此外,近年來高通還與騰訊混元、智譜 AI 等大模型廠商建立合作關系,推動端側 AI 應用的部署和落地。通過合作,高通為大模型在端側的運行提供算力支持,并優化大模型在端側的性能表現。

Arm 則在終端領網域引入計算子系統 ( CSS ) 。此前,Arm 已将計算子系統引入基礎設施、汽車領網域。Arm 的終端 CSS 中囊括了最新的 Armv9.2 Cortex CPU 集群和 Immortalis 與 Mali GPU、CoreLink 互聯系統 IP,以及基于 3nm 工藝生產就緒的 CPU 和 GPU。在軟體工具方面,KleidiAI 和 KleidiCV 庫可為端側人工智能和計算機視覺工作負載提供支持,Arm Performance Studio 可以幫助開發者簡化開發流程。

随着端側 AI 成為新一代智能手機、PC、汽車等智能設備發展的驅動力,有可能将形成一個超過雲端的廣大市場。

熱門排行
  • 高露現身上海虹橋機場 黑色外套點綴亮色愛心裝飾俏皮亮眼 高露現身上海虹橋機場 黑色外套點綴亮色愛 惠惠君 | 2023-05-02
  • 《歧路旅人2》:向光而生 《歧路旅人2》:向光而生 衛青柏 | 2023-05-02
  • vivo X90S曝光:處理器更新為天玑9200+ 安卓最強芯 vivo X90S曝光:處理器更新為天玑9200+ 安卓最 袁曼雁 | 2023-05-05
  • “懶癌”發病率上升,定期體檢别忽視 “懶癌”發病率上升,定期體檢别忽視 幸聽楓 | 2023-05-02
  • 曹操墓,裡面都有啥? 曹操墓,裡面都有啥? 衛青柏 | 2023-05-02
  • 宋慧喬獲百想視後 韓素希發圖手動加愛心表情慶祝 宋慧喬獲百想視後 韓素希發圖手動加愛心表 賁芳蕤 | 2023-05-02
  • 十年了,他們終于要HE! 十年了,他們終于要HE! 惠惠君 | 2023-05-07
  • 中央部署經濟工作,釋放5大信号 中央部署經濟工作,釋放5大信号 郜萌運 | 2023-05-02
  • 《雲襄傳》終于抬上來啦,男O女A讓人好上頭! 《雲襄傳》終于抬上來啦,男O女A讓人好上頭! 集玲琳 | 2023-05-02
  • 陳自瑤抱病為愛女做蛋糕慶生,王浩信點贊沒露面 陳自瑤抱病為愛女做蛋糕慶生,王浩信點贊沒露 賁芳蕤 | 2023-05-02
  • 等比例長大的童星,李蘭迪算一個 等比例長大的童星,李蘭迪算一個 郟君昊 | 2023-05-02
  • 高德上線手機彎道會車預警功能 高德上線手機彎道會車預警功能 習又夏 | 2023-05-02
  • 21家A股遊戲公司2022年收入651億 今年“遊戲+AI”能否逆風翻盤? 21家A股遊戲公司2022年收入651億 今年“遊 衛青柏 | 2023-05-04
  • 普京籤署總統令,批準對俄刑法典相關法條的修正案 普京籤署總統令,批準對俄刑法典相關法條的修 集玲琳 | 2023-05-02
  • 這些被抓來做實驗的流浪狗,最終拯救了無數糖尿病人 這些被抓來做實驗的流浪狗,最終拯救了無數糖 集玲琳 | 2023-05-02
  • 信用風險釋放趨緩,結構性風險需重點關注 ——2023年一季度債市信用風險回顧與下階段展望 信用風險釋放趨緩,結構性風險需重點關注 — 袁曼雁 | 2023-05-02
  • 高端國產車:軍車血統,目前電動車越野的“天花板”? 高端國產車:軍車血統,目前電動車越野的“天花 謝飛揚 | 2023-05-02
  • 與周立波夫婦鬧糾紛成老賴,唐爽被司法拘留15日 與周立波夫婦鬧糾紛成老賴,唐爽被司法拘留15 寸飛蘭 | 2023-05-05
  • 解除資格!停止一切合作 解除資格!停止一切合作 佼昌翰 | 2023-05-02
  • 3699起 聯想小新mini主機上架 13代酷睿标壓處理器 3699起 聯想小新mini主機上架 13代酷睿标壓 習又夏 | 2023-05-05
  • 中銀證券給予南京銀行增持評級 中銀證券給予南京銀行增持評級 袁曼雁 | 2023-05-03
  • 前董事長被免,天山生物全面進入“中植系”時代?股價曾在一月内暴漲超400% 前董事長被免,天山生物全面進入“中植系”時 惠惠君 | 2023-05-02
  • 瘋成這樣,怎麼還能被全網吹捧? 瘋成這樣,怎麼還能被全網吹捧? 郜萌運 | 2023-05-02
  • 狂吼11次“讓一下”!交警咆哮開道嘶吼到吐 狂吼11次“讓一下”!交警咆哮開道嘶吼到吐 寸飛蘭 | 2023-05-03
  • 摩根大通收購美國第一共和銀行 摩根大通收購美國第一共和銀行 謝飛揚 | 2023-05-02
  • 事關農村土地承包和農民權益,《農村土地承包合同管理辦法》5月1日起施行 事關農村土地承包和農民權益,《農村土地承包 郟君昊 | 2023-05-02
  • 台劇赢麻了,又來一部8.9 台劇赢麻了,又來一部8.9 衛青柏 | 2023-05-02
  • 下降45分,上漲35分!34所自劃線院校復試分數線漲幅匯總 下降45分,上漲35分!34所自劃線院校復試分數線 袁曼雁 | 2023-05-07
  • "三高"已盯上青少年,做好這件事是關鍵 "三高"已盯上青少年,做好這件事是關鍵 習又夏 | 2023-05-05
  • 五一檔沒一個能打的 五一檔沒一個能打的 集玲琳 | 2023-05-05
  • 200戶連夜疏散,原因讓人憤怒!“損失超一億”,官方通報 200戶連夜疏散,原因讓人憤怒!“損失超一億”, 袁曼雁 | 2023-05-03
  • 恐怖韓劇下神壇,這次膽小可入 恐怖韓劇下神壇,這次膽小可入 袁曼雁 | 2023-05-05
  • 這劇是不是用ChatGPT寫的呀? 這劇是不是用ChatGPT寫的呀? 惠惠君 | 2023-05-02
  • 性騷擾慣犯,滾出娛樂圈 性騷擾慣犯,滾出娛樂圈 謝飛揚 | 2023-05-05
  • 48歲何炅自曝已老花眼,黃磊睡前認老,《向往的生活》證實将停辦 48歲何炅自曝已老花眼,黃磊睡前認老,《向往的 佼昌翰 | 2023-05-02
  • 一個《長月燼明》倒了,《狐妖》《長相思》《與鳳行》…在路上了 一個《長月燼明》倒了,《狐妖》《長相思》《 惠惠君 | 2023-05-02
  • 當年輕人開始不随份子錢 當年輕人開始不随份子錢 袁曼雁 | 2023-05-02
  • 張天愛假期曬“酷”存照 卷發披肩穿黑色吊帶裙大秀好身材 張天愛假期曬“酷”存照 卷發披肩穿黑色吊 嬴覓晴 | 2023-05-02
  • 畢滢用8年時間成功逼宮?曾被傳已婚生子的她,不容小觑 畢滢用8年時間成功逼宮?曾被傳已婚生子的她, 幸聽楓 | 2023-05-03
  • 宋慧喬獲視後首次曬照,拿獎杯笑容溫柔 宋慧喬獲視後首次曬照,拿獎杯笑容溫柔 郜萌運 | 2023-05-02

©2022 大酷樂 版權所有

隱私政策 | 服務條款 | 聯繫我們