今天小編分享的科學經驗:Token經濟,風起隴東,歡迎閱讀。
DeepSeek 大火之後,為模型訓練和推理市場帶來計算量上的大幅增長。根據黃仁勳的測算,模型推理需要的算力消耗比我們當下以為的還要多 100 倍。
面對 DeepSeek 機遇,算力中心企業卻喜憂參半。
喜的是算力需求總量激增,DeepSeek 催生了 Token 經濟,算力可以像使用水電一樣按量計費,用戶根據消耗的 AI 算力資源(以 Token 為部門)付費,讓智算中心不局限于租售裸金屬的傳統商業模式,帶來了新的商業機會。
憂的是基于 DeepSeek 等模型的 AI 服務,采用 " 薄利多銷 " 的模式,讓智算中心化身成 "token 工廠 ",硬體與後訓練、推理等場景需要從 AI infra 層面進一步調優,解決在線 AI 服務成本高、異構算力統一納管難度大等問題。
因此,各地智算中心集群能否承接住 DeepSeek 催生的大量後訓練、推理等需求,将決定 token 經濟中誰主沉浮。
3 月 26 日," 異構智算,縱橫未來 " ——異構智算產業生态聯盟走進燧弘華創慶陽綠色智算中心,共同見證了 DeepSeek 大模型落地的新突破,以及異構算力在超大規模智算場景中從技術攻堅到產業化應用的歷史性跨越。
硬體方面,此次慶陽項目中交付的聯想問天 WA5480 G3 伺服器,采用了 2 顆第四代英特爾 ® 至強 ® 可擴展處理器,内置加速性能更進一步,可以優化 DeepSeek 落地的推理表現。
技術方面,燧弘華創慶陽綠色智算中心部署了多元異構算力調度平台,依托聯想萬全異構智算平台在推理加速、訓練優化、斷點續訓、内核級虛拟化等大模型推理優化場景的明顯優勢,為各行業應用 DeepSeek 構建了高效能、可持續的算力底座。
借此契機,我們深入了解一下,token 經濟,為何風起隴東。
AI 算力作為數字經濟的核心生產要素,其發展态勢與基礎設施建設緊密交織。DeepSeek 點燃 AI 算力需求之後,作為東數西算八大國家級樞紐之一的 " 中國算谷 " 慶陽,受到了前所未有的關注。
對于慶陽數據中心企業來說,抓住 DeepSeek 機會,當務之急是要把 " 伺服器農場 " 變成 "token 工廠 ",也就是從租賃裸金屬資源的傳統模式,拓展按 token 使用量計費的新 AI 服務模式。
之所以出現這種變化,一是客戶變了,DeepSeek 使得企業 AI 滲透率從頭部廠商向中小企業擴散,而中小企業需要的算力規模和硬體數量相對少,像水電費一樣用多少算力資源付多少錢,這種動态、輕量化的 AI 服務,需要對異構算力資源進行統一、高效、精益的納管。
二是 AI 任務變了,DeepSeek 讓計算任務從預訓練,轉向了後訓練和推理,而 DeepSeek 的全新模型架構,硬體必須針對性地優化、調優,不然算力服務商提供 Maas 服務的成本會很高,無法真的靠賣 token 賺到錢,AI 算力也很難普惠。
與此同時,智算供應鏈也風雲變幻。海外硬體供應鏈也愈發不穩定,面臨越來越嚴苛的限制,将 DeepSeek 部署在國產智算底座是大勢所趨。但國產硬體的架構多、彼此生态不互通、異構算力合池訓練存在資源牆。
因此,慶陽的算力中心企業想要轉型 "token 工廠 ",開拓 DeepSeek 服務的新商業模式,助力行業智能化,必須解決異構智算與 AI 大模型深度融合的技術挑戰。
解決全國 AI 算力需求,東數西算工程正重構算力版圖。其中," 中國算谷 " 慶陽備受矚目,一是算力夠用,二是算力好用。
自 2023 年起,慶陽持續打造算力集群基礎設施,目前慶陽市的總算力規模,已達 5.1 萬 PFLOPS,從東數西算樞紐末位躍升至全國第一方陣,為數字經濟發展築牢 " 智算 " 底座。其中,燧弘華創打造的慶陽綠色智算中心,已成功構建超 2 萬 P 的高性能算力供給規模。
讓千行百業覺得算力好用,敢于把 DeepSeek 接入自身場景,燧弘華創慶陽綠色智算中心協同聯想萬全異構智算平台,突破算力瓶頸,構建了好用的異構智算底座。
首先是算力充沛,讓千行萬業都用得上。比如此次慶陽項目中聯想問天 WA5480 G3 伺服器,搭載的第四代英特爾 ® 至強 ® 可擴展處理器,擁有強大的計算能力,内置了眾多加速器,是智算中心建設的首選。
其次是優化技術強,算效高、部門 token 的算力成本低,才能在保證模型效果的同時,實現算力普惠,讓中小企業或實體行業用得好,也用得起。
燧弘華創慶陽綠色智算中心作為聯想 AI 基礎設施新技術的試點之一,就充分展現了聯想的技術創新與研發的快速響應能力,當地第一時間實現了兩個突破:
一是突破算力瓶頸,通過訪存優化、顯存優化、PCIe 5.0 全互聯架構創新以及精選 SGLang 框架中性能最優算子等諸多領先創新方式,進一步提升單機伺服器運行大模型的性能,3000 并發下總吞吐量超 8000 tokens/s,持續提升 DeepSeek 滿血版用戶體驗,刷新行業标準。
二是突破異構算力 " 資源牆 "。聯想萬全異構智算平台可以統一納管異構算力,實現對異構計算集群的高效管理調度和可用性保障,讓夥伴能夠為客戶提供融合、穩定的通用、智能和科學算力。
產業鏈協作方面,慶陽依托異構智算產業生态聯盟,得到了國產智算產業全鏈條的緊密支持,聯想萬全生态從 IaaS 平台、AI 訓練與推理到行業場景解決方案的全覆蓋,為燧弘華創慶陽智算中心保駕護航,從而為慶陽打造東數西算模範節點注入了強勁動力。
正是在異構智算產業生态的合力托舉下,慶陽得以搶占先機,憑借 " 夠用 + 好用 " 的算力,抓住 DeepSeek 落地需求,加速算力消納,真正把 AI 技術轉變成了當地的 token 經濟紅利。
" 夠用 + 好用 " 的智算集群,成就了慶陽作為國家級數算樞紐之一,從末位到第一梯隊的發展奇迹,也為當地數據中心企業探索以 token 使用量為主的全新商業模式,提供有力支撐。
而燧弘華創與聯想的結緣,就是 " 慶陽奇迹 " 的一個重要裡程碑事件。雙方此前在慶陽所做的大量準備工作,是慶陽智算規模快速壯大的基礎,也是隴東數字經濟借勢 Deepseek 起飛的前提。
聯想作為燧弘華創的重要資源與夥伴,為慶陽構建面向 AI 時代的基礎設施,帶來了四種助力:
1. 先進。技術與產品先進,比如聯想萬全異構智算平台在推理加速、訓練優化、斷點續訓、内核級虛拟化等大模型推理優化場景具有明顯優勢,DeepSeek 後訓練場景中,調優技術使得訓練 MFU 高達 60% 以上;推理場景中,聯想 AI 伺服器可以全速運轉滿血版 DeepSeek R1 大模型,極限吞吐量可超 8000 tokens/s。這些先進技術,支撐燧弘華創慶陽綠色智算中心,成為東數西算樞紐中第一個全智算中心,及時抓住 Deepseek 的 AI 普惠浪潮和算力需求。
2. 全面。聯想正全力推進" 一橫五縱 " 戰略布局,全面推出覆蓋萬全異構智算平台,以及涵蓋伺服器、存儲、數據網絡、軟體及超融合、支持運維服務等在内的全方位基礎設施解決方案,可以滿足燧弘華創建設先進綠色算力中心的一體化需求,從而加速慶陽在一年多時間内就跻身全國 " 東數西算 " 樞紐的第一梯隊。
3. 開放。萬全異構智算平台對通用計算集群、科學計算集群和 AI 算力集群進行統一管理,并對多種 CPU、GPU、DPU 等處理器進行異構管理調度,更符合國内落地 deepseek 的實際算力需求,更具前瞻性。正如英特爾高性能計算行業負責人所說,将超算與智算的能力相結合,以超智融合技術來滿足在人工智能高速發展背景下的各行業多元算力需求。這也是聯想及其夥伴的共同努力方向。
4. 服務。在合作過程中,聯想 24 小時響應燧弘華創的需求,燧弘華創的拼搏精神 + 聯想的周到服務,共同推動了慶陽智算產業的躍升奇迹。
在萬全平台上,構築算力通衢;以萬全生态,護航 DeepSeek 落地千行百業。這是為什麼 token 經濟能在春節後風起隴東,帶火了 " 中國算谷 " 慶陽。
慶陽的努力與初見成果,驗證了 "token 經濟 " 在東數西算戰略下的可行性,未來可復制至其他樞紐節點。不久的将來,我們會看到在異構智算底座上,token 經濟,風起智能中國。