今天小編分享的互聯網經驗：商湯2024年報技術透視：訓推效能顯著提升，“大裝置-大模型-應用”實現商業價值閉環，歡迎閲讀。
3 月 26 日，商湯發布 2024 年全年業績财報。2024 年，商湯集團的總體收入同比增長 10.8%，達到 37.7 億元人民币；其中，生成式 AI 收入突破 24.0 億元人民币，同比增長 103.1%，這是生成式 AI 連續兩年保持三位數增速，已成為集團最大業務。
大模型面世兩年多時間以來，從前期的一味追求大模型 Scaling Law，到如今算力效率、訓練轉推理，應用落地等被接連質疑，大模型已經全面來到新的發展階段。
這是產業逐步成熟的标志，但同樣也在堆疊算力之外，對工程技術以及場景協同能力提出了更高的要求。
在眾多傳統大模型廠商之外，作為第一代 "AI 原生 " 企業，商湯在 AI 基礎設施上的投入早于幾年前便開始布局，此後戰略更新為 " 大裝置 - 大模型 - 應用 " 的三位一體核心戰略，而這一戰略正顯現出其在 AI 產業的前瞻性。
" 大裝置 " 是指商湯的 AI 基礎設施，為大模型提供強大的算力支撐，大模型驅動技術創新，應用端推動 AI 商業化落地——過去三年，商湯已經形成了 " 大裝置 - 大模型 - 應用 " 三者協同的良性生态閉環，賦能千行百業。
我們看到的是，歷經過多次技術周期起伏，商湯的技術積澱正迎來爆發。
01 有算力、懂算力
2024 年 5 月，國内權威大模型測評機構 SuperCLUE 榜單出爐。商湯 " 日日新 5.0" ( SenseChat V5 ) 的中文基準測評結果排名第一，以總分 80.03 分的成績刷新國内最好成績，并且在中文綜合成績上超越 GPT-4 Turbo，這是國内大模型首次在 SuperCLUE 中文基準測試中超越 GPT-4 Turbo 實現登頂。
之所以能夠斬獲如此成績，與商湯在 AI 基礎設施上的提早布局至關重要。
眾所周知，2024 年以來，全國智算中心的建設高速推進。從訓練到推理，算力的資源屬性愈發顯現，而且市場仍面臨算力資源分散且标準不統一、使用起來效率不高的問題。
商湯正是針對這一痛點，布局算力運營，将不同标準的卡連接起來，适配不同需求，滿足不同類型的客户。
商湯科技董事長兼 CEO 徐立認為，一些科技巨頭的重心在于自己的生态，包括自研芯片和雲平台等，但當下 AI 領網域要搶占先機，什麼資源更快更好用就先用起來，不局限于一家的產品和平台，" 商湯提供的基礎服務更貼近 AI 發展現狀。"
過去三年，商湯持續投入建設 AIDC 基礎設施。據悉，商湯自持的全國首個 5A 級智算中心——上海臨港 AIDC，通過運營模式将算力規模提升至了 23,000PetaFlops。
通過與大模型迭代的聯合調優，商湯大裝置的目标是成為 " 最懂大模型的 AI 基礎設施 "，不僅服務于日日新大模型的訓練與推理，還服務于包括互聯網、金融、能源等成熟行業，還拓展性服務了具身智能、AIGC、AI4S（AI For Science）等高潛行業的客户。
徐立曾表示，商湯是最懂模型的算力服務商，最懂算力的模型服務商。
02 三位一體
算力只是生态其中一環。大模型產業能夠高效運轉，還需要靠上下遊協同發力。
" 今天人工智能的商業模式不管是訓練模型，還是用模型對外服務，本質意義上都是在消耗資源，付的是資源的費用。所有的商業模式最後都和計算資源消耗劃了一個等号，就是通過‘三位一體’，把資源以最有效的方式整合使用起來。" 徐立表示。
" 三位一體 " 是 2024 年 10 月商湯确立的戰略方向，是商湯以大裝置作為 AI 基礎設施為底座，實現 " 大裝置 - 大模型 - 應用 " 三位一體、聯合優化的戰略。
算力與模型的雙向優化，進一步提升了大模型的訓練和推理效率。在提升訓練效率方面，商湯通過采用自動化多維并行策略顯著提升了訓練效率，并且實現了 FP8 混合精度訓練，特别是對類似于 DeepSeek 的優秀第三方開源模型，大裝置做到高于官方報告的訓練效率，形成行業标杆。
在提升推理效率方面，商湯的推理系統進行低比特量化推理，支持開源 vLLM 及自研 lightLLM 雙推理引擎，以 DeepSeek R1 為例，商湯的推理吞吐性能比業界頭部廠商高 15% 以上。通過模型蒸餾技術、鍵值緩存、PD（Prefill-decode）分離、多模态信息壓縮等技術，商湯在基本保持模型性能的前提下将推理成本壓低了一個數量級。
因此，即使是同樣一個模型，在不同的算力底座上，會有完全不同的訓練及推理效率。
随着向生成式 AI 演進的穩步推進，" 三位一體 " 進一步整合了商湯的資源優勢，使其在大模型時代的内卷競争中打出差異化。
商湯科技日日新大模型重點打磨生產力工具與互動工具兩個方向的應用與產品。生產力工具直接為企業辦公、金融、政務等場景提高生產效率，以訂單金額為代表的客户付費意願較 2023 年增長 6 倍；互動工具通過 2B2C 的方式賦能業務夥伴，提升用户體驗，滿足智能陪伴、智能硬體互動、智能營銷等多場景需求，月均用户使用量較 2023 年增長 8 倍。
日日新大模型在保持領先的市場應用占有率和客户服務粘性的基礎上，在模型技術上始終保持領先的位置。2023 年 4 月商湯首次推出商湯日日新 SenseNova 大模型體系，至 2024 年 7 月完成 5 大版本迭代。其中，2024 年 7 月發布的日日新 5.5 版本在多模态能力上顯著提升，為國内首個對标 GPT-4o 的多模态實時互動大模型，實現語音、視頻和語言模型的原生融合。值得期待的是，商湯日日新 6.0 将于 2025 年 4 月 10 日發布，性能預期對标 Gemini 2.0 Pro。
此外，基礎設施搭建好後，商湯同樣及早布局應用。
03 為什麼是原生融合多模态
生成式 AI 爆發後，多模态大模型早已成為人們追求的方向。然而，市面上很多應用中接觸到的多模态模型并不能説是 " 完全體 "。
就像谷歌所認為的，只有從頭開始的多模态才能構建出超越前代的先進模型。這意味着它天生地可以讀取和輸出不同模态内容，還具備強大的多模态推理能力和跨模态遷移能力。
技術上，這被稱為 " 原生融合多模态技術 "，被認為是 AI 未來發展的必由之路，也是商湯當下重點投入的研究領網域。
與傳統的多模态模型不同，商湯的技術并非簡單地将不同模态内容轉換為語言 token 輸入，而是從數據層、模型架構層進行全流程融合，涵蓋感知、思考到輸出的完整過程。
在 2024 年全球 CVPR 大會上，商湯科技共有 50 篇論文入選，研究成果聚焦于視覺語言基礎模型，涉及自動駕駛、機器人等前沿領網域。
商湯的多元化 AI 產品均已有所應用成效。據悉，目前商湯 " 小浣熊家族 " 已為數十萬用户提供數十億次智能輔助服務。而商湯絕影在行業内也率先實現了原生多模态大模型的車端部署。
在 AI 的新階段，商湯前瞻性地布局了硬體基礎設施和應用端，通過底層和上層的協同優化構建起了技術壁壘。
在基礎設施端，商湯自建 AI 數據中心（AIDC）和規模化研發服務，确保公司在傳統基礎設施廠商和 AI 原生公司中脱穎而出。在應用端，商湯擁有全棧體系 AI 應用，覆蓋行業廣泛，大模型聚焦于原生融合多模态發展。
可以預見，商湯的 " 儲備 " 有望在 AI 應用爆發後為公司帶來巨大發展空間。
