今天小編分享的科技經驗:騰訊雲更新AI全家桶,混元對标GPT-4o,歡迎閱讀。
9 月 5 日,2024 騰訊全球數字生态大會在深圳國際會展中心舉行。
在大會上,騰訊集團高級執行副總裁、雲與智慧產業事業群 CEO 湯道生披露了騰訊雲過去一年的成績:與夥伴共同服務的客戶數超過 200 萬家,百萬級訂單的合作夥伴數量實現兩位數增長,眾多 SaaS 夥伴收入翻倍,國際業務增速也保持在兩位數以上。
此外,在 AI 方面,騰訊雲這次也公布了一系列進展。首先是發布了新一代大模型 " 混元 Turbo",相較前代,混元 Turbo 性能大幅提升:訓練效率提高 108%,推理效率提升 100%,推理成本降低 50%,目前,混元 Turbo 已在騰訊雲上線,提供多個版本供企業和開發者使用。
同時,在大會上,騰訊雲還發布了 AI infra 品牌 " 騰訊雲智算 ",一個集計算、存儲、網絡為一體的高性能智能計算平台,提供了領先的 AI 計算能力;并推出了 RAG 解決方案,支持企業用多種技術 " 量身定制 "AI 大模型應用,進一步拓展了 AI 應用的靈活性和适用範圍。
而面對國内企業所面臨的更普遍的 " 内卷式競争 " 的困境,湯道生在會上還提出了「破局增長」的三個方向:以數提效、順勢而為、揚帆出海,建議企業應聚焦核心場景提升效率、抓住新產業機會、開拓全球市場,探索產業新的發展機遇。
對标 GPT-4o,騰訊混元再更新
在這次大會上,騰訊發布了新一代大模型 " 混元 Turbo",相較前代,混元 Turbo 性能大幅提升:訓練效率提高 108%,推理效率提升 100%,推理成本降低 50%。效果在多個基準測試上對标 GPT-4o,且第三方測評居國内第一。
目前,混元 Turbo 已在騰訊雲上線,提供 Turbo、Pro、Standard、Lite 等多個版本,企業和開發者可以直接在雲上接入使用,輸入和輸出價格僅為前代模型的一半。混元 Turbo 還開放了代碼生成、角色扮演、Functioncall 等功能,企業可通過騰訊雲 TI 平台對模型進行精細調整,實現定制化應用。
湯道生表示,随着大模型與生成式 AI 的技術突破,圖片、視頻、語言的理解與生成已經有很大進步,人與人的溝通、人與系統的互動方式,都可能會被重塑。最近半年,產業界的關注點也從模型技術的本身轉向了智能應用的落地。
據了解,騰訊已經構建起了全鏈路的大模型產品矩陣,包括基礎設施、專屬模型訓練平台 TI、行業大模型解決方案、自研混元大模型,以及一系列基于大模型的智能應用。
會上,騰訊 AI 應用 " 元寶 " 品牌智能體專區正式上線,首批邀請 11 家合作夥伴入駐,涵蓋工作提效和生活娛樂等多個場景,用戶可在 " 騰訊元寶 "APP 上直接進行體驗。
" 面向場景創造價值才是大模型發展的意義。" 騰訊雲副總裁、騰訊雲智能負責人、優圖實驗室負責人吳運聲表示,大模型已經在全球發展了兩年,一方面,模型性能不斷提升,圍繞着模型的產品使用門檻變得更低、更加易用;另一方面,企業積極探索大模型與自身業務場景的結合,大模型的落地場景變得更豐富、更縱深。
目前,騰訊已經有 700 多款產品接入混元大模型,包含騰訊元寶、騰訊雲、QQ、微信讀書、騰訊新聞、騰訊客服等。此前,騰訊旗下協作 SaaS(軟體即服務)產品已全面接入騰訊混元大模型。
同時,騰訊全矩陣的大模型產品目前已經在知識管理、智能客服、研發提效、智能營銷、内容生成、辦公協同、風險管控等落地。
新發布 AI infra 品牌 " 騰訊雲智算 " 和 RAG 解決方案
在大會上,騰訊雲還發布了 AI infra 品牌 " 騰訊雲智算 ",并推出了 RAG 解決方案,進一步展示了其在 AI 計算基礎設施和大模型應用定制上的能力。
" 騰訊雲智算 " 是騰訊雲打造的集計算、存儲、網絡為一體的高性能智能計算平台。該平台整合了騰訊雲高性能計算 HCC、高性能網絡 IHN 星脈、高性能雲存儲、加速框架、容器、向量數據庫等多項騰訊雲的優勢產品,提供了性能領先、多芯兼容、靈活部署的 AI 計算能力。
在穩定性和性能上,騰訊雲的集群千卡單日故障數已經刷新到 0.16,是行業水平的 1/3;1 分鍾就能完成萬卡 checkpoint 寫入,數據讀寫效率是業界 10 倍;千卡集群的通信時間縮短到 6%,是業界一半。
同時,通過整合軟硬體技術能力,騰訊雲智算集群從機器上架到開始訓練可以做到只需 1 天,相比業界以月為部門也大為縮短。
騰訊雲智算的靈活性也體現在其支持多種雲部署方式,包括公有雲、私有雲和分布式雲,使其成為國内大模型廠商的優選解決方案,同時也幫助大量 IDC 廠商向 AIDC 轉型。
除了 " 騰訊雲智算 ",騰訊雲這次還發布了 RAG 解決方案,支持企業用多種技術 " 量身定制 "AI 大模型應用。
該方案包括兼容 Elastic 開源生态的騰訊雲智能搜索(騰訊雲 Elasticsearch Service)以及騰訊雲自研的向量數據庫,幫助企業根據架構、數據類型和技術生态靈活選擇合适的組件。
騰訊雲智能搜索提供了從模型管理、向量生成、向量存儲、混合搜索、結果重排到大模型集成的全鏈路 RAG 能力。企業僅需使用 Elastic 的技術棧,就能快速搭建 AI 應用。
該技術已經成功支持了微信讀書的 "AI 問書 " 功能,為億級用戶提供毫秒級的檢索服務,同時相比傳統解決方案大幅降低了 90% 的機器成本。
針對數據規模大、數據類型多樣的企業,騰訊雲的向量數據庫提供 2 倍于行業平均水平的吞吐能力和毫秒級響應延遲,支持千億級的單表存儲規模,為企業構建強大的 AI 數據中台,打造 RAG 應用基礎設施。
湯道生:如何打破企業内卷
湯道生在會上指出,目前國内企業面臨着内外部多重挑戰,甚至陷入 " 内卷式競争 " 的困境,但如果蛋糕不增長,結果就是 " 零和 " 遊戲。
他認為,企業要想實現增長,關鍵在于打破常規,探索產業的新發展。
為此,他提出了企業破局增長的三個方向:以數提效、順勢而為、揚帆出海。
具體來說,第一個增長方法是以數提效,聚焦核心場景。湯道生強調,指望大模型在短期内給企業帶來巨大變革并不現實,企業更應該借助 AI 在現有業務場景中提升效率、降低成本,這種穩健的路徑更能夠為企業帶來長遠的競争力。
目前,騰訊的混元大模型已經落地到騰訊 700 多個業務場景中,同時,根據國内大模型評測機構 SuperCLUE 前天發布的最新報告,騰訊混元 Turbo 總分位列國内第一,在 11 個能力項測評中,8 項核心任務排名國内第一,中文場景效果對标 GPT-4o。
第二個增長思路是順勢而為,抓住新產業機會。湯道生表示,國家正大力推動新質生產力的發展,新能源、電動車、消費電子等新興產業蓬勃興起。
在數字產業領網域,國產軟體企業也迎來了前所未有的發展機遇。騰訊雲積極響應國家政策,深耕基礎軟體、雲計算、大數據、人工智能等核心技術領網域,助力國產軟體產業崛起,為企業增長開拓新的機會。
第三個增長機會是揚帆出海,開拓全球市場。當前,越來越多的中國企業将海外市場列為戰略重點。相關機構調研顯示,90% 的企業有意拓展國際業務,四分之一的企業計劃在未來 1 到 3 年内優先布局海外市場。談及企業出海的新機遇,湯道生表示,以 " 雲 " 為載體的中國產業經驗和科技優勢,正在成為企業出海開拓全球市場的有力支撐。
湯道生指出,當前,企業出海模式已經發生轉變,從原來 " 產品出海 " 發展到 " 平台出海 ",供應鏈和商業模式向海外遷移,需要考慮系統、產品、數據和服務的打通,實現 " 全球一盤棋 " 管理,這對數字化基礎設施和管理手段有很高的要求。
自 2016 年開始,騰訊雲開展海外業務,也始終重視技術研發領網域投入,自 2018 年至今 6 年多研發投入累計超過 3000 億元,截至目前,騰訊雲已經打造了遍布全球的雲基礎設施,覆蓋五大洲 21 個地區,運營着 58 個可用區、3200 多個全球加速節點。
目前,騰訊雲已經成功服務 10000 多家海外客戶,國際業務連續三年保持雙位數高速增長。截至目前,騰訊雲在全球範圍内擁有超過 11000 家合作夥伴,這些夥伴貢獻了國際業務 80% 的收入。
頭圖來源:騰訊