今天小編分享的科學經驗:以全棧智算擁抱生态,為AIGC種一棵向上生長的巨榕,歡迎閲讀。
榕樹,被稱為百木之王。它既有極深的根,又有繁茂的葉。只要一棵榕樹長成,就能夠獨木成林,遮天蔽日。更可貴的是,榕樹可以為樹蔭下繁茂的生态提供支撐,形成 " 一榕生,萬物長 " 的格局。
開年以來,OpenAI 推出了炸裂的 Sora 文生視頻模型,再一次将 AIGC 技術競賽的天花板拉高,科技巨頭蘋果也宣布大力投資生成式 AI。
種種迹象都表明,狂飙了一年的 AIGC,仍在吸引大量行業和企業的湧入,我們已經很少見到科技與互聯網公司説他們不關心大模型、不想做 AI。
然而,在大模型及 AIGC 的落地實踐中,大型政企會面臨一個困難局面:既希望确保 AI 技術與基礎設施全棧可靠,具有高自主、高安全的特征,同時又希望接入開放多元的生态,滿足行業專屬場景定制化、個性化需求,實現生态化發展。
如何幫助政企平衡二者的發展?今天的 AIGC 和大模型,需要一棵榕樹般根深葉茂的支撐。其中,根,就是 AI 技術;葉,則是 AI 生态。
產業用好 AIGC、激活新質生產力的現實需求,也驅動着基礎設施服務商們不斷更新。
以新華三為例,就選擇将 AI 技術的 " 根 " 扎得很深很牢,又要讓 AI 產業生态枝繁葉茂,催生應用落地繁榮生長。
如何更快地利用 AI 技術長出新質生產力,是這個春天很多企業都在思考的問題。那麼不妨一起來看看新華三是如何以端到端的全棧智算解決方案助萬物生長。
根要深,葉要茂
政企 AI 之路的挑戰
在讨論新華三這棵 AI 巨榕之于產業的價值之前,我們有必要先了解一下,從 2023 年春季的爆火,AIGC 狂飙一年之後,如今的政企所面對的技術與產業背景。
整體來看,中國大模型和 AIGC 產業已經達到了驚人的成就,相關應用也開始嘗試向具體的業務場景探索,展現出強勁的增長态勢。大模型、AIGC 作為新質生產力,目前已經成為各行各業的共識。
然而這一年來的落地實踐,也讓我們看到了存在于國内 AI 產業的深層隐憂:大型政企、科研院校做 AI 大模型,有着三大難以兼顧的發展挑戰。
1. 技術不易貫通。AI 及大模型訓練,是一項復雜且技術密集的任務,要求異構算力的深度整合以及高效的分布式并行計算,其中的技術挑戰層出不窮。比如異構算力意味着要将不同類型的計算硬體,如 GPU、FPGA 甚至 ASIC,進行有效協同。然而,不同硬體之間的接口、通信協定以及優化方法各不相同。此外,分布式并行訓練要求在多個計算節點之間,實現數據的快速傳輸和同步。網絡延遲、數據不對稱以及節點故障等問題,都可能影響到訓練的性能和穩定性。可以説,想要利用多種計算資源來提供算力,必須實現對分布式并行計算的 " 一體化 " 貫通 / 協作,以滿足模型訓練的復雜需求,這是做 AI 的首要難關。
2. 信息安全無法保障。AI 作為新質生產力,與各行各業的結合才剛剛開始,其中包括大量國計民生關鍵行業。訓練 AI 模型時,往往需要使用大量的用户數據,這些數據可能包含商業機密或隐私信息,在公網域環境下,如何确保這些數據不被泄露或濫用,成了一個巨大的挑戰。此外,AI 的訓練推理都十分依賴高性能計算硬體及相關軟體,人工智能基礎設施的供應鏈韌性與安全性難以保障,也是很多企業的顧慮所在。
3. 生态難以發展。我們知道,大型政企或實體行業在落地 AI 時,需要的軟硬體很多,往往會考慮一攬子工程。這時,一個繁榮且富有活力的 AI 生态,可以為政企提供多樣化的 AI 產品和服務。但生态建設需要各方以開放的态度,願意共享資源,攜手合作創新,而目前部分科技巨頭更希望将生态夥伴鎖定在自身的軟硬體體系内,這讓很多不想 " 把雞蛋放在一個籃子 " 的政企,無法加速擁抱 AI 的腳步。
不難看出,生态的融合是部署 AIGC 能力落地、推進智能化更新的關鍵。
有沒有一種可行的解決辦法,能同時實現三者的兼顧與平衡,幫助政企加速部署 AI 能力呢?今天的新華三,就提供了一種解題思路:
端到端的全棧的靈犀智算解決方案,如同一顆 AI 巨榕。新華三選擇将 AI 之根扎進深處,打造安全堅實的 AI 軟硬體底座;用一體化的技術枝幹,讓 AI 開發使用全棧貫通;将生态之葉伸向蒼穹,攜手優選生态模型,孕育出 AI 應用與服務的繁花萬千。
技術之根深入大地
一棵堅韌不拔的 AI 之榕
政企做 AI 最擔心的是什麼?一開始引入 AI 應用或大模型很容易,但那只是 " 首付 "。AI 技術與業務場景的結合,需要長時間的适配、迭代、更新。如果在這個過程中,出現了 " 算力買不到 "" 模型用不了 " 的風險,會給相關業務和服務帶來持續的危機。因此,一個高可靠、高安全的 AI 基礎軟硬體生态,對于政企市場來説必不可少。
堅韌不拔的 AI 巨榕,必須将技術牢牢扎根。目前,業界已形成共識,那就是我國的 AIGC 行業可以分為基礎設施層、模型層和應用層三個層級結構。但能夠将三層一體貫通的廠商仍屬少數。新華三發布的靈犀智算解決方案,就是新華三自身所打造的、面向 AI 時代的全棧技術體系,在這個體系裏,三個層面将一體貫通,讓技術之根向下扎入底層創新、向上抵達應用末梢。
首先是基礎設施層。
如前所説,單一的計算資源,難以滿足 AIGC 及大模型的訓練需求,需要綜合利用多種計算硬體,而将不同架構、不同類型的計算資源有效地整合并實現協同工作,是一個巨大而重要的問題。尤其是自 2024 開年 Sora 文生視頻大模型驚豔亮相以來,更強大的 AIGC 模型與萬億參數規模 LLM 的研發進程還将進一步加速,中國算力瓶頸的突圍變得愈發緊迫。對此,新華三利用自身的技術積累,充分發揮 " 算力 × 聯接 " 的乘數效應,将新華三領先的算力和聯接技術進行最佳的調優與配合,帶來倍增的技術整合優勢和智算效率,放大智算資源價值,發揮 AIGC 應用的最大潛能。
" 算力多元化 ",聚合多種算力資源,提供 CPU 和 GPU 多元化選擇,滿足市場與客户的多樣化需求,并加強供應鏈的供給保障。
" 聯接标準化 ",推動聯接标準化,通過伺服器内、外部 GPU 聯接标準化,實現異構 GPU 的智算集群,降低算力部署和應用的成本,并通過軟體生态的标準化,打通智算孤島,促進資源共享與產業共同繁榮。
這一智算底座,将為 "AI 巨榕 " 下的政企用户們,提供源源不斷的算力 " 養分 "。
其次是模型層。
去年,新華三推出國内首個面向 To B、To G 領網域的私網域大模型百業靈犀(LinSeer),支持在私網域環境下進行數據分析和模型訓練,可以确保政企客户在安全、專屬的環境下使用大模型,解決了很多國計民生行業的後顧之憂。今年,新華三在模型層上有了更顯著的提升,首先是在知識蒸餾上,以推動模型基座小型化實現數據高精度、高質量和高表現,其次是在輸出校準上,以精煉模型回答提升用户體驗,同時針對特定場景設計專用算法,增強 AI 使用的精準度,最後是在模型使能上,通過模型、知識、應用及安全等多層次的融合,解決更加復雜的問題。
然後是應用層。
想要讓更多行業用户能夠輕松上手,降低使用成本至關重要。因此,新華三打造了一站式靈犀應用使能平台(LinSeer Hub),可實現多元模型組合管理、AI Agent 開發、模型服務等功能,能夠靈活兼容新華三百業靈犀私網域大模型及其他國内外主流模型,不斷降低 AI 使用門檻,助力政企客户快捷構建智能應用,實現 " 模型使用自由 "。
總的來説,依托新華三這棵 AI 之榕,政企可以一站式獲得覆蓋各層級的軟硬體支持,讓自身的 AI 能力快速生根發芽。
生态之葉繁茂參天
百行百業的智能生長
但如前文所説,構建一個開放的 AI 生态實屬不易。對于投入了大量資源的 AI 廠商來説,将 AI 開發者、ISV 服務商、客群關系都綁定在自身的生态内,可以更早地建立競争壁壘,實現商業回報。但這也給 AI 使用者和政企客户帶來了不便,比如無法靈活選擇更适合自己的大模型,難以得到充分及時的技術支持。
在一個開放多元的繁榮生态中,政企用户可以收獲更多。為什麼這麼説?我們可以從新華三今天的回答中找到一些解題思路。
新華三提出 "1+N" 大模型策略(即百業靈犀私網域大模型 +N 個優選通用大模型和行業細分大模型),代表着将以開放兼容的态度,攜手業内各垂直領網域的傑出者,共同推動 AIGC 應用發展。AI 不是閉門造車,作為一個方興未艾的產業,AI 高度依賴于產業各方的深度合作,匯聚多方智慧和資源,共同攻克技術難題,推動 AI 技術向應用轉化。因此,開放協作是 AI 創新的源泉。
更多選擇。新華三結合行業應用場景,優選 N 個生态大模型,百行百業客户可以在這裏找到全套彈性擴展方案,靈活地滿足自身業務對個性化、專屬化的 AI 需求,而無需擔心只能使用某一廠商的模型,有着更充分的選擇空間。
更高效益。豐富多元化的產業生态,也為政企客户提供了更具成本優勢、效益優勢的產品和服務。比如在醫療、交通、制造等領網域,新華三都提出了端到端的 AI 解決方案,助力客户實現數字化轉型的智能化更新。
更多資源。政企的智能化更新是一個長期的綜合工程,其間的創新迭代更新,需要一系列的技術、人才、金融、政策等支持,遠離產業集群會大大增加成本。新華三與各地政府合作,打造全國知名的 AIGC 產業發展先行區、產業集聚地和人才新高地——圖靈小鎮,讓各地形成有影響力的 AI 產業集群。目前 " 圖靈小鎮 " 模式已在杭州、鄭州、鹹陽等多地先行落地。
都説 " 背靠大樹好乘涼 ",總體來看,依托新華三所打造的開放、多元的繁榮生态體系,政企的智能化更新之路,也會走得更穩、更輕松、更可持續。
一榕參天,萬物生長
以大模型為首的人工智能技術是新一輪科技革命和產業變革的重要驅動力量,為各行各業注入源源不斷的新質生產力,是很多企業不想錯過、不敢錯過的技術大潮。
面向大型政企私網域部署的需求,新華三已經培育出了一棵天時地利的參天巨榕。從核心底層技術支撐、安全可靠 AI 大模型部署方案,到開放的生态選擇、合作機制間的貫通,實現了技術可信、安全可靠、生态可依的兼顧與平衡。
在 AIGC 時代快節奏、高效率的進程中,以新華三為代表的 ICT 廠商,将為百行百業提供新質生產力的動能。
" 一榕參天,萬物生長 ",堅韌而生機勃勃的 AI 巨榕,正向我們袒露出一片智能時代的盎然春意。