今天小編分享的科學經驗:騰訊雲,為何「瞄準」行業大模型?,歡迎閲讀。
大模型方興未艾,行業已經形成一個共識:大模型的價值,在于與各行業、各企業結合,在產業層面廣泛激活生產力。
但實際操作中,會發現事情并沒有那麼簡單:
開發千億參數的超大規模模型,迭代一次就要燒掉幾百萬美元的算力資源,實在拿不出這個資金;
想應用大模型,又不知道自己的行業該用哪種大模型,行業需求、行業數據與大模型怎麼對齊是難題;
自行開發大模型,發現開發難度大,訓練成本、存算成本過高,只要一台伺服器過熱宕機,訓練任務就要重啓;
好不容易訓出的行業大模型,到實際業務中的效果卻未必理想,無法順利部署和應用落地。
曾幾何時,我們認為行業做大模型是短跑比賽,拼的是眼力和速度,只要看準時機、早點入局、快速投入資源開發,就能狂飙突進、成功衝刺。
想必這幾個月的實際情況,已經讓大家越來越意識到,大模型走入千行百業,實際更像一場跨欄賽,要越過一系列障礙,算力資源的性價、基礎模型的選擇、業務場景的結合、開發工具的完備、商業模式的摸索、生态資源的支持等,每一步都是坎,每一步都要緊密銜接,才有可能将行業需求和行業數據,與大模型結合在一起。
為行業拆除應用大模型的一重又一重障礙,騰訊雲帶來了全周期、精細化的提速方案。
6 月 19 日,騰訊雲舉辦行業大模型及智能應用技術峰會,公布了一系列行業大模型方面的技術方案,以及多款 SaaS 智能應用更新、產業客户應用落地進展。
騰訊雲的特殊之處在于,它擁有全面、體系化的大模型技術能力,具備長期服務產業和行業的意識和能力,這使得它可以将行業大模型所需要的非常復雜的、方方面面的資源,鍛造成一塊塊跳板,提供精細化、全周期的完整使能動作。
借此契機,我們來聊聊行業大模型在今天究竟面臨着怎樣的局面?企業需要跨越哪些障礙,才能完成從起跳到落地的完美飛躍,獲得大模型時代的先發優勢?
大模型不能懸浮
所以行業才是方向
首先要回答一個問題,大模型的應用選擇,為什麼聚焦在 " 行業大模型 ",直接調用通用模型的能力不行嗎?可以,但還不夠。
學術角度看,大模型是高耗能、高投入的領網域,不是所有機構和企業都有能力、有必要去研發普适性的通用模型。一位中科院院士曾告訴我,他明确反對遍地開花做通用大模型,這沒有意義,有條件做通用模型的企業,要有全局觀念,為大眾服務,而專業用户最好的選擇是參考大模型的技術架構,通過專業化數據,打造一個低耗能、精度高的專有模型,來解決專業場景的問題。
企業角度看,大部分行業和企業,開發通用模型不實際也沒必要,而直接接入通用模型 API 只能提供簡單的 AI 能力,無法覆蓋產業復雜的智能化場景。這時候,行業大模型最為貼近企業真實需求,可以滿足以下幾點:
1. 更好。将沉澱的垂直行業數據、行業經驗,嵌入到通用大模型中,打造成本更低、精度更好、輸出質量更高的行業大模型。
2. 更專。聚焦資深的業務場景,挑選合适的基礎模型進一步訓練,更精準地解決專有問題,滿足業務和特定用户的需求。
3. 更安全。金融、政務等行業特性,要求大模型系統都進行私有化部署,獨立開發行業大模型,自主可控程度更高。
目前,國內通用大模型已有數十個之多,處于飽和狀态。這麼多大模型,如果不能與產業應用結合,那麼大模型的價值就始終是懸浮的。
只有創造價值的技術才能可持續、高質量發展,大模型不能懸浮。模型應用、產業先行,所以行業大模型是非常重要的發展節點。
行業需要跨欄
所以騰訊雲上手除障
大模型要 " 致用 ",走向行業應用是必然。目前,看到這一應用轉型路徑的大模型廠商不止騰訊一家,其他大模型廠商也開始響應布局。
相信很多企業已經發現了,應用大模型不是一蹴而就的短跑,而是一步又一步跨越障礙的跨欄比賽,從起跳開始的每一個動作,都需要投入很大的力氣去拼搏。
而一些非數字原生行業和中小型企業,其開發能力和資源,很難支持這樣前途未卜的漫漫探索。眼看着大模型技術正在成為數字化時代的關鍵競争力,這麼多企業只能踟蹰不前,内心是非常焦慮的。
騰訊雲的差異化特點是以全周期、一站式的精細化賦能,把行業大模型所需要的基礎資源、技術支持、工具組件等整合到一起,變成雲上緊密銜接的一個個跳板,行業和企業不需要自己費力去四處尋覓幫手、拆除障礙。在騰訊雲上,打造專屬大模型的每一步,都能獲得幫助,更高效、低成本地完成研發落地。
我們從行業大模型的訓練和使用過程,來看看騰訊雲的跳板,是如何銜接的:
首先,起跳階段,平台好用。
大模型的訓練成本依舊偏高,距離產業場景還有不短的路程,比如超大規模模型在部署時會面臨一系列問題,如算力、調參難度、硬體兼容性等。
騰訊雲多年深耕產業互聯網,在基礎設施上早有布局,騰訊雲最新高性能大規模計算集群發布,算力性能較前代提升 3 倍,滿足大模型的算力需求。
同時,提供高質量的行業大模型,從產業鏈上遊就解決大數據、大算力、大模型的能力挑戰。基于騰訊雲 TI 平台,企業可以結合自身場景數據按需定制精調,也可以根據自身需求開展多模型訓練任務,快速構建自己的專屬大模型。
其次,過欄階段,工具易用。
大模型不會自己從實驗室跳到行業中去,需要開發人員将大模型技術與業務場景結合,這個空白地帶沒有清晰明确的路線規劃,仿佛身體騰空後四周皆是方向,具體落點只能靠企業自己摸索。這個時候,使用雲廠商專業工具,一體化的模型服務,探索的效率比較高,成功率也更高。
為此,騰訊雲一站式機器學習平台 TI-ONE,提供完善的大模型工具鏈,包括數據标注、訓練、評估、測試和部署等全套工具,同時具備強大的多機多卡訓練加速能力,客户可快速在 TI-ONE 平台上進行一站式的大模型精調,高效率、高品質、低成本地創建和部署 AI 應用。
最後,落地階段,行業愛用。
很多大模型與行業結合的實踐更偏向案例性質,企業難免會嘀咕:我跟案例中的企業情況很不一樣,同樣的行業大模型真的适合我嗎?實現行業大模型與業務的适配,騰訊雲的解題思路是:量體裁衣。
依托騰訊雲 TI 平台,為客户提供 MaaS(Model-as-a-Service)一站式服務,打造一站式行業大模型精選商店和 " 量體裁衣、普惠适用 " 的行業模型解決方案,全面降低落地門檻,助力客户構建專屬大模型及智能應用。
更貼身、更完善的配套裝務和方案,自然能為客户掃清落地障礙,對應用行業大模型多一點興趣。目前,騰訊雲聯合行業頭部企業,為 10 大行業輸出了超過 50 個解決方案。
可以看到,騰訊雲在行業大模型所做的每一件事,都緊緊圍繞着一個字—— " 用 "。 将自己化身成一個個緊密銜接的跳板,作為台階,拆除訓練專屬模型的障礙物,幫助行業大模型成功 " 跨欄 ",實現從研到用、從實驗室到千行百業的飛躍。
騰訊雲的全周期賦能,也推動行業大模型從 " 野蠻生長 ",進入 " 精細化時代 "。
應用需要信心
所以騰訊雲率先垂範
説了這麼多,行業大模型究竟好不好用,能不能轉化為企業生產力和競争力呢?這一切還是要靠實踐來檢驗。
我們知道,騰訊雲支撐的騰訊生态,本身就有多樣化的業務,生态内部的應用,對騰訊雲行業大模型的能力體系,進行了練兵。
在此基礎上,騰訊雲行業大模型相關能力已經對外實踐,讓大模型深度擁抱現實,也證明了行業大模型走向應用的可能與價值。
目前來看,行業大模型已經為騰訊雲的行業夥伴,帶來了一些清晰的價值:
1. 效率更高。某頭部文旅客户,基于騰訊雲文旅行業大模型能力,結合自身場景數據,通過騰訊雲 TI 平台進行精調,構建了專屬的文旅客服大模型,提升客服問題解決率,降低用户轉人工客服的比例,服務效率更高。
2. 在傳媒領網域,央視基于騰訊雲智能媒體 AI 中台,部署了 TI 平台原生模型服務,引入自研 " 标籤權重引擎 ",讓内容标籤顆粒度更細、理解度更深、泛化性更高。在行業内率先發揮行業大模型強大的跨模态理解能力,可以做到以文搜圖、以文搜視頻等應用,讓内容生產更加高效。
3. 成本更低。某商業銀行,日常業務流程中涉及到大量的銀行回單、交易發票、跨境匯款申請書、業務往來郵件、傳真等數據,人工處理耗時長、效率低、成本高、易出錯,非常希望通過大模型來實現單據信息的自動化錄入、匹配、分析和校對,降本增效。實踐中,該客户利用騰訊雲 -OCR 大模型,在單據處理場景,實現對各種格式數據的高精度識别,識别準确率 95% 以上,減少低價值高耗時手工作業,節省運營人力成本。
4. 服務更優。基于騰訊雲教育行業大模型能力,上海大學結合自身場景數據,通過騰訊雲 TI 平台進行精調,構建了專屬的教育行業大模型,首個場景聚焦招生專業咨詢和規章制度咨詢,為學生提供質量更高的,覆蓋在校生、畢業生全生命周期的服務。
可以看到,行業大模型深入應用,騰訊雲生态中的實踐還在不斷增多,讓大模型的行業認可度節節攀升,為規模化應用建立共識和信心。
數字經濟方興未艾
所以大模型才剛剛開始
此前,科技部等六部門聯合印發了《關于加快場景創新以人工智能高水平應用促進經濟高質量發展的指導意見》,随後又公布了《關于支持建設新一代人工智能示範應用場景的通知》,着力解決人工智能重大應用和產業化問題,讓人工智能充分賦能經濟社會發展。
不難看出,以產業場景為先導,實現 AI 技術的行業落地與規模化應用,正在成為目前 AI 發展的主要任務,大模型作為 AI 基礎設施也必須落地到行業當中,促進社會生產力的爆發。
狄更斯説:" 這是一個最好的時代,也是一個最壞的時代。"
對千行百業來説,有望利用大模型構築差異化優勢,增強競争力,迎來一個更好的時代,大膽擁抱大模型,勢在必行。這個過程中,如果盲目投入、單打獨鬥,面對大模型的高成本、開發復雜、場景融合、商業轉化等現實門檻,是很難獨自跨越的。
從 " 野蠻生長 " 到 " 精細化時代 ",用最适配自身的賦能方案,每一步都得到 " 跳板 " 的助力,可以更平穩、輕松的姿态,跨越重重障礙,完成行業大模型的價值釋放和精準落地。
騰訊雲所帶來的,就是這樣一個又一個 " 跳板 ",一條雲上的無障礙跳躍通道,讓越來越多的行業可以免除後顧之憂,向大模型時代勇敢起跳、成功落地。
>