今天小編分享的科學經驗:千行百業用AI大模型,為什麼火山引擎是聚處?,歡迎閱讀。
" 角兒是座兒叫出來的 ",這句話不僅适合相聲藝術,也很符合 AI 大模型商業化的現狀。
今年以來," 大模型落地 " 成為 AI 和雲產業的高頻詞。避免 " 叫好不叫座 ",讓 AI 大模型更快地融入行業場景之中,被各行各業真正用起來,是當務之急。
行業用戶多、落地案例豐富的大模型及 AI 服務生态,才算完成從實驗室到商業化的閉環,才能在市場競争中站穩腳跟。
最近恰逢 2024 火山引擎 AI 創新巡展,來到了天津站,分享豆包大模型的最新進展,并攜手南開大學發布教育行業大模型應用開發平台。豆包大模型成功走進 " 象牙塔 ",打造了 "AI+ 教育 " 的落地标杆。
另外值得一提的是一組最新數據,截至 7 月,豆包大模型平均每家企業客戶日均 Tokens 使用量,較 5 月 15 日模型發布時期增長了 22 倍。在零售、汽車、智能終端等行業,都攜手企業用戶,落地了不少 AI 實踐。
火山引擎,讓 AI 大模型越來越 " 叫座 ",在行業智能化中扮演着越來越重要的角色。
傳統相聲曲藝界有句話,叫 " 北京是出處,天津是聚處 "。天津并非相聲發源地,卻将相聲藝術發揚光大。有人說,因為天津觀眾的欣賞眼光高,接受住天津觀眾的考驗,才算在相聲界站穩腳跟。
我們也不妨就從南開大學的 "AI+ 教育 " 實踐開始,看看火山引擎到底經受了哪些考驗,才最終在行業站穩了腳跟。
要說哪些行業對 AI 技術和服務的要求較高,教育行業一定排在前列。
簡單來說,教育行業的用戶數字素養普遍比較高,對數字服務和體驗的要求也更高。而且,由于教學信息化、數字化變革早,科研任務的數據量大,高校數字基礎設施建設也相對成熟,對 AI 的需求更多在于如何提升教學 / 管理 / 服務水平。
所以,AI 大模型要融入教育場景,帶來用戶體驗和管理效率上的實際提升,收獲認可,并不是一件容易的事。
以南開大學為例,通過深入的調研和測試,最終選擇與火山引擎合作,為師生的學習、工作和生活提供更加便捷、高效的服務。
此次 "AI+ 教育 " 實踐,體現出三個特點:
1. 融合程度深。南開大學利用火山引擎的 AI 技術,改革教學、科研及管理體系,打造國内首個全面融合大模型能力的智慧校園,在全國範圍内屬于先例,具有标杆意義。
2. 落地範圍廣。目前,雙方已經在 "AI 技術設施 " 與 "AI 管理服務 " 兩個場景,落地一批 "AI+ 教育 " 場景化應用,如教學場景中的 " 大學語文學習助手 "" 編程實訓助手 ",服務場景的 " 新一代校園 AI 智能融合門戶 "" 部門服務助手 ",以及管理場景中的 " 數據管理助手 ",全面滿足南開師生在教學和服務場景下的智慧學習、智能辦事、教學咨詢、數據查詢、知識答疑等需求。
3. 更新難度小。此次南開大學的智能化更新,火山引擎幫助建設了先進的 AI 基礎設施,全力優化 AI 總體技術服務的底座與能力,提供了從硬體算力到開發工具、推理部署的一系列系統。這個完備的 AI 服務生态,讓南開大學可以更聚焦于自身擅長的能力和行業經驗,減少了智能化更新的難度。
比如已經落地的南開大學大模型應用開發平台,現已開放給南開的廣大師生,使用大語言模型變成像使用 Windows 作業系統一樣簡單、易用,教育智能化的創新速度和效率,自然也就大大提高了。
目前來看,一系列 AI 賦能項目的實施和 AI 應用的落地,讓南開大學在教學質量、科研效率和校園管理等方面都取得了顯著進步。
(南開大學副校長、教授、博士生導師方勇純)
南開大學副校長、教授、博士生導師方勇純表示:" 南開大學攜手火山引擎,共同探索‘ AI+ 教育’的創新模式,落地一批 AI 應用場景,培養一支高水平的 AI 人才隊伍,全場景擁抱大模型,推進‘數字南開’智慧校園建設。"
可以看到,火山引擎的全棧 AI 技術服務生态,已經在海河之濱,點亮了一座 AI 在教育行業的落地燈塔。
與南開大學的合作中,火山引擎輸出的不只有豆包大模型,還有火山方舟大模型服務平台、HiAgent AI 應用創新平台以及 AI 全棧雲等多種能力。這并不是孤例,而是很多行業引入 AI 的普遍現象。
随着以大模型為主的 AI 技術不斷進化,涉及的相關技術體系也越來越龐雜,行業想要引入 AI,需要考慮到算力資源、成本、開發工具、應用等方方面面,每一個環節都可能形成阻礙。這就使得行業從以往單一地采購硬體、算力或技術,轉變為系統性地引入 AI 能力。
這時候,綜合能力過硬的火山引擎,就迎來了驚豔亮相的舞台機會。
相聲藝術的基本功是說學逗唱,火山引擎也在大模型落地行業場景時用到了三大基本功。
(火山引擎副總裁 張鑫)
功力一:更強模型。
行業用戶最擔心的,就是模型效果不達預期,無法在真實的生產環境中,利用大模型的理解、生成等能力,為業務提質增效。解決辦法,就是把 AI 能力構築在足夠先進的模型底座上。
智源研究院旗下的 FlagEval 大模型評測平台 6 月發布的評測榜單顯示,在閉源大模型的 " 客觀評測 " 中,豆包大模型以綜合評分 75.96 分排名國產大模型第一,并且還在不斷更新演進。2024 火山引擎 AI 創新巡展-上海站最新數據顯示,豆包大模型綜合能力提升了 20.3%,角色扮演等 6 個維度性能最高提升 38.3%,可以支撐行業用戶構建更優質的語音對話、文本理解與生成、影像識别等 AI 應用。發布 2 個月以來,平均每家企業客戶日均 Tokens 使用量增長 22 倍。建立在規模使用量上的 " 數據飛輪 " 轉動起來,模型能力持續領先。
功力二:更易落地。
在實際業務中,AI 大模型面臨的環境更復雜、幹擾源也更多,因此算法的準确率、魯棒性等也會受影響,行業用戶要真正把 AI 用起來,還需要結合知識庫、專有數據、finetune 進一步優化。
讓 AI 落地無憂,火山引擎打造了從算力到應用的一系列平台和解決方案。比如一站式大模型服務平台火山方舟,提供模型精調、推理、評測等全方位功能與服務;模型層,豆包大模型家族,提供豐富的垂類模型,适配多種業務場景;應用層,企業級 AI 應用開發平台扣子專業版,提供專業級 SLA 和多種高級特性,使 AI 應用更易落地。AI 應用創新平台 HiAgent,讓業務人員可以輕松構建智能體,适配企業個性化需求,簡化 AI 應用創新。火山引擎 AI 全棧雲依托字節跳動的海量資源共池,支持多芯、多雲架構,擁有超大規模算力,解除 " 買不到、買不起 " 算力的後顧之憂。
在此次天津站活動中,不僅南開大學分享了基于火山引擎全棧雲與 AI 服務的智慧校園應用探索,中國國航、協和醫院也分享了 AI 賦能業務的相關實踐。
功力三:更低價格。
随着 AI 走向各行各業和生產環境,日常訓練和推理的使用量不斷增大,成本也變成了行業用戶在引入 AI 時最關注的要素之一。模型價格高,試錯成本高,會阻礙行業 AI 應用創新的意願和行動。因此,更普惠的 AI 才是行業真正需要的。
幫助企業卸下成本負擔,火山引擎一方面從當前入手,直接削減大模型推理成本,通過技術手段優化,讓豆包大模型在各家大模型最強版本價格對比中,比行業價格低 98% 以上;另一方面着眼于長期使用,提供業内最高标準的初始 TPM(每分鍾 Tokens)和 RPM(每分鍾請求數),每分鍾處理 Tokens 限額最高可達同梯隊模型數倍,以更低價格、更高吞吐,讓大模型在生產環境中用起來。
" 叫好又叫座 " 的 AI,不僅是發布會和實驗室裡碾壓同行的漂亮數據與排名,更要走上行業舞台、直面群眾,變成實際的案例與價值。
這是 AI 商業化所必須解決的挑戰,也是雲和模型廠商猛攻的新賽道。而火山引擎,已經亮出了具有說服力、全面而深厚的 AI 功底。
行之有效的行業案例,可以證明大模型确實有實用價值,才能推動各行各業 " 移風易俗 ",向 AI 奔湧而來。
從這個角度看,已經在教育、零售、汽車、智能終端等領網域點亮了 AI 燈塔的火山引擎,正吸引着越來越多的行業客戶奔赴而來,為什麼?
首先," 燈塔式 " 案例,可以照亮前路。當行業用戶不知道 AI 有什麼用、怎麼用,這些示範案例可以像燈塔一樣指明方向,讓其他同類用戶直接 " 抄作業 ",減少創新的不确定性。
除了與南開大學進行 "AI+ 教育 " 探索,火山引擎還在零售領網域,推出了解決方案,包括以豆包大模型為基礎的智能導購、VOC 洞察分析、零售客服質檢、零售客服陪練、練播房提升主播帶貨水平、企業商品知識庫等技術和工具,助力零售智能化更新和業務增長。
在汽車行業,2024 年 8 月梅賽德斯 - 奔馳與火山引擎合作,探索大模型、生成式人工智能和大數據等技術在智能座艙、車載應用等領網域的落地。
有了這些案例,行業用戶或許可以更勇敢一點,積極擁抱 AI。
" 燈塔 " 給出了更新方向,千行萬業用戶還要在陌生的智能航路上,獨自探索,其間可能遭遇的暗礁與孤獨感,這時則呼喚着夥伴同行。
為行業護航,火山引擎不僅親自出馬,搭建了完整的 AI 服務生态體系,也格外重視生态聯盟的建設。
今年 5 月成立的智能終端大模型聯盟,吸引了 OPPO、vivo、三星、華碩等多個廠商,共同探索 AI 智能硬體的新路線;同月成立的汽車大模型生态聯盟,除了一汽紅旗、吉利、長城等車企外,還包括中國電動汽車百人會等行業組織也都加入,圍繞汽車大模型應用場景及路徑、汽車大模型行業标準、汽車大模型評估體系建設落地,行業白皮書發布等方向為汽車行業創新合作發展帶來新模式。
8 月成立的零售大模型生态聯盟,則以 AI 互動為核心,将聯合零售上下遊企業,重新定義購買、營銷、產品、供應鏈等場景,加速零售業的運營和周轉效率,全面提升消費者的購物體驗,推動行業進步發展。
上述生态聯盟的意義在于,能夠聚合產業的變革力量,讓行業用戶不再是 AI 路上的獨行者。
火山引擎的一系列生态化動作,正推動 AI 從落地企業,進入到了落地產業的新階段,讓智能化從一家企業、一個行業的探索,變成整個產業都在加速擁抱的未來。而火山引擎自身,也成為連接 AI 與產業的核心樞紐。
或許未來,當我們回顧這段產業智能化的更新歷程會說:火山引擎,既是 AI 技術的出處,也是千行百業的聚處。