今天小編分享的互聯網經驗:等不來自家大模型,火山引擎先搭了一個模型“貨架”,歡迎閲讀。
文 | 周鑫雨
編輯 | 鄧詠儀
尚未推出自研模型基座的字節跳動,先和第一梯隊的模型廠商攢了個局。
6 月 28 日,字節跳動雲服務平台火山引擎推出了大模型服務平台 " 火山方舟 ",面向企業提供包括精調、評測、推理等在内的模型服務。
這個時間點并不算早。此前,BTA、商湯、360 等國内互聯網企業已經紛紛推出了 MaaS(模型服務)平台,搶占先發優勢。多數 MaaS 平台的服務模式大同小異:以廠商自研的通用大模型或數個行業大模型為基座,再推出相應的模型服務。
姗姗來遲的字節走的是差異化路線。沒有自研模型基座,那就拉強者組局——火山方舟宛如國内第一梯隊模型廠商的 " 陳列櫃 ",集成了智譜 AI、MiniMax、百川智能、出門問問、復旦大學 MOSS、IDEA 研究院、瀾舟科技七家科技公司及科研機構的大模型。
火山引擎總裁譚待
性價比、低成本是火山方舟強調的第一個特性。
随着 AI 賽道從大煉模型的投入期,逐漸到了落地場景的應用期,愈來愈多做 AI 應用的廠商開始重視模型服務的 " 性價比 "。火山引擎總裁譚待在采訪中指出:" 一個企業未來一定會在多個場景應用多個模型,因為每個模型在不同場景性價比是不一樣的。"
與此同時,火山引擎智能算法負責人吳迪判斷,訓練大模型很昂貴,但是從長期來看,模型的推理開銷會超過訓練開銷。
譚待在訪談中打了個比方:大模型好比工資高的博士,不少應用場景則好比小學數學題,付費讓博士去解小學數學題顯然是不合理的——這也迫使不少廠商選擇精調後的中小模型,在獲得媲美大模型效果的同時,降低推理成本。
組團合作的亮點在于,可讓用户像搭積木一樣選擇适應自身業務需求、且具高性價比的模型組合。與此同時,火山方舟還提供了模型精調和評測服務,客户可同時對接多家大模型,并通過自動化和人工評估精調後的模型效果。
數據安全,則是火山方舟強調的第二個特點。
大模型私有化部署是目前最為安全的方案,也是國内客户更容易接受的形式,但也意味着企業将承擔更高的部署成本。為此,火山方舟推出了大模型安全互信計算方案,用計算隔離、存儲隔離、網絡隔離、流量審計等方式保證模型的機密性、完整性和可用性——簡而言之,就是給不同企業的數據分别建了保險櫃。
但相對地,企業也需要犧牲部分的訓練推理速度。吳迪指出,大模型安全互信計算方案适用于對訓練和推理延時要求較低的客户;火山正在與英偉達合作,基于英偉達新一代硬體探索安全方案。
不過,賣模型彈藥的字節,最終仍會親自上大模型的戰場。強調火山引擎本身不訓練模型的同時,譚待表示:" 字節内部其他團隊,如果做好了模型,大概也會上到方舟平台上對外提供,它在方舟上就是眾多模型的一個。"
歡迎交流!
>