今天小編分享的互聯網經驗:百度的大模型插件,打工人的救星?,歡迎閲讀。
文 | 周鑫雨
編輯 | 鄧詠儀
2023 年 8 月 16 日的百度 2023WAVE SUMMIT,構建大模型開發生态的方法論,代替模型本身成了主角。
總體而言,如今百度基于文心大模型的應用落地嘗試,是把微軟的路子再走了一遍:針對生產力場景發布配套插件和 Copilot,同時建設基于雲的開發者生态。
比如新發布的 5 款插件,對應的是 Bing 和 ChatGPT 接入的近 70 款插件;推出的插件開發工具集和 AI 應用開發套件 Comate Stack,對應的是 Copilot Stack;上線超級助理等插件的百度智能辦公平台 " 如流 ",對應的是接入 Copilot 的 Teams。
旺盛的市場需求和處于高速迭代期的大模型技術,兩者構成了大模型落地應用的主要矛盾——客户們急于用大模型提高生產效率,但尚在發展階段的模型技術迭代速度快,大模型應用落地,首先要面對高昂的迭代成本。
不少廠商找到的解決方案是:插件化。
相較于傳統的應用開發流程,插件無需開發一整套完整系統,通過接口就能提供服務,且易于修改和更新。在某種意義上,插件是 AI 應用創新的最佳載體。
基于這一思路,百度在 2023WAVE SUMMIT 上,圍繞着 " 插件 ",做了從自研,到開發者社區建設,再到落地工作場景的一系列嘗試。
生态建設,是百度強調的另一個重點。
随着大模型發展的進度條從研發快速拉到落地階段,開發者面對的是愈發復雜的產業鏈條,落地應用也對上下遊、軟硬體的協同提出了較高的要求。
作為基礎設施提供者,百度對飛槳開源框架在大模型訓練、推理、硬體适配等方面進行了迭代更新,将文心大模型 3.5 的訓練速度提升至 3 倍,推理速度提升了 30 多倍。其目的在于聚集產業鏈各環節的開發者,基于大模型基座和雲平台進行開發生态的建設。
百度集團副總裁、深度學習技術及應用國家工程研究中心副主任吳甜認為," 經歷半年的時間,我覺得整個行業的角色分工會逐漸明朗。"
" 文心一言 " 疊加制圖 Buff,接入 5 個百度自研插件
除了在 8 月 2 日的文心千帆大模型平台媒體圓桌會議上發布的 " 百度搜索 " 和 " 覽卷文檔 "(原 ChatFile),此次百度還在文心一言上推出了 "E 言易圖 "" 説圖解畫 "" 一鏡流影 " 三款 AIGC 插件,分别應用于圖表生成、圖片生成理解、視頻生成場景。
文心一言使用 " 覽卷文檔 " 插件解讀文檔。圖源:百度
文心一言使用 "E 言易圖 " 插件将文檔中的數據生成餅狀圖。圖源:百度
不過,由于能耗較高,視頻生成插件 " 一鏡流影 " 的内測尚未全面進行。未來,文心一言将開放給更多第三方插件。
飛槳 " 賣水 ",推出大模型插件開發平台
以 5 個自研插件作為開端,百度更想做的,是建立起鏈接上下遊的完整開發者生态。
吳甜認為,目前已經到了建設開發者生态的時機:" 一方面,我覺得核心技術系統本身的成熟度要足夠,才能去支撐生态的建設,文心一言已經到了這個階段;另一方面,生态最大的作用是讓應用更加繁榮。"
依托于 " 文心一言 " 的模型能力,百度面向開發者上線了大模型插件開發平台。平台提供了插件開發工具集(ERINE Bot SDK),可以支持信息服務類、工具類、基于 LLM 的創新類的插件的研發。
ERINE Bot SDK。圖源:百度
與此同時,飛槳 AI Studio 此次推出了星河大模型社區。這就好比國產版的微軟 Azure AI Studio,百度作為大模型應用的 " 賣水人 ",為開發者提供開發、部署、市場推廣等流程服務。
星河大模型社區。圖源:百度
在 " 如流 " 上,做提高生產力的文章
什麼是 AI 時代的 " 殺手級 " 應用?目前業界或許沒有定論。但發展 AI 原生(AI Native)應用是 " 殺手級 " 應用的基礎,愈發成為共識。
所謂的 AI 原生應用,簡單理解就是離開 AI,就無法提供核心能力的應用——這對開發者無疑提出了更高的要求:對原有應用進行簡單迭代是不夠的。
在 2023WAVE SUMMIT,百度交出的原生 AI 答卷,點的是重塑生產力的題。在百度智能工作平台 " 如流 " 上,百度推出了 " 超級助理 " 和 "Comate X 智能編程助手 "。
" 超級助理 " 的功能類似于此前阿裏發布的釘釘魔法棒和飛書發布的 AI 助手 "My AI",可以基于用自然語言輸入的需求,完成文檔處理、聊天内容查找、信息發送等任務。
" 超級助理 " 完成差旅安排。圖源:百度
" 超級助理 " 可對文檔進行分析。圖源:百度
同理,輔助編程的 Comate X 也是基于自然語言描述,生成能實現相應功能的代碼片段。目前,Comate X 支持 30 多種語言和 10 多種 IDE(集成開發環境)。
針對 AI 原生應用的開發,百度也建立了開發者生态。此次推出的 AI 原生應用開發套件 Comate Stack,為開發者提供了評測平台 iEValue、AI 應用開發平台 IPlayground 和數據集托管平台 iDateSet。
值得一提的是,在 Comate Stack 上進行 AI 應用開發,自然語言依然是人機互動的界面。比如開發可以執行休假政策的插件,只需要設定 Prompt、編排流程兩步。
AI 應用開發平台 IPlayground 支持 2 步生成 AI 插件。圖源:百度
AI 應用上線如流,意味着目前兩款生產力工具只有百度員工和幾家大 B 客户能夠使用。但與此同時,這也是如流積極商業化的信号。
百度集團副總裁、百度集團首席信息官李瑩介紹,以超級助理和編程工具鏈為切口,接下來如流也會加大商業推廣力度。