今天小编分享的互联网经验:百度的大模型插件,打工人的救星?,欢迎阅读。
文 | 周鑫雨
编辑 | 邓咏仪
2023 年 8 月 16 日的百度 2023WAVE SUMMIT,构建大模型开发生态的方法论,代替模型本身成了主角。
总体而言,如今百度基于文心大模型的应用落地尝试,是把微软的路子再走了一遍:针对生产力场景发布配套插件和 Copilot,同时建设基于云的开发者生态。
比如新发布的 5 款插件,对应的是 Bing 和 ChatGPT 接入的近 70 款插件;推出的插件开发工具集和 AI 应用开发套件 Comate Stack,对应的是 Copilot Stack;上线超级助理等插件的百度智能办公平台 " 如流 ",对应的是接入 Copilot 的 Teams。
旺盛的市场需求和处于高速迭代期的大模型技术,两者构成了大模型落地应用的主要矛盾——客户们急于用大模型提高生产效率,但尚在发展阶段的模型技术迭代速度快,大模型应用落地,首先要面对高昂的迭代成本。
不少厂商找到的解决方案是:插件化。
相较于传统的应用开发流程,插件无需开发一整套完整系统,通过接口就能提供服务,且易于修改和更新。在某种意义上,插件是 AI 应用创新的最佳载体。
基于这一思路,百度在 2023WAVE SUMMIT 上,围绕着 " 插件 ",做了从自研,到开发者社区建设,再到落地工作场景的一系列尝试。
生态建设,是百度强调的另一个重点。
随着大模型发展的进度条从研发快速拉到落地阶段,开发者面对的是愈发复杂的产业链条,落地应用也对上下游、软硬體的协同提出了较高的要求。
作为基础设施提供者,百度对飞桨开源框架在大模型训练、推理、硬體适配等方面进行了迭代更新,将文心大模型 3.5 的训练速度提升至 3 倍,推理速度提升了 30 多倍。其目的在于聚集产业链各环节的开发者,基于大模型基座和云平台进行开发生态的建设。
百度集团副总裁、深度学习技术及应用国家工程研究中心副主任吴甜认为," 经历半年的时间,我觉得整个行业的角色分工会逐渐明朗。"
" 文心一言 " 叠加制图 Buff,接入 5 个百度自研插件
除了在 8 月 2 日的文心千帆大模型平台媒体圆桌会议上发布的 " 百度搜索 " 和 " 览卷文档 "(原 ChatFile),此次百度还在文心一言上推出了 "E 言易图 "" 说图解画 "" 一镜流影 " 三款 AIGC 插件,分别应用于图表生成、图片生成理解、视频生成场景。
文心一言使用 " 览卷文档 " 插件解读文档。图源:百度
文心一言使用 "E 言易图 " 插件将文档中的数据生成饼状图。图源:百度
不过,由于能耗较高,视频生成插件 " 一镜流影 " 的内测尚未全面进行。未来,文心一言将开放给更多第三方插件。
飞桨 " 卖水 ",推出大模型插件开发平台
以 5 个自研插件作为开端,百度更想做的,是建立起链接上下游的完整开发者生态。
吴甜认为,目前已经到了建设开发者生态的时机:" 一方面,我觉得核心技术系统本身的成熟度要足够,才能去支撑生态的建设,文心一言已经到了这个阶段;另一方面,生态最大的作用是让应用更加繁荣。"
依托于 " 文心一言 " 的模型能力,百度面向开发者上线了大模型插件开发平台。平台提供了插件开发工具集(ERINE Bot SDK),可以支持信息服务类、工具类、基于 LLM 的创新类的插件的研发。
ERINE Bot SDK。图源:百度
与此同时,飞桨 AI Studio 此次推出了星河大模型社区。这就好比国产版的微软 Azure AI Studio,百度作为大模型应用的 " 卖水人 ",为开发者提供开发、部署、市场推广等流程服务。
星河大模型社区。图源:百度
在 " 如流 " 上,做提高生产力的文章
什么是 AI 时代的 " 杀手级 " 应用?目前业界或许没有定论。但发展 AI 原生(AI Native)应用是 " 杀手级 " 应用的基础,愈发成为共识。
所谓的 AI 原生应用,简单理解就是离开 AI,就无法提供核心能力的应用——这对开发者无疑提出了更高的要求:对原有应用进行简单迭代是不够的。
在 2023WAVE SUMMIT,百度交出的原生 AI 答卷,点的是重塑生产力的题。在百度智能工作平台 " 如流 " 上,百度推出了 " 超级助理 " 和 "Comate X 智能编程助手 "。
" 超级助理 " 的功能类似于此前阿里发布的钉钉魔法棒和飞书发布的 AI 助手 "My AI",可以基于用自然语言输入的需求,完成文档处理、聊天内容查找、信息发送等任务。
" 超级助理 " 完成差旅安排。图源:百度
" 超级助理 " 可对文档进行分析。图源:百度
同理,辅助编程的 Comate X 也是基于自然语言描述,生成能实现相应功能的代码片段。目前,Comate X 支持 30 多种语言和 10 多种 IDE(集成开发环境)。
针对 AI 原生应用的开发,百度也建立了开发者生态。此次推出的 AI 原生应用开发套件 Comate Stack,为开发者提供了评测平台 iEValue、AI 应用开发平台 IPlayground 和数据集托管平台 iDateSet。
值得一提的是,在 Comate Stack 上进行 AI 应用开发,自然语言依然是人机互動的界面。比如开发可以执行休假政策的插件,只需要設定 Prompt、编排流程两步。
AI 应用开发平台 IPlayground 支持 2 步生成 AI 插件。图源:百度
AI 应用上线如流,意味着目前两款生产力工具只有百度员工和几家大 B 客户能够使用。但与此同时,这也是如流积极商业化的信号。
百度集团副总裁、百度集团首席信息官李莹介绍,以超级助理和编程工具链为切口,接下来如流也会加大商业推广力度。