今天小编分享的互联网经验:浪潮通软CTO郑伟波:2024是大模型应用年,欢迎阅读。
"2024 年,将是大模型应用年。不要高估新技术的短期影响,也不要低估新技术的长期影响,尤其是大模型。" 浪潮通软副总经理兼 CTO 郑伟波对钛媒体 App 表示。
浪潮通软的判断与行业一致,但目前大模型落地还存在可见的难题与掣肘,人人都在谈论大模型,无论是使用者还是布道者,反观之," 千模大战 " 重点还在基础大模型,在行业领網域场景的应用落地不够,缺乏与业务场景深度融合的垂網域大模型。
大模型落地 B 端,还要闯几道关?
B 端企业客户比 C 端消费者更加务实,仅仅靠对话无法让企业客户为之买单,过去一年,行业集体都处于试错和探索阶段,评估大模型是否值得投入,该怎么投入才能产生更高价值,大模型厂商都在渲染革命性,而企业客户都在看重可行性。
首先是成本,大模型训练和部署成本相对较高,千亿级大模型在企业中的应用仅推理设备就是一笔较大的投入,且大模型带来的收益评价难点也较高,因此如何降低使用成本,如何把控大模型的投入产出平衡,是未来大模型在企业軟體中应用所要持续考虑的。
其次,适用性是关键,知识是核心,通用大模型在企业中的适用场景有限,基于大模型设想的场景往往比较多,但是真正能够落地,真正能够解决真问题,利用大模型的能力做出符合企业需求的应用,核心要看企业的 " 知识 "。对特定行业的深入理解,找到真场景,形成有价值的行业、领網域知识,是大模型在企业应用軟體落地所面临的一大挑战。
再次是数据准确性、可信性,保证数据、知识来源的正确性是前提,大模型输出信息内容的可信、准确是根本目标。此外,企业的知识、数据往往是分散的,隐性的,如何梳理,如何管理也是难题。
此外,生态也是亟待补充,对话问答只是大语言模型应用的一个方面,与系统服务融合,完成各种任务才是关键。企业应用环境复杂,涉及多厂商軟體,大模型和軟體的融合需要协同厂商建立生态,丰富大模型应用插件库。与模型伙伴、行业 ISV 及应用企业多层次全方面的合作共赢,是未来大模型发展趋势。
最后也是最重要的,数据与隐私安全,大模型的研发和应用过程中,存在数据泄露和价值观等多方面的安全风险,特别是调用一些大模型公网 API 服务时,企业用户更有顾虑。即便是私有部署的模型,仍然面临着难以确定大模型返回的数据是否根据使用者的角色进行了数据内容限制的挑战。
" 五个挑战谁先突破,谁就能占得先机。这里面又有两点有为关键,第一是自身大模型能力,第二则是生态。" 郑伟波说,
能力方面,大模型生成的质量、理解推理的准确性、思维链的可控性等等,都要达到一定临界值才能得到广泛持续应用。
在生态方面,要想打造真正好用的大模型,就需要去和各种场景结合,实现各种场景下大模型的应用落地,并持续深度优化,要有更为广泛的开发者在大模型之上构建丰富的应用生态,丰富大模型应用插件库,以开放的姿态推动大模型生态建设。
浪潮海岳大模型:找准定位、场景拉动
浪潮通软于 2023 年 9 月份发布了浪潮海岳大模型 inGPT,定位于企业服务垂網域大模型,并和海岳 PaaS 平台、智能 ERP、工业軟體相结合。
郑伟波表示,自海岳大模型发布之后,我们发现,融合领網域知识非常重要。大模型的知识分三层:通用知识、垂網域知识和企业知识。
浪潮通软在垂網域知识的梳理和沉淀上做了很多工作,这得益于其在大型集团企业经营管理领網域 30 多年的行业深耕,尤其在财务、人力、司库等业务领網域,以及智能制造、粮食仓储、智慧水务、智慧矿山等垂網域行业也有深厚的积累,基于这些领網域实践,沉淀下来了大量领網域专有知识,作为大模型训练数据来源,进而打造深度结合业务的垂網域大模型。
在企业应用方面,私有化是重要场景,企业知识出于安全考虑,一定要放在企业本地,需要在企业端对知识进行管理,对此,浪潮通软也为企业打造了配套的知识化工具,提供模型 " 精调 " 能力。
大模型和应用深度结合也是大模型发展的重要路径之一,海岳大模型和海岳 PaaS 平台、智能 ERP 相结合形成了对话式智能商业分析、智能搜索、智能问答、智能化軟體开发、智能流程自动化等智能化应用,赋能企业智能场景落地。
大模型在企业端落地也需要工程化的支撑,海岳大模型提供企业大模型应用开发平台,封装了一系列知识管理工具集、大模型微调框架、大模型应用插件库、服务编排组件等工具,为企业提供覆盖基础大模型纳管、知识治理、模型管理、服务编排、部署交付、运营维护的全生命周期服务,以自动化的流程和智能化的互動,提高企业的服务质量和效率。
郑伟波认为,浪潮通软在大模型领網域的差异化优势,主要还是体现在采取和应用相结合的策略上,实现垂網域大模型 + 智能应用一体化。
" 大模型与应用的融合需要两边都做出改变,大模型要为应用做出改变,应用也要为大模型能更好的理解、推理、生成,进行架构上的调整,一体化的研发设计是关键优势。例如,我们的 API 为了更好地被大模型识别、编排,在描述和调用方式上都进行了优化。" 他说。
通用大模型赢家是少数,垂網域大模型更有机会
通用大模型的早期热度有多喧嚣,结束得就有多潦草,甚至不起一丝涟漪,一些基础大模型没有调用量,自然消失在市面上。
郑伟波表示,未来大模型的发展还是要以应用为中心,在基础大模型之上,要衍生出更多面向不同领網域、行业和场景的垂網域大模型,实现垂網域大模型的百花齐放,进而支撑上层成千上万甚至数以百万计的 AI 原生应用。
" 最后能够‘跑’出来的大模型要分情况,通用大模型最后能‘跑’出来的,应该是少数头部大模型,而垂網域大模型由于面向多样的领網域、场景和应用,能‘跑’出来大模型会更多。" 他补充道
与此同时,大模型应用正在朝 AI 原生化重构方向发展,OpenAI 推出了可以自定义的 GPTs, 让大家看到了 AI 原生应用雏形, 2024 年 1 月 11 日上线的 GPTStore 应用市场,更确认大模型正成为 AI 作業系統。
基于思维链编排的自主智能体将改变未来軟體形态,成为未来軟體架构的重要发展趋势。未来每个人将拥有更多大模型主动权。随着 AI Agent 与大模型的逐渐演化,自主智能代理越来越强大,AI 原生应用也将助力打造人机融合演进的数字世界和生活。
大模型推动了軟體在开发、互動、运行、运维模式上的变革,軟體产品的智能化程度也随之越来越高。
开发方面,基于大模型,能实现代码自动补全、解释代码并优化、生成单元测试用例、回答编码问题等一系列能力。
互動方面,大模型驱动軟體互動模式从菜单驱动的 GUI 发展到对话驱动的 CUI,开启了軟體智能对话时代。
运行方面,随着大模型与企业应用的融合梯次深化,軟體产品从嵌入智能发展到原生智能,基于思维链编排的自主智能体成为未来軟體架构的重要发展趋势。
运维方面,大模型也为企业 IT 管理打造了智能化的自动驾驶系统。
" 大模型发展才刚刚开始,基础大模型会逐渐向头部聚集,垂網域大模型和应用创新百花齐放,在垂網域大模型之上打造与各行业、领網域深度融合的 AI 原生应用,才能将大模型的价值有效释放。" 郑伟波总结表示。
(本文首发钛媒体 APP 作者|张帅,欢迎添加作者 mr3right 爆料、交流)