今天小编分享的科学经验:腾讯云,为何「瞄准」行业大模型?,欢迎阅读。
大模型方兴未艾,行业已经形成一个共识:大模型的价值,在于与各行业、各企业结合,在产业层面广泛激活生产力。
但实际操作中,会发现事情并没有那么简单:
开发千亿参数的超大规模模型,迭代一次就要烧掉几百万美元的算力资源,实在拿不出这个资金;
想应用大模型,又不知道自己的行业该用哪种大模型,行业需求、行业数据与大模型怎么对齐是难题;
自行开发大模型,发现开发难度大,训练成本、存算成本过高,只要一台伺服器过热宕机,训练任务就要重启;
好不容易训出的行业大模型,到实际业务中的效果却未必理想,无法顺利部署和应用落地。
曾几何时,我们认为行业做大模型是短跑比赛,拼的是眼力和速度,只要看准时机、早点入局、快速投入资源开发,就能狂飙突进、成功冲刺。
想必这几个月的实际情况,已经让大家越来越意识到,大模型走入千行百业,实际更像一场跨栏赛,要越过一系列障碍,算力资源的性价、基础模型的选择、业务场景的结合、开发工具的完备、商业模式的摸索、生态资源的支持等,每一步都是坎,每一步都要紧密衔接,才有可能将行业需求和行业数据,与大模型结合在一起。
为行业拆除应用大模型的一重又一重障碍,腾讯云带来了全周期、精细化的提速方案。
6 月 19 日,腾讯云举办行业大模型及智能应用技术峰会,公布了一系列行业大模型方面的技术方案,以及多款 SaaS 智能应用更新、产业客户应用落地进展。
腾讯云的特殊之处在于,它拥有全面、体系化的大模型技术能力,具备长期服务产业和行业的意识和能力,这使得它可以将行业大模型所需要的非常复杂的、方方面面的资源,锻造成一块块跳板,提供精细化、全周期的完整使能动作。
借此契机,我们来聊聊行业大模型在今天究竟面临着怎样的局面?企业需要跨越哪些障碍,才能完成从起跳到落地的完美飞跃,获得大模型时代的先发优势?
大模型不能悬浮
所以行业才是方向
首先要回答一个问题,大模型的应用选择,为什么聚焦在 " 行业大模型 ",直接调用通用模型的能力不行吗?可以,但还不够。
学术角度看,大模型是高耗能、高投入的领網域,不是所有机构和企业都有能力、有必要去研发普适性的通用模型。一位中科院院士曾告诉我,他明确反对遍地开花做通用大模型,这没有意义,有条件做通用模型的企业,要有全局观念,为大众服务,而专业用户最好的选择是参考大模型的技术架构,通过专业化数据,打造一个低耗能、精度高的专有模型,来解决专业场景的问题。
企业角度看,大部分行业和企业,开发通用模型不实际也没必要,而直接接入通用模型 API 只能提供简单的 AI 能力,无法覆盖产业复杂的智能化场景。这时候,行业大模型最为贴近企业真实需求,可以满足以下几点:
1. 更好。将沉淀的垂直行业数据、行业经验,嵌入到通用大模型中,打造成本更低、精度更好、输出质量更高的行业大模型。
2. 更专。聚焦资深的业务场景,挑选合适的基础模型进一步训练,更精准地解决专有问题,满足业务和特定用户的需求。
3. 更安全。金融、政务等行业特性,要求大模型系统都进行私有化部署,独立开发行业大模型,自主可控程度更高。
目前,国內通用大模型已有数十个之多,处于饱和状态。这么多大模型,如果不能与产业应用结合,那么大模型的价值就始终是悬浮的。
只有创造价值的技术才能可持续、高质量发展,大模型不能悬浮。模型应用、产业先行,所以行业大模型是非常重要的发展节点。
行业需要跨栏
所以腾讯云上手除障
大模型要 " 致用 ",走向行业应用是必然。目前,看到这一应用转型路径的大模型厂商不止腾讯一家,其他大模型厂商也开始响应布局。
相信很多企业已经发现了,应用大模型不是一蹴而就的短跑,而是一步又一步跨越障碍的跨栏比赛,从起跳开始的每一个动作,都需要投入很大的力气去拼搏。
而一些非数字原生行业和中小型企业,其开发能力和资源,很难支持这样前途未卜的漫漫探索。眼看着大模型技术正在成为数字化时代的关键竞争力,这么多企业只能踟蹰不前,内心是非常焦虑的。
腾讯云的差异化特点是以全周期、一站式的精细化赋能,把行业大模型所需要的基础资源、技术支持、工具组件等整合到一起,变成云上紧密衔接的一个个跳板,行业和企业不需要自己费力去四处寻觅帮手、拆除障碍。在腾讯云上,打造专属大模型的每一步,都能获得帮助,更高效、低成本地完成研发落地。
我们从行业大模型的训练和使用过程,来看看腾讯云的跳板,是如何衔接的:
首先,起跳阶段,平台好用。
大模型的训练成本依旧偏高,距离产业场景还有不短的路程,比如超大规模模型在部署时会面临一系列问题,如算力、调参难度、硬體兼容性等。
腾讯云多年深耕产业互联网,在基础设施上早有布局,腾讯云最新高性能大规模计算集群发布,算力性能较前代提升 3 倍,满足大模型的算力需求。
同时,提供高质量的行业大模型,从产业链上游就解决大数据、大算力、大模型的能力挑战。基于腾讯云 TI 平台,企业可以结合自身场景数据按需定制精调,也可以根据自身需求开展多模型训练任务,快速构建自己的专属大模型。
其次,过栏阶段,工具易用。
大模型不会自己从实验室跳到行业中去,需要开发人员将大模型技术与业务场景结合,这个空白地带没有清晰明确的路线规划,仿佛身体腾空后四周皆是方向,具体落点只能靠企业自己摸索。这个时候,使用云厂商专业工具,一体化的模型服务,探索的效率比较高,成功率也更高。
为此,腾讯云一站式机器学习平台 TI-ONE,提供完善的大模型工具链,包括数据标注、训练、评估、测试和部署等全套工具,同时具备强大的多机多卡训练加速能力,客户可快速在 TI-ONE 平台上进行一站式的大模型精调,高效率、高品质、低成本地创建和部署 AI 应用。
最后,落地阶段,行业爱用。
很多大模型与行业结合的实践更偏向案例性质,企业难免会嘀咕:我跟案例中的企业情况很不一样,同样的行业大模型真的适合我吗?实现行业大模型与业务的适配,腾讯云的解题思路是:量体裁衣。
依托腾讯云 TI 平台,为客户提供 MaaS(Model-as-a-Service)一站式服务,打造一站式行业大模型精选商店和 " 量体裁衣、普惠适用 " 的行业模型解决方案,全面降低落地门槛,助力客户构建专属大模型及智能应用。
更贴身、更完善的配套裝务和方案,自然能为客户扫清落地障碍,对应用行业大模型多一点兴趣。目前,腾讯云联合行业头部企业,为 10 大行业输出了超过 50 个解决方案。
可以看到,腾讯云在行业大模型所做的每一件事,都紧紧围绕着一个字—— " 用 "。 将自己化身成一个个紧密衔接的跳板,作为台阶,拆除训练专属模型的障碍物,帮助行业大模型成功 " 跨栏 ",实现从研到用、从实验室到千行百业的飞跃。
腾讯云的全周期赋能,也推动行业大模型从 " 野蛮生长 ",进入 " 精细化时代 "。
应用需要信心
所以腾讯云率先垂范
说了这么多,行业大模型究竟好不好用,能不能转化为企业生产力和竞争力呢?这一切还是要靠实践来检验。
我们知道,腾讯云支撑的腾讯生态,本身就有多样化的业务,生态内部的应用,对腾讯云行业大模型的能力体系,进行了练兵。
在此基础上,腾讯云行业大模型相关能力已经对外实践,让大模型深度拥抱现实,也证明了行业大模型走向应用的可能与价值。
目前来看,行业大模型已经为腾讯云的行业伙伴,带来了一些清晰的价值:
1. 效率更高。某头部文旅客户,基于腾讯云文旅行业大模型能力,结合自身场景数据,通过腾讯云 TI 平台进行精调,构建了专属的文旅客服大模型,提升客服问题解决率,降低用户转人工客服的比例,服务效率更高。
2. 在传媒领網域,央视基于腾讯云智能媒体 AI 中台,部署了 TI 平台原生模型服务,引入自研 " 标签权重引擎 ",让内容标签颗粒度更细、理解度更深、泛化性更高。在行业内率先发挥行业大模型强大的跨模态理解能力,可以做到以文搜图、以文搜视频等应用,让内容生产更加高效。
3. 成本更低。某商业银行,日常业务流程中涉及到大量的银行回单、交易发票、跨境汇款申请书、业务往来邮件、传真等数据,人工处理耗时长、效率低、成本高、易出错,非常希望通过大模型来实现单据信息的自动化录入、匹配、分析和校对,降本增效。实践中,该客户利用腾讯云 -OCR 大模型,在单据处理场景,实现对各种格式数据的高精度识别,识别准确率 95% 以上,减少低价值高耗时手工作业,节省运营人力成本。
4. 服务更优。基于腾讯云教育行业大模型能力,上海大学结合自身场景数据,通过腾讯云 TI 平台进行精调,构建了专属的教育行业大模型,首个场景聚焦招生专业咨询和规章制度咨询,为学生提供质量更高的,覆盖在校生、毕业生全生命周期的服务。
可以看到,行业大模型深入应用,腾讯云生态中的实践还在不断增多,让大模型的行业认可度节节攀升,为规模化应用建立共识和信心。
数字经济方兴未艾
所以大模型才刚刚开始
此前,科技部等六部门联合印发了《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》,随后又公布了《关于支持建设新一代人工智能示范应用场景的通知》,着力解决人工智能重大应用和产业化问题,让人工智能充分赋能经济社会发展。
不难看出,以产业场景为先导,实现 AI 技术的行业落地与规模化应用,正在成为目前 AI 发展的主要任务,大模型作为 AI 基础设施也必须落地到行业当中,促进社会生产力的爆发。
狄更斯说:" 这是一个最好的时代,也是一个最坏的时代。"
对千行百业来说,有望利用大模型构筑差异化优势,增强竞争力,迎来一个更好的时代,大胆拥抱大模型,势在必行。这个过程中,如果盲目投入、单打独斗,面对大模型的高成本、开发复杂、场景融合、商业转化等现实门槛,是很难独自跨越的。
从 " 野蛮生长 " 到 " 精细化时代 ",用最适配自身的赋能方案,每一步都得到 " 跳板 " 的助力,可以更平稳、轻松的姿态,跨越重重障碍,完成行业大模型的价值释放和精准落地。
腾讯云所带来的,就是这样一个又一个 " 跳板 ",一条云上的无障碍跳跃通道,让越来越多的行业可以免除后顾之忧,向大模型时代勇敢起跳、成功落地。
>