今天小编分享的互联网经验:腾讯推出新一代大模型“混元Turbo”,性能大幅提升,定价低 50%,欢迎阅读。
9 月 5 日,腾讯宣布推出新一代大模型 " 混元 Turbo",相比前代模型,腾讯混元 Turbo 性能有显著提升,训练效率提升 108%,推理效率提升 100%,推理成本降低 50%,解码速度提升 20%,效果在多个基准测试上对标 GPT-4o,第三方测评居国内第一。
在腾讯全球数字生态大会上,腾讯公司副总裁、云与智慧产业事业群 COO 兼腾讯云总裁邱跃鹏宣布,腾讯混元 Turbo 在腾讯云上线,输入和输出价格只有前代模型的一半,企业和开发者可以直接在云上接入使用。
目前,腾讯混元在腾讯云上提供了多种尺寸的模型服务,通过 API、专属模型、精调模型等接入和使用方式面向企业及个人开发者全量开放。腾讯混元在云上提供了 Turbo、Pro、Standard、Lite 等多个版本;在专属模型上开放了代码生成、角色扮演、Functioncall 等;企业也可以通过腾讯云 TI 平台对腾讯混元进行精调。
从去年开始,腾讯混元在国内率先采用 MoE 结构,并在这一技术路线上持续更新,通过自研的万亿级层间异构 MoE 结构,在模型不同层采用不同的专家个数和不同的激活参数量,同时优化训练数据,使得新一代模型混元 Turbo 在效果和性能上均实现大幅度的提升。跟前代模型相比,复杂数学解决能力提升 38%,代码能力提升 32%。
9 月 2 日,中文大模型测评基准 SuperCLUE 发布《中文大模型基准测评 2024 年 8 月报告》,腾讯混元 Turbo 凭借在多个核心任务上的出色表现,总得分居国内大模型第一名。作为国内成绩最好的模型,腾讯混元 Turbo 在理科、文科均居于第一名。在围绕复杂任务和高阶推理的 Hard 任务上,腾讯混元 Turbo 表现出色,取得 74.33 分,是国内唯一超过 70 分的大模型,仅与 ChatGPT-4o 有微小差距。
据了解,腾讯混元大模型正在积极推进内部应用落地,目前腾讯内部近 700 个业务及场景已接入,包含腾讯元宝、腾讯云、QQ、微信读书、腾讯新闻、腾讯客服等。此前,腾讯旗下协作 SaaS 产品全面接入腾讯混元大模型。