今天小编分享的科技经验:腾讯云更新AI全家桶,混元对标GPT-4o,欢迎阅读。
9 月 5 日,2024 腾讯全球数字生态大会在深圳国际会展中心举行。
在大会上,腾讯集团高级执行副总裁、云与智慧产业事业群 CEO 汤道生披露了腾讯云过去一年的成绩:与伙伴共同服务的客户数超过 200 万家,百万级订单的合作伙伴数量实现两位数增长,众多 SaaS 伙伴收入翻倍,国际业务增速也保持在两位数以上。
此外,在 AI 方面,腾讯云这次也公布了一系列进展。首先是发布了新一代大模型 " 混元 Turbo",相较前代,混元 Turbo 性能大幅提升:训练效率提高 108%,推理效率提升 100%,推理成本降低 50%,目前,混元 Turbo 已在腾讯云上线,提供多个版本供企业和开发者使用。
同时,在大会上,腾讯云还发布了 AI infra 品牌 " 腾讯云智算 ",一个集计算、存储、网络为一体的高性能智能计算平台,提供了领先的 AI 计算能力;并推出了 RAG 解决方案,支持企业用多种技术 " 量身定制 "AI 大模型应用,进一步拓展了 AI 应用的灵活性和适用范围。
而面对国内企业所面临的更普遍的 " 内卷式竞争 " 的困境,汤道生在会上还提出了「破局增长」的三个方向:以数提效、顺势而为、扬帆出海,建议企业应聚焦核心场景提升效率、抓住新产业机会、开拓全球市场,探索产业新的发展机遇。
对标 GPT-4o,腾讯混元再更新
在这次大会上,腾讯发布了新一代大模型 " 混元 Turbo",相较前代,混元 Turbo 性能大幅提升:训练效率提高 108%,推理效率提升 100%,推理成本降低 50%。效果在多个基准测试上对标 GPT-4o,且第三方测评居国内第一。
目前,混元 Turbo 已在腾讯云上线,提供 Turbo、Pro、Standard、Lite 等多个版本,企业和开发者可以直接在云上接入使用,输入和输出价格仅为前代模型的一半。混元 Turbo 还开放了代码生成、角色扮演、Functioncall 等功能,企业可通过腾讯云 TI 平台对模型进行精细调整,实现定制化应用。
汤道生表示,随着大模型与生成式 AI 的技术突破,图片、视频、语言的理解与生成已经有很大进步,人与人的沟通、人与系统的互動方式,都可能会被重塑。最近半年,产业界的关注点也从模型技术的本身转向了智能应用的落地。
据了解,腾讯已经构建起了全链路的大模型产品矩阵,包括基础设施、专属模型训练平台 TI、行业大模型解决方案、自研混元大模型,以及一系列基于大模型的智能应用。
会上,腾讯 AI 应用 " 元宝 " 品牌智能体专区正式上线,首批邀请 11 家合作伙伴入驻,涵盖工作提效和生活娱乐等多个场景,用户可在 " 腾讯元宝 "APP 上直接进行体验。
" 面向场景创造价值才是大模型发展的意义。" 腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声表示,大模型已经在全球发展了两年,一方面,模型性能不断提升,围绕着模型的产品使用门槛变得更低、更加易用;另一方面,企业积极探索大模型与自身业务场景的结合,大模型的落地场景变得更丰富、更纵深。
目前,腾讯已经有 700 多款产品接入混元大模型,包含腾讯元宝、腾讯云、QQ、微信读书、腾讯新闻、腾讯客服等。此前,腾讯旗下协作 SaaS(軟體即服务)产品已全面接入腾讯混元大模型。
同时,腾讯全矩阵的大模型产品目前已经在知识管理、智能客服、研发提效、智能营销、内容生成、办公协同、风险管控等落地。
新发布 AI infra 品牌 " 腾讯云智算 " 和 RAG 解决方案
在大会上,腾讯云还发布了 AI infra 品牌 " 腾讯云智算 ",并推出了 RAG 解决方案,进一步展示了其在 AI 计算基础设施和大模型应用定制上的能力。
" 腾讯云智算 " 是腾讯云打造的集计算、存储、网络为一体的高性能智能计算平台。该平台整合了腾讯云高性能计算 HCC、高性能网络 IHN 星脉、高性能云存储、加速框架、容器、向量数据库等多项腾讯云的优势产品,提供了性能领先、多芯兼容、灵活部署的 AI 计算能力。
在稳定性和性能上,腾讯云的集群千卡单日故障数已经刷新到 0.16,是行业水平的 1/3;1 分钟就能完成万卡 checkpoint 写入,数据读写效率是业界 10 倍;千卡集群的通信时间缩短到 6%,是业界一半。
同时,通过整合软硬體技术能力,腾讯云智算集群从机器上架到开始训练可以做到只需 1 天,相比业界以月为部門也大为缩短。
腾讯云智算的灵活性也体现在其支持多种云部署方式,包括公有云、私有云和分布式云,使其成为国内大模型厂商的优选解决方案,同时也帮助大量 IDC 厂商向 AIDC 转型。
除了 " 腾讯云智算 ",腾讯云这次还发布了 RAG 解决方案,支持企业用多种技术 " 量身定制 "AI 大模型应用。
该方案包括兼容 Elastic 开源生态的腾讯云智能搜索(腾讯云 Elasticsearch Service)以及腾讯云自研的向量数据库,帮助企业根据架构、数据类型和技术生态灵活选择合适的组件。
腾讯云智能搜索提供了从模型管理、向量生成、向量存储、混合搜索、结果重排到大模型集成的全链路 RAG 能力。企业仅需使用 Elastic 的技术栈,就能快速搭建 AI 应用。
该技术已经成功支持了微信读书的 "AI 问书 " 功能,为亿级用户提供毫秒级的检索服务,同时相比传统解决方案大幅降低了 90% 的机器成本。
针对数据规模大、数据类型多样的企业,腾讯云的向量数据库提供 2 倍于行业平均水平的吞吐能力和毫秒级响应延迟,支持千亿级的单表存储规模,为企业构建强大的 AI 数据中台,打造 RAG 应用基础设施。
汤道生:如何打破企业内卷
汤道生在会上指出,目前国内企业面临着内外部多重挑战,甚至陷入 " 内卷式竞争 " 的困境,但如果蛋糕不增长,结果就是 " 零和 " 游戏。
他认为,企业要想实现增长,关键在于打破常规,探索产业的新发展。
为此,他提出了企业破局增长的三个方向:以数提效、顺势而为、扬帆出海。
具体来说,第一个增长方法是以数提效,聚焦核心场景。汤道生强调,指望大模型在短期内给企业带来巨大变革并不现实,企业更应该借助 AI 在现有业务场景中提升效率、降低成本,这种稳健的路径更能够为企业带来长远的竞争力。
目前,腾讯的混元大模型已经落地到腾讯 700 多个业务场景中,同时,根据国内大模型评测机构 SuperCLUE 前天发布的最新报告,腾讯混元 Turbo 总分位列国内第一,在 11 个能力项测评中,8 项核心任务排名国内第一,中文场景效果对标 GPT-4o。
第二个增长思路是顺势而为,抓住新产业机会。汤道生表示,国家正大力推动新质生产力的发展,新能源、电动车、消费电子等新兴产业蓬勃兴起。
在数字产业领網域,国产軟體企业也迎来了前所未有的发展机遇。腾讯云积极响应国家政策,深耕基础軟體、云计算、大数据、人工智能等核心技术领網域,助力国产軟體产业崛起,为企业增长开拓新的机会。
第三个增长机会是扬帆出海,开拓全球市场。当前,越来越多的中国企业将海外市场列为战略重点。相关机构调研显示,90% 的企业有意拓展国际业务,四分之一的企业计划在未来 1 到 3 年内优先布局海外市场。谈及企业出海的新机遇,汤道生表示,以 " 云 " 为载体的中国产业经验和科技优势,正在成为企业出海开拓全球市场的有力支撑。
汤道生指出,当前,企业出海模式已经发生转变,从原来 " 产品出海 " 发展到 " 平台出海 ",供应链和商业模式向海外迁移,需要考虑系统、产品、数据和服务的打通,实现 " 全球一盘棋 " 管理,这对数字化基础设施和管理手段有很高的要求。
自 2016 年开始,腾讯云开展海外业务,也始终重视技术研发领網域投入,自 2018 年至今 6 年多研发投入累计超过 3000 亿元,截至目前,腾讯云已经打造了遍布全球的云基础设施,覆盖五大洲 21 个地区,运营着 58 个可用区、3200 多个全球加速节点。
目前,腾讯云已经成功服务 10000 多家海外客户,国际业务连续三年保持双位数高速增长。截至目前,腾讯云在全球范围内拥有超过 11000 家合作伙伴,这些伙伴贡献了国际业务 80% 的收入。
头图来源:腾讯