大酷樂
  • 汽车
  • 理财
  • 军事
  • 科技
  • 游戏
  • 互联网
  • 娱乐
  • 财经
  • 科学
  • 社会
  • 亲子
  • 电影
  • 健康
  • 教育
  1. 首頁
  2. 互联网

AI Agent浪潮下,昇腾与科大讯飞携手开辟AI落地“新航路”

2025-03-29 简体 HK SG TW

今天小编分享的互联网经验:AI Agent浪潮下,昇腾与科大讯飞携手开辟AI落地“新航路”,欢迎阅读。

昇腾与科大讯飞等行业领跑者,正在各个维度开放合作,验证大模型的落地应用进程,持续向千行百业输出新质生产力,有望形成 " 模型越强、落地越多、用户越广、算力越大 " 的增长飞轮,掀起一股不可逆的产业革命。

撰文|顾青云

编辑|沈菲菲

过去两个月里,大模型产业出现了两个现象级热点:

一个是 DeepSeek 催生的大模型开源浪潮,用工程创新和技术平权的方式加速了 AI 普惠化的进程。

另一个是 AI Agent 产品的出圈,让 AI 从被动响应走向主动规划和执行,甚至是跨场景的复杂任务。

传递到产业端,"2025 年将是 AI Agent 元年 " 的说法渐渐成为共识,业界对于大模型落地的态度从 " 观望 " 转向了行动。同时也在深度影响产业的竞争逻辑,进入到了技术摸高和落地应用的并行模式。

在不久前落幕的昇腾人工智能伙伴峰会上,一直走在 AI 产业最前沿的昇腾与科大讯飞强强联手,为 AI 在千行万业的加速落地开辟出一条 " 新航路 "。

01.

跨越落地鸿沟,首先要懂大模型

大模型的产业图景不可谓不诱人,但和业务场景之间仍存在一条鸿沟。

根据 Gartner、埃森哲、波士顿咨询等权威咨询机构的报告:当前仅有 25% 的 AI 试点项目能够规模化推广、60% 的企业在 AI 项目中技术与实际场景需求脱节、60% 的中型企业因算力不足或云服务成本过高,无法支撑模型训练……这些问题不被解决,大模型的落地应用就无从谈起。

首先需要厘清的是:为什么会存在落地鸿沟?

可以找到的答案似乎有很多。对大模型认识不全面乃至有认识误区,难以挖掘出对大模型的应用需求;由于保密、隐私保护等需要,缺少高质量的行业数据;接入大模型需要对现有系统进行改造,增加了实施的复杂性;将大模型融入现有业务流程和系统架构,涉及大量的开发和测试工作……

原因不一而足,但指向了同一个症结:对许多企业来说,大模型还是一个陌生的 " 新物种 "。这为大模型产业中的赋能者们提出了一个基本要求——想做 " 摆渡人 ",首先要懂大模型。

而昇腾和科大讯飞恰恰是其中的佼佼者。

在昇腾人工智能伙伴峰会上,科大讯飞副总裁娄超深度解读了双方从模型训练到推理过程中攻克的一个又一个技术难题。

比如 2023 年 10 月发布的首个国产智能算力集群 " 飞星一号 ",就解决了大规模集群训练的诸多 " 疑难杂症 "。特别是在超大规模集群网络通信带宽利用率方面,昇腾和科大讯飞的联合突破瓶頸,让 " 飞星一号 " 的网络通信带宽利用率达到了 95%,有效提升了大模型训练过程中卡间数据和模型权重传输的效率。

当长思考能力将 scaling 延展到推理,Tokens 已经成为衡量推理系统的唯一标准,集群推理成为大模型推理系统的标配,系统既要确保用户的低时延响应,又需要提高整体吞吐,以最大化推理的经济价值。

为了实现大模型推理的极致效率,昇腾从算子到推理系统全面创新。针对 MoE 架构,国内首创大规模专家并行方案,通过将 MoE 模型的多专家权重数据分散部署到更多的卡上,降低单卡权重加载时延,让模型解码输出更快,同时解决了吞吐性能、通信开销等挑战。

2025 年 3 月中旬,昇腾与科大讯飞率先实现了 MoE 模型的大规模专家并行集群推理,将深度推理类模型端到端的训练效率提升了 30%,超大规模集群网络通信带宽的利用率提升至 95%,单卡静态内存占用仅为双机部署的 1/4,推理吞吐性能提升了 3.2 倍,端到端时延降低了 50%。

窥一斑而知全豹。

作为国内为数不多走完了大模型训练到落地全流程的企业,昇腾和科大讯飞踩过了大模型训练到推理部署的每一个坑,积累了从数据清洗到算力调度,再到高效部署、推理加速的全流程经验,趟出了一条从技术创新到场景融合的新路线。

02.

场景化一体机:让落地更加便捷

对于中小型企业而言,可能没有训练行业大模型的需求,怎么才能拉近他们和新质生产力的距离呢?

时间回到 2025 年 2 月末,科大讯飞联合昇腾发布了全新更新的训推一体机和推理一体机,可兼容讯飞星火和 DeepSeek 双模型,同时内置了模型微调工具链、知识蒸馏工具链、精品智能体等工具,进一步缩短了大模型的落地流程,加速了大模型能力到产业生产力的转化。

对比其他落地方式,大模型一体机提供的是 " 开箱即用 " 的选项,无需花费大量时间精力配置和优化硬體环境,无需深入了解底层的算法和框架细节,无需担忧 " 数据上云 " 带来的安全问题……在很大程度上缩短了部署周期、降低了落地门槛。

不过问题也出现了,大模型和场景的融合,不是简单部署一套大模型就可以了,而是要明确场景,把数据用好。往往因缺少模型选型、场景落地的经验,企业在大模型实际落地应用中常常会遇到 " 最后一公里 " 的障碍。

昇腾和科大讯飞深谙其中的道理,解题的思路可以归纳为一句话——围绕目标场景需求做创新、做产品。

聚焦政务办公场景,科大讯飞和昇腾创合作推出的 AI 政务办公一体机,内置公文写作、政策檔案解读、数据分析、中英互译等 4 种大模型场景应用,目前已经在安徽、湖北等地落地应用;AI 政务综窗一体机内置了超过 4500 个办事项语料、2000 个办事相关政策法规,事项推荐准确率高达 90%,咨询回答准确率高达 95%,大幅提升了政务效率。

面向法院的庭审场景,科大讯飞和昇腾联合推出了星火法律笔录精简一体机,学习了数万书记员的笔录资料,并基于海量法律数据训练模型,打造了集智能笔录规整、语义理解、自动校对、重点提取的一站式解决方案。截至目前,星火法律笔录精简一体机已经在全国 100 多个法院试点,合作深化庭审场景的深度应用。

不只是对单一场景的满足,还有城市级的综合解决方案。

面向城市 AI 应用的讯飞星火塔式一体机,通过讯飞星火、DeepSeek 和 Qwen 三擎模型驱动,依托行业大模型解决方案,可满足政务、警务、司法、社工等城市智能应用需求;集行业模型 " 资源池 "、生态场景 " 集聚地 "、大模型开发 " 服务站 "、产业供需 " 链接器 " 于一体的城市人工智能公共服务平台,深入赋能城市产业的发展。

正如科大讯飞董事长刘庆峰多次在公开场合提及的:" 无论大模型如何演进,最后一公里的产品体验和应用落地,才是真正的挑战。"

就结果来看,昇腾和科大讯飞已然找到了解决路径,从云端的大模型服务到打造行业大模型的全套工具链,再到面向不同场景的一体机,大模型正在深入解放生产力、解放每一家企业的想象力。

03.

写在最后

杰弗里 · 摩尔在《跨越鸿沟》中将 " 技术采用生命周期 " 的客户群体抽成了五类,分别是创新者、早期采用者、早期大众、后期大众和落后者。

目前的大模型正处于从早期采用者向早期多数过渡的阶段,也就是 " 鸿沟 " 所在的阶段。相较于模型层的你追我赶,一场更重要的博弈在于怎么将创新迅速 " 扩散 " 到产业中,乃至可以说比创新更重要的,是创新的扩散。

乐观的是,昇腾、科大讯飞等行业领跑者,正在各个维度开放合作,验证大模型的落地应用进程,持续向千行百业输出新质生产力,有望形成 " 模型越强、落地越多、用户越广、算力越大 " 的增长飞轮,掀起一股不可逆的产业革命。

主理人 | 张贺飞(Alter)

前媒体人、公关,现专职科技自媒体

钛媒体、36kr、创业邦、福布斯中国等专栏作者

转载、商务、开白以及读者交流,请联系个人微信「imhefei」

熱門排行
  • 王治郅:杨瀚森主要的问题是速度 他 王治郅:杨瀚森主要的问题是速度 他 郟君昊 | 2025-05-05
  • 贸易战烧进电影院:特朗普拟重税打击 贸易战烧进电影院:特朗普拟重税打击 習又夏 | 2025-05-05
  • 贷款追高炒黄金的人后悔了!有人一天 贷款追高炒黄金的人后悔了!有人一天 寸飛蘭 | 2025-05-05
  • 手机电池突破8000mAh?硅碳技术的回 手机电池突破8000mAh?硅碳技术的回 衛青柏 | 2025-05-05
  • 贷款追高炒黄金的人后悔了!有人一天 贷款追高炒黄金的人后悔了!有人一天 繁綺文 | 2025-05-05
  • 任天堂对Genki提起Switch 2商标侵 任天堂对Genki提起Switch 2商标侵 郜萌運 | 2025-05-05
  • 哪吒汽车APP和官网恢复正常 知情人 哪吒汽车APP和官网恢复正常 知情人 袁曼雁 | 2025-05-05
  • 极越汽车 CEO 夏一平名下青岛/义乌 极越汽车 CEO 夏一平名下青岛/义乌 集玲琳 | 2025-05-05
  • 全国经济第一大省明确,推动组建农商 全国经济第一大省明确,推动组建农商 佼昌翰 | 2025-05-05
  • 桑保利:亚马尔有配合意识&有点像梅 桑保利:亚马尔有配合意识&有点像梅 甄正浩 | 2025-05-05
  • 高露现身上海虹桥机场 黑色外套点缀亮色爱心装饰俏皮亮眼 高露现身上海虹桥机场 黑色外套点缀亮色爱心装饰俏皮亮眼 惠惠君 | 2023-05-02
  • 《歧路旅人2》:向光而生 《歧路旅人2》:向光而生 衛青柏 | 2023-05-02
  • vivo X90S曝光:处理器更新为天玑9200+ 安卓最强芯 vivo X90S曝光:处理器更新为天玑9200+ 安卓最强芯 袁曼雁 | 2023-05-05
  • “懒癌”发病率上升,定期体检别忽视 “懒癌”发病率上升,定期体检别忽视 幸聽楓 | 2023-05-02
  • 宋慧乔获百想视后 韩素希发图手动加爱心表情庆祝 宋慧乔获百想视后 韩素希发图手动加爱心表情庆祝 賁芳蕤 | 2023-05-02
  • 曹操墓,里面都有啥? 曹操墓,里面都有啥? 衛青柏 | 2023-05-02
  • 十年了,他们终于要HE! 十年了,他们终于要HE! 惠惠君 | 2023-05-07
  • 中央部署经济工作,释放5大信号 中央部署经济工作,释放5大信号 郜萌運 | 2023-05-02
  • 高德上线手机弯道会车预警功能 高德上线手机弯道会车预警功能 習又夏 | 2023-05-02
  • 陈自瑶抱病为爱女做蛋糕庆生,王浩信点赞没露面 陈自瑶抱病为爱女做蛋糕庆生,王浩信点赞没露面 賁芳蕤 | 2023-05-02
  • 等比例长大的童星,李兰迪算一个 等比例长大的童星,李兰迪算一个 郟君昊 | 2023-05-02
  • 这些被抓来做实验的流浪狗,最终拯救了无数糖尿病人 这些被抓来做实验的流浪狗,最终拯救了无数糖尿病人 集玲琳 | 2023-05-02
  • 高端国产车:军车血统,目前电动车越野的“天花板”? 高端国产车:军车血统,目前电动车越野的“天花板”? 謝飛揚 | 2023-05-02
  • 《云襄传》终于抬上来啦,男O女A让人好上头! 《云襄传》终于抬上来啦,男O女A让人好上头! 集玲琳 | 2023-05-02
  • 21家A股游戏公司2022年收入651亿 今年“游戏+AI”能否逆风翻盘? 21家A股游戏公司2022年收入651亿 今年“游戏+AI”能否逆风翻盘? 衛青柏 | 2023-05-04
  • 信用风险释放趋缓,结构性风险需重点关注 ——2023年一季度债市信用风险回顾与下阶段展望 信用风险释放趋缓,结构性风险需重点关注 ——2023年一季度债市信用风险回顾与下阶段展望 袁曼雁 | 2023-05-02
  • 与周立波夫妇闹纠纷成老赖,唐爽被司法拘留15日 与周立波夫妇闹纠纷成老赖,唐爽被司法拘留15日 寸飛蘭 | 2023-05-05
  • 普京签署总统令,批准对俄刑法典相关法条的修正案 普京签署总统令,批准对俄刑法典相关法条的修正案 集玲琳 | 2023-05-02
  • 中银证券给予南京银行增持评级 中银证券给予南京银行增持评级 袁曼雁 | 2023-05-03
  • 解除资格!停止一切合作 解除资格!停止一切合作 佼昌翰 | 2023-05-02
  • 3699起 联想小新mini主机上架 13代酷睿标压处理器 3699起 联想小新mini主机上架 13代酷睿标压处理器 習又夏 | 2023-05-05
  • 前董事长被免,天山生物全面进入“中植系”时代?股价曾在一月内暴涨超400% 前董事长被免,天山生物全面进入“中植系”时代?股价曾在一月内暴涨超400% 惠惠君 | 2023-05-02
  • 疯成这样,怎么还能被全网吹捧? 疯成这样,怎么还能被全网吹捧? 郜萌運 | 2023-05-02
  • 狂吼11次“让一下”!交警咆哮开道嘶吼到吐 狂吼11次“让一下”!交警咆哮开道嘶吼到吐 寸飛蘭 | 2023-05-03
  • 摩根大通收购美国第一共和银行 摩根大通收购美国第一共和银行 謝飛揚 | 2023-05-02
  • 台剧赢麻了,又来一部8.9 台剧赢麻了,又来一部8.9 衛青柏 | 2023-05-02
  • 事关农村土地承包和农民权益,《农村土地承包合同管理办法》5月1日起施行 事关农村土地承包和农民权益,《农村土地承包合同管理办法》5月1日起施行 郟君昊 | 2023-05-02
  • 下降45分,上涨35分!34所自划线院校复试分数线涨幅汇总 下降45分,上涨35分!34所自划线院校复试分数线涨幅汇总 袁曼雁 | 2023-05-07
  • "三高"已盯上青少年,做好这件事是关键 "三高"已盯上青少年,做好这件事是关键 習又夏 | 2023-05-05
  • 五一档没一个能打的 五一档没一个能打的 集玲琳 | 2023-05-05
  • 恐怖韩剧下神坛,这次胆小可入 恐怖韩剧下神坛,这次胆小可入 袁曼雁 | 2023-05-05
  • 这剧是不是用ChatGPT写的呀? 这剧是不是用ChatGPT写的呀? 惠惠君 | 2023-05-02
  • 200户连夜疏散,原因让人愤怒!“损失超一亿”,官方通报 200户连夜疏散,原因让人愤怒!“损失超一亿”,官方通报 袁曼雁 | 2023-05-03
  • 性骚扰惯犯,滚出娱乐圈 性骚扰惯犯,滚出娱乐圈 謝飛揚 | 2023-05-05
  • 48岁何炅自曝已老花眼,黄磊睡前认老,《向往的生活》证实将停办 48岁何炅自曝已老花眼,黄磊睡前认老,《向往的生活》证实将停办 佼昌翰 | 2023-05-02
  • 一个《长月烬明》倒了,《狐妖》《长相思》《与凤行》…在路上了 一个《长月烬明》倒了,《狐妖》《长相思》《与凤行》…在路上了 惠惠君 | 2023-05-02
  • 张天爱假期晒“酷”存照 卷发披肩穿黑色吊带裙大秀好身材 张天爱假期晒“酷”存照 卷发披肩穿黑色吊带裙大秀好身材 嬴覓晴 | 2023-05-02
  • 当年轻人开始不随份子钱 当年轻人开始不随份子钱 袁曼雁 | 2023-05-02
  • 毕滢用8年时间成功逼宫?曾被传已婚生子的她,不容小觑 毕滢用8年时间成功逼宫?曾被传已婚生子的她,不容小觑 幸聽楓 | 2023-05-03
  • 宋慧乔获视后首次晒照,拿奖杯笑容温柔 宋慧乔获视后首次晒照,拿奖杯笑容温柔 郜萌運 | 2023-05-02

©2022 大酷樂 版權所有

隱私政策 | 服務條款 | 聯繫我們