端侧AI，风起移动智能计算

今天小编分享的科学经验：端侧AI，风起移动智能计算，欢迎阅读。

过去一年来，消费电子领網域最火爆的关键词，就是端侧 AI。

大模型，具有强大的理解、生成能力；终端设备，是人与 AI 的首选互動入口。二者碰撞之下，让端侧成为大模型落地的最佳途径，甚至没有之一。越来越多的手机、PC、汽车等消费电子终端厂商，将 AI 技术应用到自己的产品和服务中，而端侧 AI 的繁荣景象离不开一个核心支撑点——计算平台（芯片）。

端侧算力，从芯而来。所以高性能芯片，是端侧 AI 持续繁荣的源头力量，也是高通希望借助技术创新、生态合作所推动的方向。

前不久恰逢骁龙峰会举办，我们看到高通公司继续强化终端侧 AI 产品布局和对国内大模型的支持。不仅宣布了与智谱、腾讯混元等大模型厂商的合作，共同推动端侧 AI 模型部署和落地。此外，还推出了面向 AI 手机的骁龙 8 至尊版移动平台和面向智能汽车的骁龙至尊版汽车平台。

高通公司总裁兼 CEO 安蒙表示，AI，尤其是生成式 AI，是移动计算领網域最大的变革之一；高通关注生成式 AI，尤其关注 AI 如何改变计算体验，边缘侧将如何发展，及其如何带来颠覆性的创新周期，致力于将 AI 为先的体验带入每一个计算空间。

端侧 AI 的时代风口，源于高通为代表的移动计算，与 AI 深深地拥抱。我们不妨就从高通打造 AI 为先的体验这一方向入手，去寻找端侧 AI 向前一步的源头力量。

2024 年伊始，PC、手机、汽车等消费电子品类都开始积极与大模型相结合，打造全新的 AI XX 硬體，端侧 AI 由此进入集中爆发阶段。

可以说，大模型打开了一个消费电子领網域的全新风口，而深入风眼中心，我们会看到一支推动端侧 AI 酝酿并成熟的关键力量——移动计算。

端侧 AI 之于云侧 AI 的不可替代性，是大模型在本地进行计算，避免数据上云，解决用户数据和隐私安全的顾虑；实时性更强，游戏、摄影、AIGC 等应用在端侧处理的时延更低、反馈更快、体验更好。

进入 2024，OpenAI、智谱、腾讯混元等第一梯队的模型厂商都认识到了大模型落地端侧的价值与桎梏，纷纷推出更小规模、更高性能的模型版本。虽然大模型在积极小型化，但受到端侧计算能力、内存空间等限制，模型的减配、压缩也会折损标准通用基础大模型的性能表现。

大模型的端侧部署，十分依赖于端侧计算平台提供强大性能，支撑超大规模的数据运算量，并在性能与功耗之间实现平衡。

让大模型更好地适配端侧，成了移动计算领網域的首要任务，高通正在积极地解决中。

在前不久的骁龙峰会上，高通宣布和智谱、腾讯混元合作，共同推动端侧 AI 模型部署和落地。我们能从高通的全新动作中，看到移动计算 + 大模型的三个变化：

变化一：更丰富的端侧 AI 能力。骁龙 8 至尊版的 NPU 性能比上一代提升了 45%，强大的性能可以同时运行多个 AI 工作负载，这意味着更多基于大模型的 AI 应用能够在端侧部署。

变化二：更优质的端侧智慧体验。高通为骁龙 8 至尊版配备目前最高速的 LPDDR5x 内存，解决了内存顾虑。目前，腾讯混元正通过和高通合作，推动 7B 和 3B 的混元大模型在终端部署。

变化三：更健壮的端侧 AI 生态。AI 开发者是端侧 AI 持续繁荣不可或缺的角色，高通为开发者准备了基于自身硬體的高效开发工具，包括高通 AI 軟體栈（AI Stack）和 AI Hub，与腾讯混元和智谱 AI 达成合作，帮助模型厂商在高通硬體上更好地释放平台算力，支持 AI 开发者轻松地将 AI 模型集成到应用程式中。

根据骁龙峰会高通公布的数据，充分利用骁龙 8 至尊版的强大终端侧 AI 性能和高通 AI 軟體栈为模型带来的性能优化，智谱 GLM-4V 端侧视觉大模型能够以超过 70 tokens/ 秒的速度在终端侧高速运行。大模型的端侧性能表现优化，不仅会降低开发者的使用成本，提升开发者的产品效果，也有助于基础通用大模型的商业化。

大模型，是端侧 AI 这一时代风口的起点；移动计算，则从更多应用、更优体验、更强生态等方面，为大模型在端侧提供动力保障。

高通对大模型的有力支撑，从源头支持端侧 AI 的产业繁荣，正是推动 AI 为先体验的体现之一。

大模型要在终端设备上被用户用起来，才能从一种技术趋势，转变为端侧 AI 的产业繁荣与商业价值。AI 大模型入端，硬體性能是基础。

我们采访过一位 AI 手机品牌的负责人就表示：AI 在手机行业刚刚开始，未来的一年，AI 体验会超出你的想象，而端侧模型对性能要求很高，所以性能永远不会过剩。

性能从哪里来？答案就是计算平台。针对目前端侧 AI 集中的两大品类：一个是个人移动终端，比如 AI 手机、AI PC；另一个是智能网联汽车，智能座舱、辅助驾驶、自动驾驶等 AI 应用都在加速上车。高通在前不久的骁龙峰会上带来了两大平台的最新技术和产品。

移动平台方面：

骁龙 8 至尊版芯片，凭借技术方面的性能突破和创新能力，带来了 AI 手机智能化的重大飞跃。

骁龙 8 至尊版在终端侧生成式 AI、多模态处理和影像处理等方面的突破，可以为 AI 手机的大量 AI 用例提供支持。比如 AI-ISP 技术的革命性突破，与 NPU 紧密结合，使得高分辨率影像数据的实时处理成为可能，手机厂商可以在摄影功能中引入更多 AI 应用，如自动场景识别、实时美颜和自动对焦等，这是当下年轻消费群体格外看重的产品力之一。

此外，骁龙平台还积极支持 PC 领網域的 AI 应用。

在刚刚举办的 2024 年世界互联网大会上，高通凭借其专为 Windows 11 AI+ PC 设计的骁龙 X Elite 平台荣获 " 世界互联网大会领先科技奖 "。骁龙 X Elite 的核心优势之一是采用了定制化的 Oryon CPU，具备极致快速的响应速度，可以为 AI PC 提供强劲的性能表现。比如荣耀最新推出的 AI PC，就在骁龙 X Elite 的算力支持下，实现了 AI 纪要、AI 双向降噪等 AI 功能，极大地提升了用户的会议和沟通效率。目前，骁龙 X 系列已支持 58 款已发布或正在开发中的 PC 产品，有力支撑了 AI PC 这一新品类的成长。

汽车平台方面：

汽车智能化成为大势所趋，其中智能座舱、智能驾驶，成为车企的核心赛点。为智能汽车提供底层源动力，高通分别推出了全新的骁龙座舱至尊版平台和 Snapdragon Ride 至尊版平台。

其中，骁龙座舱至尊版平台也采用了专为汽车打造的高通自研 Oryon CPU，性能大幅提升，可以助力车企实现大模型和 AIGC 等能力与座舱相结合，打造 AI 语音助手、AIGC 应用、复杂情境感知、自然语言互動等新体验。

Snapdragon Ride 至尊版平台也基于高通最先进的 NPU 及 Oryon CPU，将更好的智能驾驶带到汽车上，实现了高精度定位、环境感知、决策规划以及车辆控制等一系列智能驾驶功能。

此外值得一提的是，增强 AI 手机、AI PC、智能汽车的产品力，更强大的移动计算硬體只是必要条件。除此之外，厂商和开发者还需要一系列开发工作来释放硬體性能、优化端侧 AI 表现。

目前，手机、PC、汽车等采用的骁龙硬體平台，均已集成高通自研 Oryon CPU，加之高通 AI 軟體栈的赋能，有望实现终端侧 AI 应用在各平台高效开发。

硬體（移动平台、PC 平台和汽车平台）与軟體（AI Stack、AI Hub）相协同，高通正在拆除端侧 AI 的性能桎梏，带动手机、汽车等各类消费电子产品加速进化，抓住大模型的技术红利。

总结一下，大模型是这一轮端侧 AI 浪潮的起点，计算硬體是 AI 终端这一新概念得以落地的性能源泉。支撑大模型和 AI 终端的持续发展，高通也在源头为端侧 AI 繁荣贡献了力量。

之所以要在今天找寻端侧 AI 发展的源头力量，是因为这与国内消费电子厂商抓紧时代机遇和技术趋势的需求一致，与源头紧密合作、齐头并进，有利于获取向未来生长的动能。

目前来看，高通就是与国内厂商合作紧密的重要 AI 力量之一。

一方面，高通和骁龙平台是国内安卓手机厂商全球化、高端化的助力。国内头部品牌正在高端市场与苹果展开正面竞争。高通和骁龙与国内厂商的紧密合作，成为国内智能手机品牌在全球的竞争力保障，可以让领先的 AI 应用、AI 手机、AI PC 硬體，为全球树立标杆。目前，首批搭载骁龙 8 至尊版的旗舰手机，如小米、荣耀、iQOO 等，已经在性价比、影像能力、游戏性能等方面，建立了鲜明的市场认知度。

此外，新能源汽车增长也有望更进一步。

目前，国内新能源汽车已经在全球市场建立了较强的竞争力，抓住智能化机遇，获得更大的发展，可以进一步夯实优势地位。骁龙汽车平台就相当于基石，支撑基于大模型的智能驾驶、智能座舱上车，让新能源汽车保持竞争优势，在全球市场走得更稳更远。