今天小编分享的互联网经验:端侧AI,大模型的新战场?,欢迎阅读。
出品 | 虎嗅科技组
头图 | 视觉中国
有种观点认为,如今的智能手机已经成为人类的外部器官。但一个容易被忽视的事实是,这个器官在过去 10 年几乎没有任何革命性的进步。
10 年前,全球智能手机市场出货量达到 10.042 亿部,同比暴涨 38.4%。盛极而衰,那一年也成为了智能手机行业最后的辉煌,自此之后,市场增长开始逐渐放缓,直到完全失去增量。
最后一次回光返照—— 5G 换机潮后的市场疲软,足以说明移动互联网的红利,其实早就被终端厂商和应用厂商消耗殆尽。
然而,有些事情正在这个行将就木的行业中悄然发生。
去年 10 月,高通发布全新骁龙 8Gen3 处理器,并重点强调了这枚芯片在 AI 方面上的能力:支持终端侧运行 100 亿参数的模型,面向 70 亿参数大语言模型每秒生成 20 个 token;用时不到一秒就可以在终端侧通过 Stable Diffusion 生成图片。
芯片厂商提供了基础能力,终端厂商也随即开启 " 你方唱罢我登场 " 的模式,在短短一个月内,几乎所有的手机厂商都宣布已经在端侧跑通了自研的大语言模型。
同一时期,更加 " 古老 " 的 PC 行业也没有闲下。年初,在英特尔酷睿 Ultra 处理器后,包括联想、华硕、惠普、戴尔在内的多家厂商,都拿出了自己的 "AIPC" 方案。
暂且不论 "AI 手机 "、"AIPC" 在功能实现上如何,一个需要被前置讨论的问题是:端侧 AI 存在的意义是什么?
目前最集中的观点是,端侧 AI 在效率和安全性上有着不可替代的优势。
安全性自然不必多说,在用户数据无需上传至云端的情况下,隐私安全的确能从根本上得到保障。在效率方面,PC 行业的领军企业联想主张在端侧混合使用 CPU、GPU 和 NPU,搭建异构计算架构,能够使计算效率达到最高。
而相较于联想的 " 大包大揽 ",也有体量稍小的手机厂商提出了更加前卫的方案。
魅族认为,手机厂商缺少做大模型的基因,一味地拼参数没有意义。他们更倾向于打造一个完全开放的平台,供大模型平台使用,包括但不局限于向开发者提供系统权限、API 文档,并开放处理器的 AI 算力,让开发者拥有充分的自由度,从而实现更多创新功能和应用服务的制作。
除以上的技术路径外,大模型在端侧还有哪些表现形式?目前端侧 AI 还有哪些前沿进展?未来端侧 AI 还有哪些商业机遇?
2024 年 1 月 27 日,虎嗅前沿科技组特邀行业技术专家与创业者,共同讨论端侧 AI 领網域的商业实践、技术实践、创投机会、探索方向。
活动概况:
活动名称:2024 AI 内参会
活动时间:2024 年 3 月 31 日,14:00-17:00
活动地点:北京 · 虎嗅二层(万科时代中心 · 十里)
欢迎扫描海报中的二维码报名,我们一起讨论端侧 AI 的无限可能!
>