今天小编分享的科技经验:大模型加持下"AI手机"风起云涌!巨头押注寄望引爆下一轮“换机潮”,欢迎阅读。
《科创板日报》1 月 9 日讯(记者 黄心怡) 近来,多家手机厂商官宣了大模型落地进展。
1 月 8 日,OPPO 正式发布了其旗舰机型 FindX7 系列,并宣布 70 亿参数的 AI 大模型在手机端落地。
此前,vivo 的 X100 系列也同样支持 70 亿参数 AI 大模型,两者均搭载了联发科的天玑 9300 芯片。
而荣耀即将发布的 Magic6 系列则搭载高通第三代骁龙 8 移动平台,也将支持 70 亿参数的端侧 AI 大模型。
在 OPPO Find X7 系列发布会后的采访中,OPPO 首席产品官刘作虎称:"再不布局大模型的手机厂商,就没戏了!" 他还透露,在上周五把公司所有 AI 相关的伙伴和资源,全部集中在一起成立了 AI 中心,由 OPPO 整体技术负责人兼管。
在经历了一年多的大模型狂飙热潮后,在 2024 年,应用端的突破比大模型本身更值得期待。
OPPO 此次重点展示了 AI 通话摘要、AIGC 影像消除等应用。其中,AI 通话摘要能在通话完成后,为用户自动生成通话内容的要点,并准确地输出带有主题、要点,以及待办事项的通话内容摘要。
而 AIGC 影像消除则可以把照片中多余的遮挡物、人影等去除后,还能自动补全缺失的影像。
刘作虎认为,未来这几年大模型的核心还是要以产品来驱动。" 基于要做什么产品,进而确定大模型该怎么训练,用什么样的算力,整体路线是以产品驱动技术。通过用户洞察方式来做产品是最重要的,谁对用户最理解,谁真正地懂产品,就能在竞争中保持差异化,始终拥有核心竞争力。"
此前联发科透露,大语言模型对内存需求暴增,130 亿参数大模型至少需要 13GB 内存,再加上 6GB App 保活、4GB 安卓 OS,16GB 内存手机并不能运行该参数的大模型。
谈及大模型对于手机内存和续航的影响,OPPO 影像产品总监张璇介绍,70 亿大模型正常的模型大小是 28GB,为了真正在端侧部署,采用了高精度 4 比特来对模型进行压缩和轻量化,压缩和轻量化之后从 28GB 可压缩到最小的 3.9GB 左右。
从性能角度来看,大模型在端侧性能消耗确实较大。" 核心是通过并行计算的算子优化、对内存管理的优化等来降低损耗和系统资源占用。另外,续航时间是根据本身用机的情况来决定的,应该控制在用户可以接受的范围内,同时把它做成任务型的,用的时候才会消耗系统资源。"
华泰证券在研报中表示,AI 大模型在手机应用对其 BOM 成本影响主要包括:1)SoC:AI 引擎更新、NPU 算力提升;2)存储:手机 RAM 更新至 24GB LPDDR5X,相较当前主流的 8GB LPDDR4X,成本提升 300%;3)电源:电池 / 电源管理芯片更新,但弹性相对较小;4)光学:AI 推动屏下摄像头应用取得突破。
在存储方面,华泰证券称,在推理场景下,以一个 100 亿参数模型(FP16 精度)不考虑模型运算时的临时变量,总计需要 18.6GB 内存。
受限于端侧的计算能力和功耗控制,目前 70 亿参数大模型是在手机上能够落地的最大参数规模。" 再大的模型手机也带不起来了,未来或许会采用端云结合的方式。"IDC 中国高级分析师郭天翔说。
刘作虎表示,是否需要端云协同要看模型的大小。" 比如说 AIGC 消除是可以端侧消除。未来,越来越多的应用会是端云协同,前提是必须保护安全隐私。"
在业内看来,每轮消费电子的景气周期主要由技术进步引发新需求所驱动。而当前的大模型浪潮,也被寄予厚望拉开新一轮消费电子创新周期,从而引爆下一轮 " 换机潮 "。
对此,郭天翔则较为理性看待:" 虽然大模型肯定是未来各家的发展重点,但是在短期内仍不会成为消费者换机的主因。"