今天小編分享的科技經驗:大模型加持下"AI手機"風起雲湧!巨頭押注寄望引爆下一輪“換機潮”,歡迎閱讀。
《科創板日報》1 月 9 日訊(記者 黃心怡) 近來,多家手機廠商官宣了大模型落地進展。
1 月 8 日,OPPO 正式發布了其旗艦機型 FindX7 系列,并宣布 70 億參數的 AI 大模型在手機端落地。
此前,vivo 的 X100 系列也同樣支持 70 億參數 AI 大模型,兩者均搭載了聯發科的天玑 9300 芯片。
而榮耀即将發布的 Magic6 系列則搭載高通第三代骁龍 8 移動平台,也将支持 70 億參數的端側 AI 大模型。
在 OPPO Find X7 系列發布會後的采訪中,OPPO 首席產品官劉作虎稱:"再不布局大模型的手機廠商,就沒戲了!" 他還透露,在上周五把公司所有 AI 相關的夥伴和資源,全部集中在一起成立了 AI 中心,由 OPPO 整體技術負責人兼管。
在經歷了一年多的大模型狂飙熱潮後,在 2024 年,應用端的突破比大模型本身更值得期待。
OPPO 此次重點展示了 AI 通話摘要、AIGC 影像消除等應用。其中,AI 通話摘要能在通話完成後,為用戶自動生成通話内容的要點,并準确地輸出帶有主題、要點,以及待辦事項的通話内容摘要。
而 AIGC 影像消除則可以把照片中多餘的遮擋物、人影等去除後,還能自動補全缺失的影像。
劉作虎認為,未來這幾年大模型的核心還是要以產品來驅動。" 基于要做什麼產品,進而确定大模型該怎麼訓練,用什麼樣的算力,整體路線是以產品驅動技術。通過用戶洞察方式來做產品是最重要的,誰對用戶最理解,誰真正地懂產品,就能在競争中保持差異化,始終擁有核心競争力。"
此前聯發科透露,大語言模型對内存需求暴增,130 億參數大模型至少需要 13GB 内存,再加上 6GB App 保活、4GB 安卓 OS,16GB 内存手機并不能運行該參數的大模型。
談及大模型對于手機内存和續航的影響,OPPO 影像產品總監張璇介紹,70 億大模型正常的模型大小是 28GB,為了真正在端側部署,采用了高精度 4 比特來對模型進行壓縮和輕量化,壓縮和輕量化之後從 28GB 可壓縮到最小的 3.9GB 左右。
從性能角度來看,大模型在端側性能消耗确實較大。" 核心是通過并行計算的算子優化、對内存管理的優化等來降低損耗和系統資源占用。另外,續航時間是根據本身用機的情況來決定的,應該控制在用戶可以接受的範圍内,同時把它做成任務型的,用的時候才會消耗系統資源。"
華泰證券在研報中表示,AI 大模型在手機應用對其 BOM 成本影響主要包括:1)SoC:AI 引擎更新、NPU 算力提升;2)存儲:手機 RAM 更新至 24GB LPDDR5X,相較當前主流的 8GB LPDDR4X,成本提升 300%;3)電源:電池 / 電源管理芯片更新,但彈性相對較小;4)光學:AI 推動屏下攝像頭應用取得突破。
在存儲方面,華泰證券稱,在推理場景下,以一個 100 億參數模型(FP16 精度)不考慮模型運算時的臨時變量,總計需要 18.6GB 内存。
受限于端側的計算能力和功耗控制,目前 70 億參數大模型是在手機上能夠落地的最大參數規模。" 再大的模型手機也帶不起來了,未來或許會采用端雲結合的方式。"IDC 中國高級分析師郭天翔說。
劉作虎表示,是否需要端雲協同要看模型的大小。" 比如說 AIGC 消除是可以端側消除。未來,越來越多的應用會是端雲協同,前提是必須保護安全隐私。"
在業内看來,每輪消費電子的景氣周期主要由技術進步引發新需求所驅動。而當前的大模型浪潮,也被寄予厚望拉開新一輪消費電子創新周期,從而引爆下一輪 " 換機潮 "。
對此,郭天翔則較為理性看待:" 雖然大模型肯定是未來各家的發展重點,但是在短期内仍不會成為消費者換機的主因。"