今天小編分享的科技經驗：風從雲端吹向終端：混合AI未來可期，歡迎閲讀。
最近一年，以 ChatGPT 為代表的生成式 AI 以迅雷不及掩耳之勢霸占了全球互聯網的熱度，伴随着全民嘗鮮 AI 的熱潮，國内外大廠也紛紛下場投身 AI 大模型的研發與應用。一時之間，生成式 AI 風頭無兩。
生成式 AI 革新移動端使用場景
生成式 AI 讓我們窺見了近未來，并且已經在大量行業場景得到了具體應用。在移動端，我們實際上已經能夠見到很多與 AI 相關的應用。例如在用户拍照時，設備可以自動識别物品，根據環境和場景自動優化畫面内容，實現更好的成像效果 ;AI 能夠根據用户的生活工作習慣規劃日程，與語音助手相結合能夠實現私人助理一般的互動體驗 ;AI 還能夠幫助智能判斷設備的狀态、學習用户的使用習慣，在自動分配性能到需要高算力、高負載的應用時，自動優化充電與電池調用，讓設備的使用更加智能。
生成式 AI 已然改變了我們對于傳統意義上 AI 應用場景的理解。就拿目前已經相當成熟的問答式 AI 來説，在結合各家智能語音助手以及搜素引擎之後，用户可以像與人對話一樣直接與設備進行互動。不僅可以進行常規的提問 " 今天天氣如何 "" 高通是一家什麼公司 "，還能夠直接調用互聯網海量信息，對用户的問題進行針對性的回答。
伴随着如自然語言處理、機器學習等技術的發展，生成式 AI 技術更加全面和智能化，在端側具備廣闊的應用前景，可以實現更加復雜和高級的内容生成和創作。
在影像生成領網域，通過學習已有的影像數據，AI 可以生成出與原始數據相似的新影像。例如我們拍攝了一張照片，将身邊雜亂的場景裁切之後，使用生成式 AI 能夠基于已有的照片 " 補完 " 更大照片内容，人物也能完美融入其中。此外，生成式 AI 技術還可以應用于影像的超分辨率、去噪和影像修復等場景。
都説移動端進行文字創作不如别的大屏終端方便。有了生成式 AI，我們可以在移動端生成與人類寫作相似的文本。自動寫作、機器翻譯，生成式 AI 能極大提升移動終端側的生產力。在音頻處理領網域，AI 可以幫助用户進行通話降噪、優化通話質量和收音效果。無論是遊戲語音還是音視頻通話都很有作用。而有了生成式 AI 的加持，用户可以在移動端生成出逼真的語音、音樂和音效，可以廣泛應用于配音、通話、遊戲等場景。
生成式 AI 技術還應用于遊戲開發領網域，将極大地幫助遊戲開發者。依靠 AI 自動生成遊戲場景、道具和角色等元素，免除了重新建模、渲染的繁復步驟。節省時間、提高效率，用户也能早日體驗到精彩的遊戲内容。
夯實基礎 第二代骁龍 8 打造移動端 AI 核心
移動場景下的 AI 大有作為。目前我們能見到的生成式 AI 往往都聚集在 PC 端，運行 AI 大模型需要相當高的算力，需要 CPU、GPU 等硬體進行支持。在人工智能三要素中，無論是數據還是算法，都離不開算力的支撐，這也是行業的共識。
高通在移動硬體領網域有着夯實的技術基礎。第二代骁龍 8 也是骁龍 AI 發展歷程中的裏程碑。這一平台從設計之初就與 AI 緊密結合，采用了分布式的 AI 設計，其集成的高性能高通 AI 引擎涵蓋多個軟硬體組件，包括高通 Hexagon 處理器、Adreno GPU 和 Kryo CPU，可以通俗地認為它并非只有一個 AI 處理單元，而是将 AI 處理單元其分布在各個需要 AI 提供助力的單元中。
從硬體層面來看，高通 AI 引擎實現了高達 4.35 倍的算力提升，和 60% 的能效提升，并且率先支持 INT4 AI 精度格式 ; 而高通傳感器中樞則帶來了先進的 AI 處理能力，性能提升了 2 倍，同時内存提升了 50%。
高通為 Hexagon 處理器加入專用的供電系統，進一步提升芯片處理的能效比 ; 改進内存讀寫，降低能耗 ; 通過微切片的推理方式，将單個神經網絡拆抽成幾萬個微切片，然後将其分配到張量、标量、向量加速器上，從而提高整個神經網絡的推理速度。
在第二代骁龍 8 身上，我們能夠看到 AI 全面參與芯片運行，幫助優化用户在使用設備的每一個場景、每一個細節。而對 AI 的應用遠不止于此，骁龍 X70 5G 調制解調器及射頻系統是全球首個和唯一一個配備 5G AI 處理器的調制解調器及射頻系統，利用其強大的 AI 功能支持在終端上實現突破性的連接速度。并配合高通 FastConnect 7800，第二代骁龍 8 将開啓 Wi-Fi 7 時代，高頻多連接并發技術能實現 Wi-Fi 7 峰值速度高達 5.8Gbps，和低于 2 毫秒的時延。同時也帶來先進的雙藍牙技術，實現配對連接速度翻倍。
在影像層面，AI 幫助第二代骁龍 8 實現了首個認知 ISP，實時運行 " 語義分割 "AI 照片編輯技術。運用經過訓練的神經網絡識别多種不同物體，并整個過程都能在強大的 ISP 裏完成。具備實時分層像素處理和實時語義分割濾鏡的認知 ISP 和高通 AI 引擎勢必開啓下一代專業品質影像體驗。正如高通技術公司產品管理副總裁 Judd Heape 所言，" 實時語義分割技術具有開創性意義，這意味着攝像頭能夠真正實現對捕捉畫面的情景感知。"
高通通過提升 AI 引擎并更新 Snapdragon Smart 特性賦能第二代骁龍 8，讓這些設備能夠提供用户在當前所能切身體驗到的可能是最優秀的 AI 場景應用。随着今年 10 月的臨近，第三代骁龍 8 也即将與廣大消費者見面。相信在新一代的旗艦平台上，高通會進一步提升 AI 算力，并針對 AI 進行持續優化，進一步提升用户在移動端的 AI 體驗。
全棧 AI 優化引領終端側 AI 解決方案
今日，高通發布白皮書《混合 AI 是 AI 的未來》，為我們描繪了混合 AI 發展前景，高通是如何闡釋混合 AI 的？在高通的引領下，混合 AI 将走向何方？
高通認為混合 AI 是 AI 未來必經之路。所謂混合式 AI 也就是傳統基于雲端的 AI 與端側 AI 的結合，雲端和終端共同處理 AI 計算，借助端側的即時感知、即時處理優勢填補雲端 AI 在延遲方面的短板，同時，雲端的超高算力也能對端側 AI 性能不足的情況進行強有力的補充。
從高通的規劃來看，未來 AI 将在雲端、邊緣雲和終端側協同運行，構建混合 AI 架構。正如第二代骁龍 8 中 AI 對于 5G 的加成，5G 同樣是連接雲端算力和終端應用的關鍵橋梁，也正是 5G 使整個混合 AI 系統中的計算和處理能力得以以最有效的方式分布，實現更強大、更便利、更高效、更優化的 AI。
高通所推崇的混合 AI 解決方案是一個全棧優化的整體解決方案。高通為應用、神經網絡模型、算法、軟體和硬體進行了全棧 AI 研究和優化。異構計算方法利用硬體 ( 比如 CPU、GPU 和 AI 加速器 ) 和軟體 ( 比如高通 AI 軟體棧 ) 來加速終端側 AI。從算法和模型開發到軟體和模型效率、從量化編譯到硬體加速，高通的全棧式 AI 優化如同齒輪般精密齧合，形成了如今我們看到的樣子。
随着強大的生成式 AI 模型不斷縮小以及終端側處理能力的持續提升，混合 AI 的潛力将會進一步增長。骁龍移動平台能夠支持超過 10 億參數的生成式 AI 模型，而在不久的将來，高通将很快在移動端實現部署 100 億參數的大語言模型，這在此前的移動端是難以想象的。
混合 AI 策略适用于幾乎所有生成式 AI 應用和終端領網域，包括手機、筆記型電腦、XR 頭顯、汽車和物聯網。這一策略對推動生成式 AI 規模化擴展，滿足全球企業與消費者需求至關重要。
高通還以全球首個在安卓智能手機上運行的 Stable Diffusion 用例展示了混合 AI 在未來的應用。這是一種基于擴散過程的随機演化模型，可以被用于生成真實感的人臉、頭發、服裝、環境場景等。在高通的演示中，處于飛行模式下的手機通過全棧 AI 優化，Stable Diffusion 實現了完全的終端側運行，能夠在 15 秒内完成 20 步推理，生成飽含細節的影像。值得一提的是通過端側 AI 計算，不僅節省了功耗，由于是端側運算，用户隐私保證留在端側而非雲端，因此也能降低信息泄露的風險。
高通在 AI 方面的研究應用起步非常早，甚至遠早于我們較為熟悉的骁龍 855 上的 "AI 加速器 "。早在 2007 年高通就在骁龍平台上推出了首個 Hexagon 處理器，2015 年的骁龍 820 處理器則集成了首個專門面向移動平台的高通 AI 引擎，支持影像、音頻和傳感器的運算。深厚的技術積累、持續的創新優化是高通對于混合 AI 未來大膽預測的基礎。
更便利的軟體棧讓開發者受益
除了為用户提供更加智能便攜的 AI 使用場景，在推動 AI 用例的落地過程中，開發者是不可忽視的一環。在強大的 AI 算力都需要開發者将之很好地利用，形成用户真正可以實際使用應用或服務。
目前，高通為應用、神經網絡模型、算法、軟體和硬體進行全棧 AI 研究和優化。高通 AI 軟體棧旨在幫助開發者實現一次開發，即可跨高通所有硬體運行 AI 負載。高通 AI 軟體棧全面支持主流 AI 框架，同時它還集成了推理軟體開發包 ( SDK ) ，包括面向 Android、Linux 和 Windows 的不同版本。高通開發者庫和服務支持最新編程語言、虛拟平台和編譯器。在更底層，高通的系統軟體集成了基礎的實時作業系統 ( RTOS ) 、系統接口和驅動程式。我們還支持廣泛的作業系統 ( 包括 Android、Windows、Linux 和 QNX ) ，以及用于部署和監控的基礎設施。
高通 AI 軟體棧還集成了 Qualcomm ® AI Studio，支持從模型設計到優化、部署和分析的完整工作流。這一工具相當于為開發者搭建了一個官方的 " 工具箱 "，在這個工具箱界面内，開發者可以自由選擇需要的工具，極大地降低開發難度，有助于縮短開發時間、提高開發效率，同時還支持開發者實時查看模型開發進度。
在推進混合 AI 發展的路上，高通具備其他方案提供商所不具備的規模優勢。骁龍平台作為提升頂級 Android 體驗的領先移動平台，目前已出貨 20 多億個具備 AI 能力的處理器。骁龍平台在移動平台 AI 基準測試中也處于領先地位，在行業知名的 AI Benchmark 中占據前 20 位。2023 年第二季度，市場調研公司 TechInsights 預測，高通技術公司将以超過 40% 的市場份額保持 AI 智能手機處理器出貨量的領導地位，遠遠超過蘋果 ( 25% ) 和聯發科 ( 24% ) 等其他公司。
寫在最後
生成式 AI 蔚然成風，而這股風很快就将席卷端側。高通高瞻遠矚地進行了全棧式的 AI 布局，利用技術研發優勢與終端規模優勢提出了混合 AI 的設想，并且正在穩步推動混合 AI 的快速發展。
試想在不久的将來，我們能夠在手機、PC、汽車等多類型終端上感受到混合 AI 帶來的便利。這些設備能夠真正成為用户輕松可用的人工智能工具，能夠處理更多具有專業性、針對性、重復性特征的任務，讓普通消費者也能随時随地享受 AI 帶來的對于生活生產方式的革新，而不是我們現在吐槽的 " 人工智障 "。雲端運算與端側互補互助、相輔相成，在高通全棧 AI 優化的加持下，從硬體到軟體，從架構到算法，從底層設計到開發者、再到高通眾多合作夥伴，整條 AI 產業鏈上下一新，生成式 AI 将迎來規模化擴展，為無數人的生活帶來積極影響。
相信在高通的引領下，混合 AI 未來可期。
