今天小編分享的科學經驗：懂AI PC的人要先擁抱新世界了，歡迎閱讀。
2024 年第一個四分之一還沒過完，PC 市場的最熱關鍵詞，已是非「AI」莫屬。
最新消息，繼聯想、榮耀之後，微軟的首款AI PC馬上也要來了。
據 Windows Central 爆料，微軟将于 3 月 21 日發布新款 Surface Pro 和 Surface Laptop。
兩款新品圍繞人工智能打造：
硬體方面，Intel 版本搭載号稱 "AI CPU" 的全新 Intel Core Ultra，arm 版本則用上了能把130 億參數大模型塞進 PC的高通骁龍 X Elite。
軟體方面，兩款新品均将首批支持 Windows 11 的 " 下一代 "AI 體驗，包括一個内部名為 "AI Explorer" 的全新 AI 功能。
消息人士稱，AI Explorer 将會 " 使 AI PC 與非 AI PC 完全區分開來 "，依靠自然語言互動，用戶就能在 PC 上完成一切。
（賈維斯内味兒，這不就來了嗎 doge）
這還不算完，各種老牌 PC 玩家也都坐不住了，紛紛放出自家首款 AI PC 的消息。
由大模型技術風暴掀起的「模力時代」中，我們日常使用的生產工具正在加速變革。
這樣的趨勢，現在越發明朗。而終端產品的變革，也意味着，對于人們的日常工作生活而言，新一代的辦公、學習姿勢已經在醞釀之中。
△ChatGPT4 生成
那麼，問題來了——
對于普通打工人而言，產品概念花裡胡哨，但究竟怎樣的 PC，才算是真正的 AI PC？
PC 可以怎樣 AI？
終端側 AI 趨勢開始後，終端、芯片、應用廠商正在用一個個面向生成式 AI 的芯片逐步補全關于 AI PC 的定義。
最先勾勒出想象的是微軟。
去年 9 月，Colpilot 正式進入 Windows 11，成為電腦系統的 AI 助手。
這徹底掀開 PC 上自然語言互動的序幕，更改設定、整理桌面、打開軟體都能通過聊天的方式實現。
聯想緊随其後，推出首款 AI PC，展示了大模型運行在本地後，給用戶帶來更加專屬化的體驗。
基于用戶個性化信息創建本地知識庫，量身定制完成一系列新任務。
比如基于電腦上的家庭照片和視頻，創作一段 " 智能剪輯 "。
再或者是成為更本地化的工作助手，幫助寫文檔、總結知識點、提升生產力。
與此同時，最關鍵的底層芯片也重大更新。
高通發布骁龍 X Elite，就從底層角度給出了關于 AI PC 的一系列思考。
這塊 4nm 制程的 CPU支持 130 億參數大模型的本地運行，70 億參數模型可每秒生成 30 個 token。
AI 引擎算力可達 75TOPS，AI 處理速度可達競品的 4.5 倍。
CPU、GPU 性能均是競品的 2 倍，相同峰值性能功耗比競品低 68%。
除此之外，剛落幕不久的 MWC 2024 上，高通還展示了多模态大模型在 PC 本地運行的示例。
它能理解音頻并進行推理，可實現語音輸入的多輪對話。
這意味着，AI PC 趨勢和多模态趨勢正在交匯融合，傳統 PC 的互動方式将發生更加徹底的變革。
透過廠商們的實際動作，一些關于 AI PC 的初步共識已逐漸清晰。
即 AI PC 應該成為一個用戶專屬的個人助理，它具備強大的 AI 能力和底層計算能力，将人類從日常生活中常規的、重復性的、看似瑣碎的工作中解放出來，轉而從事更加具有創造性、求變的工作。
但問題是，現在的傳統 PC 如何才能走到這一步？哪些地方已經悄然發生改變？
技術趨勢給出了一定答案。
AI 如何重塑 PC？
面向生成式 AI，PC 要經歷的是一場全新計算架構的變革。從底層硬體到上層應用，都正在發生變化。
因為生成式 AI 浮現出的典型場景，給計算連接等都提出新要求。
高通最新公布的《通過 NPU 和異構計算開啟終端側生成式 AI》白皮書中總結，生成式 AI 用例可分為三類：
按需型：由用戶出發，需要立即響應。比如在 PC 上生成會議摘要、開車時用語音查詢最近的加油站。
持續型：運行時間較長。比如用手機進行實時對話翻譯，PC 上玩遊戲時逐幀運行超級分辨率。
泛在型：在後天持續運行。比如始終開啟的預測性 AI 助手。
這些情況都面臨兩大關鍵挑戰。
第一，考慮到終端的功耗和散熱問題，通用 CPU 和 GPU 難以滿足這些 AI 任務的計算需求。
第二，生成式 AI 應用還在不斷豐富，不能在功能完全固定的硬體上進行部署。
硬體方面，NPU和異構計算成為應對挑戰的關鍵。
在終端側 AI 趨勢興起後，原本更常出現在手機芯片上的 NPU，也開始在電腦芯片上發揮更加重要的作用。
NPU（Neural Processing Unit）專門為加速神經網絡和 AI 任務而生，可以快速處理 AI 推理任務。它不易于編程，但能實現更高的峰值性能、能效和面積效率，從而運行機器學習所需的标量、向量和張量數學運算。
随着 AI 趨勢演變，NPU 的設計也發生了一系列變化。比如 2015 年時，NPU 主要面向音頻和語音 AI 設計，用于簡單 CNN 并主要需要标量和向量數學運算。
後面随着 AI 在拍照和視頻中的使用增多，以及 Transformer、RNN、LSTM 和高維度 CNN 等模型相繼出現，NPU 又增加了張量加速器和卷積加速，可以降低内存帶寬占用和能耗。
發展到大模型時期，低時延、續航、内存、等因素共同要求下，NPU 往往比 GPU 表現出更好的能效和性能，也使得NPU 成為生成式 AI 終端上不可或缺的部分。
舉例來看，骁龍 X Elite 上集成的 Hexagon NPU 算力達到 45TOPS。
在不損失太多精度的情況下，Fast Stable Diffusion 能夠在0.6 秒内生成一張 512 × 512 分辨率的影像。
但随着生成式 AI 終端逐漸發展，端側運行的模型可能規模還将繼續擴大，多模态趨勢已經顯現，還有可能會搭載多個大模型。
僅靠 NPU 來支撐生成式 AI 任務，可能還不是最佳方案。
目前廠商們已經開始通過異構計算，讓不同處理器分别處理擅長的任務，也就是讓全部處理器都來支持生成式 AI 任務。這一直是高通堅持且擅長的賽道。
GPU 不僅用于處理影像任務，也能用于以高精度格式進行 AI 并行處理，支持 FP32、FP16、INT8 運算。
CPU 則能用于計算量低、要求低時延的 AI 任務上，如高通 Oryon CPU 性能達競品的 2 倍，功耗還降低了三分之二。
處理器之間的相互配合，可以進一步釋放 AI 引擎性能，超越單 NPU 效果。
與此同時，軟體層面也受到 AI 影響發生改變。
一方面，生成式 AI 終端需要軟硬結合才能更充分釋放性能；另一方面，開發者也需要适宜當下的工具，能夠更快速将大模型加入到應用中。
在 MWC 2024 上，高通宣布推出的AI Hub正是這樣一個平台。
它是一個全面的模型優化庫，為開發者提供超過 75 個主流模型，如 Stable Diffusion、ControlNet、Baichuan-7B 等。這些模型全部經過優化，可以充分利用高通 AI 引擎内所有核心的硬體加速能力，實現 4 倍推理速度提升。開發者能快速将大模型無縫集成到應用程式中，縮短產品上市時間。
同時這些優化後的模型也同步上線到 GitHub、Hugging Face。開發者可在搭載高通和骁龍平台的雲托管終端上自行運行模型。
更早推出的高通 AI Stack可全棧支持主流 AI 框架（如 TensorFlow、PyTorch、ONNX 和 Keras）和 runtime。集成高通神經網絡 SDK，面向 Android、Linux 和 Windows 不同版本。
此外還提供一系列量化、壓縮開發工具，能夠在盡量不降低模型精确度同時壓縮模型。一些生成式 AI 模型由此可以量化至 INT4。
總之，從底層硬體到上層軟體，都在以生成式 AI 為中心進行快速變革。
巨頭們腳步一致，紛紛加速 All in AI，也讓生成式 AI 帶來的變革更加迷人。
AI 變革究竟會如何影響每一個人的生活？
AI PC 展現出的演進過程，已經給大家做了一些小劇透。
AI PC 通往何處？
細數起來，AI PC 從概念興起到初步產品落地，剛剛過去半年的時間。
高通產品管理高級副總裁兼 AI 負責人 Ziad Asghar 将其類比為 " 人們剛剛能夠實現手機上網 " 的階段：數十億人都能夠通過手機連接到網絡，奠定了此後移動互聯網應用大爆發的格局。
我想如果我們能夠在終端側實現 AI 的發展，就可以把生成式 AI 的能力和優勢充分發揮出來，打破所有的界限，利用生成式 AI 的能力讓我們在生活、工作、娛樂、醫療等各個方面都獲得更好的體驗。
換言之，AI 重構 PC，現在正是打地基的階段。
從上述各大廠商的動作之中，可以梳理出幾個關鍵的環節：
雲端大模型能力向終端側的遷移
為生成式 AI 打造的芯片 +AI 開發平台
基于 AI+5G 技術的設備互聯
前兩者不再做過多贅述，設備互聯，則關系到生成式 AI 的發展從第一階段走向第二階段的實質：
數據在哪裡，AI 推理就在哪裡進行。
短期來看，終端生成式 AI 基礎能力的構建，能在手機、PC 這樣的生產力終端上率先帶來應用的爆發，提高生產效率、帶來新的創新機會——
對于普通用戶，人機互動方式徹底變革，自然語言操作一切，帶來的是更高的終端使用效率。
對于開發者而言，新一輪的 AI 原生應用爆發機遇，已經是現在進行時。AI 搜索應用 Perplexity，剛剛被曝估值将破 10 億美元，跻身獨角獸行列。
而對于終端廠商而言，從底層芯片到作業系統的變革，也将帶來重塑市場格局的機會。
從更長期來看，更重大的影響則是，AI PC、AI 手機的背後，真正的私人 AI 助理将會出現：用戶能夠在本地打造專屬的 Agent，而通過終端設備互聯，AI Agent 将可以滲透到生活的方方面面。
工業革命的核心，是生產力的突破和生產方式的變革。AI 掀起的技術風暴，概莫能外。
而就像從紙質辦公到網絡辦公，處在當下的我們還無法窺見未來的全貌，但可以預見的是，以人為中心，AI 将自然流轉于手機、PC、智能車、AR/VR，乃至全新的 AI 硬體之上，構建起真正的萬物互聯。
身處這樣的時代，對于直面風暴的技術廠商們而言，如何跟上趨勢，已有高通這樣的先行者給出參考。
而對于我們每一個普通而言，更重要的是，認真思考如何擁抱新變革的時間點，已經到來。
畢竟先擁抱新趨勢的人，先享受世界。
— 完 —
點這裡關注我，記得标星哦～
一鍵三連「分享」、「點贊」和「在看」
科技前沿進展日日相見 ~
>
