今天小編分享的科技經驗:現場體驗聯想 AI PC :真端側智能體,表現如何?,歡迎閱讀。
4 月 18 日,聯想一年一度的 Tech World 活動,在上海舉行。
這是聯想第十年舉辦類似的活動。在去年 Tech World 上,聯想首次提出了 AI PC 的概念,而今年,發布會的亮點在于聯想推出了中國用戶可購買的一系列 AI PC 產品。
内置聯想小天個人智能體,新的系列電腦被命名為 "AI 元啟 " 系列。新的系列電腦中,最高端的是 YOGA Book 9i 系列,是全尺寸雙 OLED 屏筆記型電腦,售價 17999 元,而最低端的聯想小新 Pro 16,只需要 5999 元。5 月 20 日正式開售。
聯想表示,此次發布的 AI PC,滿足五大特性,是 " 真正的 AI PC。"
作為五大特性之首,此次發布的 AI PC,标志為配備了 AI Agent 智能體——聯想小天。
聯想小天可以使用本地模型和算力進行推理回答問題,也可以使用雲端模型和算力進行回答問題。在使用本地算力時,用戶可以将自己本地的文檔進行向量化,變成個人知識庫,讓小天根據個人文檔回答問題,而不涉及文檔洩密的問題。
端側 AI 是近期消費電子的重點。端側 AI 有個性化、耗電量低、和隐私向的優勢,但是由于算力和模型大小的限制,能力相對于雲端大模型限制更多。PC 上的端側模型相對于手機端的端側模型,發展更快,而聯想在 AI PC 方面,也是進展最快的廠商之一。那麼此次聯想的 AI PC 的小天能力如何?
極客公園參與了此次發布會,也在現場測試了聯想的本地 AI 的智能體效果。
" 小天 " 智能體實測
極客公園在現場實測了聯想 AI PC 的小天助手回答問題的能力。
目前聯想的小天助手,可以直接在計算機的右下角一欄裡找到。進入界面後,可以選擇使用本地模型回答問題,也可以選擇使用雲端模型回答問題。
現場實測,本地模型基本上也能正确回答問題,但是相對于雲端内容更簡短,适合在網絡環境不佳的場合使用。
回答模型内置知識庫的知識時,時間和網絡模型的延時差不多。
作為 AI PC 的重要功能之一,小天可以把敏感檔案直接做成本地數據庫,從而能夠輕松總結文檔信息,用自然語言查找回答本地文檔中的信息。記者也現場測試了一下,回答是正确的,但涉及到本地文檔,加載時間要更長一些。
對于在意隐私的用戶,查找本地檔案内部信息的功能還是很實用的。
另外,作為内置在終端的 AI,小天可以執行配置查找、簡單的設備任務等語言命令。
聯想的小天助手還可以生成圖片、幫助制作 PPT,不過這些功能需要雲端才可以實現。在這點上,小天還有一個很巧妙的設計。利用 YOGA Book 9i 的雙屏,用戶可以在一個螢幕上畫畫,而在另一個螢幕上,根據畫的畫生成相關的圖片。
在聯想的發布會上,聯想現場讓一個小朋友畫了一幅抽象的企鵝滑雪草圖,但是配上 " 企鵝滑雪 " 的文字 prompt 後,模型最後生成出了相對合理的圖片,赢得了現場的掌聲。
AI PC 進展很快
随着算力的逐步提升,AI PC 這一產品目前進展很快。
在發布會後的訪談中,聯想集團董事長兼 CEO 楊元慶講到,目前的 AI PC 產品中,使用的是 NPU、CPU、GPU 的混合算力。人們通常使用 TOPS 作為算力部門,1 TOPS 代表處理器每秒鍾可進行一萬億次(10^12)操作。而此次的產品中,綜合 AI 算力可以達到 200 TOPS,其中 NPU 算力可以達到 10 TOPS。
不過,AI PC 領網域整個進境很快。在專門為 AI 算力進行優化的 NPU 方向,下半年聯想接觸到的芯片廠商,都将紛紛推出 40-50TOPS 的 NPU 產品,相當于這方面的算力一下子就能翻四到五倍。
算力的提升自然會使未來的 AI PC 產品有更大的提升。楊元慶提到,目前,受限于算力,AI PC 仍然會先在較高端的版本中推出。随着算力的發展,逐漸擴展到全產品線。不排除之後會推出一些面向消費者的服務,讓購買之前的設備的消費者,能夠更新到 AI PC 上。
從去年聯想推出 AI PC 的概念,到今年推出可使用的 AI PC 產品,聯想本身在 AI PC 上也動作頻頻。
聯想公司本身不做大模型,核心競争力在于大模型在終端的優化," 同樣參數的大模型,在誰的平台上能夠跑的好,誰家的開放應用最多,都是技術和本事。" 楊元慶講到。
聯想目前端側使用 7B 的模型。" 我們對于模型的優化能力,超過很多芯片廠商本身。" 楊元慶講到。
6 月,聯想還将發布 AI 手機和 AI 平板,也會内嵌大模型和智能體助手。結合 AI PC,就可以實現跨端的 AI 體驗。
值得注意的是,聯想此次的 AI PC,首先的產品發布放在了中國。聯想中國區解釋道:" 其實很多聯想的業務,都是先在中國區成功後再進行推廣的。" 同時他還宣布了一個數字,接下來,聯想中國将有 50% 的 PC 產品更新為 AI PC,全年下來,百分之八十九十都将更新為 AI PC。
不過目前看來,此次發布的 AI PC,除了查找文檔信息等,應用仍然相對單薄,發布會上重點展示的,還是用 AI 做 PPT 的場景。
目前看來,AI PC 的主要優勢在于 PC 本來就應用于辦公場景,端側 AI 能夠調用本地隐私檔案進行操作。在電腦上,除了網速不好等極端場景,人們使用雲端 AI 相對方便,如何為 AI PC 拓展更多優勢場景,似乎是廠商應該進一步思考的問題。