今天小编分享的科技经验:现场体验联想 AI PC :真端侧智能体,表现如何?,欢迎阅读。
4 月 18 日,联想一年一度的 Tech World 活动,在上海举行。
这是联想第十年举办类似的活动。在去年 Tech World 上,联想首次提出了 AI PC 的概念,而今年,发布会的亮点在于联想推出了中国用户可购买的一系列 AI PC 产品。
内置联想小天个人智能体,新的系列电腦被命名为 "AI 元启 " 系列。新的系列电腦中,最高端的是 YOGA Book 9i 系列,是全尺寸双 OLED 屏筆記型電腦,售价 17999 元,而最低端的联想小新 Pro 16,只需要 5999 元。5 月 20 日正式开售。
联想表示,此次发布的 AI PC,满足五大特性,是 " 真正的 AI PC。"
作为五大特性之首,此次发布的 AI PC,标志为配备了 AI Agent 智能体——联想小天。
联想小天可以使用本地模型和算力进行推理回答问题,也可以使用云端模型和算力进行回答问题。在使用本地算力时,用户可以将自己本地的文档进行向量化,变成个人知识库,让小天根据个人文档回答问题,而不涉及文档泄密的问题。
端侧 AI 是近期消费电子的重点。端侧 AI 有个性化、耗电量低、和隐私向的优势,但是由于算力和模型大小的限制,能力相对于云端大模型限制更多。PC 上的端侧模型相对于手机端的端侧模型,发展更快,而联想在 AI PC 方面,也是进展最快的厂商之一。那么此次联想的 AI PC 的小天能力如何?
极客公园参与了此次发布会,也在现场测试了联想的本地 AI 的智能体效果。
" 小天 " 智能体实测
极客公园在现场实测了联想 AI PC 的小天助手回答问题的能力。
目前联想的小天助手,可以直接在计算机的右下角一栏里找到。进入界面后,可以选择使用本地模型回答问题,也可以选择使用云端模型回答问题。
现场实测,本地模型基本上也能正确回答问题,但是相对于云端内容更简短,适合在网络环境不佳的场合使用。
回答模型内置知识库的知识时,时间和网络模型的延时差不多。
作为 AI PC 的重要功能之一,小天可以把敏感檔案直接做成本地数据库,从而能够轻松总结文档信息,用自然语言查找回答本地文档中的信息。记者也现场测试了一下,回答是正确的,但涉及到本地文档,加载时间要更长一些。
对于在意隐私的用户,查找本地檔案内部信息的功能还是很实用的。
另外,作为内置在终端的 AI,小天可以执行配置查找、简单的设备任务等语言命令。
联想的小天助手还可以生成图片、帮助制作 PPT,不过这些功能需要云端才可以实现。在这点上,小天还有一个很巧妙的设计。利用 YOGA Book 9i 的双屏,用户可以在一个螢幕上画画,而在另一个螢幕上,根据画的画生成相关的图片。
在联想的发布会上,联想现场让一个小朋友画了一幅抽象的企鹅滑雪草图,但是配上 " 企鹅滑雪 " 的文字 prompt 后,模型最后生成出了相对合理的图片,赢得了现场的掌声。
AI PC 进展很快
随着算力的逐步提升,AI PC 这一产品目前进展很快。
在发布会后的访谈中,联想集团董事长兼 CEO 杨元庆讲到,目前的 AI PC 产品中,使用的是 NPU、CPU、GPU 的混合算力。人们通常使用 TOPS 作为算力部門,1 TOPS 代表处理器每秒钟可进行一万亿次(10^12)操作。而此次的产品中,综合 AI 算力可以达到 200 TOPS,其中 NPU 算力可以达到 10 TOPS。
不过,AI PC 领網域整个进境很快。在专门为 AI 算力进行优化的 NPU 方向,下半年联想接触到的芯片厂商,都将纷纷推出 40-50TOPS 的 NPU 产品,相当于这方面的算力一下子就能翻四到五倍。
算力的提升自然会使未来的 AI PC 产品有更大的提升。杨元庆提到,目前,受限于算力,AI PC 仍然会先在较高端的版本中推出。随着算力的发展,逐渐扩展到全产品线。不排除之后会推出一些面向消费者的服务,让购买之前的设备的消费者,能够更新到 AI PC 上。
从去年联想推出 AI PC 的概念,到今年推出可使用的 AI PC 产品,联想本身在 AI PC 上也动作频频。
联想公司本身不做大模型,核心竞争力在于大模型在终端的优化," 同样参数的大模型,在谁的平台上能够跑的好,谁家的开放应用最多,都是技术和本事。" 杨元庆讲到。
联想目前端侧使用 7B 的模型。" 我们对于模型的优化能力,超过很多芯片厂商本身。" 杨元庆讲到。
6 月,联想还将发布 AI 手机和 AI 平板,也会内嵌大模型和智能体助手。结合 AI PC,就可以实现跨端的 AI 体验。
值得注意的是,联想此次的 AI PC,首先的产品发布放在了中国。联想中国区解释道:" 其实很多联想的业务,都是先在中国区成功后再进行推广的。" 同时他还宣布了一个数字,接下来,联想中国将有 50% 的 PC 产品更新为 AI PC,全年下来,百分之八十九十都将更新为 AI PC。
不过目前看来,此次发布的 AI PC,除了查找文档信息等,应用仍然相对单薄,发布会上重点展示的,还是用 AI 做 PPT 的场景。
目前看来,AI PC 的主要优势在于 PC 本来就应用于办公场景,端侧 AI 能够调用本地隐私檔案进行操作。在电腦上,除了网速不好等极端场景,人们使用云端 AI 相对方便,如何为 AI PC 拓展更多优势场景,似乎是厂商应该进一步思考的问题。