今天小编分享的科技经验:英伟达推出「最便宜」AI 超算,想让每个人都踏入 AI 世界,欢迎阅读。
2019 年,人工智能技术快速进步,AI 应用不断广泛深入。彼时,英伟达(NVIDIA)推出了面向「嵌入式设计师、研究人员和 DIY 制造商」的 AI 计算机以及开发套件「Jetson Nano」,售价 499 美元(约合 3638 元)。
▲ Jetson Nano(图源:NVIDIA)
近日,英伟达发布了 Jetson Nano 的更新版,也是目前该系列中「最便宜」的 AI 超级计算机及其开发套件「Jetson Orin Nano Super」。在性能更强的同时,价格还降低了一半,仅售 249 美元(约合 1809 元)。
按照英伟达的官方说法,Nano Super 的閱聽人是「商业 AI 开发者、业余爱好者和学生」。的确,不到 2000 元的价格对于那些初次接触生成式 AI、机器人技术或者计算机视觉技术的人群来讲,还算友好。
也许,这也表明了目前使用 AI 进行推理任务的成本正在逐渐降低。
▲ Jetson Orin Nano Super(图源:NVIDIA)
相较于前代,Nano Super 的 AI 推理性能提升了 1.7 倍,整体性能提高了 70%,达到 67 INT8 TOPS。此外,Nano Super 的内存带宽增加至 102GB/s,比前代产品提升了 50%;CPU 频率也从前代的 1.5GHz 提升至 1.7GHz。
整个 Nano Super 开发套件包含 Jetson Orin Nano 8GB 系统级模块(SoM)和一个参考载板,SoM 配备了 NVIDIA Ampere 架构 GPU 和 6 核 Arm CPU,支持多个并发 AI 应用管道和高性能推理。
另外,它还支持调用最多四个摄像头,并且提供比之前的版本更高的分辨率和帧速率。
▲图源:NVIDIA
英伟达声称 Nano Super 的性能提升为所有流行的生成式人工智能模型和基于变换器(transformer)的计算机视觉带来了好处。
不仅如此,由于 Nano Super 套件的硬體与其前代 Orin Nano 的硬體基本相同,因此之前购入了 Orin Nano 的用户通过安装軟體更新(JetPack SDK),也能体验到 Nano Super 的性能更新。
英伟达称,这是一份「持续给予的礼物」。
在英伟达生态的加持下,开发者可以从 NVIDIA Jetson AI 实验室获取教程,还可以在更广泛的 Jetson 社区获得支持和帮助,或者从其他开发者创建的项目中获得灵感等等。
英伟达表示,无论是创建基于检索增强生成的 LLM 聊天机器人、构建视觉 AI 代理还是部署基于 AI 的机器人,Nano Super 都是「理想的解决方案」,并且期待它能够加速 AI 驱动机器人技术在多个行业的发展。
随着人工智能领網域从特定任务模型逐渐转向更为通用的基础模型,Nano Super 无疑为技术爱好者们提供了一个将想法变为现实的「最实惠」可访问平台。正如英伟达所说:
现在每个人都可以通过生成式 AI 解锁新的可能性。