英伟达推出仅249美元的AI超级电腦生成式AI性能提高达1.7倍

今天小编分享的互联网经验：英伟达推出仅249美元的AI超级电腦生成式AI性能提高达1.7倍，欢迎阅读。

作者：赵雨荷

来源：硬 AI

英伟达周二推出了一款名为 Jetson Orin Nano Super 的生成式 AI 超级计算机。英伟达 CEO 黄仁勋表示，这款开发者套件通过軟體更新实现了更高性能和更低价格，仅售 249 美元，尺寸小巧，可放在手掌中，可将生成式 AI 性能提高高达 1.7 倍。

该公司表示，这款产品适合商业 AI 开发者、爱好者和学生，与其前代产品相比，其生成式 AI 推理性能提升了 1.7 倍，性能提高了 70%，每秒可以执行高达 67 万亿次的 INT8 运算（67 INT8 TOPS），内存带宽也提升了 50%，达到了 102GB/s。

黄仁勋还特意为这款产品录制了一段视频，如同 2021 年发布 Hopper H100 时一样，展现英伟达对这款产品的重视。在视频中，黄仁勋表示，从 Xavier 开始，英伟达就创造了一种新的处理器，也就是机器人处理器，当时没人知道他们在做什么。

新的 Jetson Orin Nano Super 拥有将近 70 兆次的运算能力，功率 25 瓦，价格 249 美元，可以执行 HGX 的所有功能，甚至是执行大语言模型。

他表示，无论是创建基于检索增强生成（Retrieval-Augmented Generation, RAG）的大型语言模型（LLM）聊天机器人，构建视觉 AI 代理，还是部署基于 AI 的机器人，Jetson Orin Nano Super 都是理想的选择，这款套件都能以更低的成本提供强大的运算效能，主要由于产品支持低功耗设计，能以 7 瓦到 25 瓦的功耗运行，适合各种边缘设备云算场景，无论是智能城市、智能农业还是机器人开发。

持续提升的性能和体验

通过軟體更新，Jetson Orin Nano Super 也将为已有 Jetson Orin Nano 开发者套件的用户提升生成式 AI 性能。

黄仁勋表示，Jetson Orin Nano Super 非常适合那些希望在生成式 AI、机器人技术或计算机视觉领網域发展技能的人士。在 AI 领網域从任务专用模型向基础模型转变的趋势下，它也为开发者提供了一个将创意变为现实的易用平台。

为生成式 AI 提供强劲性能

Jetson Orin Nano Super 性能增强，为所有流行的生成式 AI 模型，例如 Meta 的 LLaMA、阿里巴巴的通义千问以及谷歌的 Gemma。这款套件基于 Transformer 的计算机视觉模型带来了显著提升，进一步提升效能表现。

该公司表示，开发者套件包括一个 Jetson Orin Nano 8GB 系统模块（SoM）和一个参考载板，为边缘设备 AI 应用的原型设计提供了理想平台。

系统模块采用 NVIDIA Ampere 架构 GPU，配备张量计算核心（Tensor Cores）和 6 核 Arm CPU，能够处理多个并行 AI 应用管道，并提供高性能推理能力。此外，它还支持最多四个摄像头，分辨率和帧率均高于前代版本。

英伟达强调，随着 AI 技术逐渐从云端走向终端，实体 AI 将是下一波发展重点，Jetson Orin Nano Super 不仅可以用于开发聊天机器人，也适合简历视觉 AI 代理或部署 AI 机器人等应用。

广泛的生成式 AI 軟體生态系统与社区

此外，英伟达 Jetson AI 实验室提供对最新开源社区模型的支持，以及易于使用的教程。开发者还可以从更广泛的 Jetson 社区获得支持，并从其他开发者的项目中获得灵感。

Jetson 支持英伟达的 AI 軟體，包括用于机器人技术的 NVIDIA Isaac、用于视觉 AI 的 NVIDIA Metropolis 和用于传感器处理的 NVIDIA Holoscan。通过 NVIDIA Omniverse Replicator 生成合成数据，以及使用 NVIDIA TAO 工具包微调来自 NGC 目录的预训练 AI 模型，开发时间可以大幅缩短。

Jetson 生态系统合作伙伴提供额外的 AI 和系统軟體、开发工具以及定制軟體开发服务。他们还提供与摄像头及其他传感器相关的支持，以及载板和产品解决方案的设计服务。

为所有 Jetson Orin 用户解锁性能提升：Super 模式

英伟达也宣布将为 Jetson Orin NX 和 Nano 系列的系统模块提供軟體更新，让它们也能享受到 Super 模式的性能提升，最高可达 70%。这些更新将通过 Jetpack SDK 管理器发布在英伟达网站和 GitHub 上。