今天小編分享的科技經驗:英偉達推出「最便宜」AI 超算,想讓每個人都踏入 AI 世界,歡迎閲讀。
2019 年,人工智能技術快速進步,AI 應用不斷廣泛深入。彼時,英偉達(NVIDIA)推出了面向「嵌入式設計師、研究人員和 DIY 制造商」的 AI 計算機以及開發套件「Jetson Nano」,售價 499 美元(約合 3638 元)。
▲ Jetson Nano(圖源:NVIDIA)
近日,英偉達發布了 Jetson Nano 的更新版,也是目前該系列中「最便宜」的 AI 超級計算機及其開發套件「Jetson Orin Nano Super」。在性能更強的同時,價格還降低了一半,僅售 249 美元(約合 1809 元)。
按照英偉達的官方説法,Nano Super 的閱聽人是「商業 AI 開發者、業餘愛好者和學生」。的确,不到 2000 元的價格對于那些初次接觸生成式 AI、機器人技術或者計算機視覺技術的人群來講,還算友好。
也許,這也表明了目前使用 AI 進行推理任務的成本正在逐漸降低。
▲ Jetson Orin Nano Super(圖源:NVIDIA)
相較于前代,Nano Super 的 AI 推理性能提升了 1.7 倍,整體性能提高了 70%,達到 67 INT8 TOPS。此外,Nano Super 的内存帶寬增加至 102GB/s,比前代產品提升了 50%;CPU 頻率也從前代的 1.5GHz 提升至 1.7GHz。
整個 Nano Super 開發套件包含 Jetson Orin Nano 8GB 系統級模塊(SoM)和一個參考載板,SoM 配備了 NVIDIA Ampere 架構 GPU 和 6 核 Arm CPU,支持多個并發 AI 應用管道和高性能推理。
另外,它還支持調用最多四個攝像頭,并且提供比之前的版本更高的分辨率和幀速率。
▲圖源:NVIDIA
英偉達聲稱 Nano Super 的性能提升為所有流行的生成式人工智能模型和基于變換器(transformer)的計算機視覺帶來了好處。
不僅如此,由于 Nano Super 套件的硬體與其前代 Orin Nano 的硬體基本相同,因此之前購入了 Orin Nano 的用户通過安裝軟體更新(JetPack SDK),也能體驗到 Nano Super 的性能更新。
英偉達稱,這是一份「持續給予的禮物」。
在英偉達生态的加持下,開發者可以從 NVIDIA Jetson AI 實驗室獲取教程,還可以在更廣泛的 Jetson 社區獲得支持和幫助,或者從其他開發者創建的項目中獲得靈感等等。
英偉達表示,無論是創建基于檢索增強生成的 LLM 聊天機器人、構建視覺 AI 代理還是部署基于 AI 的機器人,Nano Super 都是「理想的解決方案」,并且期待它能夠加速 AI 驅動機器人技術在多個行業的發展。
随着人工智能領網域從特定任務模型逐漸轉向更為通用的基礎模型,Nano Super 無疑為技術愛好者們提供了一個将想法變為現實的「最實惠」可訪問平台。正如英偉達所説:
現在每個人都可以通過生成式 AI 解鎖新的可能性。