今天小編分享的科技經驗:黃仁勳:「核彈工廠」即将上線,要讓所有人用上生成式 AI,歡迎閲讀。
「20 年前我們推出了 RTX 顯卡,5 年前我們将圖形計算與 AI 結合,推出了「星戰」Demo。」
美國當地時間 8 月 8 日早上,英偉達創始人、CEO 黃仁勳在世界計算機圖形會議 SIGGRAPH2023 上,開場回顧了英偉達在圖形計算上的高光時刻,并且展示了最新的實時渲染的 4K 分辨率的 3D 賽車追逐 Demo。
不過,僅僅幾分鍾後,「皮衣教主」的演講,就從 3D 圖形完全過渡到 AI 上了。作為人工智能浪潮中最重要的人物,黃仁勳為「普及生成式 AI」提供了更生猛的硬體,和更智能的應用和平台。
當天,黃仁勳曝光了用于生成式 AI 的 GH200 Grace Hopper 超級芯片、NVIDIA AI Workbench 以及通過生成式 AI 和 OpenUSD 更新的 NVIDIA Omniverse。
同時,黃仁勳還宣布英偉達與 AI 開源社區 Hugging Face 合作,将把生成式 AI 超級計算能力交付給數百萬開發者,為他們構建大型語言模型(LLM)和 AI 應用提供支持。
「還是那句話,買的越多,省的越多。」即使到了現在,黃仁勳依然不改金牌銷售的風格。
「核彈工廠」,即将上線
「生成式 AI 時代的來臨,就像 iPhone 時刻一樣。」黃仁勳感概,英偉達加速計算的旅程與深度學習研究人員的旅程相遇,現代人工智能的大爆炸發生了。
五年前,英偉達通過在 GPU 上引入 AI 和實時光線追蹤,重新定義了圖形技術。但是「當我們通過 AI 重新定義計算機圖形時,我們也正在為 AI 重新定義 GPU」。
結果就是,出現了越來越強大的系統,例如 NVIDIA HGX H100,利用八個 GPU,總計 1 萬億個晶體管,比基于 CPU 的系統提供了顯著的加速。
黃仁勳展示 GH200 芯片|英偉達
五年後,為了繼續推動 AI 發展,英偉達推出了 Grace Hopper 超級芯片,即 NVIDIA GH200,它将 72 核 Grace CPU 與 Hopper GPU 相結合,提供 1 EFLOPS 的 AI 算力和 144TB 的高速存儲,并于今年 5 月全面投產。
對于 GH200,黃仁勳在演講又拿出了看家金句,「如果我可以請你記住我今天演講中的一件事,那就是,未來屬于加速計算,你買的越多,你省的越多」。
NVIDIA GH200 最可怕的不是性能強悍,而是近乎瘋狂的「可擴展性」。
GH200 Grace Hopper 超級芯片平台。該平台連接多個 GPU,用于處理復雜的生成式工作負載,包括大型語言模型、推薦系統和矢量數據庫。據稱,與前一代相比,雙配置的内存容量是之前的 3.5 倍,帶寬是之前的 3 倍,伺服器配備 144 個 Arm Neoverse 核心、8 petaflops 的 AI 性能和 282GB 的最新 HBM3e 内存技術。預計 2024 年第二季度将有客户基于該平台推出自己的系統。
GH200 組成的 AI 超算實體大小圖|英偉達
根據老黃的説法,在相同的成本(1 億美元)下,2500 塊 GH200 組成的計算中心,在 AI 計算的能效上,要比傳統的 CPU 計算中心高 20 倍。
如果説上千塊 GH200 适用的對象是「前沿大語言模型」,對于已經成為「主流」的模型,英偉達也提供了能被普通人和公司使用的、成本更低的產品。
基于專業圖形應用需求,如計算機輔助設計和數字内容創作,英偉達還發布了基于 Ada Lovelace 架構的 RTX 4000 20GB、RTX 4500 24GB 和 RTX 5000 32GB,分别能提供 26.7、39.6、65.3 FP32 TFLOPS 的計算性能。
英偉達推出搭載 L40S GPU 的 OVX 伺服器產品|英偉達
此外,英偉達還推出了搭載 L40S GPU 的 OVX 伺服器產品,每台伺服器最多可以裝八個 L40S GPU,每個 GPU 有 48GB 内存。對于具有數十億參數和多種數據模态的復雜 AI 工作負載,相較于 A100 Tensor Core GPU,L40S 能夠實現 1.2 倍的生成式 AI 推理性能和 1.7 倍的訓練性能。
「專為生成式 AI 時代打造的 AI 超算」,GH200 的 PPT 頁面上如此寫道。
聯手開源,「普惠生成 AI」
為了加速各類企業定制生成式 AI,黃仁勳宣布,英偉達推出「AI Workbench」。
據稱,它為開發人員提供了一個統一、易于使用的工具包,可以在個人電腦或工作站上快速創建、測試和微調生成式 AI 模型,然後将其擴展到幾乎任何數據中心、公有雲或 NVIDIA DGX Cloud。
AI Workbench 主要降低企業啓動 AI 項目的門檻。通過在本地系統上運行的簡化訪問界面,它允許開發人員從流行庫(如 Hugging Face、GitHub 和 NGC)中微調模型,使用自定義數據。然後,這些模型可以在多個平台之間共享。
黃仁勳介紹英偉達 AI Workbench|英偉達
全球各地企業都在競相尋找合适的基礎架構并構建生成式 AI 模型和應用,盡管現在已經有數以千計的預訓練模型可用,但是使用許多開源工具進行定制可能仍具挑戰性且耗時。
「為了使這種能力普惠,我們必須使其能夠在幾乎所有地方運行。」黃仁勳稱,「讓所有人都能參與生成式 AI。」
借助 AI Workbench,開發人員可以只需點擊幾下就可以定制和運行生成式 AI。它允許他們将所有必要的企業級模型、框架、軟體開發工具包和庫匯集到一個統一的開發者工作區中。
據稱,包括戴爾、惠普、Lambda、聯想和 Supermicro,都正采用 AI Workbench,因為它可以将企業生成式 AI 能力帶到開發人員希望工作的任何地方,包括本地設備。
在演講中,黃仁勳展示了 AI Workbench 和 ChatUSD 如何将所有這些功能結合在一起:允許用户從 GeForce RTX 4090 筆記型電腦啓動項目,并随着項目變得更加復雜而無縫擴展到工作站或數據中心。
據黃仁勳展示,用户可以提示模型生成一張玩具黃仁勳在太空中的圖片,但初始模型提供的結果不适用,因為它從未見過玩具黃仁勳,這時候用户可以用八張玩具黃仁勳的圖片微調模型,然後再次輸入提示,獲得正确的結果。
使用提示詞創建出的黃仁勳人偶上太空|英偉達
然後,使用 AI Workbench,新模型就可以部署到企業應用程式中。
黃仁勳還宣布了英偉達與 Hugging Face 的合作夥伴關系,後者擁有 200 萬用户,或将使英偉達的生成式 AI 計算能力成為數百萬開發人員構建大型語言模型和 AI 應用的工具。
作為合作的一部分,Hugging Face 将提供一個新的服務——「訓練集群即服務」(Training Cluster as a Service),由 NVIDIA DGX Cloud 提供支持,該服務将在未來幾個月内推出。
開發人員将能夠在 Hugging Face 平台内訪問 NVIDIA DGX Cloud AI 超級計算,以訓練和微調先進的 AI 模型。據悉,Hugging Face 社區已分享超過 25 萬個模型和 5 萬個數據集。
「這将是一個全新的服務,将世界上最大的 AI 社區與世界上最好的訓練和基礎設施連接起來。」黃仁勳稱。
ChatUSD,對話式「3D 生成」
就在本周,英偉達、蘋果、Adobe 和 Autodesk 等公司聯手成立 OpenUSD 聯盟,将這個誕生于皮克斯的 3D 标準,推向更廣闊的世界。
而将 OpenUSD、AI 以及 Omniverse 結合,設計和開發人員将能通過 ChatUSD 這樣的對話式界面,直接用自然語言修改和創建 3D 環境及物體,極大簡化 3D 制作流程。
黃仁勳介紹 OpenUSD 聯盟|英偉達
該聯盟将标準化并擴展 OpenUSD,這是開源的通用場景描述框架,是實現互操作性的 3D 應用程式和項目的基礎,涵蓋從視覺效果到工業數字孿生的各個領網域,如連接電影和動畫流程,創建真實精确的實時數字工廠、倉庫、城市甚至地球數字副本等。
英偉達和 Adobe 還計劃将 Adobe Firefly(Adobe 的創意生成式 AI 模型系列)作為 API 提供在 Omniverse 中。
據悉,Cesium、Convai、Move AI、SideFX Houdini 和 Wonder Dynamics 等 AI 工具現在已經通過 OpenUSD 連接到 Omniverse。
使用 OpenUSD,各個管線的工具可以同時使用一個素材和場景|英偉達
例如,Wonder Dynamics 通過新的 OpenUSD 導出支持,可以自動将計算機生成的角色動畫、燈光和合成到現實場景中。Move AI 可以使用 Move One 應用程式進行單攝影機運動捕捉,可以生成 3D 角色動畫,然後可以導出到 OpenUSD 并在 Omniverse 中使用。
現在,Omniverse 用户可以構建與其他基于 OpenUSD 的空間計算平台(如 ARKit 和 RealityKit)兼容的内容、體驗和應用程式。
另外,黃仁勳還宣布了由英偉達構建的四個新的 Omniverse Cloud API,包括 ChatUSD、RunUSD、DeepSearch 和 USD-GDN Publisher,供開發人員更無縫地實現和部署 OpenUSD 管道和應用程式。
使用 ChatUSD,可以用自然語言修改右邊的 3D 模型|英偉達
其中,ChatUSD 可以回答 USD 知識問題或生成 Python-USD 代碼腳本;RunUSD 可以将 USD 檔案轉化為渲染影像;DeepSearch 可以實現語義 3D 搜索;USD-GDN Publisher 可用于發布基于 OpenUSD 的高保真體驗,實時流式傳輸到 Web 浏覽器和移動設備。
英偉達 Omniverse 和模拟技術副總裁稱,「工業企業正在競相将其工作流數字化,這增加了對啓用 OpenUSD 的、連接的、可互操作的 3D 軟體生态系統的需求。」「最新的 Omniverse 更新讓開發人員通過 OpenUSD 利用生成式人工智能來增強他們的工具,同時允許企業構建更大、更復雜的全球規模模拟,作為其工業應用的數字測試場。」
目前都有誰在用 Omniverse?據黃仁勳介紹,科技公司正在用它測試和模拟協作機器人,亞馬遜用它模拟車隊将倉庫數字化,汽車廠商如梅賽德斯用它來模拟自動駕駛汽車,寶馬用它模拟新的電動汽車生產線,将全球工廠網絡數字化,Deutsche Mind 用它創建鐵路網絡的數字孿生,甚至還有公司用它創建地球的數字孿生,即地球的氣候系統等等。
據悉,英偉達還正在開發一種新的 SimReady 3D 模型結構。這些模型将包括真實的材料和物理屬性,這對于準确訓練自主機器人和車輛至關重要。例如,一個負責分揀包裹的自主機器人需要在 3D 模拟中進行訓練,這些包裹在物理接觸時移動和反應,就像在現實世界中一樣。
在 AI 的推動下,協作式 3D 和工業數字化的時代正在到來。黃仁勳還認為,未來的工廠将是機器人工廠,「機器人協調一大堆機器人來制造本身就是機器人的汽車」「我們希望 AI 能夠進行自我編程」。
「未來,整個工廠将由軟體定義。」黃仁勳稱。
作為這一波「生成式 AI」浪潮中最重要的「基建」公司,英偉達股票已經在最近暴漲 200%,一度突破萬億美元大關。
而在售賣「核彈」硬體之外,在軟體、雲計算和平台以及生态方面,英偉達同樣不遺餘力,因為只有讓生成式 AI 真正進入到工業生產和辦公中,才算是真正實現「AI 普惠」。而從這個角度來看,英偉達和現在的 AI 初創公司,以及正在向生成式 AI 轉型的傳統公司,其實在一條船上。
「買更多,省更多」,而只有「更多 AI」,英偉達才能保證自己「越賺越多」。