今天小編分享的财經經驗:全程回顧黃仁勳GTC演講:Blackwell架構B200芯片登場,歡迎閱讀。
财聯社 3 月 19 日訊(編輯 史正丞)北京時間 3 月 19 日 4 時 -6 時,英偉達創始人黃仁勳在美國加州聖何塞 SAP 中心登台,發表 GTC 2024 的主題演講《見證 AI 的變革時刻》。鑑于過去一年多時間裡 AI 帶來的生產力變革,以及英偉達等一眾概念股的表現,老黃的演講已經變成全球資本市場翹首以待的熱門事件。
在這場兩個小時的演講中,黃仁勳公布了搭載 B200 芯片的 GB200 Grace Blackwell 超級芯片系統,以及英偉達在 AI 軟體(NIM 微服務)、Omiverse 雲、具身智能方面的最新進展。
以下為演講内容回顧:
播放開場影片
黃仁勳登台,對觀眾們強調:我希望你們搞清楚今天這裡不是演唱會,而是一場開發者大會。
黃仁勳介紹了本屆 GTC 的一些參與者,并強調這些公司不只是來參會,而是有自己的東西要來展示。
黃仁勳展示英偉達發展史,又提了将首台 DGX One 送給 OpenAI 的故事。
黃仁勳:今天我們将讨論這個新行業的許多問題。我們要談談如何進行計算、我們要談談你所構建的軟體類型,你将如何看待這個新軟體,新行業中的應用 然後,也許(再談談)下一步是什麼,我們如何從今天開始做準備,下一步會發生什麼。
黃仁勳:我們使用仿真工具來創造產品,并不是為了降低計算成本,而是為了擴大計算規模。我們希望能夠以完全保真、完全數字化的方式模拟我們所做的整個產品。從本質上講,我們稱之為數字孿生。
老黃開始介紹一系列 " 新加速生态系統 " 合作夥伴,包括 ANSYS、Synopsis、Cadence 等。他也提及,台積電和 Synopsys 将突破性的英偉達計算光刻平台投入生產。
随着 transformer 模型被發明,我們能以驚人的速度擴展大型語言模型,實際上每六個月就能翻一番。而為了訓練這些越來越大的模型,我們也需要更強的算力。
" 非常強大 " 的 Blackwell 架構 GPU 登場
老黃現場對比 Blackwell 架構和 Grace Hopper 架構的 GPU
老黃現場展示 Grace-Blackwell 系統(兩個 Blackwell GPU、四個 die 與一個 Grace Cpu 連接在一起)。GB200 将兩個 B200 Blackwell GPU 與一個基于 Arm 的 Grace CPU 進行配對。新芯片擁有 2080 億個晶體管,所有這些晶體管幾乎同時訪問與芯片連接的内存。
為了處理大規模數據中心的 GPU 互動問題,也需要更強的連接(NVlink)能力。
這個 GB200 新系統提升在哪裡呢?老黃舉例稱,如果要訓練一個 1.8 萬億參數量的 GPT 模型,需要 8000 張 Hopper GPU,消耗 15 兆瓦的電力,連續跑上 90 天。但如果使用 Blackwell GPU,只需要 2000 張,同樣跑 90 天只要消耗四分之一的電力。當然不只是訓練,生成 Token 的成本也會随之降低。
把芯片做大的好處:單 GPU 每秒 Token 吞吐量翻了 30 倍
毫無疑問,微軟 Azure、AWS、谷歌雲等一眾科技巨頭都是 Blackwell 架構的首批用戶。
接下來應該是應用側的部分,先展示的是生物醫藥的部分,包括 NVIDIA DGX 雲中的多項更新。
黃仁勳宣布新的 AI 微服務,用于開發和部署企業級生成式 AI 應用。老黃表示,未來如何開發軟體?與現在寫一行行代碼不同,未來可能就要靠一堆 NIMs(Nvidia inference micro service),用與 AI 聊天的形式調動一堆 NIMS 來完成訓練、應用的部署。英偉達的願景是成為 AI 軟體的 " 晶圓廠 "。
英偉達的 AI 微服務 NIM 網站已經上線。
NIM 微服務提供了最快、性能最高的 AI 生產容器,用于部署來自 NVIDIA、A121、Adept、Cohere、Getty Images 和 Shutterstock 的模型,以及來自 Google、Hugging Face、Meta、Microsoft、Mistral AI 和 Stability AI 的開放模型。
NVIDIA AI Enterprise 軟體平台更新,包括 NIM、構建 RAG 應用程式的工具等。随後老黃又分享了西門子科技、日產汽車等用如何在工作流中将 Omiverse Cloud 應用在工作流中。
黃仁勳宣布,現在支持将 Omniverse 雲推流至 Vision Pro。
可能是時間不太夠了,老黃開始加速官宣一系列合作。其中提到全球最大電動車公司比亞迪将采用英偉達下一代智能汽車芯片 Thor。比亞迪同時将使用英偉達基礎設施進行自動駕駛模型訓練,以及英偉達 Isaac 來設計 / 模拟智能工廠機器人。
開始提機器人了。黃仁勳表示,在我們的世界裡,類人機器人很有可能會發揮更大的作用,我們設定工作站、制造和物流的方式,并不是為人類設計的,而是為人類設計的。因此,這些人類或機器人的部署可能會更有成效。黃仁勳同時宣布一項名為 GR00T 的項目,旨在進一步推動英偉達在機器人和具身智能的突破性工作。由 GR00T 驅動的機器人可以理解自然語言,并通過觀察人類動作來模拟運動。
除了機器人影像外,迪士尼的 orange 和 green 機器人也來到現場,這款機器人用的是英偉達為機器人設計的首款 AI 芯片 Jetson。
黃仁勳帶着機器人下場,現場播放 ending 影片
黃仁勳返場告别,全場發布會結束。