今天小編分享的科技經驗:一個頂五個H100的B200,老黃這是打破摩爾定律了?,歡迎閲讀。
那個愛穿皮衣的黃姓男人又帶着他的 " 家夥事 " 來炸場了。
就在今天凌晨,英偉達 GTC 大會正式拉開帷幕,英偉達創始人兼 CEO 黃仁勳現場兩個小時的演講,讓能容納兩萬人的 SAP 體育中心直接被塞爆了。
有網友把黃仁勳比作是新的喬布斯,還問 NVIDIA 會不會成為新的蘋果。
就連馬斯克也稱贊 " 現在沒什麼硬體能比英偉達的更适合 AI 。 "
反正這次大會,老黃和英偉達是又被捧到了新高度。
那這次開發者大會,到底都講了些啥?
大會演講全程兩個小時,沒有耐心看完演講的友友們,直接看世超的總結就行。
之前,有網友調侃過老黃是科技圈的泰勒 · 斯威夫特。所以這次一開場,老黃就先水了一波觀眾:注意注意,這不是演唱會,這是開發者大會。
接着又甩出一張圖,跟大家夥兒唠了半小時計算機和英偉達的發展史,還 cue 到了當年把第一台 DGX-1 超級計算機送給 OpenAI 的事兒。
不過這些,都只是些餐前小甜點,真正的大菜在後面呢。
因為這次演講的主題叫做《 見證 AI 的變革時刻 》,估計大夥兒也能猜出個七七八八,大會内容基本跟 AI 脱不了關系。
首先就是,全新的GPU 架構 Blackwell ,和新芯片 B200 。
大會現場,黃仁勳先是掏出了一塊 H100 ,還誇它 "changed the world" 。
但下一秒 Blackwell 架構的 B200 出現以後,大夥兒的注意力就被老黃口中這個 " 英偉達史上最成功的產品 " 給吸引住了。
肉眼上看, B200 和 H100 最大的區别就是,前者要更大。
根據介紹, B200 由兩個 Die( 裸片 )封裝組合而成的,包含了 2080 億個晶體管( H100 是 800 億個 ),可以支持參數量多達 10 萬億的 AI 模型搞訓練推理。
并且, B200 的算力性能是 20PFlops ,而上一代 H100 只有 4PFlops 。
實際,在芯片制程上 B200 其實是沒什麼創新的,畢竟 4nm 工藝已經是目前這顆星球上的芯片極限了,所以 B200 另辟蹊徑,兩個芯片之間的數據傳輸速度足夠快。
這樣,兩塊芯片就來了一波超級合體,約等于是一塊芯片,但威力卻加倍了。
大會上老黃還裝了個 X :他説當他們被告知 Blackwell 的野心超出了物理極限時,英偉達的工程師回了一句 : 那又怎樣?
另外,芯片還能繼續像搭積木一樣合體,把兩塊 B200 組合到一起,再跟英偉達的 Grace CPU 配對之後,又能整出一個超級芯片 GB200 。
這個 GB200 ,直接把計算性能拉滿了。
按照老黃的説法,在 1750 億組參數的 GPT-3 模型基準測試中, GB200 的性能是 H100 的 7 倍,以前要 90 天内訓練一個 1.8 萬億參數的 MoE 架構 GPT 模型,需要 8000 個 H100 ,但現在,有 2000 個 GB200 就夠了。
老黃在這,也算是非官方的透露了一下 GPT-4 的參數量, 1.8 萬億參數的 MoE ,和之前網友猜測的其實也大差不差。
而更誇張的是,還有把 36 個 GB200 放一起的 GB200 NVL72 伺服器,還有結合了 8 個 GB200 NVL72 的 DGX SuperPOD ,這些由 Blackwell GPU 壘起來的計算平台,一個比一個炸裂。
甚至于,老黃也直接説 " DGX SuperPOD 就是 AI 的革命工廠! "
之前科技公司不是老嚷嚷着搞大模型算力不夠不夠,這次老黃直接就整了個算力怪獸出來。。。
世超只想説,友商連 H100 還沒趕上呢,這 B200 怎麼又遙遙領先了?
而且,操心底層算力還不算完,英偉達這次連 AI 應用的落地也要摻和一腳。
就説這個英偉達要推出的 NIM 推理服務吧,它可以提供預訓練好的 AI 模型并開放 API ,再讓客户自己來開發應用。
舉個例子,英偉達這次推了 25 個醫療場景的微服務,這些微服務包括了一系列模型,比如預測蛋白質結構的 ESMFold 、生成化學的 MolMIM 等等等等,醫療公司就可以基于這些微服務,開發相關的應用出來。
按照老黃的説法,現在的英偉達就是一個 AI 代工廠,裏面有模型、有模型開發工具,還有一系列基礎設施。
這就相當于擴展了自己的 AI 生态鏈條,英偉達一下子路就走寬了。
另外,這次大會還有個重頭戲,那就是人形機器人基礎模型 GROOT 。
簡單來理解,用 GROOT 驅動的人形機器人可以理解自然語言、模仿人類的行為,從而實現跟物理世界的互動,也就是咱們經常提到的具身智能。
為了配合人形機器人,英偉達還專門發布了個人形機器人芯片 Jetson Thor 。這又是 GROOT 又是 Thor ,難不成老黃是要致敬漫威?
總的來説,這次英偉達的開發者大會幹貨還是挺多的。
反正新架構出來之後,英偉達車載計算平台 " NVIDIA DRIVE Thor " 要更新的消息一傳開,比亞迪以後也要把 NVIDIA DRIVE Thor 芯片用在自家車上了,還要用英偉達的基礎設施來開發自動駕駛大模型。
英偉達的 Omniverse 平台也跟蘋果來了波聯動,讓設計師可以戴着 Vision Pro 來設計汽車;台積電和新思科也要引入英偉達的光刻計算平台 cuLitho ,給芯片制造提一波速。
還有什麼 AI 遊戲數字人技術,地球氣候數字孿生,英偉達這次掏出來的東西基本上就沒有水貨。
AI 軍火商果然名不虛傳,反正從世超的觀察來看,今年以來英偉達的股價已經漲了超過 80% ,财報也是一片欣欣向榮。
但即便如此,不少人還是覺得英偉達的帝國背後,危機重重,有人覺得英偉達的生意太依賴谷歌、微軟這些巨頭了,不太具有持續性。
也有人把英偉達比作是我們這個時代的思科,因為在上個世紀末,一堆人覺得思科的交換機和路由器,就是互聯網時代的黃金,只要互聯網在,思科的股價永遠漲,可最後,思科的股價在互聯網泡沫的破裂中,蒸發大半。
但不論如何,如今的英偉達依舊是 AI 芯片領網域的最強話事人。
正如英偉達官網上説的那樣,是他們發明了 GPU 。而也是他們讓 GPU 從專用的圖形處理設備,變成了通用計算平台,從而推動了如今 AI 的發展。
所以在世超的眼裏,英偉達不單單只是 AI " 戰争 " 中的軍火商,因為如今 AI 這個火熱的場子,一定程度上都是英偉達搭起來的。
而在新一代的 " 軍火 " 亮相之後,世超已經來不及想看下一階段的 AI 大戰,有多激烈和壯觀了。