今天小編分享的科技經驗:揭秘英偉達新超算項目 每秒能跑8000000000000000000次AI運算,歡迎閱讀。
财聯社 5 月 30 日訊(編輯 史正丞)在英偉達周一發布的一堆公告中,潛藏了一條消息:芯片巨頭将在集團最大海外研發中心以色列,建設一台該國算力最強的 AIGC 雲超算。
據英偉達介紹,這台名為 Israel-1 的超算是基于 H100 GPU 平台的戴爾 PowerEdge XE9680 伺服器、以色列本土研發的 BlueField-3 數據處理器(DPU),以及 Spectrum-4 交換機構成的 Spectrum-X 網絡平台,也将成為全球數據中心參考設計的藍圖和測試平台。
(黃仁勳演示 Spectrum-4 交換機,來源:社交媒體)
單台 Spectrum-X 交換機可以實現 256 個 200Gb/s 端口的連接,使用兩層葉脊拓撲可以連接 1.6 萬個個端口。
這些枯燥的參數也能用非常簡單的兩個數字來概括:Israel-1 超算預期的性能峰值将達到每秒 8 個 exaflops(10 的 18 次方),也就是一秒鍾完成 8,000,000,000,000,000,000 次 AI 計算。對于傳統的科學運算負荷,Israel-1 的性能也能達到每秒 130 petaflops(10 的 15 次方)次。
随着生成式 AI(例如 OpenAI 的 ChatGPT)的興起,人工智能處理海量數據集不僅需要超快的計算性能和海量内存,數據中心内部的網絡傳輸也面臨新的挑戰,這也是英偉達看到的機會。作為一款在以色列開發的平台,Spectrum-X 專門為世界各地的數據中心能夠過渡到 AI 和加速計算量身定制。
這個平台也是英偉達資本運作的結晶。據《以色列時報》介紹,2020 年英偉達完成 70 億美元收購以色列的邁絡思(Mellanox)科技的交易,後者正是高速伺服器和存儲連接解決方案供應商。這筆收購也給英偉達的以色列業務吸收了 1000 名才俊。
實際上,經過多年的發展,英偉達在以色列的研發部門已經是芯片巨頭最大的海外研發基地,在約克尼穆(邁絡思總部)、特拉維夫等七個地區雇傭着 3000 多名員工。
英偉達高級副總裁 Gilad Shainer 表示,除了數千名員工外,公司也在與以色列當地的 800 餘家創業公司展開合作。Shainer 說道:" 接下來生成式 AI 将會變得無所不在,企業會需要跑大數據集的能力。這樣的大規模系統,将使以色列的企業能夠更快地進行培訓,構建框架和構建可以解決更復雜問題的解決方案。"
Shainer 透露,雖然 Israel-1 的首要任務是服務好以色列的合作夥伴,未來公司也能使用這個系統與以色列以外的合作夥伴合作。