今天小编分享的科技经验:揭秘英伟达新超算项目 每秒能跑8000000000000000000次AI运算,欢迎阅读。
财联社 5 月 30 日讯(编辑 史正丞)在英伟达周一发布的一堆公告中,潜藏了一条消息:芯片巨头将在集团最大海外研发中心以色列,建设一台该国算力最强的 AIGC 云超算。
据英伟达介绍,这台名为 Israel-1 的超算是基于 H100 GPU 平台的戴尔 PowerEdge XE9680 伺服器、以色列本土研发的 BlueField-3 数据处理器(DPU),以及 Spectrum-4 交换机构成的 Spectrum-X 网络平台,也将成为全球数据中心参考设计的蓝图和测试平台。
(黄仁勋演示 Spectrum-4 交换机,来源:社交媒体)
单台 Spectrum-X 交换机可以实现 256 个 200Gb/s 端口的连接,使用两层叶脊拓扑可以连接 1.6 万个个端口。
这些枯燥的参数也能用非常简单的两个数字来概括:Israel-1 超算预期的性能峰值将达到每秒 8 个 exaflops(10 的 18 次方),也就是一秒钟完成 8,000,000,000,000,000,000 次 AI 计算。对于传统的科学运算负荷,Israel-1 的性能也能达到每秒 130 petaflops(10 的 15 次方)次。
随着生成式 AI(例如 OpenAI 的 ChatGPT)的兴起,人工智能处理海量数据集不仅需要超快的计算性能和海量内存,数据中心内部的网络传输也面临新的挑战,这也是英伟达看到的机会。作为一款在以色列开发的平台,Spectrum-X 专门为世界各地的数据中心能够过渡到 AI 和加速计算量身定制。
这个平台也是英伟达资本运作的结晶。据《以色列时报》介绍,2020 年英伟达完成 70 亿美元收购以色列的迈络思(Mellanox)科技的交易,后者正是高速伺服器和存储连接解决方案供应商。这笔收购也给英伟达的以色列业务吸收了 1000 名才俊。
实际上,经过多年的发展,英伟达在以色列的研发部门已经是芯片巨头最大的海外研发基地,在约克尼穆(迈络思总部)、特拉维夫等七个地区雇佣着 3000 多名员工。
英伟达高级副总裁 Gilad Shainer 表示,除了数千名员工外,公司也在与以色列当地的 800 余家创业公司展开合作。Shainer 说道:" 接下来生成式 AI 将会变得无所不在,企业会需要跑大数据集的能力。这样的大规模系统,将使以色列的企业能够更快地进行培训,构建框架和构建可以解决更复杂问题的解决方案。"
Shainer 透露,虽然 Israel-1 的首要任务是服务好以色列的合作伙伴,未来公司也能使用这个系统与以色列以外的合作伙伴合作。