今天小编分享的财经经验:全程回顾黄仁勋GTC演讲:Blackwell架构B200芯片登场,欢迎阅读。
财联社 3 月 19 日讯(编辑 史正丞)北京时间 3 月 19 日 4 时 -6 时,英伟达创始人黄仁勋在美国加州圣何塞 SAP 中心登台,发表 GTC 2024 的主题演讲《见证 AI 的变革时刻》。鉴于过去一年多时间里 AI 带来的生产力变革,以及英伟达等一众概念股的表现,老黄的演讲已经变成全球资本市场翘首以待的热门事件。
在这场两个小时的演讲中,黄仁勋公布了搭载 B200 芯片的 GB200 Grace Blackwell 超级芯片系统,以及英伟达在 AI 軟體(NIM 微服务)、Omiverse 云、具身智能方面的最新进展。
以下为演讲内容回顾:
播放开场影片
黄仁勋登台,对观众们强调:我希望你们搞清楚今天这里不是演唱会,而是一场开发者大会。
黄仁勋介绍了本届 GTC 的一些参与者,并强调这些公司不只是来参会,而是有自己的东西要来展示。
黄仁勋展示英伟达发展史,又提了将首台 DGX One 送给 OpenAI 的故事。
黄仁勋:今天我们将讨论这个新行业的许多问题。我们要谈谈如何进行计算、我们要谈谈你所构建的軟體类型,你将如何看待这个新軟體,新行业中的应用 然后,也许(再谈谈)下一步是什么,我们如何从今天开始做准备,下一步会发生什么。
黄仁勋:我们使用仿真工具来创造产品,并不是为了降低计算成本,而是为了扩大计算规模。我们希望能够以完全保真、完全数字化的方式模拟我们所做的整个产品。从本质上讲,我们称之为数字孪生。
老黄开始介绍一系列 " 新加速生态系统 " 合作伙伴,包括 ANSYS、Synopsis、Cadence 等。他也提及,台积电和 Synopsys 将突破性的英伟达计算光刻平台投入生产。
随着 transformer 模型被发明,我们能以惊人的速度扩展大型语言模型,实际上每六个月就能翻一番。而为了训练这些越来越大的模型,我们也需要更强的算力。
" 非常强大 " 的 Blackwell 架构 GPU 登场
老黄现场对比 Blackwell 架构和 Grace Hopper 架构的 GPU
老黄现场展示 Grace-Blackwell 系统(两个 Blackwell GPU、四个 die 与一个 Grace Cpu 连接在一起)。GB200 将两个 B200 Blackwell GPU 与一个基于 Arm 的 Grace CPU 进行配对。新芯片拥有 2080 亿个晶体管,所有这些晶体管几乎同时访问与芯片连接的内存。
为了处理大规模数据中心的 GPU 互動问题,也需要更强的连接(NVlink)能力。
这个 GB200 新系统提升在哪里呢?老黄举例称,如果要训练一个 1.8 万亿参数量的 GPT 模型,需要 8000 张 Hopper GPU,消耗 15 兆瓦的电力,连续跑上 90 天。但如果使用 Blackwell GPU,只需要 2000 张,同样跑 90 天只要消耗四分之一的电力。当然不只是训练,生成 Token 的成本也会随之降低。
把芯片做大的好处:单 GPU 每秒 Token 吞吐量翻了 30 倍
毫无疑问,微软 Azure、AWS、谷歌云等一众科技巨头都是 Blackwell 架构的首批用户。
接下来应该是应用侧的部分,先展示的是生物医药的部分,包括 NVIDIA DGX 云中的多项更新。
黄仁勋宣布新的 AI 微服务,用于开发和部署企业级生成式 AI 应用。老黄表示,未来如何开发軟體?与现在写一行行代码不同,未来可能就要靠一堆 NIMs(Nvidia inference micro service),用与 AI 聊天的形式调动一堆 NIMS 来完成训练、应用的部署。英伟达的愿景是成为 AI 軟體的 " 晶圆厂 "。
英伟达的 AI 微服务 NIM 网站已经上线。
NIM 微服务提供了最快、性能最高的 AI 生产容器,用于部署来自 NVIDIA、A121、Adept、Cohere、Getty Images 和 Shutterstock 的模型,以及来自 Google、Hugging Face、Meta、Microsoft、Mistral AI 和 Stability AI 的开放模型。
NVIDIA AI Enterprise 軟體平台更新,包括 NIM、构建 RAG 应用程式的工具等。随后老黄又分享了西门子科技、日产汽车等用如何在工作流中将 Omiverse Cloud 应用在工作流中。
黄仁勋宣布,现在支持将 Omniverse 云推流至 Vision Pro。
可能是时间不太够了,老黄开始加速官宣一系列合作。其中提到全球最大电动车公司比亚迪将采用英伟达下一代智能汽车芯片 Thor。比亚迪同时将使用英伟达基础设施进行自动驾驶模型训练,以及英伟达 Isaac 来设计 / 模拟智能工厂机器人。
开始提机器人了。黄仁勋表示,在我们的世界里,类人机器人很有可能会发挥更大的作用,我们設定工作站、制造和物流的方式,并不是为人类设计的,而是为人类设计的。因此,这些人类或机器人的部署可能会更有成效。黄仁勋同时宣布一项名为 GR00T 的项目,旨在进一步推动英伟达在机器人和具身智能的突破性工作。由 GR00T 驱动的机器人可以理解自然语言,并通过观察人类动作来模拟运动。
除了机器人影像外,迪士尼的 orange 和 green 机器人也来到现场,这款机器人用的是英伟达为机器人设计的首款 AI 芯片 Jetson。
黄仁勋带着机器人下场,现场播放 ending 影片
黄仁勋返场告别,全场发布会结束。