今天小编分享的科技经验:英伟达 H100 GPU 已对亚马逊 AWS 云服务用户开放,欢迎阅读。
品玩 7 月 30 日讯,据英伟达官方消息,亚马逊云正式推出了由英伟达 H100 Tensor Core GPU 驱动的新的 Amazon Elastic Compute Cloud(EC2)P5 实例。
该服务允许用户通过浏览器轻松扩展生成式 AI、高性能计算(HPC)和其他应用。NVIDIA H100 GPU 的一个重要特点是其对 Transformer 的优化,这是许多最新的先进 AI 应用所使用的关键技术,可确保 H100 在这些应用中提供更高的性能和效率。
NVIDIA H100 GPU 通过架构创新提供超级计算级性能,包括第四代 Tensor Cores、用于加速 LLMs 的新 Transformer 引擎以及最新的 NVLink 技术,可以带来极其可观的性能。