今天小編分享的科技經驗:英偉達 H100 GPU 已對亞馬遜 AWS 雲服務用户開放,歡迎閲讀。
品玩 7 月 30 日訊,據英偉達官方消息,亞馬遜雲正式推出了由英偉達 H100 Tensor Core GPU 驅動的新的 Amazon Elastic Compute Cloud(EC2)P5 實例。
該服務允許用户通過浏覽器輕松擴展生成式 AI、高性能計算(HPC)和其他應用。NVIDIA H100 GPU 的一個重要特點是其對 Transformer 的優化,這是許多最新的先進 AI 應用所使用的關鍵技術,可确保 H100 在這些應用中提供更高的性能和效率。
NVIDIA H100 GPU 通過架構創新提供超級計算級性能,包括第四代 Tensor Cores、用于加速 LLMs 的新 Transformer 引擎以及最新的 NVLink 技術,可以帶來極其可觀的性能。