今天小编分享的科技经验:AMD MI300X这次成了!大量NVIDIA用户投奔而来,欢迎阅读。
NVIDIA AI GPU 风头无两,公司市值全球第三,黄仁勋甚至声称对手免费也无法击败自己,但事实上,AMD MI300 系列这一代还是可圈可点的,也吸引了大量用户。
TensorWave 对 82 名高级工程师、AI 专家进行的独立调查显示,大约 50%的受访者表示对 AMD MI300X GPU 充满信心,原因是相比 NVIDIA H100 系列不但性价比更高,而且供货充足,不会因为缺货而加价。
事实上,TensorWave 自己也采购了 AMD MI300X。
AMD Instinct 系列产品其实已经发展了很多代,但无论性能还是市场接受度都远逊于对手。
这一代的 MI300X 实现了性能飞跃,相比 H100 内存容量多 2.4 倍、带宽高 1.6 倍、FP8、FP16 浮点性能都高 1.3 倍,FlashAttention 2、Llama2 ( 700 亿参数 ) 1v1 对比测试领先 20%,Bloom ( 1760 亿参数 ) 、Llama2 ( 700 亿参数 ) 8v8 测试领先 60%、40%。
AMD 还打造了 MI300A,首次在数据中心同时集成了 CPU、GPU,但目前尚未铺开。
AMD 苏姿丰此前预测,AMD AI 芯片 2024 年的收入将达到 35 亿美元,大大高于此前预计的 20 亿美元。
当然,AMD 在开发支持、生态建设方面还存在较大的差距,仍需努力追赶。