今天小编分享的科技经验:低价谋发展,消息称AMD向微软供货Instinct MI300系列 AI 加速卡,欢迎阅读。
IT 之家 2 月 14 日消息,根据国外科技媒体 Windows Report 报道,AMD 公司为 Instinct MI300 系列加速器谋发展,将以较低的价格供货给微软公司,促进双方新一轮长期合作。
微软目前主要采购英伟达的 AI 加速器,其型号为 H100 Tensor Core GPU,据说是面向企业处理 AI 任务性能最强的 GPU 之一。
IT 之家去年 12 月报道,Meta、OpenAI 和微软在 AMD 投资者活动上表示,他们都将使用 AMD 最新开发的人工智能芯片 Instinct MI300X。这表明,虽然英伟达的 GPU 芯片对于开发和部署 ChatGPT 等人工智能程式至关重要,但很多科技公司都在寻找替代品。
AMD 表示,MI300X 基于一种能显著提升性能的新架构。这款芯片的最大特点是拥有 192GB 的高性能 HBM3 内存,传输数据速度更快,可以适配规模更大的人工智能模型。
这款加速卡采用 Chiplet 设计,拥有 13 个小芯片,基于 3D 堆叠,包括 24 个 Zen4 CPU 内核,同时融合了 CDNA 3 和 8 个 HBM3 显存堆栈,集成了 5nm 和 6nm IP,总共包含 128GB HBM3 显存和 1460 亿晶体管。
AMD 表示,它拥有 9 个基于 3D 堆叠的 5nm 小芯片(按照此前规律应该有 3 个是 CPU、6 个是 GPU),还有 4 个基于 6nm 的小芯片,周围一圈是封装的 HBM 显存芯片,总共拥有 1460 亿个晶体管部分。AMD 表示,这款加速卡的 AI 性能比上一代(MI250X)要高得多。
苏姿丰直接将 MI300X 及其构建的系统与英伟达推出的主流人工智能 GPU 芯片 H100 进行了一番比较。
" 这种性能可以直接转化为更好的用户体验," 苏姿丰说。" 当你向模型提出问题时,总希望它能更快回复,尤其是在回应日益复杂的情况下。"