NVIDIA 可以说吃尽了 AI 的红利,推出的推理卡供不应求,从而让企业的营收大幅增加,此外由于 NVIDIA 打造了相对完善的 AI 生态,因此许多客户都愿意选购 NVIDIA 的 AI 计算卡,也让 NVIDIA 的计算卡越来越贵。当然 AI 这块肥肉显然不只是 NV 独享,其他厂商也想要从 NV 手中抢夺更多的市场份额,例如 AMD。目前 AMD 就表示本周将会推出全新的 Instinct MI350 系列 AI 计算卡,拥有数十倍的 AI 推理能力提升,未来将会成为 NVIDIA 最强大的竞争对手。
作为 AMD 旗下最强大的 AI 计算卡,Instinct MI350 系列能够拥有 288GB 的 HBM3E 内存,显存带宽达到了 8TB/s,采用 3nm 制程工艺,同时采用 AMD 下一代 "CDNA 4" 架构,此外在算力上,Instinct MI350 单卡支持 4.6PFLOPS 的 FP16 算力,FP4 算力为 18.45PFLOPS,而 Instinct MI355X 单卡则拥有 20.1TFLOPS 的 FP4 算力,当然如果你觉得这些计算卡的性能还不够,AMD 也准备了 AI 超算,通过多块计算卡实现更高的推理性能。相比较上一代,Instinct MI350 系列计算卡最高可以实现 35 倍的推理性能提升。
除此之外,考虑到数据中心对于功耗的敏感度,因此 Instinct MI350 在提供更高 AI 运算性能的同时,也大幅优化了运行的效率,进而减少计算卡的能源消耗,AMD 希望未来 AI 厂商可以购买 AMD Instinct MI350 计算卡来组建能够与 NVIDIA 相抗衡的 AI 超算以及 AI 生态系统,对 NVIDIA 在 AI 领域几乎垄断的局面进行有效地挑战。