Intel Gaudi 2 AI训练比英伟达H100快55%：希望夺取更多市场份额

目前在 AI 领域，最受关注的就是 ChatGPT，以及引起巨大震撼的 Sora 模型，此外基于 Stable Diffusion 打造的 AI 生图也是各大厂商目前所重点宣传的。而作为 AI 背后的算力硬件支持，英伟达的计算卡可以说备受追捧，供不应求，英伟达也是赚的盆满钵满。当然这也让其他计算卡厂商感到十分地眼红，比如行业巨头英特尔。这家蓝色巨人推出的 Gaudi 2 加速卡就是为对抗 H100 计算卡而生，而经过不断地优化，目前在 Stable Diffusion 领域，Gaudi 2 加速卡的表现比 NV 的计算卡更加出色。

目前 Stable Diffusion 开发商 Stability AI 发布了一份报告，在报告中 Stability AI 重点对比了英伟达与英特尔计算卡在 AI 作图上的效率。以参数为 2B 的 MMDiT 模型为例，训练深度设置为 24、BFloat16 的混合精度，在该模型设置下，Gaudi 2 计算卡最高可以达到每秒训练 1254 张图片，而 256 容量下则是每秒 927 张。这个性能要比英伟达现在的 H100 更加出色，比如说 H100-80GB 计算卡的训练速度为每秒 595 张，而 A100-80GB 则是每秒训练 381 张，也就是说基于英特尔 Gaudi 2 的训练速度在相同容量下比 H100 计算卡提升 55%，更是 A100 性能的 2.43 倍。

另外如果说采用 32 批量单元的设置下，英特尔 Gaudi 2 训练速度为每秒 12654 张，而 A100-80GB 则为 3992 张，英特尔计算卡是 A100-80GB 计算卡的 3.17 倍，还是相当给力的。当然 Stable Diffusion 作为现在最为流行的模型，各大计算卡厂商都愿意花精力去优化，而且更为重要的是英伟达的 AI 生态已经做得十分地完善，并且英伟达 B100 什么水平还不知道。要是英特尔 Gaudi 2 训练计算卡真这么给力，那现在 AI 市场也不会被英伟达所垄断了。