调查:AMD AI 芯片 Instinct MI300X 吸引大量用户弃用英伟达

2024-03-11
关注

   根据最近的一项调查,大量人工智能专业人士正计划从英伟达转向AMD Instinct MI300X GPU。

  TensorWave联合创始人Jefff Tatarchuk透露,他们对82名工程师和人工智能专业人士进行了独立调查。约50%的受访者表示,他们告诉AMD Instinct MI300X GPU充满信心,因为MI300X不仅比英伟达的H100系列产品性价比更好,而且供应充足,避免了供应紧张的问题。Jeff还提到,TensorWave还将使用MI300X人工智能加速器。这无疑是AMD的好消息,因为与英伟达的竞争产品相比,其Instinct系列产品的市场份额一直处于劣势。

 

  据IT之家介绍,AMD Instinct 基于CDNA的MI300X人工智能加速器 3架构采用混合5nm和6nm工艺,晶体管多达1530亿(MI300X型号)。存储也有了很大的提高,MI300X的HBM3容量比上一代MI250X(128 GB)高出50%。

 

  MI300X与英伟达H100相比具有以下优点:

 

  内存容量高2.4倍

 

  内存带宽高出1.6倍

 

  FP8性能(TFLOPS)高出1.3倍

 

  FP16性能(TFLOPS)高出1.3倍

 

  H100在1v1对比测试中的性能可以领先(Llama 2 70B)最多20%

 

  在1v1对比测试中,H100在性能上可以领先(FlashAttention 2)最多20%

 

  H100在8v8服务器比较测试中的性能可以领先(Llama 2 70B)最多40%

 

  H100在8v8服务器比较测试中的性能可以领先(Bloom 176B)最多60%

 

  AMD的旗舰Instinct人工智能加速器MI300X不仅在性能上取得了巨大的飞跃,而且上市时间也非常巧妙,因为英伟达目前正受到积压订单的困扰,这限制了他们扩大新客户的机会。虽然AMD在人工智能领域的表现并不令人满意,但未来似乎很光明,预计将在激烈的竞争中占据一席之地。

您觉得本篇内容如何
评分

评论

您需要登录才可以回复|注册

提交评论

提取码
复制提取码
点击跳转至百度网盘