AI芯片供应紧张局面逐渐缓和

2024-03-01
关注
摘要 越来越多的证据表明,人工智能芯片的供应紧张问题正有所缓和,一些购买了大量英伟达H100 80GB处理器的公司现在正试图转售这些处理器。

  越来越多的证据表明,人工智能芯片的供应紧张正在缓解,一些人购买了大量英伟达H100 80GB处理器公司现在正试图转售这些处理器。

  目前,据报道,它用于人工智能(AI)和高性能计算(HPC)英伟达H100应用 GPU的交付周期已从8-11个月大幅缩短到3-4个月。

  据报道,一些公司正在转售他们的H100 由于这些芯片的稀缺性开始下降,维护这些未使用库存的成本也很高,GPU可能会减少订单。

  与一年前相比,这种情况发生了重大变化,当时获得英伟达的Hopper GPU是一个重大挑战。

  目前,人工智能处理器供应短缺的缓解也体现在AWS上、谷歌云、微软Azure等云服务提供商租用英伟达H100 GPU变得更容易了。

  例如,AWS推出了一项新服务,允许客户安排更短的GPU租赁时间,解决了芯片可用性问题,减少了获取人工智能芯片的等待时间。

  尽管芯片的可用性有所提高,交货时间也大大缩短,但人工智能芯片的需求仍远远超过供应。

  特别是那些开发和培训大型语言模型的公司仍然面临供应问题,主要是因为他们需要大量的GPU。这些公司在获得所需的处理器或容量方面仍面临几个月的延迟。

  正因为如此,英伟达H100等处理器的价格并没有下降,公司继续享受高利润率。

  然而,随着许多英伟达处理器的替代品的出现,如AMD和AWS处理器,市场可能会更加平衡。

  另一个原因是,公司对人工智能处理器的支出也变得更加谨慎。

  无论如何,目前市场对人工智能芯片的需求仍然很强,随着大型语言模型的增加,对计算性能的需求也越来越高。


您觉得本篇内容如何
评分

评论

您需要登录才可以回复|注册

提交评论

提取码
复制提取码
点击跳转至百度网盘