越来越多的证据表明,人工智能芯片的供应紧张正在缓解,一些人购买了大量英伟达H100 80GB处理器公司现在正试图转售这些处理器。
目前,据报道,它用于人工智能(AI)和高性能计算(HPC)英伟达H100应用 GPU的交付周期已从8-11个月大幅缩短到3-4个月。
据报道,一些公司正在转售他们的H100 由于这些芯片的稀缺性开始下降,维护这些未使用库存的成本也很高,GPU可能会减少订单。
与一年前相比,这种情况发生了重大变化,当时获得英伟达的Hopper GPU是一个重大挑战。
目前,人工智能处理器供应短缺的缓解也体现在AWS上、谷歌云、微软Azure等云服务提供商租用英伟达H100 GPU变得更容易了。
例如,AWS推出了一项新服务,允许客户安排更短的GPU租赁时间,解决了芯片可用性问题,减少了获取人工智能芯片的等待时间。
尽管芯片的可用性有所提高,交货时间也大大缩短,但人工智能芯片的需求仍远远超过供应。
特别是那些开发和培训大型语言模型的公司仍然面临供应问题,主要是因为他们需要大量的GPU。这些公司在获得所需的处理器或容量方面仍面临几个月的延迟。
正因为如此,英伟达H100等处理器的价格并没有下降,公司继续享受高利润率。
然而,随着许多英伟达处理器的替代品的出现,如AMD和AWS处理器,市场可能会更加平衡。
另一个原因是,公司对人工智能处理器的支出也变得更加谨慎。
无论如何,目前市场对人工智能芯片的需求仍然很强,随着大型语言模型的增加,对计算性能的需求也越来越高。