據(jù)悉,NVIDIA H100 GPU的交貨期已由原來的8至11個(gè)月大幅度壓縮為如今的3至4個(gè)月,使部分屯貨公司尋求出售剩余的H100 80GB處理器。如今在諸如亞馬遜云服務(wù)、谷歌云及微軟Azure等大型云服務(wù)供應(yīng)商處租賃芯片更為便捷。
根據(jù)The Information報(bào)導(dǎo),由于芯片供應(yīng)狀況改善、交貨期的驟然縮短,一些公司開始拋售他們所持有的GPU或削減訂單。然而,盡管如此,AI芯片需求仍大于供應(yīng),特別是OpenAI之類的大型語言模型訓(xùn)練機(jī)構(gòu)。
一些云服務(wù)提供商,如亞馬遜AWS,提供按需租用H100 GPU的服務(wù),緩解了消費(fèi)者的購買壓力。盡管如此,由于大規(guī)模的語言模型訓(xùn)練以數(shù)以萬計(jì)的GPU進(jìn)行,瓶頸仍在,這些機(jī)構(gòu)有時(shí)需要耐心等待數(shù)月以獲取所需處理能力。因此,NVIDIA H100等處理器的價(jià)格依舊居高不下,相關(guān)公司繼續(xù)賺取豐厚利潤。
值得關(guān)注的是,隨著供貨緊張的緩解,買方行為亦有所改變。如今企業(yè)更多地考慮價(jià)格和資產(chǎn)購置/租賃的合理性,偏好較小規(guī)模的GPU集群并關(guān)注商業(yè)的財(cái)務(wù)效益。
隨著替代產(chǎn)品如AMD和AWS處理器的性能提升和軟件服務(wù)的完善,加之對AI處理器投資更加審慎,預(yù)示著未來AI市場可能會趨于平衡。
-
NVIDIA
+關(guān)注
關(guān)注
14文章
4978瀏覽量
102988 -
語言模型
+關(guān)注
關(guān)注
0文章
520瀏覽量
10268 -
AI芯片
+關(guān)注
關(guān)注
17文章
1879瀏覽量
34992
發(fā)布評論請先 登錄
相關(guān)推薦
評論