● 建設新數據中心的成本
● 建設新數據中心需要時間
● 現有數據中心空間不足
● 功率限制
訓練人工智能模型會產生巨大的資源消耗,需要大量的資本、時間、空間和電力來部署。最終,人工智能的進步可能歸結為解決數據中心短缺的問題。
為什么數據中心對人工智能很重要
數據中心在我們的日常生活中發揮著至關重要的作用,但它們常常被視為理所當然或完全被忽視。每當我們瀏覽社交媒體、發送消息、在淘寶上訂購真空吸塵器或通過銀行匯款時,都需要依靠數據中心來處理每一項數字操作。它們是我們IT基礎設施的基石。
但隨著人工智能需求的爆炸式的激增,數據中心的容量正在減少,需求明顯超過供應。雖然關于人工智能的討論主要集中在芯片和ChatGPT上,以及人工智能產品將如何增加數十億美元的收入,但我們應該關注的是回答這樣一個問題,當對人工智能的需求超過我們現有基礎設施所能支持的水平時,會發生什么?
答案似乎很簡單,通過建設更多能力來克服能力不足。然而,在實踐中,這變得更加困難。
數據中心短缺的4大原因
隨著人工智能的發展,對計算能力的需求呈爆炸式增長,這需要密集、復雜的計算能力來訓練。
數據中心行業已經面臨滿足現有企業數字化轉型和公共云使用需求的壓力。由于部署新構建的成本和時間都很高,因此數據中心通常是根據預測的需求即時交付來構建的。除了供應已經緊張之外,人工智能的指數級采用還推動了前所未有的需求。
生成式人工智能需要的能力是傳統工作負載的五倍。據說ChatGPT-4的智力明顯更好,需要更多的力量來訓練。人工智能的發展競賽歸結為四個關鍵的供應限制:資金、時間、空間和權力。
1、資本
數據中心的建設成本高昂。一座25萬平方英尺的中型數據中心建筑,要花費近5億美元才能完全建成。
預計對人工智能的需求在數百兆瓦到千兆瓦之間,全部價格將達到數百億美元。這是一大筆資金。當利率高企,資金難以籌集時,數據中心的價格就會上漲,這使得籌集必要的資金和滿足需求變得更具挑戰性。籌集所需資金也需要更長的時間,這延長了建設時間,進一步拖慢了一切。
最近,許多傳統數據中心提供商因重組或破產而分心或陷入停滯,這進一步挑戰了容量的及時交付。數據中心運營商仍然可以利用這些資金來為新容量提供資金,只是不會像零利率時代那么容易。贏家將是那些擁有有效部署資本和有效運營記錄的人。
2.時間
建設一個數據中心需要24到36個月的時間。當然,提供商可以同時進行多個項目,但大多數項目仍需要數月至數年才能完成。在當前需求猛增之前,許多項目都是基于更為溫和的需求預測而建造的。
最重要的是,該行業仍在努力應對供應鏈挑戰,以提供為現代數據中心供電和冷卻所需的機械、電氣和冷卻系統。這些時間表已從兩年前的12至24周縮短至52至80周。
新容量上線需要時間,而且即使上線也可能不夠。然而,擁有數據中心下方的房地產并追求多設施園區戰略的運營商將最有能力通過控制土地使用和縮短上市時間來快速擴大規模。
3.空間
整個行業剩余的可用空間所剩無幾,特別是在擁有任何額外產能的優先購買權(ROFR)的客戶看到需求增長快于供應的情況下,他們現在正在要求這些選擇。
目前,GPU驅動的高性能計算(HPC)集群正在被許多企業采用,以訓練人工智能應用,但它們并不是數據中心空間需求的唯一驅動因素。超大規模公共云和傳統企業技術部署的自然增長也將繼續強勁,這將在未來12到18個月內給供應帶來更大的壓力。如果我們繼續沿著這條道路前進,沒有任何出人意料的技術創新。
應對這一挑戰的解決方案是數據中心提供商設計新設施,以適應從傳統的高架地板、風冷企業應用到板式地板和水冷超大規模云或HPC工作負載的工作負載。這確保了無論上線的容量都可以快速適應市場最關鍵的瓶頸。
4.能源
一切都與電力有關。這些用于人工智能的高性能計算集群中使用的GPU使用的功率是傳統工作負載的五倍。
電力已經供不應求,因為我們已經看到主要的數據中心市場宣布限制提供已經承諾的擴展電力。預計這一趨勢將持續下去,需求的增加會給電網帶來更大的壓力,而向可再生能源的過渡需要時間的調整和完善,將產生更多的瓶頸。
智能數據中心提供商通過提高效率,將多設施園區選址在發電源附近,甚至部署自己的分站,走在了前面。
數據中心短缺持續存在會發生什么?
在研究了這四個領域之后,仍然存在一個問題:“如果我們無法克服這些限制,會發生什么?”其影響既深遠又容易被忽視。
首先,它可能會阻礙人工智能應用開發人員部署GPU驅動的HPC集群的速度,這些集群需要訓練底層大型語言模型(llm),和/或最終的推理階段,在那里我們看到對基于這些llm構建應用的訪問需求。
它還可能會抑制數據中心容量滿足云提供商和正在增加現有工作負載企業的需求的能力。如今每個人都已經依賴這些來為SaaS應用、社交媒體、視頻流、游戲、電子商務以及現代互聯世界的便利提供動力,更不用說未來由人工智能驅動的應用了。
審核編輯 黃宇
-
gpu
+關注
關注
28文章
4729瀏覽量
128890 -
數據中心
+關注
關注
16文章
4761瀏覽量
72034 -
人工智能
+關注
關注
1791文章
47183瀏覽量
238253
發布評論請先 登錄
相關推薦
評論