隨著AI技術的快速發展,越來越多的企業開始將AI技術應用到自身業務之中。因此,對AI算力的需求在近幾年迅猛增長。2020年5月11日IDC發布《人工智能基礎架構市場(2019下半年)跟蹤》報告,2019年中國人工智能基礎架構市場規模達到20.9億美元,同比增長58.7%。其中GPU服務器占據96.1%的市場份額。IDC預測,到2024年中國GPU服務器市場規模將達到64億美元。
目前,云端AI算力主要由三類AI加速器來提供:GPU,FPGA和AI ASIC芯片。這些加速器的優點是性能非常高,缺點是價格也非常高。今天由于缺乏高效經濟的AI加速器資源池化和虛擬化解決方案,絕大部分企業因無法構建高效的加速器資源池,而不得不獨占式地使用這些昂貴的加速器資源,導致資源利用率低,成本高。據AWS在re:Invent 2018上提到的數據,AWS上GPU利用率只有10%~30%。
傳統的GPU虛擬化技術只能對本地物理機上的GPU進行虛擬切割,分配給不同的虛擬機使用,從而實現計算資源的靈活分配和利用。而隨著各個數據中心和企業的GPU服務器數量不斷增加,數據中心的GPU卡已經到達幾千片的數量級,傳統的單打獨斗式的GPU服務器的使用模式和管理模式都極大制約了各單位的AI應用的開發和部署的速度以及發展規模。市場急需一種AI計算平臺,不僅可以支持本地GPU虛擬化,更重要的是還能打破資源調度的物理邊界, 讓用戶的AI應用無需修改代碼即可透明地使用其他物理機上的遠程GPU資源,從而實現數據中心級的GPU資源池化管理和彈性調度,極大地提升了整個GPU資源池的利用率和管理靈活度。
資源池化和虛擬化技術的目標之一,就是提供與工作人員在物理機上使用時一樣的體驗。目前趨動科技的Orion 獵戶座計算平臺可以幫助每個用戶改進AI加速器資源分配,支持用戶通過多個虛擬機或者容器來共享本地以及遠程GPU資源,并且更靈活地部署AI應用,實現更優的生產力、安全性和IT可管理性。
用戶通過Orion 獵戶座計算平臺分配的GPU資源,無論是本地GPU資源,還是遠程GPU資源,均是軟件定義、按需分配。這些資源不同于通過硬件虛擬化技術得到的資源,它們的分配和釋放都能在瞬間完成。而且,所有上述的資源分配和釋放都不需要虛擬機重啟。
值得一提的是,Orion 獵戶座計算平臺由全球虛擬化計算領域的技術領先者趨動科技(VirtAITech.com)研發,其核心團隊均來自Dell EMC中國研究院,IBM中國研究院等頂級研究機構。憑借創始團隊在虛擬化領域十幾年的技術積累以及場景挖掘能力,趨動科技成功打造了這套較為完整的AI加速器彈性資源池化解決方案。
人工智能是第四次工業革命的引領技術,基于AI加速器的深度學習是人工智能發展的關鍵所在,無論之于國家還是企業,都應該通過技術創新,在這一次全世界范圍內的浪潮中開啟屬于自己的一片天地。趨動科技通過打造Orion AI計算平臺,不僅能夠幫助企業和開發者更好地實現AI加速器資源的管理和調度,同時也開創了“AI加速器資源池化+異構加速器管理和調度”的新賽道。
責任編輯:tzh
-
加速器
+關注
關注
2文章
802瀏覽量
37932 -
gpu
+關注
關注
28文章
4752瀏覽量
129057 -
AI
+關注
關注
87文章
31097瀏覽量
269430
發布評論請先 登錄
相關推薦
評論