通過內置NVIDIA AI、HPC和圖形SDK等功能,NVIDIA 為Arm在高性能計算、云、邊緣和PC平臺在內的生態系統帶來GPU和DPU加速
從手機、自動駕駛汽車、邊緣系統到全球速度最快的超級計算機——日本的Fugaku,Arm已成為數十億臺設備的核心。
這種廣泛的系統得到了約1300萬開發者的支持。NVIDIA為這個充滿活力的社區帶來了自主開發的擴展工具集。
該工具集包括:
NVIDIA AI– 加速AI訓練和推理的行業標準
NVIDIA RAPIDS– 一套可在GPU上運行數據科學和分析的軟件庫
NVIDIA HPC SDK– 用于高性能計算的編譯器、庫和軟件工具
NVIDIA RTX– 提供光線追蹤和AI功能的圖形驅動器
多年來,NVIDIA一直將JetsonSoC中的Arm核心用于邊緣計算和自主機器。最近,又將該核心用在BlueField DPU等網絡產品中。
在合作伙伴和獨立軟件供應商的支持下,BlueFieldDPU可加速并保護云、嵌入式和企業級應用的網絡與存儲工作。
Arm是高能效計算領域的領導者,NVIDIA通過為其提供這些資源,從而增加客戶的選擇,并為Arm和NVIDIA合作伙伴在四個主要領域的發展提供更多機會。
NVIDIA對Arm的支持范圍:從超級計算機到個人和嵌入式系統
高性能計算的新方向
Arm正在通過可伸縮向量擴展指令(SVE)擴展其處理器技術,從而滿足這一全球最大、性能最強的系統的需求。NVIDIA工程師已開始為富士通A64FX(Fugaku內置的處理器)中的SVE提供支持。
SVE是Arm Neoverse平臺用于數據中心計算和網絡的最新產品。其強大的模擬功能推動了Fugaku的科學研究,并在TOP500全球性能最強大的計算機榜單上排名第一。
NVIDIA將幫助Arm合作伙伴和客戶為同時使用Neoverse CPU和NVIDIA GPU的系統生成經過優化的軟件。2019年6月,NVIDIA宣布了HPC計劃的最新舉措,該計劃旨在為NVIDIA用于Arm加速計算和 AI的CUDA軟件提供支持。
除了NVIDIA HPC SDK之外,用于HPC網絡主干NVIDIA Mellanox InfiniBand的軟件現已得到完整支持并部署在Arm服務器上。工程師們正在NVIDIA Magnum IO中擴展對Arm的支持。 NVIDIA Magnum IO軟件用于實現多節點系統存儲和網絡性能的最大化。
云端游戲創造良機
在云計算領域,NVIDIA與Arm服務器SoC和OEM合作伙伴開展了多個方面的合作。
例如,NVIDIA與Ampere Computing合作,將Mt. Jade服務器平臺擴展至云游戲。基于Ampere Altra的系統包含兩個80核Arm SoC、四個NVIDIA T4 GPU和一個NVIDIA Mellanox BlueField-2 DPU。它們可以同時為128名游戲用戶提供服務,為Android-in-Cloud服務提供流媒體服務,這種服務受到中國越來越多的5G智能手機用戶的歡迎。
在NVIDIA的幫助下,Ampere Computing的Mt. Jade平臺正在開拓云游戲新興市場
此外,NVIDIA工程師不斷在向Arm移植代碼,并開發新的工具來優化Arm服務器和用戶之間的云游戲編碼、渲染和串流傳輸方式。這些工具被技嘉科技、浪潮和緯穎等Arm服務器OEM合作伙伴所廣泛使用。
根據運行其服務GeForce NOW所獲得的經驗,NVIDIA了解到云游戲的潛力。
除游戲外,云服務供應商還支持用于GPU加速的機器學習、存儲和其他應用的Arm服務器。因此,NVIDIA為Arm服務器提供一系列GPU管理和監控工具,包括可以在內置Kubernetes的Arm上運行Docker容器的NVIDIA容器工具集。
為每家公司提供企業級AI
企業網絡的邊緣是下一個重要的計算領域。NVIDIA EGX 邊緣AI平臺將支持包括Arm在內的所有主要處理器架構。
由于認識到邊緣對高能效計算的需求,NVIDIA將Arm作為其各垂直市場加速計算和AI平臺的核心。通常,這些平臺將GPU與像Jetson等嵌入式模塊中的多核Arm CPU配對。
NVIDIA將這些模塊的定制版本與專用于醫療(Clara)、機器人(Isaac)、自動駕駛汽車(DRIVE)等行業的開發者套件配對,為Arm軟件合作伙伴和SoC供應商提供了大量實現企業AI的機會。
此外,如NVIDIA在收購公告中指出,通過Arm提供的IP,隨著NVIDIA的擴展它們將會變得越來越豐富。
未來的發展趨勢
多家供應商的Windows PC和Chromebook已在Arm處理器上運行,并且更多消費級平臺正在加入其中,此舉推動了未來個人系統的發展。
NVIDIA長期以來使用GPU(包括Arm系統)支持各種形狀和尺寸的PC,包括基于Arm的系統。最近的一項調查顯示,超過70%的游戲PC使用NVIDIA GPU。
未來,具有豐富圖形和連接性、性能與當今PC一樣強大且更加節能的AI加速的個人系統將迎來機遇。Arm生態系統可以在個人系統等各個市場中使用NVIDIA 參考設計,就像當前在醫療市場中使用的那樣。
構建平臺的工具
得到NVIDIA大量工具支持的Arm處理器IP產品組合等先進技術讓各種新的平臺成為可能。
用于Arm的CUDA工具包將NVIDIA GPU加速計算和AI功能引入Arm生態系統。通過CUDA,開發者可以訪問TensorRT進行深度學習推理、訪問DeepStream進行視頻分析等。
NVIDIA提供一整套Nsight可視化開發者工具,利用分析器、調試器等工具為Arm SoC和服務器提供支持。用戶可以通過NVIDIA的開發者網站訪問所有的工具、SDK和平臺。
NVIDIA已經為Arm提供了十多年的支持,而這僅僅是個開始。我們很高興能夠加入這個不斷擴展的社區,該社區為從智能卡、超級計算機到未來的各項技術提供了強大支持。
我們對未來設想了許多可能性,并且希望從Arm生態系統中的1300萬開發人員身上學到大量知識與經驗。
評論
查看更多