借助 NVIDIA NGC 目錄中的 GPU 優化容器,更快地開發和部署應用。
什么是容器?
容器是一種便攜式軟件單元,可將應用及其所有依賴項合并為一個軟件包,該軟件包不受底層主機操作系統限制。這樣無需再構建復雜的環境,并簡化了應用開發到部署的過程。
NVIDIA NGC 目錄包含一系列用于深度學習、機器學習、可視化和高性能計算(HPC)應用的 GPU 優化容器,這些容器均已經過了性能、安全性和可擴展性測試。
NGC 目錄中的容器的優勢
輕松部署
內置庫和依賴項可讓您輕松部署和運行應用。
加快訓練速度
TensorFlow 和 PyTorch 等 NVIDIA AI 容器每月會提供針對性能優化的更新版本,以便加快 AI 訓練和推理速度。
運行位置不受限制
在 bare metal、虛擬機(VM)和 Kubernetes 上,將容器部署在任意位置(云端、內部私有云和邊緣)的多 GPU/多節點系統上。
放心部署
容器經過常見漏洞和暴露(CVE)掃描(附有安全報告),并通過 NVIDIA AI Enterprise 得到了可選的企業支持。
性能優化
NVIDIA 構建的 Docker 容器每月都會更新,第三方軟件也會定期更新,以提供所需的功能,便于您從現有基礎架構中獲得出色性能,并縮短找出解決方案的時間。
借助 BERT-Large 進行自然語言處理
BERT-Large 利用 VoltaV100 和 Ampere A100 GPU 上的混合精度運算和 Tensor Core,在保持目標準確性的同時縮短訓練時間。
在單節點的 8x V100 (16GB) 和 A100 (40GB) 上使用 TensorFlow 時,BERT-Large 和訓練的性能表現。混合精度。BERT 的批量大小:3 (V100)、24(A100)
用于圖像處理的 ResNet50 v1.5
此模型使用 Volta、Turing 和 NVIDIA Ampere GPU 體系架構上的 Tensor Core 進行混合精度訓練,以加快訓練速度。
在單節點 8x V100 (16GB) 和 A100 (40GB) 上使用 TensorFlow 時,ResNet 50 的性能表現。混合精度。ResNet50 批量大小:26
用于深度學習的 Matlab
持續開發 Matlab 深度學習容器可提高訓練和推理性能。
Windows 10,Intel Xeon E5-2623 @2.4GHz,NVIDIA Titan V 12GB GPU
用于各種工作負載的容器
AI 容器
TensorFlow
TensorFlow 是一個用于高性能數值計算的開源軟件庫。
PyTorch
PyTorch 是具有 Python 前端的 GPU 加速型張量計算框架。
NVIDIA Triton 推理服務器
NVIDIA Triton 推理服務器是一種開源推理解決方案,可更大限度地提高 GPU 的利用率和性能。
NVIDIA TensorRT
NVIDIA TensorRT 是一個C++ 庫,可加快 NVIDIA GPU 上的高性能推理。
應用框架
NVIDIA Clara
用于醫療成像的 NVIDIA Clara Train 是一個應用框架,包含超過 20 個先進的預訓練模型、遷移學習和聯合學習工具、AutoML,以及 AI 輔助的標記數據。
DeepStream
DeepStream 是一款流分析工具包,可用于基于 AI 的視頻、音頻和圖像理解和多傳感器處理。
NVIDIA Riva
NVIDIA Riva 是一個應用框架,適用于在 GPU 上提供實時性能的多模態對話式 AI 服務。
Merlin Training
Merlin HugeCTR 是 NVIDIA Merlin 的組件,是一款專為推薦系統設計的深度神經網絡訓練框架。
HPC 容器
NAMD
NAMD 是一段并行分子動力學代碼,旨在實現生物大分子系統的高性能模擬。
GROMACS 是一款熱門的分子動力學應用,用于模擬蛋白質和脂質。
Relion
Relion 采用經驗貝葉斯方法分析低溫電子顯微鏡(cryo EM)。
NVIDIA HPC SDK
NVIDIA HPC SDK 是編譯器、庫和工具的綜合套件,用于構建、部署和管理 HPC 應用。
點擊閱讀原文,了解更多 AI 和 HPC 容器相關內容
NVIDIA 深度學習培訓中心
我們的 NVIDIA 深度學習培訓中心還推出了 AI 和 HPC 容器及 NGC 相關課程,您可以復制鏈接查看課程詳情。
使用容器實現高性能計算
學習使用容器化環境開發高性能計算(HPC)應用程序,降低編碼的復雜性和可移植性,從而提高開發效率。
原文標題:DevZone | AI和HPC容器
文章出處:【微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。
審核編輯:湯梓紅
-
NVIDIA
+關注
關注
14文章
4994瀏覽量
103159 -
gpu
+關注
關注
28文章
4743瀏覽量
128992 -
容器
+關注
關注
0文章
495瀏覽量
22069
原文標題:DevZone | AI和HPC容器
文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論