全名為 NVIDIA GPU Cloud 的 NGC 中心,是近年來 NVIDIA 用來統籌應用資源的云中心,本身并不具備任何計算功能,主要就是“應用資源分類整理”用途,將 NVIDIA 絕大部分與 GPU 開發相關的工具包、開發包、機器學習預訓練模型等等,全部集中在這上面,方便開發人員集中使用與下載開發資源。
登錄 http://ngc.nvidia.com 就能進入 NGC 中心,不過這個入口的更新頻率很高,首頁所看到的內容可能跳轉至其他地方。網頁最左邊的 “Explore Catalog” 與右上角的“用戶名(未登錄之前為 Guest)”,大致是固定的。
目前 NGC 將所有資源區分為以下五大類:
Collections(集合):
這里存放著“以應用為單位”的綜合信息內容,因為每個應用都需要用到一個以上的容器、預訓練模型、Helm 管理模塊或資源,在 NGC 里存放數百個這些元件,如果讓開發者自行搜索的話,的確是一件相當費勁的工作。
NVIDIA 將個別應用所需要的相關信息,先整理好并存放在這個分類里,讓使用者可以非常輕松地掌握每個應用所需要的資源列表,目前已經整理好 50+個應用,包括 TAO 對話 AI、ASR 自動語音識別、NLP 自然語言處理等等,還在陸續增加當中。
下面截屏是在 “Query” 欄輸入 “tao” 后,會出現 10 個已經整理好的應用:
當點擊 “TAO Toolkit-Conversational AI” 之后,就會進入下面 “Overview” 截圖的內容,顯示在 NGC 中心里,目前有 1 個容器、10 個預訓練模型與 8 項資源與這個應用是有關的,當然這些數字未來是有可能改變的。
點擊 “Entities” 就能看到如下圖,列出每個元件的名稱以及進入該元件說明的鏈接:
這樣就能很輕松地掌握每個應用完整的資源信息。
Containers(容器):
Docker 是非常好的用于封裝應用軟件的容器技術,封裝的鏡像能提供完全獨立的執行環境,這樣能有效地解決多種應用的同時運作。
由于 NVIDIA 的各種開發套件之間,仍有可能存在 CUDA/cuDNN/TensorRT 這些底層庫的版本兼容問題,另外包括 Python 各種數學庫之間的版本依賴,經常造成軟件安裝的困難度。
NVIDIA 將大部分開發套件與工具包,以不同應用場景或功能組合的形式,用 Docker 技術進行封裝,例如 TAO 開發工具就有 for Conv AI、for CV 與 for Lanuage Model 三種鏡像,而 DeepStream 有 6 種以上的鏡像。
使用鏡像技術,開發者只需要在工作平臺上安裝最基礎的 GPU 驅動、docker 管理器與 nv-docker 解析器,就能非常輕松地使用這些應用。目前 NGC 上已經有將近 200 個容器鏡像,可以免費使用。
Helm Charts
這是一組針對 Kubernetes 集群的管理與運維的工具,配合 docker 技術執行應用軟件的部署與管理,與 GPU 計算沒有直接關聯,通常使用在數據中心、云平臺上,對各種部署的 GPU 應用進行管理與監控,其中 NVIDIA Network Operator Helm Chart 是最重要的基礎元件,對這方面有需求的讀者可以從這個元件開始上手。
Models(模型):
這里提供 300+個預訓練好的人工智能模型,包括圖像分類、對象檢測、語言翻譯、文本到語音、推薦引擎、情感分析等等,主要配合遷移學習(transfer learning) 的用途,或者直接拿來作為體驗演示用途。
這里的所有模型都是經由最專業的技術人員,根據不同數據精度在 NVIDIA 最高端設備進行訓練,在精確度與性能上都經過優化處理,包括 NVIDIA Tensor Core GPU,這樣的預訓練模型能為開發人員節省非常大量的模型訓練時間。
Resources
這里存放的內容,就是為創建深度學習模型的分步說明和腳本,例如用于 Jupyter環境的 .ipynb 腳本,還有一些使用相關的指導文件或范例代碼。
以上簡單介紹了 NGC 的內容,NVIDIA 為開發人員提供非常豐富與優異的資源,若能好好善用 NGC 的功能,就能在人工智能的應用開發上得到事半功倍的效果。
要使用這些資源的第一件事情,就是要申請 NGC 賬號,這個賬號與 NVIDIA 開發者申請的賬號是互相獨立的,因此需要單獨申請。本文最后就是帶著大家去申請一個賬號,并且申請一組密鑰,這樣就能輕松使用 NGC 的內容。
1. 創建NGC賬號:
(1)登錄 https://ngc.nvidia.com 會直接出現 CATALOG 畫面。
(2)請點擊下圖右上角 “Welcome Guest”,然后點選下方 “Sing in/Sing Up”。
(3)進入后點選 “NVIDIA Account” 旁邊的 “Continue”,就會進入下圖右的“登陸”或“創建一個賬戶”的畫面。
(4)剩下的步驟與一般申請賬號的過程是一樣的,使用一個正規的郵箱進行申請,不過 NGC 為了便利國內用戶,也允許使用 QQ 或微信賬號登錄。在下面截屏下方點擊 “Show more”,就會出現 “Login with QQ” 與 “Login with WeChat” 選項,點入之后掃描二維碼就能進行賬號創建。
后面仍需要完成進一步的賬號確認工作,回復 NGC 所發送的確認郵件,才能完成完成整個賬號創建工作。
2. 獲取NGC密鑰:
(1)登陸 NGC 之后,會看到右上角出現您的登錄名,以及一組哈希數列。點選用戶名所出現的下拉菜單中,選擇 “setup” 選項。
(2)進入 Setup 選項后會出現下面兩個設定,點擊左邊的 “Get API Key”:
(3)點擊下圖右上角 “Generate API KEY” 會跳出“確認”,點擊 “confirm” 即可
(4)在最下面會出現一組長度 85 的字符串:
由于密鑰只有在創建時候能看到內容,日后無法在 NGC 獨立查詢,請自行復制做好記錄。這組密鑰在整個訓練過程以及最后推理時都需要用到,非常關鍵,如果遺忘的話就得重新再創建一組,而前面所訓練的模型,可能就得重新再做一次。
本文只是將 NGC 的內容做個簡單的介紹,以及講解創建賬號、生成密鑰的過程,更多關于 NGC 的詳細使用說明。
原文標題:NVIDIA Jetson Nano 2GB 系列文章(54):NGC的內容簡介與注冊密鑰
文章出處:【微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。
審核編輯:湯梓紅
-
NVIDIA
+關注
關注
14文章
4999瀏覽量
103224 -
gpu
+關注
關注
28文章
4747瀏覽量
129020 -
模型
+關注
關注
1文章
3255瀏覽量
48905
原文標題:NVIDIA Jetson Nano 2GB 系列文章(54):NGC的內容簡介與注冊密鑰
文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論