色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

NVIDIA Isaac Initiative應(yīng)用在領(lǐng)域訓(xùn)練和部署高級AI中

星星科技指導(dǎo)員 ? 來源:NVIDIA ? 作者:Dustin ? 2022-04-18 10:32 ? 次閱讀

NVIDIA 發(fā)布了JetPack 3.1,這是用于 Jetson TX1 和 TX2 的生產(chǎn) Linux 軟件版本。隨著對 TensorRT 2.1 和 cuDNN 6.0 的升級,JetPack 3.1 為視覺引導(dǎo)導(dǎo)航和運(yùn)動控制等實(shí)時應(yīng)用提供了高達(dá) 2 倍的深度學(xué)習(xí)推理性能提升,這些應(yīng)用受益于加速的批量大小 1。改進(jìn)的功能使 Jetson 能夠部署比以往任何時候都更強(qiáng)大的智能,實(shí)現(xiàn)一代自主機(jī)器,包括送貨機(jī)器人、遠(yuǎn)程呈現(xiàn)和視頻分析。為了進(jìn)一步推動機(jī)器人技術(shù)的發(fā)展,NVIDIA 最近推出的 Isaac Initiative 是一個端到端平臺,用于在該領(lǐng)域訓(xùn)練和部署高級 AI

邊緣的人工智能

今年春天早些時候,當(dāng) NVIDIA 推出Jetson TX2時,事實(shí)上的邊緣計算平臺在功能上得到了顯著提升。如圖 1 中的 Wave Glider 平臺所示,位于網(wǎng)絡(luò)邊緣的遠(yuǎn)程物聯(lián)網(wǎng)IoT) 設(shè)備經(jīng)常會遇到網(wǎng)絡(luò)覆蓋、延遲和帶寬下降的情況。雖然物聯(lián)網(wǎng)設(shè)備通常用作將數(shù)據(jù)中繼到云的網(wǎng)關(guān),但邊緣計算通過訪問安全的板載計算資源重新構(gòu)建了物聯(lián)網(wǎng)的可能性。NVIDIA 的 Jetson 嵌入式模塊在 Jetson TX1 上以 1 TFLOP/s 的速度提供服務(wù)器級性能,并在 10W 的功率下將 Jetson TX2 上的 AI 性能提高一倍。

噴氣背包 3.1

JetPack 3.1 with Linux For Tegra (L4T) R28.1 是 Jetson TX1 和 TX2 的生產(chǎn)軟件版本,具有長期支持 (LTS)。TX1 和 TX2 的 L4T 板級支持包 (BSP) 適用于客戶產(chǎn)品化,其共享的 Linux 內(nèi)核 4.4 代碼庫提供了兩者之間的兼容性和無縫移植。從 JetPack 3.1 開始,開發(fā)人員可以在 TX1 和 TX2 上訪問相同的庫、API 和工具版本。

除了從 cuDNN 5.1 升級到 6.0 以及對 CUDA 8 的維護(hù)更新之外,JetPack 3.1 還包括用于構(gòu)建流應(yīng)用程序的最新視覺和多媒體 API。您可以將 JetPack 3.1 下載到您的主機(jī) PC,以使用最新的 BSP 和工具刷新 Jetson。

使用 TensorRT 2.1 進(jìn)行低延遲推理

JetPack 3.1 中包含最新版本的 TensorRT,因此您可以在 Jetson 上部署優(yōu)化的運(yùn)行時深度學(xué)習(xí)推理。TensorRT 通過網(wǎng)絡(luò)圖優(yōu)化、內(nèi)核融合和半精度 FP16 支持提高了推理性能。TensorRT 2.1 包括關(guān)鍵功能和增強(qiáng)功能,例如多權(quán)重批處理,可進(jìn)一步提高 Jetson TX1 和 TX2 的深度學(xué)習(xí)性能和效率并減少延遲。

批量大小 1 的性能已顯著提高,從而將 GoogLeNet 的延遲降低到 5 毫秒。對于延遲敏感的應(yīng)用程序,批量大小 1 提供最低延遲,因為每個幀一到達(dá)系統(tǒng)就會被處理(而不是等待批量處理多個幀)。如圖 2 所示,在 Jetson TX2 上,使用 TensorRT 2.1 在 GoogLeNet 和 ResNet 圖像識別推理方面的吞吐量是 TensorRT 1.0 的兩倍。

圖 2:使用 Jetson TX2 Max-Q 和 Max-P 功率曲線的 GoogLeNet 和 ResNet-50 的推理吞吐量。TensorRT 2.1 在 GoogleLeNet 和 ResNet 上提供兩倍的推理吞吐量。

表 2 中的延遲顯示隨著批量大小 1 的成比例減少。使用 TensorRT 2,Jetson TX2 在 Max-P 性能配置文件中實(shí)現(xiàn)了 5ms 的 GoogLeNet 延遲,在 Max-Q 效率配置文件中實(shí)現(xiàn)了 7ms 的延遲。ResNet-50 在 Max-P 中具有 12.2ms 的延遲,在 Max-Q 中具有 15.6ms 的延遲。ResNet 通常用于提高圖像分類的準(zhǔn)確性,超越 GoogLeNet,使用 TensorRT 2.1 可將運(yùn)行時性能提高 2 倍以上。借助 Jetson TX2 的 8GB 內(nèi)存容量,即使在 ResNet 等復(fù)雜網(wǎng)絡(luò)上也可以實(shí)現(xiàn)高達(dá) 128 的大批量。

減少的延遲允許深度學(xué)習(xí)推理方法用于需要近實(shí)時響應(yīng)的應(yīng)用程序,例如高速無人機(jī)和水面車輛的防撞和自主導(dǎo)航。

自定義圖層

通過用戶插件 API 支持自定義網(wǎng)絡(luò)層,TensorRT 2.1 能夠運(yùn)行最新的網(wǎng)絡(luò)和擴(kuò)展支持的功能,包括殘差網(wǎng)絡(luò) (ResNet)、循環(huán)神經(jīng)網(wǎng)絡(luò) (RNN)、你只看一次 (YOLO) 和更快-RCNN(區(qū)域卷積神經(jīng)網(wǎng)絡(luò))。自定義層在用戶定義的 C++ 插件中實(shí)現(xiàn),這些插件實(shí)現(xiàn)IPlugin了如下代碼中的接口

#include "NvInfer.h" 

使用 
   


    
      
                            
      
                    ,  
                  
   
   
    
      
                 
               
   
   *緩沖區(qū)); 

IPlugin您可以使用與上述代碼類似的自定義來構(gòu)建自己的共享對象。在用戶enqueue()函數(shù)內(nèi)部,您可以使用 CUDA 內(nèi)核實(shí)現(xiàn)自定義處理。TensorRT 2.1 使用這種技術(shù)來實(shí)現(xiàn)Faster-RCNN插件以增強(qiáng)對象檢測。此外,TensorRT 為長短期記憶 (LSTM)單元和門控循環(huán)單元 (GRU)提供了新的 RNN 層,以改進(jìn)基于記憶的時序序列識別。開箱即用地提供這些強(qiáng)大的新層類型可加速您在嵌入式邊緣應(yīng)用程序中部署高級深度學(xué)習(xí)應(yīng)用程序。

NVIDIA 艾薩克計劃

隨著邊緣 AI 功能的快速增長,NVIDIA 推出了 Isaac Initiative 以推進(jìn)機(jī)器人技術(shù)和 AI 的最新發(fā)展。Isaac是一個端到端機(jī)器人平臺,用于開發(fā)和部署智能系統(tǒng)到現(xiàn)場,包括模擬、自主導(dǎo)航堆棧和用于部署的嵌入式 Jetson。為了開始開發(fā)自主 AI,Isaac 支持圖 3 所示的機(jī)器人參考平臺。這些由 Jetson 提供動力的平臺包括無人機(jī)、無人地面車輛 (UGV)、無人水面車輛 (USV) 和人類支持機(jī)器人 (HSR)。參考平臺提供了一個由 Jetson 驅(qū)動的基礎(chǔ),可以在現(xiàn)場進(jìn)行實(shí)驗,并且該計劃將隨著時間的推移而擴(kuò)展,以包括新的平臺和機(jī)器人。

開始部署 AI

JetPack 3.1 包括 cuDNN 6 和 TensorRT 2.1。它現(xiàn)在可用于 Jetson TX1 和 TX2。憑借將單批次推理的低延遲性能提高一倍,并支持具有自定義層的新網(wǎng)絡(luò),Jetson 平臺比以往任何時候都更有能力進(jìn)行邊緣計算。

關(guān)于作者

Dustin 是 NVIDIA Jetson 團(tuán)隊的一名開發(fā)人員推廣員。Dustin 擁有機(jī)器人技術(shù)和嵌入式系統(tǒng)方面的背景,喜歡在社區(qū)中提供幫助并與 Jetson 合作開展項目。

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 機(jī)器人
    +關(guān)注

    關(guān)注

    211

    文章

    28384

    瀏覽量

    206919
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    4979

    瀏覽量

    102994
收藏 人收藏

    評論

    相關(guān)推薦

    NVIDIA通過加速AWS上的機(jī)器人仿真推進(jìn)物理AI的發(fā)展

    NVIDIA Isaac Sim 現(xiàn)在可在 Amazon EC2 G6e 實(shí)例NVIDIA GPU 云實(shí)例上使用,將機(jī)器人仿真的擴(kuò)展速度提高了 2 倍并加快了
    的頭像 發(fā)表于 12-09 11:50 ?284次閱讀

    NVIDIA Isaac Sim滿足模型的多樣化訓(xùn)練需求

    光輪智能借助?NVIDIA Isaac Sim,通過 3D 生成與建模技術(shù)構(gòu)建高度逼真的虛擬場景,將現(xiàn)實(shí)世界的復(fù)雜場景抽象并轉(zhuǎn)化為高質(zhì)量的訓(xùn)練數(shù)據(jù)源,從而更有效地滿足模型的多樣化訓(xùn)練
    的頭像 發(fā)表于 11-23 14:55 ?526次閱讀

    日本企業(yè)借助NVIDIA產(chǎn)品加速AI創(chuàng)新

    日本領(lǐng)先企業(yè)和大學(xué)正在使用 NVIDIA NeMo、NIM 微服務(wù)和 NVIDIA Isaac 加速 AI 創(chuàng)新。
    的頭像 發(fā)表于 11-19 14:34 ?282次閱讀

    NVIDIA助力Figure發(fā)布新一代對話式人形機(jī)器人

    該初創(chuàng)公司展示了新型機(jī)器人,其使用 NVIDIA Isaac Sim 處理合成數(shù)據(jù),并使用基于 NVIDIA 加速計算進(jìn)行實(shí)時推理訓(xùn)練的生成式 AI
    的頭像 發(fā)表于 11-04 10:10 ?256次閱讀

    Foxconn利用NVIDIA AI和Omniverse訓(xùn)練機(jī)器人

    全球最大電子制造商 Foxconn 正準(zhǔn)備制造 NVIDIA 最復(fù)雜的產(chǎn)品之一,并開始使用 NVIDIA Omniverse 和 Isaac 平臺驅(qū)動的數(shù)字孿生。
    的頭像 發(fā)表于 10-10 09:40 ?397次閱讀

    NVIDIA Isaac 機(jī)器人平臺利用最新的生成式 AI 和先進(jìn)的仿真技術(shù),加速 AI 機(jī)器人技術(shù)的發(fā)展

    NVIDIA 發(fā)布了 Isaac Manipulator 和 Isaac Perceptor 等一系列基礎(chǔ)模型、機(jī)器人工具和 GPU 加速庫。 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛在
    的頭像 發(fā)表于 06-04 18:00 ?7694次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>Isaac</b> 機(jī)器人平臺利用最新的生成式 <b class='flag-5'>AI</b> 和先進(jìn)的仿真技術(shù),加速 <b class='flag-5'>AI</b> 機(jī)器人技術(shù)的發(fā)展

    電子制造商采用NVIDIA AI和 Omniverse助力工廠提高運(yùn)營效率并降低成本

    、NVIDIA Omniverse 基于物理學(xué)的渲染與模擬以及 NVIDIA Isaac AI 機(jī)器人開發(fā)與部署。 通過使用該工作流構(gòu)建數(shù)字
    的頭像 發(fā)表于 06-04 10:22 ?605次閱讀

    NVIDIA Isaac Manipulator助力讓下一代機(jī)器人技術(shù)觸手可及

    兩家公司在芝加哥 Automate 展會上宣布將圍繞 NVIDIA AI、Isaac Manipulator 和 Intrinsic 平臺的使用展開合作。
    的頭像 發(fā)表于 05-13 14:15 ?879次閱讀

    NVIDIA將數(shù)字孿生與實(shí)時AI結(jié)合實(shí)現(xiàn)工業(yè)自動化

    NVIDIA 軟件(Omniverse、Metropolis、Isaac 和 cuOpt)共同打造了一個 AI Gym,讓機(jī)器人和 AI 智能體能夠在復(fù)雜的工業(yè)
    的頭像 發(fā)表于 04-02 11:00 ?392次閱讀
    <b class='flag-5'>NVIDIA</b>將數(shù)字孿生與實(shí)時<b class='flag-5'>AI</b>結(jié)合實(shí)現(xiàn)工業(yè)自動化

    NVIDIA融合數(shù)字孿生與實(shí)時AI,革新工業(yè)自動化

    NVIDIA引領(lǐng)工業(yè)自動化新潮流,通過結(jié)合數(shù)字孿生與實(shí)時AI技術(shù),推動行業(yè)邁向新的發(fā)展階段。NVIDIA軟件套件——Omniverse、Metropolis、Isaac和cuOpt,共
    的頭像 發(fā)表于 03-27 10:44 ?467次閱讀

    NVIDIA Isaac機(jī)器人平臺升級,加速AI機(jī)器人技術(shù)革新

    NVIDIA Isaac機(jī)器人平臺近期實(shí)現(xiàn)重大升級,通過引入最新的生成式AI技術(shù)和先進(jìn)的仿真技術(shù),顯著加速了AI機(jī)器人技術(shù)的發(fā)展步伐。該平臺正不斷擴(kuò)展其基礎(chǔ)模型、機(jī)器人學(xué)習(xí)框架、
    的頭像 發(fā)表于 03-27 10:36 ?672次閱讀

    NVIDIA入局人形機(jī)器人!Isaac平臺迎來重要更新

    NVIDIA Isaac 機(jī)器人平臺利用最新的生成式 AI 和先進(jìn)的仿真技術(shù),加速 AI 機(jī)器人技術(shù)的發(fā)展。
    的頭像 發(fā)表于 03-26 09:07 ?1069次閱讀
    <b class='flag-5'>NVIDIA</b>入局人形機(jī)器人!<b class='flag-5'>Isaac</b>平臺迎來重要更新

    NVIDIA將數(shù)字孿生與實(shí)時AI結(jié)合以用于工業(yè)自動化

    NVIDIA 軟件(Omniverse、Metropolis、Isaac 和 cuOpt)共同打造了一個 AI Gym,讓機(jī)器人和 AI 智能體能夠在復(fù)雜的工業(yè)
    的頭像 發(fā)表于 03-25 10:59 ?525次閱讀
    <b class='flag-5'>NVIDIA</b>將數(shù)字孿生與實(shí)時<b class='flag-5'>AI</b>結(jié)合以用于工業(yè)自動化

    NVIDIA Isaac將生成式AI應(yīng)用于制造業(yè)和物流業(yè)

    NVIDIA Isaac 機(jī)器人平臺利用最新的生成式 AI 和先進(jìn)的仿真技術(shù),加速 AI 機(jī)器人技術(shù)的發(fā)展。
    的頭像 發(fā)表于 03-22 10:06 ?528次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>Isaac</b>將生成式<b class='flag-5'>AI</b>應(yīng)用于制造業(yè)和物流業(yè)

    使用 NVIDIA Isaac 仿真并定位 Husky 機(jī)器人

    如何使用 ROS 2 Husky 官方軟件包將該機(jī)器人導(dǎo)入 NVIDIA Isaac Sim 并創(chuàng)建仿真。 本 Demo 的 Husky 機(jī)器人配備了 NVIDIA Jetson O
    的頭像 發(fā)表于 12-26 18:05 ?1314次閱讀
    使用 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>Isaac</b> 仿真并定位 Husky 機(jī)器人
    主站蜘蛛池模板: 亚洲日本欧美日韩高观看| 儿子日母亲B好爽| 精品无人区麻豆乱码1区2| 色综合久久天天影视网| 5580免费午夜福利院| 精品国产麻豆AV无码| 亚洲 欧美 日韩 卡通 另类| 福利一区福利二区| 日本高清天码一区在线播放| avav去吧| 欧美激情精品久久久久久不卡| 中文无码不卡的岛国片国产片| 狠很橹快播| 亚欧日韩毛片在线看免费网站| 国产超嫩一线天在线播放| 日韩无码在线| 超碰最新网站| 日本污ww视频网站| 成人人观看的免费毛片| 任你躁精品一区二区三区 | aaa在线观看视频高清视频 | 热の中文 AV天堂| 被cao的奶水直喷高H| 欧美日韩亚洲中字二区| TUBE8最新日本护士| 欧美中文字幕一区二区三区| a级男女性高爱潮高清试看| 欧美高清xxx| tube日本护士| 日本久久久久亚洲中字幕| 成人特级毛片| 十八禁啪啦啪漫画| 国产AV在线传媒麻豆| 乌克兰黄色录像| 国产色婷婷亚洲99麻豆| 亚洲国产女人aaa毛片在线| 国产在线观看成人免费视频| 亚洲另类国产综合在线| 久久久久久电影| 92国产精品午夜免费福利视频| 欧美高清videosgratis高|