色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

NVIDIA助力騰訊AI LAB打造一體AI生態

星星科技指導員 ? 來源:NVIDIA ? 作者:NVIDIA ? 2022-04-21 10:50 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

案例簡介

? 本案例中通過使用NVIDIA T4 GPUTensorRT,OpenGL,CUDA, CUDA/OpenGL interoperability等GPU軟件技術棧,助力騰訊AI LAB虛擬人項目在人臉生成階段達到了超過3倍的加速。

? 本案例主要應用到 NVIDIA T4 GPU,TensorRT, OpenGL,CUDA, CUDA/OpenGL interoperability等AI加速平臺。

客戶簡介及應用背景

騰訊AI LAB致力于打造產學研用一體的 AI 生態,主要的研究方向包括計算機視覺語音識別、自然語言處理和機器學習,結合騰訊場景與業務優勢,在社交AI,游戲AI,內容AI及平臺AI等領域取得了顯著的成果,技術被應用于微信、QQ、天天快報和QQ音樂等上百個騰訊產品。其中圍棋AI “絕藝” 多次獲得世界人工智能圍棋大賽的冠軍。

騰訊AI LAB打造的虛擬人,具有自然,生動且飽含情緒的表情,其背后由一套騰訊 AI Lab 自研的復雜系統支撐,系統首先要從文本中提取不同信息,包括表情、情感、重音位置、和激動程度等;之后,這些信息被輸入到模型中生成,再同步生成語音、口型和表情參數,最終才有了虛擬人自然生動的表現。

客戶挑戰

根據虛擬人物需要表達的語言和情感,生成自然生動的人臉,是打造虛擬人重要的一個階段。需要先渲染人臉的紋理圖和渲染圖,并將它們輸入到深度學習模型中,最終生成自然生動的人臉。在這個過程中,需要用到OpenGL、OpenCV、CUDA、TensorFlow等軟件技術,騰訊原有的方案有很多CPU與GPU的數據交互,且有很多計算型的操作通過CPU來實現,效率非常低下, 無論是吞吐還是延時都不滿足要求,具體體現在:

OpenGL在GPU上渲染好圖像繪制到framebuffer后,需要先用glReadPixels拷貝數據到CPU,再用cudaMemcpy將數據從CPU拷回到GPU以進行深度學習模型的推理,這里有兩次不必要的CPU與GPU之間的數據傳輸。

顏色空間轉換,深度學習推理的前后處理等操作在CPU上完成,效率非常低下。

應用方案

NVIDIA 技術在虛擬人項目的渲染和推理階段均提供了強大的支持。在渲染階段,NVIDIA 助力提升了顏色空間轉換效率,降低整體延時,主要體現在:

用NVIDIA CUDA/OpenGL interoperability 代替騰訊之前使用glReadPixels在CUDA和OpenGL之間拷貝數據的方案,大幅減少了CPU和GPU之間的數據拷貝,從而降低了整體的延時。

把原來在CPU上做的顏色空間轉換的操作,遷移到NVIDIA T4 GPU上用CUDA kernel實現,利用GPU的并行優勢,大大提高了顏色空間轉換的效率,進一步降低了整體的延時。

將多幀的mesh組成一個batch分別繪制到framebuffer的不同區域,在提高OpenGL并行度的同時,給下一階段的深度學習模型的推理提供了更大的輸入數據的batch size,充分發揮NVIDIA T4 GPU高并發計算的優勢,進一步提高GPU的利用率,從而提高整體的吞吐。

在推理階段,NVIDIA助力提高推理整體吞吐,降低推理延時,主要體現在以下幾點:用NVIDIA TensorRT替換TensorFlow對模型推理進行加速,并利用NVIDIA T4 GPU上的FP16 Tensor Core可以極大提高矩陣乘等操作速度的特性,在最終視覺效果幾乎不變的情況下,進一步提升推理的吞吐,降低推理延時。

用NVIDIA TensorRT替換TensorFlow對模型推理進行加速,并利用NVIDIA T4 GPU上的FP16 Tensor Core可以極大提高矩陣乘等操作速度的特性,在最終視覺效果幾乎不變的情況下,進一步提升推理的吞吐,降低推理延時。

在NVIDIA T4 GPU上利用CUDA kernel 替代原始流程中在CPU上使用OpenCV實現 Mat-to-Tensor 和 Tensor-to-Mat 等格式轉換操作,并使用OpenCV-CUDA版替換OpenCV-CPU版的部分操作(如Resize等),充分發揮GPU相對于CPU更高的并發優勢,在加速這些操作的同時減少GPU到CPU的數據傳輸通信量,提高格式轉換效率,降低端到端的推理延時。

通過Pipeline的方式,使GPU和CPU上的操作進行overlap,并結合NVIDIA的MPS技術提高單卡上多個進程同時處理多個數據流的同時提高整體的吞吐。

使用效果及影響

在虛擬人項目中,NVIDIA CUDA技術大幅提升了渲染速度,NVIDIA TensorRT 方便快速地加速深度學習模型的推理,結合MPS技術,實現了單卡多路推流,使整體推理效率達到了原來的三倍!性能的大幅提升,既提升了GPU的利用率,又降低了AI技術的使用成本。

審核編輯:郭婷

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • NVIDIA
    +關注

    關注

    14

    文章

    5304

    瀏覽量

    106321
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4938

    瀏覽量

    131193
  • AI
    AI
    +關注

    關注

    88

    文章

    35065

    瀏覽量

    279311
收藏 0人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    大家都在用什么AI軟件?有沒有好用的免費的AI軟件推薦下?

    大家都在用什么AI軟件?有沒有好用的免費的AI軟件推薦下?直接發個安裝包,謝謝。比如deepseek、Chatgpt、豆包、阿里AI、百度AI
    發表于 07-09 18:30

    NVIDIA AI技術助力歐洲醫療健康行業發展

    從構建全球規模最大的生物多樣性數據庫,到打造賦能罕見病研究的 AI 工廠,NVIDIAAI 初創企業生態系統正持續為歐洲醫療健康領域注
    的頭像 發表于 06-19 14:40 ?1181次閱讀

    NVIDIA技術助力企業創建主權AI智能

    AI Factory 的經驗證設計將加速基礎設施與軟件(包括全新 NVIDIA NIM 微服務和經擴展的 NVIDIA Blueprint)相結合,為各國和企業簡化了全棧式 AI 開發
    的頭像 發表于 06-16 14:28 ?521次閱讀

    首創開源架構,天璣AI開發套件讓端側AI模型接入得心應手

    套件2.0,打造整套圍繞AI開發效率與落地路徑展開的“系統性解法”,為開發者提供了AI應用開發工具全家桶。同時,全新升級的旗艦5G智能
    發表于 04-13 19:52

    硅基覺醒已至前夜,聯發科攜手生態加速智能化用戶體驗時代到來

    、適配與部署;Dimensity Profiler提供深層調試能力;而天璣AI開發套件2.0則在模型規模、訓練性能與平臺接口全面升級,為開發者打造從芯片到底層算法的閉環支持。 駛向AI
    發表于 04-13 19:51

    Banana Pi 發布 BPI-AI2N & BPI-AI2N Carrier,助力 AI 計算與嵌入式開發

    和 Renesas直致力于推動開源生態的發展,并積極合作打造高效、開放的計算平臺。BPI-AI2N & BPI-AI2N Car
    發表于 03-19 17:54

    《零基礎開發AI Agent——手把手教你用扣子做智能

    《零基礎開發AI Agent——手把手教你用扣子做智能》是本為普通人量身打造AI開發指南。它不僅深入淺出地講解了Agent的概念和發展
    發表于 03-18 12:03

    軟通動力昇騰AI一體助力中鐵魯班AI升級

    近期,隨著DeepSeek大模型的推出,人工智能正以前所未有的速度重塑各行業的發展格局。緊隨行業趨勢,中鐵魯班基于軟通動力昇騰AI一體機自主打造魯班平臺大模型底座-魯小寶,并實現與DeepSeek大模型全棧應用對接,為各單位招投
    的頭像 發表于 02-24 18:00 ?1002次閱讀

    NVIDIA推出多個生成式AI模型和藍圖

    NVIDIA 宣布推出多個生成式 AI 模型和藍圖,將 NVIDIA Omniverse 一體化進步擴展至物理
    的頭像 發表于 01-08 10:48 ?618次閱讀

    NVIDIA和GeForce RTX GPU專為AI時代打造

    NVIDIA 和 GeForce RTX GPU 專為 AI 時代打造
    的頭像 發表于 01-06 10:45 ?656次閱讀

    賴耶科技通過NVIDIA AI Enterprise平臺打造超級AI工廠

    NVIDIA 技術團隊保持合作。賴耶科技通過NVIDIA AI Enterprise平臺打造的超級 AI 工廠,致力于加速大模型場景應用
    的頭像 發表于 11-19 14:55 ?1093次閱讀

    NVIDIA助力Amdocs打造生成式AI智能

    正在使用NVIDIA DGX Cloud 與 NVIDIA AI Enterprise軟件開發和交付基于商用大語言模型(LLM)和領域適配模型的解決方案。該公司還在使用NVIDIA
    的頭像 發表于 11-19 14:48 ?894次閱讀

    使用全新NVIDIA AI Blueprint開發視覺AI智能

    為提高生產力、優化流程和創造更加安全的空間,埃森哲、戴爾科技和聯想等公司正在使用全新 NVIDIA AI Blueprint 開發視覺 AI 智能
    的頭像 發表于 11-06 13:58 ?1035次閱讀

    NVIDIA助力印度打造AI基礎設施

    在孟買舉辦的 NVIDIA AI Summit 上,黃仁勛和穆克什·安巴尼(Mukesh Ambani)探討了關于 AI 基礎設施的投資,這些投資有望為各行各業帶來變革。
    的頭像 發表于 10-27 09:44 ?573次閱讀

    存算一體架構創新助力國產大算力AI芯片騰飛

    在灣芯展SEMiBAY2024《AI芯片與高性能計算(HPC)應用論壇》上,億鑄科技高級副總裁徐芳發表了題為《存算一體架構創新助力國產大算力AI芯片騰飛》的演講。
    的頭像 發表于 10-23 14:48 ?853次閱讀
    主站蜘蛛池模板: 超碰最新网站 | 最近中文字幕2019免费版日本 | 乌克兰16~18sex | 欧美xxxx83d | 欧美日韩1区 | 日本色女孩影院 | 俺来也俺去也视频久久 | 久久99久久成人免费播放 | 草莓视频在线播放视频 | 国产成人综合在线观看 | 0855福利| 波多野结衣的AV一区二区三区 | 亚洲精品无码不卡 | J午夜精品久久久久久毛片 jzz大全18 | 精品国产露脸久久AV麻豆 | 国产激情文学 | 美女张开腿露出尿口扒开来摸动漫 | 中文字幕专区高清在线观看 | 亚洲国产综合久久久无码色伦 | 大肥婆丰满大肥奶bbw肥 | 国产线精品视频在线观看 | 亚洲精品国产精品麻豆99 | 色mimi| 中文字幕福利视频在线一区 | 秋霞网站一级一片 | a在线观看免费视频 | DASD-700美谷朱里 | 国产69精品久久久久乱码韩国 | 99在线精品国自产拍 | 美美哒高清在线播放8 | 天天国产在线精品亚洲 | 精品一区二区三区色花堂 | 国产在线视频一区二区不卡 | ebc5恐怖5a26房间 | 色狗综合网 | 在线观看精品视频看看播放 | 成人在线视频免费 | 国产亚洲视频在线播放香蕉 | 国产乱妇乱子在线播视频播放网站 | 翘臀少妇被扒开屁股日出水爆乳 | 亚洲免费观看视频 |

    電子發燒友

    中國電子工程師最喜歡的網站

    • 2931785位工程師會員交流學習
    • 獲取您個性化的科技前沿技術信息
    • 參加活動獲取豐厚的禮品