色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

CNCC | 論壇:探索 AI 全棧解決方案和基于 LLM 的推理與部署實踐

NVIDIA英偉達 ? 來源:未知 ? 2023-10-24 10:30 ? 次閱讀

2023 年中國計算機大會(CNCC2023)以“發展數字基礎設施,支撐數字中國建設”為主題,將于 10 月 26 - 28 日在沈陽新世界博覽館舉辦。

NVIDIA 攜手合作伙伴麗臺科技受邀為大會帶來三大技術論壇,并在展位開設持續兩天的開發者小課堂,為計算機行業的學者、研究人員、開發者和高校的同學們帶來 NVIDIA 的最新技術應用實踐。歡迎蒞臨我們的展位(沈陽新世界博覽館 4 樓 C 展館 T13),與我們一起探索 AI加速計算的未來,開啟生成式 AI 新時代!

NVIDIA 在 CNCC2023 的活動概覽:

時間

主題

地點

10 月 26 日

13:30 - 17:30

NVIDIA AI 全棧技術解決方案研討會

沈陽皇朝萬鑫酒店

8 層 - 16

10 月 27 日

13:30 - 17:30

基于超大模型的推理和部署實踐

沈陽新世界博覽館

5 層會議室 503

10 月 28 日

13:30 - 17:30

探索 Omniverse和AI加速創作開發流程

沈陽皇朝萬鑫酒店

8 層 - 19

10 月 26 日

– 27 日

開發者小課堂

沈陽新世界博覽館

4 樓 C 展館 T13

10 月 26 – 27 日,NVIDIA 將舉辦兩場技術論壇:NVIDIA AI 全棧技術解決方案研討會和基于超大模型的推理和部署實踐分論壇,我們將分享 AI 領域最新的發展趨勢,探討大語言模型的崛起如何為 AI 技術的應用開拓新領域。

論壇詳情

NVIDIA AI 全棧技術解決方案研討會

時間:10 月 26 日 13:30 - 17:30

地點:沈陽皇朝萬鑫酒店 8 層 - 16

AI 正迎來有史以來最輝煌的時刻,新的 AI 技術和迅速發展的應用正在改變各行各業。從自主機器人開發、自動駕駛系統和軟件、GPU 加速的大語言模型以及火熱的生成式 AI 背后的智能網絡技術。在 NVIDIA AI 全棧技術解決方案論壇,NVIDIA 專家將為您揭示 AI 技術新趨勢。

?+

+

具體議程

面向生成式 AI 的端到端高性能網絡關鍵技術

演講時間:13:35 - 14:20

演講簡介:分享 Spectrum-X 平臺技術創新及其在 AI Cloud 行業的應用介紹 Quantum 平臺及網絡計算技術對大規模生成式 AI 應用的加速。

-------------------------

wKgZomU3LVmAY53IAAAt4J-yd80838.jpg

馮高鋒

NVIDIA HPC-AI 技術市場高級總監

構建 LLM 大規模訓練推理基礎架構的最佳實踐(網絡篇)

演講時間:14:20 - 15:05

演講簡介:以當前火熱的大語言模型(LLM)生成式人工智能為切入點,探索其成功背后的全棧智能網絡技術,并介紹 NVIDIA BlueField-3 DPU 和 NVIDIA DOCA 2.0 為加速計算提供高性能、高效率和高安全性的云計算基礎設施。

-------------------------

wKgZomU3LVmAERMgAAAOztQ4g4s744.jpg

王淼

NVIDIA 解決方案總監

NVIDIA 互聯網行業 Infra 方向技術負責人

構建 LLM 大規模訓練推理基礎架構的最佳實踐(GPU 篇)

演講時間:15:05 - 15:50

演講簡介:介紹 NVIDIA 在 LLM 訓練和推理場景的基礎架構層面的最佳產品和方案。NVIDIA DGX SuperPOD 架構是實現 LLM 訓練的最高性能基礎架構,由 NVIDIA 實現全棧交付,極致滿足客戶算力需求。同時,NVIDIA Hopper NVL 產品可靈活適配主流服務器,在 LLM 推理場景幫助客戶實現更高收益。

-------------------------

wKgZomU3LVmAJmh1AAA8y-OPnN0275.jpg

艾靜

NVIDIA 解決方案架構師

市場高級總監

NVIDIA 加速邊緣計算和自主機器開發

演講時間:15:50 - 16:35

演講簡介:智能機器人和邊緣計算是現在人工智能的一個熱點,NVIDIA 提供軟硬件全棧解決方案,從仿真開發到部署,助力邊緣計算和智能機器人應用的實現。同時,豐富強大的生態幫助開發者和用戶加速開發過程,輕松應對全行業應用。

-------------------------

wKgZomU3LVqAKuGJAAAqAq-NnYc657.jpg

李雨倩

NVIDIA 開發者關系總監

NVIDIA 全棧加速自動駕駛開發

演講時間:16:35 - 17:20

演講簡介:圍繞著自動駕駛整個數據閉環開發,NVIDIA 提供全棧的解決方案,從硬件、系統到軟件,從數據中心到車端,助力自動駕駛高效開發、快速迭代。

-------------------------

wKgZomU3LVqAKcf_AAA8V_d81Pk744.jpg

程帥

NVIDIA 解決方案架構師

基于超大模型的推理和部署實踐分論壇

時間:10 月 27 日 13:30 - 17:30

地點:沈陽新世界博覽館5層會議室503

大語言模型的興起為 AI 技術的應用開辟了更廣闊的空間,越來越多研究和實踐證明超大模型在各類任務上的卓越能力與重要性。在 CNCC2023 大會上,騰訊、百度和阿里云將攜手 NVIDIA 帶來《基于超大模型的推理和部署實踐》論壇。

通過本次論壇,您將了解到騰訊的生成式 AI 如何高效地部署;百度飛槳在 LLM 分布式訓練方面的最新技術;阿里云 PAI 大語言模型推理服務實踐;NVIDIA 在 GPU LLM 訓練與推理部署優化解決方案以及構建 LLM 大規模訓練推理基礎架構的最佳實踐分享。

?+

+

具體議程

生成式 AI 高效部署實踐

演講時間:13:35 - 14:20

演講簡介:自 OpenAI 推出 ChatGPT 后,市場反應強烈。國內外科技公司快速跟進,到今年三月份,各公司逐步推出其專屬的 ChatGPT 版本,并基于此開發逐步研發相關的商業應用。而 GPT 超大的模型結構在部署時產生的高延遲,高成本是其商業化路上的最大障礙。我們將從小型化算法、推理框架及服務化部署等多個方面和大家分享工業級 GPT 高效部署優化方案。

-------------------------

wKgZomU3LVqAJTRzAAAcHutI8Zo633.jpg

劉凱

騰訊高級工程師

基于飛槳的 LLM 訓練和應用實踐

演講時間:14:20 - 15:05

演講簡介:介紹飛槳在 LLM 分布式訓練方面的最新技術,針對 LLM 的開發、訓練、Tuning、推理全流程工具設計,以及實際大規模訓練和部署的應用實踐。

-------------------------

wKgZomU3LVqAQ-7zAAA-6r81wxQ560.jpg

曾錦樂

百度資深工程師

GPU LLM 訓練與推理部署優化實踐與解決方案

演講時間:15:05 - 15:50

演講簡介:介紹大語言模型訓練推理中常用的優化支持和技巧(數據并行、Tensor 并行、Pipline 并行、Sequence并行、selective activation recompute、NCCL、TRTLLM 等)以及 Nemo framework 的全鏈路支持方案。

-------------------------

wKgZomU3LVqAKlOrAABHQ_A69O4004.jpg

高慧怡

NVIDIA 解決方案架構師

阿里云 PAI 大語言模型推理服務實踐

演講時間:15:50 - 16:35

演講簡介:大語言模型的興起為人工智能技術的應用開辟了更廣闊的空間。然而,大語言模型的訓練和推理都需要大量的計算資源和時間,因此,性能和成本是大語言模型普及路上的重要挑戰。演講將主要介紹阿里云 PAI 平臺為了應對這一挑戰所做的工作,包括:

1)如何基于推理加速技術在 GPU 特別是 NVIDIA 平臺上實現了大語言模型推理的高效推理;

2)如何利用云平臺天然的彈性特性,通過資源調度降低用戶的成本;

3)如何在保證性能和成本的前提下保持靈活性,支持社區百花齊放的大語言模型。

-------------------------

wKgZomU3LVuAMfNKAAB7CSwC6yM384.jpg

邱俠斐

阿里云機器學習平臺(PAI)系統優化團隊負責人

構建 LLM 大規模訓練推理基礎架構的最佳實踐(基礎架構篇)

演講時間:16:35 - 17:20

演講簡介:介紹 NVIDIA 在 LLM 訓練和推理場景的基礎架構層面的最佳產品和方案。NVIDIA DGX SuperPOD 架構是實現 LLM 訓練的最高性能基礎架構,由 NVIDIA 實現全棧交付,極致滿足客戶算力需求。同時,NVIDIA Hopper NVL 產品可靈活適配主流服務器,在 LLM 推理場景幫助客戶實現更高收益。

-------------------------

wKgZomU3LVmAJmh1AAA8y-OPnN0275.jpg

艾靜

NVIDIA 解決方案架構師

內容分享后更有問答交流環節,現場專家陣容將悉心為您答疑解惑!

報名參會

掃描下方二維碼,即刻報名參與論壇。

期待您蒞臨現場,一起領略更多精彩!

wKgZomU3LVuAIcWZAABRwoeGjGE484.jpg

您可以從CNCC2023 | 開啟生成式 AI 新時代!NVIDIA 多場論壇下周重磅登場全面了解 NVIDIA 在 CNCC 的活動概覽。

后續我們還將為您呈現關于探索 Omniverse 和 AI 加速創作開發流程論壇的詳細信息,請持續關注我們。

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會議中心舉行,線上大會也將同期開放。點擊“閱讀原文”掃描下方海報二維碼,關注更多會議及活動信息。

wKgZomU3LVuAR-wKAAFtccdApf0933.jpg


原文標題:CNCC | 論壇:探索 AI 全棧解決方案和基于 LLM 的推理與部署實踐

文章出處:【微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 英偉達
    +關注

    關注

    22

    文章

    3770

    瀏覽量

    90990

原文標題:CNCC | 論壇:探索 AI 全棧解決方案和基于 LLM 的推理與部署實踐

文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    深度解析研華AI產品布局

    在人工智能邁向邊緣智能化的浪潮中,研華科技通過“Edge AI+生態協同”戰略推動AIoT 2.0時代的產業落地。本文專訪研華科技產品總監邱柏儒,深度解析研華AI產品布局、差異化
    的頭像 發表于 12-05 09:51 ?217次閱讀

    中興通訊推出AI FWA解決方案

    近日,在土耳其伊斯坦布爾舉辦的終端用戶大會上,作為全球領先的綜合信息與通信技術解決方案提供商中興通訊,首次聚焦固定無線接入(FWA)與移動寬帶(MBB)業務領域,并隆重推出了業界首創的AI FWA
    的頭像 發表于 11-18 17:10 ?580次閱讀

    NVIDIA生成式AI閃耀CNCC2024大會

    在當前數字化轉型的浪潮中,探索生成式 AI 如何對新質生產力提供強力賦能,正成為推動社會進步的重要課題。此前,10 月 24 - 26 日在橫店舉行的 CNCC2024 大會上,這一議題被視為核心討論內容。
    的頭像 發表于 11-06 14:04 ?247次閱讀

    NVIDIA助力麗蟾科技打造AI訓練與推理加速解決方案

    麗蟾科技通過 Leaper 資源管理平臺集成 NVIDIA AI Enterprise,為企業和科研機構提供了一套高效、靈活的 AI 訓練與推理加速解決方案。無論是在復雜的
    的頭像 發表于 10-27 10:03 ?209次閱讀
    NVIDIA助力麗蟾科技打造<b class='flag-5'>AI</b>訓練與<b class='flag-5'>推理</b>加速<b class='flag-5'>解決方案</b>

    軟通動力成功舉辦“智能,激發工業發展新動能”分論壇

    軟通動力在華為聯接大會2024上舉辦"智能,激發工業發展新動能"分論壇,匯聚伙伴/客戶進行AI+行業
    的頭像 發表于 09-27 15:33 ?329次閱讀

    聯想集團攜AI解決方案亮相2024年云棲大會

    在萬眾矚目的2024年云棲大會上,聯想集團首次以震撼姿態展露了其AI解決方案的宏偉藍圖,全方位覆蓋從AI終端、基礎設施到
    的頭像 發表于 09-20 16:36 ?817次閱讀

    AMD助力HyperAccel開發全新AI推理服務器

    HyperAccel 是一家成立于 2023 年 1 月的韓國初創企業,致力于開發 AI 推理專用型半導體器件和硬件,最大限度提升推理工作負載的存儲器帶寬使用,并通過將此解決方案應用于
    的頭像 發表于 09-18 09:37 ?356次閱讀
    AMD助力HyperAccel開發全新<b class='flag-5'>AI</b><b class='flag-5'>推理</b>服務器

    開啟全新AI時代 智能嵌入式系統快速發展——“第六屆國產嵌入式操作系統技術與產業發展論壇”圓滿結束

    操作系統標準化的最新進展。 華為計算產業戰略規劃總監周明耀在論壇上做了“華為在AI軟硬件上積累及生態戰略”專題報告。周明耀介紹華為計算產業在AI軟硬件
    發表于 08-30 17:24

    三行代碼完成生成式AI部署

    LLM加載與推理部署能力,實現了OpenVINO對CNN網絡、生成式模型、LLM網絡主流模型的全面推理支持。
    的頭像 發表于 08-30 16:49 ?413次閱讀
    三行代碼完成生成式<b class='flag-5'>AI</b><b class='flag-5'>部署</b>

    魔搭社區借助NVIDIA TensorRT-LLM提升LLM推理效率

    “魔搭社區是中國最具影響力的模型開源社區,致力給開發者提供模型即服務的體驗。魔搭社區利用NVIDIA TensorRT-LLM,大大提高了大語言模型的推理性能,方便了模型應用部署,提高了大模型產業應用效率,更大規模地釋放大模型的
    的頭像 發表于 08-23 15:48 ?434次閱讀

    LLM大模型推理加速的關鍵技術

    LLM(大型語言模型)大模型推理加速是當前人工智能領域的一個研究熱點,旨在提高模型在處理復雜任務時的效率和響應速度。以下是對LLM大模型推理加速關鍵技術的詳細探討,內容將涵蓋模型壓縮、
    的頭像 發表于 07-24 11:38 ?863次閱讀

    寧暢推出“液”AI基礎設施方案

    近日,寧暢科技正式發布其“液”AI基礎設施方案,這一創新舉措旨在全面支持大模型落地所需的各項技術需求。該
    的頭像 發表于 05-31 09:18 ?613次閱讀

    廣和通AIoT解決方案助力AI之眼探索視界

    廣和通深度探索計算機視覺的關鍵技術與難點,助力客戶實現計算機視覺端側部署,以高算力模組及解決方案大大簡化智能終端視覺部署的難度。
    的頭像 發表于 04-23 18:07 ?595次閱讀

    廣和通AIoT解決方案助力AI之眼探索視界

    廣和通深度探索計算機視覺的關鍵技術與難點,助力客戶實現計算機視覺端側部署,以高算力模組及解決方案大大簡化智能終端視覺部署的難度。
    的頭像 發表于 04-23 18:07 ?280次閱讀
    廣和通AIoT<b class='flag-5'>解決方案</b>助力<b class='flag-5'>AI</b>之眼<b class='flag-5'>探索</b>視界

    自然語言處理應用LLM推理優化綜述

    當前,業界在將傳統優化技術引入 LLM 推理的同時,同時也在探索從大模型自回歸解碼特點出發,通過調整推理過程和引入新的模型結構來進一步提升推理
    發表于 04-10 11:48 ?582次閱讀
    自然語言處理應用<b class='flag-5'>LLM</b><b class='flag-5'>推理</b>優化綜述
    主站蜘蛛池模板: 日韩亚射吧| qvod快播在线观看| 日本大尺码喷液过程视频| 国内精品乱码卡一卡2卡三卡| 最新无码国产在线视频9299| 神马电影我不卡4k手机在线观看| 久久综合九色| 国产性夜夜春夜夜爽1A片| YY8090福利午夜理论片| 又硬又粗又大一区二区三区视频| 色欲狠狠躁天天躁无码中文字幕 | 久久精品国产亚洲AV忘忧草蜜臀 | 看电影就来5566先锋av| 国产精品免费视频能看| a视频在线免费观看| 中国xxxxx69| 亚洲精品嫩草AV在线观看| 肉肉描写很细致的黄文| 女子初尝黑人巨嗷嗷叫| 久久免费视频1| 精品一卡2卡三卡4卡乱码精品视频| 国产AV白丝爆浆在线播放| 99久久国内精品成人免费| 在线看免费毛片| 亚洲黄色高清| 香蕉99久久久久成人麻豆| 特级毛片s级全部免费| 日本一卡二卡三卡四卡无卡免费播放 | 99久久精品毛片免费播放| 一区二区乱子伦在线播放| 亚洲qingse中文字幕久久| 忘忧草高清| 污污内射在线观看一区二区少妇 | 刺激一区仑乱| 成人国产亚洲精品A区天堂蜜臀 | 欧美精品一区二区在线电影| 乱VODAFONEWIFI熟妇| 久久伦理影院| 久久亚洲免费视频| 老师小扫货水能么多叫出来 | 亚洲视频免费看|