2023 年中國計算機大會(CNCC2023)以“發展數字基礎設施,支撐數字中國建設”為主題,將于 10 月 26 - 28 日在沈陽新世界博覽館舉辦。
NVIDIA 攜手合作伙伴麗臺科技受邀為大會帶來三大技術論壇,并在展位開設持續兩天的開發者小課堂,為計算機行業的學者、研究人員、開發者和高校的同學們帶來 NVIDIA 的最新技術應用實踐。歡迎蒞臨我們的展位(沈陽新世界博覽館 4 樓 C 展館 T13),與我們一起探索 AI 和加速計算的未來,開啟生成式 AI 新時代!
NVIDIA 在 CNCC2023 的活動概覽:
時間 |
主題 |
地點 |
10 月 26 日 13:30 - 17:30 |
NVIDIA AI 全棧技術解決方案研討會 |
沈陽皇朝萬鑫酒店 8 層 - 16 |
10 月 27 日 13:30 - 17:30 |
基于超大模型的推理和部署實踐 |
沈陽新世界博覽館 5 層會議室 503 |
10 月 28 日 13:30 - 17:30 |
探索 Omniverse和AI加速創作開發流程 |
沈陽皇朝萬鑫酒店 8 層 - 19 |
10 月 26 日 – 27 日 |
開發者小課堂 |
沈陽新世界博覽館 4 樓 C 展館 T13 |
10 月 26 – 27 日,NVIDIA 將舉辦兩場技術論壇:NVIDIA AI 全棧技術解決方案研討會和基于超大模型的推理和部署實踐分論壇,我們將分享 AI 領域最新的發展趨勢,探討大語言模型的崛起如何為 AI 技術的應用開拓新領域。
論壇詳情
NVIDIA AI 全棧技術解決方案研討會
時間:10 月 26 日 13:30 - 17:30
地點:沈陽皇朝萬鑫酒店 8 層 - 16
AI 正迎來有史以來最輝煌的時刻,新的 AI 技術和迅速發展的應用正在改變各行各業。從自主機器人開發、自動駕駛系統和軟件、GPU 加速的大語言模型以及火熱的生成式 AI 背后的智能網絡技術。在 NVIDIA AI 全棧技術解決方案論壇,NVIDIA 專家將為您揭示 AI 技術新趨勢。
?+
+
具體議程
面向生成式 AI 的端到端高性能網絡關鍵技術
演講時間:13:35 - 14:20
演講簡介:分享 Spectrum-X 平臺技術創新及其在 AI Cloud 行業的應用介紹 Quantum 平臺及網絡計算技術對大規模生成式 AI 應用的加速。
-------------------------
馮高鋒
NVIDIA HPC-AI 技術市場高級總監
構建 LLM 大規模訓練推理基礎架構的最佳實踐(網絡篇)
演講時間:14:20 - 15:05
演講簡介:以當前火熱的大語言模型(LLM)生成式人工智能為切入點,探索其成功背后的全棧智能網絡技術,并介紹 NVIDIA BlueField-3 DPU 和 NVIDIA DOCA 2.0 為加速計算提供高性能、高效率和高安全性的云計算基礎設施。
-------------------------
王淼
NVIDIA 解決方案總監
NVIDIA 互聯網行業 Infra 方向技術負責人
構建 LLM 大規模訓練推理基礎架構的最佳實踐(GPU 篇)
演講時間:15:05 - 15:50
演講簡介:介紹 NVIDIA 在 LLM 訓練和推理場景的基礎架構層面的最佳產品和方案。NVIDIA DGX SuperPOD 架構是實現 LLM 訓練的最高性能基礎架構,由 NVIDIA 實現全棧交付,極致滿足客戶算力需求。同時,NVIDIA Hopper NVL 產品可靈活適配主流服務器,在 LLM 推理場景幫助客戶實現更高收益。
-------------------------
艾靜
NVIDIA 解決方案架構師
市場高級總監
NVIDIA 加速邊緣計算和自主機器開發
演講時間:15:50 - 16:35
演講簡介:智能機器人和邊緣計算是現在人工智能的一個熱點,NVIDIA 提供軟硬件全棧解決方案,從仿真開發到部署,助力邊緣計算和智能機器人應用的實現。同時,豐富強大的生態幫助開發者和用戶加速開發過程,輕松應對全行業應用。
-------------------------
李雨倩
NVIDIA 開發者關系總監
NVIDIA 全棧加速自動駕駛開發
演講時間:16:35 - 17:20
演講簡介:圍繞著自動駕駛整個數據閉環開發,NVIDIA 提供全棧的解決方案,從硬件、系統到軟件,從數據中心到車端,助力自動駕駛高效開發、快速迭代。
-------------------------
程帥
NVIDIA 解決方案架構師
基于超大模型的推理和部署實踐分論壇
時間:10 月 27 日 13:30 - 17:30
地點:沈陽新世界博覽館5層會議室503
大語言模型的興起為 AI 技術的應用開辟了更廣闊的空間,越來越多研究和實踐證明超大模型在各類任務上的卓越能力與重要性。在 CNCC2023 大會上,騰訊、百度和阿里云將攜手 NVIDIA 帶來《基于超大模型的推理和部署實踐》論壇。
通過本次論壇,您將了解到騰訊的生成式 AI 如何高效地部署;百度飛槳在 LLM 分布式訓練方面的最新技術;阿里云 PAI 大語言模型推理服務實踐;NVIDIA 在 GPU LLM 訓練與推理部署優化解決方案以及構建 LLM 大規模訓練推理基礎架構的最佳實踐分享。
?+
+
具體議程
生成式 AI 高效部署實踐
演講時間:13:35 - 14:20
演講簡介:自 OpenAI 推出 ChatGPT 后,市場反應強烈。國內外科技公司快速跟進,到今年三月份,各公司逐步推出其專屬的 ChatGPT 版本,并基于此開發逐步研發相關的商業應用。而 GPT 超大的模型結構在部署時產生的高延遲,高成本是其商業化路上的最大障礙。我們將從小型化算法、推理框架及服務化部署等多個方面和大家分享工業級 GPT 高效部署優化方案。
-------------------------
劉凱
騰訊高級工程師
基于飛槳的 LLM 訓練和應用實踐
演講時間:14:20 - 15:05
演講簡介:介紹飛槳在 LLM 分布式訓練方面的最新技術,針對 LLM 的開發、訓練、Tuning、推理全流程工具設計,以及實際大規模訓練和部署的應用實踐。
-------------------------
曾錦樂
百度資深工程師
GPU LLM 訓練與推理部署優化實踐與解決方案
演講時間:15:05 - 15:50
演講簡介:介紹大語言模型訓練推理中常用的優化支持和技巧(數據并行、Tensor 并行、Pipline 并行、Sequence并行、selective activation recompute、NCCL、TRTLLM 等)以及 Nemo framework 的全鏈路支持方案。
-------------------------
高慧怡
NVIDIA 解決方案架構師
阿里云 PAI 大語言模型推理服務實踐
演講時間:15:50 - 16:35
演講簡介:大語言模型的興起為人工智能技術的應用開辟了更廣闊的空間。然而,大語言模型的訓練和推理都需要大量的計算資源和時間,因此,性能和成本是大語言模型普及路上的重要挑戰。演講將主要介紹阿里云 PAI 平臺為了應對這一挑戰所做的工作,包括:
1)如何基于推理加速技術在 GPU 特別是 NVIDIA 平臺上實現了大語言模型推理的高效推理;
2)如何利用云平臺天然的彈性特性,通過資源調度降低用戶的成本;
3)如何在保證性能和成本的前提下保持靈活性,支持社區百花齊放的大語言模型。
-------------------------
邱俠斐
阿里云機器學習平臺(PAI)系統優化團隊負責人
構建 LLM 大規模訓練推理基礎架構的最佳實踐(基礎架構篇)
演講時間:16:35 - 17:20
演講簡介:介紹 NVIDIA 在 LLM 訓練和推理場景的基礎架構層面的最佳產品和方案。NVIDIA DGX SuperPOD 架構是實現 LLM 訓練的最高性能基礎架構,由 NVIDIA 實現全棧交付,極致滿足客戶算力需求。同時,NVIDIA Hopper NVL 產品可靈活適配主流服務器,在 LLM 推理場景幫助客戶實現更高收益。
-------------------------
艾靜
NVIDIA 解決方案架構師
內容分享后更有問答交流環節,現場專家陣容將悉心為您答疑解惑!
報名參會
掃描下方二維碼,即刻報名參與論壇。
期待您蒞臨現場,一起領略更多精彩!
您可以從《CNCC2023 | 開啟生成式 AI 新時代!NVIDIA 多場論壇下周重磅登場》全面了解 NVIDIA 在 CNCC 的活動概覽。
后續我們還將為您呈現關于探索 Omniverse 和 AI 加速創作開發流程論壇的詳細信息,請持續關注我們。
GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會議中心舉行,線上大會也將同期開放。點擊“閱讀原文”或掃描下方海報二維碼,關注更多會議及活動信息。
原文標題:CNCC | 論壇:探索 AI 全棧解決方案和基于 LLM 的推理與部署實踐
文章出處:【微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。
-
英偉達
+關注
關注
22文章
3770瀏覽量
90990
原文標題:CNCC | 論壇:探索 AI 全棧解決方案和基于 LLM 的推理與部署實踐
文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論