由螞蟻集團和 NVIDIA 攜手舉辦的“Triton Meetup 2023”將于 2 月 25 日在北京舉行。該活動是 Triton 社區首次正式舉辦的線下技術交流活動。來自美團、京東、螞蟻、NVIDIA 的技術專家將帶來 AI Infra、推理引擎相關的專題分享,包括目前各企業面臨的模型推理挑戰、Triton 的應用及落地的具體方案等,現身說法,干貨十足。此外,還有來自蔚來的特邀嘉賓,帶來“AI 推理服務的當下與未來”圓桌主題討論,歡迎到現場的小伙伴積極參與!
活動地點:
北京 BCos 共享辦公--多功能廳
(北京 WFC 環球金融中心辦公店)
活動時間:
2023 年 2 月 25 日
14:00 - 18:00
活動報名:
長按掃描下方二維碼
或點擊文末“閱讀原文”
即可預約報名!
Triton Meetup 2023 活動流程
★
14:00 - 14:05
開場
14:05 - 14:45
NVIDIA Triton Inference Server的現在和未來
14:45 - 15:25
Triton 在螞蟻全場景落地的優化
15:25 - 15:40
NVIDIA & 螞蟻開源社區共建啟動儀式
15:40 -16:20
Triton 在美團數據中心的應用
16:20 - 17:00
Triton 在京東零售的應用與實踐
17:00 - 17:20
圓桌討論:AI 推理服務的當下與未來
下面一起來看看嘉賓陣容吧!
議題一:NVIDIA Triton
Inference Server 的現在和未來
申意
NVIDIA 解決方案架構師
負責為消費互聯網行業提供 GPU 計算解決方案。包括編解碼,數據前后處理,模型推理及服務化等。
議題簡介:
-
Triton 簡介
-
Triton 重要 Feature 簡介和 Roadmap 更新
-
Triton 的成功案例
議題二:Triton 在螞蟻全場景落地的優化
饒星
螞蟻集團高級技術專家
螞蟻集團推理團隊技術負責人,負責螞蟻集團全部業務場景的推理服務,長期專注在推理相關的架構和性能優化。
議題簡介:
-
Triton 在搜索、推薦、廣告業務場景的解決方案
-
Triton 在認知業務的解決方案
-
結合業務場景,螞蟻進一步的優化方案
議題三:Triton 在美團數據中心的應用
王新
美團機器學習平臺預測引擎團隊
技術負責人
美團機器學習平臺預測引擎團隊技術負責人,長期專注于機器學習預測引擎相關的開發工作。
議題簡介:
-
機器學習模型在美團落地的痛點
-
Triton 落地的具體方案
-
使用 Triton 的業務收益與效果
議題四:Triton 在京東零售的應用與實踐
楊培軍
京東零售算法中臺技術架構師
長期從事機器學習平臺/深度學習推理加速和框架的研發,曾負責阿里媽媽搜索廣告預估平臺、Bigo 機器學習平臺的建設。
議題簡介:
-
京東零售的多元化算法需求給模型推理帶來的挑戰
-
介紹京東算法中臺在面向 CV/NLP 場景基于 Triton 二次開發的高性能推理框架
-
闡述推理框架的架構演進和性能優化工作
圓桌討論:AI 推理服務的當下與未來
特邀嘉賓:郭城
負責搭建 NADP 云上推理系統,模型 CICD。
交通指引 & 防疫政策:
1. 自駕到場:
開車行進至“環球金融中心”,在大樓南側地下停車場進入。
2. 地鐵前往:
地鐵 10 號線至“金臺夕照”站,從 A 口出,步行 3-5 分鐘,從環球金融中心南門進入。
原文標題:如何最大化推理性能?Triton 社區技術交流活動與您暢聊
文章出處:【微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。
-
英偉達
+關注
關注
22文章
3771瀏覽量
90993
原文標題:如何最大化推理性能?Triton 社區技術交流活動與您暢聊
文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論