色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

如何最大化推理性能?Triton 社區技術交流活動與您暢聊

NVIDIA英偉達企業解決方案 ? 來源:未知 ? 2023-02-15 16:10 ? 次閱讀

由螞蟻集團和 NVIDIA 攜手舉辦的“Triton Meetup 2023”將于 2 月 25 日在北京舉行。該活動是 Triton 社區首次正式舉辦的線下技術交流活動。來自美團、京東、螞蟻、NVIDIA 的技術專家將帶來 AI Infra推理引擎相關的專題分享,包括目前各企業面臨的模型推理挑戰、Triton 的應用及落地的具體方案等,現身說法,干貨十足。此外,還有來自蔚來的特邀嘉賓,帶來“AI 推理服務的當下與未來”圓桌主題討論,歡迎到現場的小伙伴積極參與!

活動地點

北京 BCos 共享辦公--多功能廳

(北京 WFC 環球金融中心辦公店)

活動時間

2023 年 2 月 25 日

14:00 - 18:00

活動報名

長按掃描下方二維碼

或點擊文末“閱讀原文

即可預約報名!

890b3a2e-ad07-11ed-bfe3-dac502259ad0.png

Triton Meetup 2023 活動流程

14:00 - 14:05

開場

14:05 - 14:45

NVIDIA Triton Inference Server的現在和未來

14:45 - 15:25

Triton 在螞蟻全場景落地的優化

15:25 - 15:40

NVIDIA & 螞蟻開源社區共建啟動儀式

15:40 -16:20

Triton 在美團數據中心的應用

16:20 - 17:00

Triton 在京東零售的應用與實踐

17:00 - 17:20

圓桌討論:AI 推理服務的當下與未來

下面一起來看看嘉賓陣容吧!

議題一:NVIDIA Triton
Inference Server 的現在和未來

申意

NVIDIA 解決方案架構師

891f8a88-ad07-11ed-bfe3-dac502259ad0.png

負責為消費互聯網行業提供 GPU 計算解決方案。包括編解碼,數據前后處理,模型推理及服務化等。

議題簡介:

  • Triton 簡介

  • Triton 重要 Feature 簡介和 Roadmap 更新

  • Triton 的成功案例

議題二:Triton 在螞蟻全場景落地的優化

饒星

螞蟻集團高級技術專家

89495a84-ad07-11ed-bfe3-dac502259ad0.jpg

螞蟻集團推理團隊技術負責人,負責螞蟻集團全部業務場景的推理服務,長期專注在推理相關的架構和性能優化。

議題簡介:

  • Triton 在搜索、推薦、廣告業務場景的解決方案

  • Triton 在認知業務的解決方案

  • 結合業務場景,螞蟻進一步的優化方案

議題三:Triton 在美團數據中心的應用

王新

美團機器學習平臺預測引擎團隊

技術負責人

8968707c-ad07-11ed-bfe3-dac502259ad0.png

美團機器學習平臺預測引擎團隊技術負責人,長期專注于機器學習預測引擎相關的開發工作。

議題簡介:

  • 機器學習模型在美團落地的痛點

  • Triton 落地的具體方案

  • 使用 Triton 的業務收益與效果

議題四:Triton 在京東零售的應用與實踐

楊培軍

京東零售算法中臺技術架構師

89a674c6-ad07-11ed-bfe3-dac502259ad0.jpg

長期從事機器學習平臺/深度學習推理加速和框架的研發,曾負責阿里媽媽搜索廣告預估平臺、Bigo 機器學習平臺的建設。

議題簡介:

  • 京東零售的多元化算法需求給模型推理帶來的挑戰

  • 介紹京東算法中臺在面向 CV/NLP 場景基于 Triton 二次開發的高性能推理框架

  • 闡述推理框架的架構演進和性能優化工作

圓桌討論:AI 推理服務的當下與未來

特邀嘉賓:郭城

蔚來自動駕駛研發平臺 (NADP)資深工程師

89baadc4-ad07-11ed-bfe3-dac502259ad0.jpg

負責搭建 NADP 云上推理系統,模型 CICD。

交通指引 & 防疫政策

1. 自駕到場:

開車行進至“環球金融中心”,在大樓南側地下停車場進入。

2. 地鐵前往:

地鐵 10 號線至“金臺夕照”站,從 A 口出,步行 3-5 分鐘,從環球金融中心南門進入。


原文標題:如何最大化推理性能?Triton 社區技術交流活動與您暢聊

文章出處:【微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。


聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 英偉達
    +關注

    關注

    22

    文章

    3771

    瀏覽量

    90993

原文標題:如何最大化推理性能?Triton 社區技術交流活動與您暢聊

文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    解鎖NVIDIA TensorRT-LLM的卓越性能

    Batching、Paged KV Caching、量化技術 (FP8、INT4 AWQ、INT8 SmoothQuant 等) 以及更多功能,確保的 NVIDIA GPU 能發揮出卓越的推理性能
    的頭像 發表于 12-17 17:47 ?127次閱讀

    光伏發電如何實現能效最大化

    光伏發電實現能效最大化是一個綜合性的問題,需要從多個方面入手。以下是一些關鍵措施: 一、選用優質設備 太陽能板 :選用具有高光電轉化效率和穩定性的太陽能板是基礎。例如,單晶硅太陽能板通常比多
    的頭像 發表于 12-05 11:06 ?235次閱讀

    賽力斯與奧托立夫技術交流日順利舉行

    近日,奧托立夫首次走進賽力斯,在其重慶總部舉辦了一場規模盛大的全方位技術交流活動,并把前沿的安全黑科技和安全系統集成解決方案帶到了賽力斯。借此活動,雙方加深了對彼此在研發與市場方向的認知,深化了合作關系,共同攜手打造了一場高水準、高品質、高規格的汽車安全產業
    的頭像 發表于 12-02 14:25 ?175次閱讀

    潤和軟件參與openEuler社區操作系統安全主題技術交流

    Meetup,分享和交流openEuler社區在操作系統安全領域的最新進展、安全特性和實踐案例。江蘇潤和軟件股份有限公司(以下簡稱“潤和軟件”)作為openEuler項目群黃金捐贈人受邀參與技術交流
    的頭像 發表于 11-13 16:14 ?408次閱讀

    潤和軟件2024南京開源生態發展交流活動回顧

    基金會OpenHarmony項目群初始成員單位、A類捐贈人、核心共建單位,以及南京本地引領開源生態發展與技術創新的重點企業,與母公司江蘇潤和軟件股份有限公司(以下簡稱“潤和軟件”)共同參與承辦“2024南京開源生態發展交流活動”,并受邀出席“2024‘才匯金陵’高層次軟件
    的頭像 發表于 09-23 16:03 ?723次閱讀

    開箱即用,AISBench測試展示英特爾至強處理器的卓越推理性能

    近期,第五代英特爾?至強?可擴展處理器通過了中國電子技術標準化研究院組織的人工智能服務器系統性能測試(AISBench)。英特爾成為首批通過AISBench大語言模型(LLM)推理性能測試的企業
    的頭像 發表于 09-06 15:33 ?320次閱讀
    開箱即用,AISBench測試展示英特爾至強處理器的卓越<b class='flag-5'>推理性能</b>

    魔搭社區借助NVIDIA TensorRT-LLM提升LLM推理效率

    “魔搭社區是中國最具影響力的模型開源社區,致力給開發者提供模型即服務的體驗。魔搭社區利用NVIDIA TensorRT-LLM,大大提高了大語言模型的推理性能,方便了模型應用部署,提高
    的頭像 發表于 08-23 15:48 ?439次閱讀

    賽力斯與意法半導體技術交流活動成功舉辦

    ???????近日,中國新能源汽車行業的領軍企業賽力斯(Seres)與意法半導體,在重慶聯合舉辦技術交流活動
    的頭像 發表于 08-01 10:18 ?1371次閱讀

    奧托立夫與深藍汽車技術交流活動圓滿落幕

    2024年7月23日,奧托立夫深入合作伙伴深藍汽車重慶總部,成功舉辦了一場以“智馭安全·共筑未來”為核心議題的技術交流活動。此次活動不僅深化了雙方在汽車安全領域的合作紐帶,更彰顯了雙方攜手并進、共筑汽車安全新高地的堅定信念。
    的頭像 發表于 07-24 09:58 ?568次閱讀

    0706線下活動 I DDR4/DDR5內存技術高速信號專題設計技術交流活動

    01活動主題DDR4/DDR5內存技術高速信號專題設計技術交流活動時間:2024年7月6日(本周六)10:00地點:深圳市南山區科技南十二路曙光大廈1002(深圳地鐵1號線,高新園地鐵站D出口200
    的頭像 發表于 07-06 08:12 ?337次閱讀
    0706線下<b class='flag-5'>活動</b> I DDR4/DDR5內存<b class='flag-5'>技術</b>高速信號專題設計<b class='flag-5'>技術交流活動</b>

    紫光同芯出席“走進理想”技術展覽及交流活動

    6月27日,“走進理想”技術展覽及交流活動在北京圓滿落幕。紫光同芯受邀出席,與行業專家、業界精英共聚一堂,圍繞電動化、智能化、輕量化等關鍵領域核心技術,深入探討智能汽車發展進程中的創新路徑。
    的頭像 發表于 07-02 14:45 ?505次閱讀

    法雷奧集團技術交流活動圓滿結束!

    交流,共同探討目前行業熱點及最新技術。“活動現場本次技術交流會得到法雷奧集團的大力支持,各個部門工程師都積極參與。同星智能針對當前客戶的相關需求,在本次
    的頭像 發表于 06-08 08:22 ?325次閱讀
    法雷奧集團<b class='flag-5'>技術交流</b>日<b class='flag-5'>活動</b>圓滿結束!

    2024瑞薩技術交流日進行中,米爾誠邀參觀

    2024年5月28日,全球半導體解決方案供應商瑞薩電子舉辦的“2024年瑞薩技術交流日”在深圳拉開序幕。米爾作為領先的嵌入式處理器模組廠商將出席此次活動米爾電子在現場展出瑞米派RemiPi,以及米爾
    的頭像 發表于 05-30 08:01 ?472次閱讀
    2024瑞薩<b class='flag-5'>技術交流</b>日進行中,米爾誠邀<b class='flag-5'>您</b>參觀

    自然語言處理應用LLM推理優化綜述

    當前,業界在將傳統優化技術引入 LLM 推理的同時,同時也在探索從大模型自回歸解碼特點出發,通過調整推理過程和引入新的模型結構來進一步提升推理性能
    發表于 04-10 11:48 ?582次閱讀
    自然語言處理應用LLM<b class='flag-5'>推理</b>優化綜述

    使用NVIDIA Triton推理服務器來加速AI預測

    這家云計算巨頭的計算機視覺和數據科學服務使用 NVIDIA Triton 推理服務器來加速 AI 預測。
    的頭像 發表于 02-29 14:04 ?576次閱讀
    主站蜘蛛池模板: 手机在线成人精品视频网| 理论片午午伦夜理片2021| 国产综合视频在线观看一区| 国产乱码二卡3卡四卡| 韩国g奶空姐| 久久九九久精品国产尤物| 男插女高潮一区二区| 秋霞伦理高清视频在线| 王晶经典三级| 亚洲最大成人| a视频在线看| 国产毛片视频网站| 久久精品国产亚洲AV蜜臀| 牛牛在线视频| 午夜AV亚洲一码二中文字幕青青 | 男女又黄又刺激B片免费网站| 男女牲交大战免费播放| 日本夜爽爽一区二区三区| 亚洲 在线 日韩 欧美| 在线中文高清资源免费观看| va亚洲va天堂va视频在线| 国产精品久久人妻拍拍水牛影视 | 国产成人久视频免费| 精品久久久久亚洲| 欧洲亚洲精品A片久久99果冻| 桃色园社区| 中文无码乱人伦中文视频播放| 啊灬啊灬啊灬快灬深高潮啦| 国产亚洲精品久久久久久入口| 美女xx00| 无码人妻视频又大又粗欧美| 在线看片av以及毛片| 大胆国模一区二区三区伊人 | 幻女FREE性俄罗斯学生| 牛牛在线国产精品| 亚洲欧美综合视频| 不卡一区二区高清观看视频| 精品精品国产yyy5857香蕉| 日本免费一本天堂在线| 一个人的视频全免费在线观看www 一个人的免费完整在线观看HD | 久久精品国产亚洲AV天美18|