近日,2023中國算力大會在寧夏銀川舉行,沐曦集成電路(上海)有限公司(下稱“沐曦”)聯合創始人、CTO兼首席硬件架構師彭莉受邀出席由中國信息通信研究院、中國互聯網協會聯合舉辦的智能計算論壇,并擔任演講嘉賓,探討后GPT時代算力需求激增帶來的挑戰以及GPU如何突破算力供需瓶頸、推動人工智能產業普惠化發展。
沐曦聯合創始人、CTO兼首席硬件架構師彭莉
發表主題演講
在題為“后GPT時代的算力需求”的演講中,彭莉預測大模型商業模式將分為通用計算市場和專用定制化市場兩大類:在通用計算市場,大語言模型將終結多數NLP任務,NLP技術水平被強行拉平,通用大模型或被大廠“壟斷”;而在專用定制化市場,開源大模型將呈現百花齊放的發展態勢,可針對私有數據、敏感數據進行快速定制和領域對齊,大模型開發和部署能力將趨于普及化。
彭莉指出,區別于傳統AI,生成式AI技術可以借助接入類ChatGPT應用發揮顯著的技術優勢,為大語言模型的開發降本增效,同時也對算力提出更高和更迫切的要求。由于大模型訓練的一次性成本被大規模推理攤薄,大模型盈利的一大難點是降低推理成本。沐曦致力于打造高效通用的GPU芯片及軟硬件一體的生態解決方案,通過GPU軟件生態優勢、硬件架構優勢、先進封裝等方面全面提升GPU算力,降低大模型訓練和推理的算力成本,在產品路線和生態戰略上均可滿足大模型對算力基礎設施的大規模需求,為推進智能產業可持續發展打造堅實的算力底座。
審核編輯:彭菁
-
集成電路
+關注
關注
5420文章
12012瀏覽量
367796 -
gpu
+關注
關注
28文章
4925瀏覽量
130915 -
硬件
+關注
關注
11文章
3473瀏覽量
67338 -
沐曦
+關注
關注
0文章
32瀏覽量
1407 -
大模型
+關注
關注
2文章
3086瀏覽量
3966
發布評論請先 登錄
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】+NVlink技術從應用到原理
云 GPU 加速計算:突破傳統算力瓶頸的利刃
中科曙光助力浙江精準醫療實驗室突破算力瓶頸

【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--了解算力芯片GPU
GPU算力租用平臺怎么樣
GPU算力租用平臺是什么
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--全書概覽
名單公布!【書籍評測活動NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架構分析
算力服務器為什么選擇GPU

評論