2024 AI大模型創新發展研討會暨清華上海自動化年會于2024年3月16日在上海楊浦區成功召開。活動內容包括專家主旨演講、圓桌討論、校友企業路演等交流活動。蘋芯科技CEO楊越出席會議并進行項目分享。
本次會議得到了上海市楊浦區的大力支持,楊浦區委副書記、區長周海鷹,清華校友總會自動化系分會會長、清華大學自動化系主任張濤,清華校友總會自動化系分會秘書長、清華大學自動化系黨委書記古槿,清華大學上海校友會會長、華虹計通董事長秦偉芳,清華大學上海校友會監事長、昕諾飛亞太區高級總監宿為民,清華大學上海校友會副會長兼秘書長、啟迪控股副總裁韓威,清華大學上海校友會自動化專委會主任、軟銀中國創業投資有限公司合伙人宋安瀾,清華大學上海校友會自動化專委會副主任、上海交通大學計算機系教授、思必馳創始人俞凱,上海歐美同學會副會長張海曉,啟迪控股執行總裁、啟迪之星董事長張金生,清華大學上海校友會自動化專委會秘書長、元鈦基金合伙人陳剛以及來自學術界、產業界的大模型領域專家學者、企業代表、清華校友悉數出席會議,共同探討AI大模型領域的發展趨勢、技術挑戰以及未來應用前景等業內焦點問題。
蘋芯科技CEO楊越受邀出席本次會議并進行題為《從通用到專用 -- AI大模型推理專用加速芯片》的分享。
現階段,隨著大模型在人工智能領域快速發展,大模型的訓練和推理對計算資源提出了前所未有的挑戰。Groq TSP作為專門針對超低延遲應用而設計的確定性ML推理芯片,一經推出便引起廣泛關注。但是,通過專業人士分析,其實際部署與應用仍然存在很大的成本問題,產品的應用前景依然在等待市場的反饋。
面對當前情況中的具體問題,蘋芯團隊提出了新思路,打造存算一體AI大模型端側推理專用加速芯片,通過三條路徑針對性解決難題:首先,利用存內計算技術,降低數據搬運,大幅提升計算能效;其次,打造大模型專屬架構設計,完成高內聚低耦合數據處理單元設計,切實降低總體設計制造成本;最后,融入大模型完整產業生態,滿足國產大模型對芯片設計需求,實現軟硬件一體設計,打通上下游合作鏈,實現算力算法架構融合。
作為專注于存算一體AI芯片的創新型企業,蘋芯科技將繼續加快深入探索端側大模型加速芯片的步伐,推出面向大模型應用場景的芯片產品與解決方案,為AI大模型時代提供強勁的“芯動力”。
審核編輯:劉清
-
TSP
+關注
關注
1文章
24瀏覽量
16922 -
AI芯片
+關注
關注
17文章
1879瀏覽量
34991 -
存算一體
+關注
關注
0文章
102瀏覽量
4297 -
大模型
+關注
關注
2文章
2423瀏覽量
2641 -
AI大模型
+關注
關注
0文章
315瀏覽量
305
原文標題:開拓大模型新邊界,蘋芯展示存算一體“芯”方向
文章出處:【微信號:蘋芯科技,微信公眾號:蘋芯科技】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論