近期,Imagination將陸續推出全新系列研討會,涵蓋邊緣AI如何推動工業物聯網的發展,生成式AI,智能汽車未來發展趨勢等等多個熱門話題。
本期研討會中,Imagination中國區產品總監鄭魁為我們解讀了中國在基礎模型研發及其邊緣部署方面取得的進展,重點分析關鍵趨勢、技術突破以及未來展望。
分享嘉賓:鄭魁,Imagination中國區產品總監
以下為本期研討會要點內容回顧,更多詳細內容可觀看完整版視頻。生成式AI在中國的崛起
預計未來五年,中國在生成式AI(Gen-AI)領域的投資將以86%的年均復合增長率(CAGR)增長。這一發展的主要推動力源于對高端技術自給自足的需求,包括從應用到芯片的全面布局,并注重本地技術開發。
主要發展領域包括:
- AI芯片研發:滿足高性能AI基礎設施的需求。
- 數據集本地化:支持本地語言和方言。
- 定制化AI應用:針對特定消費和行業需求開發。
開源社區建設:積極參與深度學習框架和大型模型開源社區。
區域技術趨勢
中國的研究實驗室在AI領域作出了顯著貢獻,尤其是在開源生態系統中:
排行榜表現:中國模型在全球競爭中表現優異,特別是在特定子任務上。
多模態大語言模型:在中文理解等細分領域具有強大競爭力。
設備端模型:在邊緣設備上開發高效模型,如MiniCPM3-4B。
基礎模型的基準表現
中國的基礎模型在基準測試中表現出色,如Qwen2.5-72B-instruct和GLM-4-plus在指令遵循、長文本生成和結構化數據理解方面表現卓越。最新的Qwen2.5模型包含高達18萬億標記數據,在多樣化系統提示下表現出強大的適應性。
多模態大語言模型(LLM)
騰訊的混元大模型以3890億參數、5.2億激活參數及最高可達256,000個Token的處理能力,成為最大的開源混合專家模型之一,在語言理解和邏輯推理等領域表現優異,甚至超過一些更大規模的模型。
開源貢獻與設備端AI
中國活躍的開源LLM社區開發了諸如DeepSeek-V2等混合專家模型,在高效推理和經濟訓練方面表現出色。同時,參數在10億以下的設備端模型(如GLM-4-9B-Chat和MiniCPM-2B)在中文任務和其他應用中取得優異成績。
邊緣計算的挑戰與解決方案將生成式AI部署到邊緣設備而非云端,可實現更快響應、更高隱私、更個性化體驗和更低的云推理成本。然而,要真正發揮AI在邊緣的潛力,還需解決計算密集型問題。GPU憑借其可編程性、靈活性和高效計算能力,成為推動生成式AI應用至邊緣設備的關鍵技術。
結語
中國科技生態正快速發展,并成功研發基礎模型并部署至邊緣。隨著技術創新的持續推進以及對本地化和定制化的高度重視,消費者將見證更多強大的AI功能應用到各種設備中。
下一期研討會中,Imagination高級產品總監Rob Fisher將分享“汽車行業趨勢”的相關主題,敬請期待!
-
AI
+關注
關注
87文章
30728瀏覽量
268886 -
模型
+關注
關注
1文章
3226瀏覽量
48807 -
imagination
+關注
關注
1文章
573瀏覽量
61316
發布評論請先 登錄
相關推薦
評論