7月6日,2023世界人工智能大會(WAIC)在上海正式開幕。本屆大會的主題是“智聯世界,生成未來”。來自本屆WAIC首日公開消息:第二代驍龍8移動平臺的高通AI引擎榮獲2023世界人工智能大會頂級獎項:SAIL獎——卓越人工智能引領者獎。高通公司全球副總裁侯明娟上臺領獎。
第二代驍龍8憑借面向整個平臺的開創性AI智能設計賦能了非凡用戶體驗,樹立了網聯計算的新標桿,其搭載高通技術公司處理速度最快、最先進的高通AI引擎,通過軟硬件的一系列創新,相較上一代帶來4.35倍的AI性能提升和60%的能效提升,從而為越來越多的創新型AI用例和AI增強的用戶體驗提供強大的性能基礎。
高通AI引擎由多個硬件和軟件組件組成,用于在驍龍移動平臺上為終端側AI推理加速。它采用異構計算架構,包括高通Hexagon處理器、Adreno GPU、Kryo CPU和傳感器中樞,共同支持在終端上快速而有效的運行AI應用程序。其關鍵核心Hexagon處理器擁有一系列創新:提供專用供電系統、支持微切片推理、INT4精度、Transformer網絡加速等,可結合高通AI軟件棧和AI Studio提供全棧AI能力和優化手段,行業內率先在終端側支持Stable Diffusion、ControlNet等生成式AI用例,并可與云端協同打造適應大模型時代的混合AI處理框架,助力AI體驗創新和生態繁榮。目前,第二代驍龍8移動平臺已經可以支持參數超過10億的AI模型運行。未來幾個月內,將有望支持參數超過100億的模型在終端側運行,這也將成為基于高通技術的產品的一大差異化優勢。
終端側AI處理可以帶來處理時延,隱私和安全,可靠性等優勢,并且在生成式AI場景下可以有效分擔云端處理的負載,降低成本和能耗,有助于云端協同的混合式AI處理架構的有效部署。高通AI引擎可提供卓越的終端側AI處理能力,并可跨越智能手機賦能更多邊緣移動終端類別,比如筆記本電腦、XR頭顯、IoT設備以及汽車等,引領終端側AI應用的進一步發展。
據悉,高通深耕AI研發已超過15年,高通AI Research在基礎研究領域實現突破,并跨終端和行業進行擴展,以賦能智能網聯邊緣。高通AI Research不僅在開展全新AI研究工作,也率先在商用終端上展示概念驗證,為在現實世界中的技術規模化應用鋪平道路。高通AI Research的重要AI研究論文正在影響整個行業,推動高能效AI發展,并與公司所有團隊通力合作,將最新AI發展成果和技術集成到高通產品之中,讓實驗室研究所實現的AI進步能夠更快交付,豐富人們的生活。
在WAIC現場,高通還帶來了Stable Diffusion、ControlNet等生成式AI用例的技術展示。這是全球首個運行在Android手機上的Stable Diffusion終端側演示,和全球最快的手機上的ControlNet終端側演示。
全球首個運行在Android手機上的Stable Diffusion終端側演示
全球最快的手機上的ControlNet終端側演示
Stable Diffusion是一個非常出色的從文本到圖像的生成式AI模型,能夠基于任何文本輸入,在數十秒內創作出逼真圖像。其參數超過10億,迄今為止主要限于在云端運行。高通采用全棧AI優化的方式,通過量化、編譯和硬件加速進行優化,使其能在搭載第二代驍龍8移動平臺的手機上運行,在15秒內執行20步推理,生成一張512x512像素的圖像。這是在智能手機上最快的推理速度,能媲美云端時延,且用戶文本輸入完全不受限制。目前,高通也已經將Stable Diffusion這一生成式AI用例擴展到搭載驍龍計算平臺的PC產品上。
ControlNet圖像生成圖像模型是一項語言-視覺模型(LVM),擁有15億參數,能夠通過調整輸入圖像和輸入文本描述,更精準地控制生成圖像。在這項演示中,ControlNet能夠在終端側實現高效交互運行,通過一套跨模型架構、AI軟件和神經網絡硬件加速器的全棧式AI優化,時延12秒內可完成16步推理,生成AI圖像,無需訪問任何云端,便能提供高效、有趣、可靠且私密的交互式用戶體驗。高通AI模型增效工具包、高通AI軟件棧和高通AI引擎在此過程中發揮了關鍵作用。
-
高通
+關注
關注
76文章
7459瀏覽量
190562 -
Android
+關注
關注
12文章
3935瀏覽量
127348 -
AI
+關注
關注
87文章
30735瀏覽量
268896 -
驍龍
+關注
關注
2文章
1006瀏覽量
36815
發布評論請先 登錄
相關推薦
評論