要點
高通計劃從2024年起,在旗艦智能手機和PC上支持基于Llama 2的AI部署,賦能開發者使用驍龍平臺的AI能力,推出激動人心的全新生成式AI應用。
與僅僅使用云端AI部署和服務相比,終端側AI部署能夠助力開發者以顯著降低的成本,提升用戶隱私保護、滿足用戶安全偏好、增強應用可靠性,并實現個性化。
高通技術公司和Meta正在合作優化Meta Llama 2大語言模型直接在終端側的執行,無需僅依賴云服務。能夠在智能手機、PC、VR/AR頭顯和汽車等終端上運行Llama 2一類的生成式AI模型,將支持開發者節省云成本,并為用戶提供更加私密、可靠和個性化的體驗。
因此,高通技術公司計劃支持基于Llama 2的終端側AI部署,以賦能打造激動人心的全新AI應用。這將支持客戶、合作伙伴和開發者構建智能虛擬助手、生產力應用、內容創作工具和娛樂等用例。這些由驍龍賦能的全新終端側AI體驗,可在沒有網絡連接的區域、甚至是飛行模式下工作。
高通技術公司高級副總裁兼技術、規劃和邊緣解決方案業務總經理馬德嘉表示:
我們十分贊賞Meta對于AI技術采取的開放且負責的策略。高通技術公司致力于推動創新,通過將生成式AI引入終端側,將為各種規模的開發者降低開發門檻。為了將生成式AI有效地規模化擴展至主流市場,AI需要同時在云端和邊緣終端上運行,比如智能手機、筆記本電腦、汽車和物聯網終端。
Meta和高通技術公司長期合作,共同推動技術創新,打造下一代卓越終端體驗。雙方目前在支持Llama生態系統方面的合作,覆蓋了研究和產品工程技術工作。憑借終端側AI的領導力,高通技術公司在支持Llama生態系統方面具備獨特優勢。公司擁有領先的邊緣側布局,其行業領先的AI硬件和軟件解決方案賦能了數十億智能手機、汽車、XR頭顯與眼鏡、PC和物聯網等終端,為生成式AI的規模化擴展提供了廣闊機遇。
高通技術公司計劃從2024年起,在搭載驍龍平臺的終端上支持基于Llama 2的AI部署。現在開發者可以開始使用高通AI軟件棧面向終端側AI進行應用優化。高通AI軟件棧是一套支持在驍龍平臺上更高效處理AI的專用工具,讓輕薄的小型終端也能支持終端側AI。
審核編輯:湯梓紅
-
高通
+關注
關注
76文章
7461瀏覽量
190568 -
AI
+關注
關注
87文章
30763瀏覽量
268906 -
Meta
+關注
關注
0文章
270瀏覽量
11378
原文標題:高通攜手Meta利用Llama 2賦能終端側AI應用
文章出處:【微信號:Qualcomm_China,微信公眾號:高通中國】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論