（電子發燒友網報道 文/章鷹）生成式人工智能又稱AIGC或生成式AI，是指基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。中國科學院大學人工智能學院教授、亞太人工智能學會執行主席雷渠江認為，未來，生成式AI在醫療保健、生命科學、游戲、娛樂、計算機工程等垂直領域都將產生巨大影響。國際調研機構Gartner預測，AIGC滲透率有望在2025年提升至10%，市場規模或將于2030年逾萬億人民幣。多家公司紛紛進入這個賽道，谷歌、微軟、Snapchat、Meta公司先后宣布在自己的產品中推出AIGC類工具。作為全球邊緣AI領域的領導者，高通的進展如何？

“今天，生成式AI的能力讓大家興奮不已，作為一項變革性的技術，它將帶來廣泛應用，顛覆我們的工作、娛樂方式。” 6月16日，在高通AI業務媒體線上溝通會上，高通技術公司產品管理高級副總裁兼AI負責人Ziad Asghar表示。

終端側的邊緣AI體驗如何明顯提升？在邊緣側，生成式AI如何成為生產力？混合AI技術為什么是AI技術的未來？帶著這些熱點話題，高通技術公司產品管理高級副總裁兼AI負責人Ziad Asghar和記者們暢談了AI技術的發展趨勢和生成式AI落地的最新進展。

生成式AI終端側用例豐富，高通AI技術和軟件棧全面助力

“生成式AI擁有非常豐富的應用領域，包括搜索、內容生成、生產力、代碼編寫等，顛覆了眾多技術領域。有些內容可以在幾秒內通過大模型生成。但是很多人看到AI就認為是云端AI完成的，但是在高通公司，通過先進的技術，我們能夠讓這些出色的用例在邊緣側實現。” Ziad Asghar說。

在手機、PC、XR、物聯網和汽車上，生成式AI的應用已經大量涌現。首先在手機端，手機作為高度個性化的設備，能夠通過生成式AI成為消費者真正意義上的數字助手，可以接受用戶的需求，甚至在沒有聯網的情況下完成任務。比如并完全通過大型基礎模型（例如文本生成文本模型LLaMA）與用戶交流；在XR上，生成式AI能夠根據終端側所提供的用戶信息進行定制和優化，為用戶帶來完全不同的獨特虛擬世界體驗；在PC上，以驍龍本舉例，生成式AI能夠基于視頻會議的語音轉錄內容，制定任務清單，并自動生成完整的演示文稿直接供用戶使用，使生產力能夠成倍增長。在本地有硬件組塊，讓用戶在本地生成AI能力，區別于其他競爭對手。

圖：智能座艙當中對話式AI 電子發燒友拍攝

此外，在今年全球增長迅猛的汽車端用例豐富。比如在座艙中使用對話式AI，向你推薦餐廳，還可以將你的工作任務制定規劃。生成式AI還可以根據出發點和目的地信息，結合汽車的豐富傳感器數據制定不同的路線規劃，找到最佳路線；在物聯網領域，生成式AI能夠助力打造面向專業領域的GPT類型模型，以及幫助用戶完成不同任務的IoT助手，適用于醫療、零售、酒店管理中提升顧客和員工體驗。

“在云端運行一個超過10億參數的生成式AI模型，可能需要數百瓦的功耗，而在終端側運行需要的功耗僅有幾毫瓦。高通實現了全球首個Android手機上的Stable Diffusion終端側演示。Stable Diffusion是一個參數超過10億的超大神經網絡基礎模型，能夠基于輸入的文本提示生成圖片。” Ziad Asghar指出，“通過我們的全棧AI優化，這一模型能夠完全在終端側運行，實現在15秒內完成20步推理，生成飽含細節的圖像。高通的AI技術能夠支持終端在既定功耗下完成更多處理工作，遙遙領先競爭對手，這賦予了我們在生成式AI領域的獨特優勢。”

據悉，高通面向Stable Diffusion進行了全棧AI優化。2022年6月，高通專門推出了面向邊緣AI的領先軟件棧產品—高通AI軟件棧。它支持從軟件層面進行模型優化。

Ziad Asghar強調說：“高通在AI 業務領域的三大關鍵要素包括：1、行業領先的硬件，支持在既定功耗下實現更高性能；2、行業領先的高通軟件棧；3、領先的工具，包括高通AI模型增效工具包（AIMET）等。數以十億計的終端，充分利用高通在人工智能技術方面的硬件、軟件和工具的優勢，發揮作用。在高通統一技術路線圖的背景下，我們能將核心的硬件、軟件以及工具技術擴展到不同產品線。開發人員只需要進行一次開發，就可以將開發成果和經驗應用于其他使用高通技術和平臺的產品上。”

混合AI技術是AI未來 高通AI技術從C端到B端全面發力

“在云端和終端進行分布式處理的混合AI才是AI的未來。混合AI的優勢在于，即使不同終端處理能力不盡相同，但仍然能夠提供相近的體驗，同時帶來包括成本、能耗、隱私與安全、個性化等優勢；還能通過出色的5G連接技術確保信息在端到端之間進行高效傳輸。” Ziad Asghar對AI未來做出了清晰地判斷。

為何云端AI難以支持生產式AI的規模化擴展？這是因為云端處理存在成本的乘數效應，用戶進行查詢的次數越多，模型規模就越大，也就會導致云端的成本不斷上升。節省成本是主要推動因素。據估計使用基于生成式AI的搜索，每一次查詢成本是傳統搜索方法的10倍，而這只是眾多生成式AI的應用之一。此外，應用數量和用戶數量的增加，也會導致成本的提高。云端完成所有生成式AI所需的工作負載，是難以實現的。我們需要更多地利用混合AI的方式，將部分處理交給終端側完成，從而真正發揮生成式AI的優勢。

混合AI架構可以根據模型和查詢需求的復雜度等因素，選擇不同方式在云端和終端側之間分配處理負載。“以汽車為例，在數字座艙里，我們可以為用戶提供真正意義上的虛擬助手。在汽車領域我們需要將多模態相結合，同時結合雷達、激光雷達、以及攝像頭等傳感器數據，從而讓我們在使用生成式AI規劃路線時，獲得最佳的效果。汽車需要非常強大的處理能力。一方面，汽車領域的生成式AI用例需要非常豐富的終端側處理能力，同時，它還需要通過高速低時延的5G連接，在需要的情況下利用云端資源進行處理。與其他產品線對比，汽車產品高通能夠提供更多的生成式AI處理能力。” Ziad Asghar對電子發燒友記者表示。

Ziad Asghar透露，目前高通能夠支持Stable Diffusion超過10億參數的模型在終端側運行，但我們也看到，許多關鍵的生成式AI模型，比如文本生成圖像、自然語言處理、編程、圖像理解、圖像創作等，模型規模一般在10億到100億參數之間。未來幾個月，高通將有望支持參數超過100億的模型在終端側運行，這也將成為基于高通技術的產品的一大差異化優勢。混合AI策略適用于所有生成式AI應用和終端領域，包括手機、筆記本、XR頭顯、汽車和物聯網，從C端到B端，這個策略對于生成式AI規模化擴展至關重要。

本文由電子發燒友原創，轉載請注明以上來源。微信號zy1052625525。需入群交流，請添加微信elecfans999，投稿爆料采訪需求，請發郵箱zhangying@elecfans.com。