高通技術(shù)公司發(fā)布白皮書(shū)《混合AI是AI的未來(lái)》，深入闡述混合AI架構(gòu)的領(lǐng)先優(yōu)勢(shì)，終端側(cè)AI將如何賦能生成式AI實(shí)現(xiàn)規(guī)模化擴(kuò)展，以及公司如何憑借終端側(cè)AI領(lǐng)導(dǎo)力、全球化規(guī)模和生態(tài)系統(tǒng)賦能，讓混合AI成為現(xiàn)實(shí)。

混合AI將支持生成式AI應(yīng)用開(kāi)發(fā)者和提供商利用邊緣側(cè)終端的計(jì)算能力降低成本。混合AI架構(gòu)或僅在終端側(cè)運(yùn)行AI，能夠在全球范圍帶來(lái)高性能、個(gè)性化、隱私和安全等優(yōu)勢(shì)。混合AI架構(gòu)可以根據(jù)模型和查詢(xún)需求的復(fù)雜度等因素，選擇不同方式在云端和終端側(cè)之間分配處理負(fù)載。

在以終端為中心的混合AI架構(gòu)中，

云端僅用于處理終端側(cè)無(wú)法充分運(yùn)行的AI任務(wù)

隨著強(qiáng)大的生成式AI模型不斷縮小，以及終端側(cè)處理能力的持續(xù)提升，混合AI的潛力將會(huì)進(jìn)一步增長(zhǎng)。參數(shù)超過(guò)10億的AI模型已經(jīng)能夠在手機(jī)上運(yùn)行，且性能和精度達(dá)到與云端相似的水平。不久的將來(lái)，擁有100億或更高參數(shù)的模型將能夠在終端上運(yùn)行。混合AI策略適用于幾乎所有生成式AI應(yīng)用和終端領(lǐng)域，對(duì)推動(dòng)生成式AI規(guī)模化擴(kuò)展，滿足全球企業(yè)與消費(fèi)者需求至關(guān)重要。

高通作為終端側(cè)AI領(lǐng)導(dǎo)者，面向包括手機(jī)、汽車(chē)、XR頭顯與眼鏡、PC和物聯(lián)網(wǎng)等在內(nèi)的數(shù)十億邊緣終端，提供行業(yè)領(lǐng)先的硬件和軟件解決方案，對(duì)推動(dòng)混合AI規(guī)模化擴(kuò)展獨(dú)具優(yōu)勢(shì)。

高通的AI引擎和軟件棧為加速終端側(cè)AI推理提供了解決方案，并具備行業(yè)領(lǐng)先的性能和能效優(yōu)勢(shì)。憑借一系列基礎(chǔ)研究，以及跨AI應(yīng)用、模型、硬件與軟件的全棧終端側(cè)AI優(yōu)化，我們的持續(xù)創(chuàng)新讓公司始終處于終端側(cè)AI解決方案的最前沿。

高通力求創(chuàng)造能為社會(huì)帶來(lái)積極影響的AI技術(shù)。高通的終端側(cè)AI愿景基于透明、負(fù)責(zé)、公平、管理環(huán)境影響和以人為本等原則，致力于負(fù)責(zé)任地管理AI，并采取措施以規(guī)避潛在危害。高通終端側(cè)AI解決方案旨在賦能增強(qiáng)的隱私性和安全性，這對(duì)打造穩(wěn)健可信的AI生態(tài)系統(tǒng)至關(guān)重要。高通技術(shù)公司還專(zhuān)注于為全球數(shù)十億、由高通和驍龍平臺(tái)支持的終端提供開(kāi)發(fā)和部署的簡(jiǎn)便性，從而賦能開(kāi)發(fā)者和獨(dú)立軟件開(kāi)發(fā)商（ISV）。利用高通AI軟件棧，開(kāi)發(fā)者可以在我們的硬件上創(chuàng)建、優(yōu)化和部署AI應(yīng)用，一次編寫(xiě)即能實(shí)現(xiàn)跨我們芯片組解決方案的不同產(chǎn)品和細(xì)分領(lǐng)域進(jìn)行部署。憑借技術(shù)領(lǐng)導(dǎo)力、全球化規(guī)模和生態(tài)系統(tǒng)賦能，高通技術(shù)公司正在讓混合AI成為現(xiàn)實(shí)。

欲了解更多白皮書(shū)內(nèi)容，請(qǐng)點(diǎn)擊【閱讀原文】。