地平線在深圳召開(kāi)了主題為“釋放·芯效能”的新產(chǎn)品發(fā)布會(huì),正式推出了全新一代的AIoT邊緣AI芯片平臺(tái)——地平線旭日3。
Auto+AIoT雙飛輪戰(zhàn)略
“自2015年成立至今,地平線已經(jīng)在AI領(lǐng)域探索了5年,‘賦能萬(wàn)物’這是地平線成立的初心。”地平線創(chuàng)始人兼CEO余凱闡釋地平線開(kāi)放賦能戰(zhàn)略,“未來(lái)世界會(huì)有很多智能機(jī)器,服務(wù)于每個(gè)人的生活,讓每個(gè)人的生活更安全,更美好。賦能萬(wàn)物究竟如何戰(zhàn)略落地?今天我們有了更加清晰的答案——這就是地平線的‘雙飛輪戰(zhàn)略’:Auto+AIoT?!?/p>
而地平線的“Auto+AIoT”戰(zhàn)略落地到產(chǎn)品,則是針對(duì)汽車領(lǐng)域的征程系列和針對(duì)AIoT領(lǐng)域的旭日系列。目前地平線征程系列已經(jīng)成功在汽車市場(chǎng)打開(kāi)了局面,其中征程2已經(jīng)成功進(jìn)入了前裝市場(chǎng),僅長(zhǎng)安一款車型,半年時(shí)間就已經(jīng)出貨了幾十萬(wàn)片。
“地平線是中國(guó)唯一實(shí)現(xiàn)前裝量產(chǎn)的車規(guī)級(jí)AI芯片?!庇鄤P非常自豪的說(shuō)到。余凱還透露,明年汽車前裝市場(chǎng)將會(huì)有20多款基于地平線征程芯片的車型上市。
相對(duì)于的征程系列芯片的成功,旭日系列芯片的成果則顯得不是那么的耀眼,當(dāng)然這也與AIoT市場(chǎng)本身的碎片化有關(guān),需要持續(xù)的投入和市場(chǎng)培育。
旭日3系列發(fā)布:AI算力最高5TOPS,擁有極致效能
地平線此次發(fā)布的旭日3系列AIoT芯片,采用臺(tái)積電16nm HPC+工藝,擁有旭日3M和旭日3E兩個(gè)型號(hào),分別應(yīng)對(duì)客戶對(duì)于不同AI算力的需求。
其中,旭日3M基于四核Arm Cortex-A53高能效處理器,主頻1.2GHz,集成了兩個(gè)地平線新一代BPU核心,在2.5W的典型功耗下,能夠達(dá)到等效5TOPS的標(biāo)準(zhǔn)算力,同時(shí)提供了豐富的接口,內(nèi)存帶寬可達(dá)3200Mbps,編解碼能力和ISP效果也很優(yōu)秀,可支持1200萬(wàn)像素?cái)z像頭,滿足客戶不同產(chǎn)品類型的開(kāi)發(fā)需要。
而旭日3E則相當(dāng)于旭日3M的簡(jiǎn)配版,CPU核心改為了雙核的Arm Cortex-A53,主頻保持1.2GHz不變,同樣也是集成了兩個(gè)地平線第二代BPU核心,不過(guò)算力降至了3TOPS,內(nèi)存帶寬可達(dá)2666Mbps,支持500萬(wàn)像素?cái)z像頭。
得益于第二代更強(qiáng)大的BPU核心,以及對(duì)于DRR大帶寬的支持和編譯器對(duì)于算法的高效優(yōu)化,旭日3系列的算力利用率高達(dá)95%,達(dá)到了業(yè)界領(lǐng)先地位。
地平線聯(lián)合創(chuàng)始人兼技術(shù)副總裁黃暢表示:“一個(gè)加速器在SoC系統(tǒng)里面,往往面臨處理器效率不高的問(wèn)題。而處理效率不高有很多原因,有架構(gòu)本身原因,也有DDR瓶頸的問(wèn)題。我們地平線的編譯器團(tuán)隊(duì),通過(guò)將先進(jìn)算法高效部署在處理器里面進(jìn)行加速和計(jì)算,實(shí)現(xiàn)了高達(dá)95%的算力利用率。”
“如果用常規(guī)的方法去編譯,一個(gè)高效模型處理一幀高清圖片可能需要消耗140MB的帶寬,計(jì)算延遲達(dá)到40多毫秒,這個(gè)時(shí)候利用率只有57%,57%在整個(gè)行業(yè)里面在AI處理器利用率已經(jīng)是相對(duì)不錯(cuò)的成績(jī)了。但是我們通過(guò)對(duì)編譯器的優(yōu)化,使得同樣高效算法,同樣一個(gè)芯片,我們將整個(gè)計(jì)算進(jìn)行細(xì)致拆解重組,充分發(fā)揮片上存儲(chǔ)的能力,充分發(fā)揮上面每一個(gè)計(jì)算的單位,處理一張大圖,同樣的算法帶寬只需要34MB,極大的壓縮了對(duì)于帶寬的需求,利用率高達(dá)95%?!秉S暢進(jìn)一步舉例解釋到。
此外,旭日3系列還擁有強(qiáng)大的視頻流處理器能力。旭日3系列能夠接入4到8路攝像頭,攝像頭分辨率可支持最高1200萬(wàn)像素,硬件支持多攝像頭之間的精確同步,也可支持對(duì)于攝像頭進(jìn)行校正,內(nèi)置的高性能ISP,可以進(jìn)行高效能的圖像處理,得到清晰、高質(zhì)量畫(huà)質(zhì),再加上高性能低帶寬的特性,旭日3系列能夠支持智能NVR、DVR在車載里面的環(huán)視,以及各種常見(jiàn)的視覺(jué)應(yīng)用。
黃暢表示:“旭日3的AI性能極其出色,特別是在最新的邊緣側(cè)深度網(wǎng)絡(luò)下有非常好的優(yōu)化效果,使得客戶可以充分利用芯片算力。在SoC處理器的基礎(chǔ)能力之上,旭日3系列匹配強(qiáng)大的CPU、Codec、ISP能力,并且提供兩種規(guī)格,以滿足不同的市場(chǎng)需要,在行業(yè)內(nèi)具有很強(qiáng)的競(jìng)爭(zhēng)力?!?/p>
隨著用戶對(duì)于信息安全的越來(lái)越重視,芯片廠商也在不斷加強(qiáng)芯片安全保護(hù)機(jī)制。地平線旭日3系列在硬件層面上將BOOT寫(xiě)到芯片里面,可以確保非法軟件無(wú)法運(yùn)行在旭日3系列上。而且在BOOT階段,是直接被加載到BPU運(yùn)行空間,內(nèi)存隔離機(jī)制為BPU創(chuàng)造了絕對(duì)安全的運(yùn)行空間,這是一個(gè)完全隔離的獨(dú)立環(huán)境,使得黑客即使入侵到應(yīng)用側(cè),也無(wú)法接觸到BPU所使用模型參數(shù)和數(shù)據(jù)。此外,地平線還提供了一個(gè)非常完善的授權(quán)管理服務(wù),通過(guò)遠(yuǎn)端進(jìn)行ONLINE的授權(quán)和離線授權(quán),支持授權(quán)版本自定義,授權(quán)碼的發(fā)放,方面客戶應(yīng)用。
豐富的開(kāi)發(fā)工具鏈,讓旭日3系列極簡(jiǎn)易用
有了好的AI芯片,也需要有相應(yīng)的開(kāi)發(fā)工具,幫助開(kāi)發(fā)者和客戶更快、更省、更高效的的完成場(chǎng)景應(yīng)用落地。對(duì)此,地平線很早就推出了“天工開(kāi)物”AI開(kāi)發(fā)平臺(tái),包括大量的高精度模型庫(kù)(業(yè)界流行的模型、自研模型、最佳實(shí)踐模型),可以使得算法研發(fā)成本節(jié)省70%,訓(xùn)練成本節(jié)省90%;還擁有支持訓(xùn)練和預(yù)測(cè)的AI芯片全棧工具鏈,算法研發(fā)成本可減少50%;AI應(yīng)用開(kāi)發(fā)中間件,可使得工程研發(fā)成本降低50%。
具體來(lái)說(shuō),基于天工開(kāi)物平臺(tái),地平線提供大量高精度的模型,開(kāi)發(fā)者拿到這個(gè)模型,可以直接拿去用,或者加入一點(diǎn)點(diǎn)數(shù)據(jù)在細(xì)致調(diào)一個(gè),可以得到非常好的模型,并可以高效部署在芯片上,從而免除算法和芯片適配的問(wèn)題,使得整個(gè)訓(xùn)練成本和研發(fā)成本會(huì)大大的節(jié)省。
地平線提供的易用且精度損失低的轉(zhuǎn)換工具和高性能高精度的量化訓(xùn)練工具,支持浮點(diǎn)轉(zhuǎn)定點(diǎn)的模式,可以把模型轉(zhuǎn)化所損失的精度再轉(zhuǎn)化出來(lái),這個(gè)對(duì)于極度追求精度的客戶是非常重要的。
地平線還提出參考算法的新理念。以往,開(kāi)發(fā)者要么選擇自己從頭開(kāi)研發(fā)算法,要么是采用第三方的商用算法,而這個(gè)商用算法多數(shù)是“黑盒子”,只能拿來(lái)用,難以持續(xù)去提高。而地平線提供的參考算法則是基于開(kāi)源數(shù)據(jù)集或地平線自有數(shù)據(jù)集訓(xùn)練得到的高精度算法,是免費(fèi)提供給客戶的。
黃暢表示:“客戶拿到參考算法后,可以結(jié)合在相應(yīng)場(chǎng)景當(dāng)中搜集到的數(shù)據(jù),加入到預(yù)訓(xùn)練上的算法,簡(jiǎn)單迭代之后就可以產(chǎn)生一個(gè)有差異化,屬于客戶自己的算法。這個(gè)就是使用這一套流程去開(kāi)發(fā)整個(gè)算法,研發(fā)成本能夠極大降低的最大原因。因?yàn)槲覀兲峁┬阅芊浅:玫念A(yù)訓(xùn)練的參考算法,這樣參考算法在工具鏈里面提升之后,我們客戶可以為產(chǎn)品構(gòu)建自己的算法,從而建立自己的算法,使得整個(gè)產(chǎn)品上市時(shí)間能夠縮短一半,我們持續(xù)在芯片上,不僅僅在芯片設(shè)計(jì)本身,不僅僅在我們芯片工具鏈本身,在這上面承載了各種各樣標(biāo)準(zhǔn)化的模型,我們會(huì)持續(xù)去打造。”
此外,地平線還提供了加速嵌入式研發(fā)的開(kāi)源應(yīng)用中間件(AI Express),集合了很多人體結(jié)構(gòu)化(比如人形、骨骼、手勢(shì)、關(guān)鍵點(diǎn))、場(chǎng)景化和常用的AI應(yīng)用參考代碼,開(kāi)發(fā)者可以輕松完成應(yīng)用的開(kāi)發(fā),并且運(yùn)行效率也可以保證非常高。
“地平線基于芯片、算法和工具鏈組成的底層計(jì)算平臺(tái),將行業(yè)領(lǐng)先的算法能力和芯片產(chǎn)品開(kāi)放給客戶、合作伙伴、開(kāi)發(fā)者,并提供全面開(kāi)放的賦能支持,降低AI開(kāi)發(fā)難度和落地門檻,加速AI在各行各業(yè)的應(yīng)用?!秉S暢說(shuō)到。
未來(lái)3年出貨將超千萬(wàn)
根據(jù)此前的信息顯示,地平線旭日1和旭日2已經(jīng)累計(jì)出貨將近百萬(wàn)。而隨著功能更加強(qiáng)大的旭日3的推出,以及AIoT市場(chǎng)的持續(xù)爆發(fā),地平線也對(duì)于未來(lái)有著較高的預(yù)期。
余凱表示,“今年發(fā)布會(huì)來(lái)了一百多家客戶,大多都有采用我們的旭日芯片,目前有一家客戶現(xiàn)在3年訂單已有幾百萬(wàn),我覺(jué)得未來(lái)三年突破千萬(wàn)級(jí)是合理預(yù)估。但是這個(gè)只是預(yù)估,現(xiàn)在還并不是現(xiàn)實(shí)?!?/p>
此外,在此次發(fā)布上,地平線還透露2021年將會(huì)跳過(guò)旭日4,直接推出旭日5。而根據(jù)Roadmap顯示,旭日5將會(huì)采用Arm 2/4 x A55 CPU內(nèi)核,集成雙核的第三代BPU內(nèi)核,支持H.264/H.265 4K/8K。
“面向AI落地需求,地平線未來(lái)會(huì)持續(xù)增強(qiáng)自研AI芯片的算力密度,提供矩陣式的芯片規(guī)格,同時(shí)擴(kuò)展通用性算法需求,滿足不同客戶采用多樣化網(wǎng)絡(luò)模型的需求。”黃暢表示,2021年地平線將發(fā)布更強(qiáng)勁的旭日5系列芯片,向行業(yè)釋放更加靈活而極致的AI效能。
力推AI真實(shí)性能評(píng)價(jià)標(biāo)準(zhǔn):MAPS
目前在AI芯片領(lǐng)域,評(píng)價(jià)AI芯片性能的關(guān)鍵指標(biāo)是TOPS,即每秒10億次計(jì)算的峰值算力能力,但是各家AI芯片廠商公布的這個(gè)算力指標(biāo)都是基于半導(dǎo)體硅片的理論峰值性能,而這個(gè)是依賴于半導(dǎo)體工藝制程的,并不是將算法部署到芯片上之后的實(shí)際算力的體現(xiàn)。此外,也有業(yè)內(nèi)知名的基準(zhǔn)測(cè)試組織MLPerf,但是其采用的模型少且更新速度滯后于算法演進(jìn)的速度,無(wú)法及時(shí)反映算法效率的提升以及各種精度下芯片能夠達(dá)到的計(jì)算速度,因而無(wú)法描述芯片AI性能的全貌。
對(duì)此,地平線首創(chuàng)提出了全新的AI真實(shí)效能評(píng)價(jià)標(biāo)準(zhǔn)——MAPS(Mean Accuracy-guaranteed Processing Speed,在精度有保障范圍內(nèi)的平均處理速度),在應(yīng)用場(chǎng)景中最常見(jiàn)的精度保障范圍內(nèi),考察每顆芯片的平均處理速度。可以說(shuō),MAPS更加關(guān)注的是任務(wù)的最終效果與性能,包容任務(wù)執(zhí)行時(shí)可采用的所有網(wǎng)絡(luò)選擇,能夠幫助客戶找到最為適宜的整體AI落地方案。
具體來(lái)說(shuō),MAPS代表著最真實(shí)的AI效能指標(biāo),它等于舊摩爾定律下的理論峰值計(jì)算效能×實(shí)際的有效利用率×新摩爾定律(AI算法效率),并且是在精度有保障范圍內(nèi)的平均表現(xiàn)。
以谷歌TPU為例,可以看到下圖中,縱軸是標(biāo)準(zhǔn)的圖像分類任務(wù)ImageNet TOP·1的準(zhǔn)確率,體現(xiàn)的是算法的精度,可以在上面去運(yùn)行各種各樣不同的算法模型去完成圖像分類,橫軸是每秒鐘處理的幀率,體現(xiàn)的是處理速度。如果把每一個(gè)算法模型運(yùn)行在TOU上,就可以得到對(duì)應(yīng)的速度和精度,而將這些算法得到的結(jié)果都作為一個(gè)坐標(biāo)點(diǎn)標(biāo)記到圖上,然后根據(jù)實(shí)際應(yīng)用需求選擇一個(gè)最有價(jià)值精度區(qū)間,比如75%到85.5%的精度范圍,根據(jù)那些坐標(biāo)點(diǎn)去尋找一個(gè)最大的多邊形,再把多邊形的面積計(jì)算出來(lái)去除以精度范圍,從而得到一個(gè)平均的處理速度,從而最終得到MAPS的指標(biāo)。
值得一提的是,此次地平線推出的旭日3系列芯片,正是以MAPS作為關(guān)鍵指標(biāo)來(lái)進(jìn)行設(shè)計(jì)和優(yōu)化的,從下圖當(dāng)中我們可以看到,旭日3在圖像分類任務(wù)上可以有效適配Google提出的EfficientNet系列網(wǎng)絡(luò),其AI真實(shí)性能表現(xiàn),遠(yuǎn)超其他同類的4TOPS算力的AI芯片,即便是相比11.4TOPS算力的AI芯片,在追求更高的處理速度的曲線內(nèi)也是遙遙領(lǐng)先,最高可達(dá)416FPS。
“MAPS是我們推出的一個(gè)關(guān)于AI真實(shí)算力更合理的評(píng)估方式,是在精度有保障范圍內(nèi)的平均處理速度,是應(yīng)用需求精度范圍內(nèi)看平均處理速度能有多快,這個(gè)是更加接近真實(shí)應(yīng)用場(chǎng)景的AI性能評(píng)估方式。我們希望MAPS能夠指導(dǎo)業(yè)界去研究框架和算法,研究所有方方面面能夠影響到真實(shí)AI性能的技術(shù),提出一個(gè)共同的目標(biāo),讓大家形成一個(gè)合力,都朝著真正關(guān)注AI算法到底能夠做到多準(zhǔn)確,能夠多快,圍著同樣一個(gè)MAPS目標(biāo)去前進(jìn),這是我們提出評(píng)估方面最重要的初衷?!秉S暢說(shuō)到。
在會(huì)后專訪環(huán)節(jié),地平線CEO余凱向芯智訊表示:“對(duì)于用戶來(lái)說(shuō),關(guān)注客觀真實(shí)AI算力才是更具價(jià)值的,而不是簡(jiǎn)單的追逐TOPS指標(biāo)。MAPS是我們提出的一個(gè)公開(kāi)的、透明的、開(kāi)放的指標(biāo),我們也希望能夠有更多的廠商參與進(jìn)來(lái)。不過(guò),我們最好讓開(kāi)發(fā)者第三方去跑,然后給出分?jǐn)?shù),而不是廠家自己。對(duì)于開(kāi)發(fā)者來(lái)說(shuō),MAPS這個(gè)標(biāo)準(zhǔn)是最終對(duì)他們的應(yīng)用場(chǎng)景最相關(guān)、最直接的評(píng)價(jià)指標(biāo),因?yàn)門OPS太間接了,我們朝著公開(kāi)、透明的方式,我們不求一步到位絕對(duì)的精確,但是我們一定要把這個(gè)行業(yè)往前推進(jìn)?!?/p>
此外,為了推動(dòng)MAPS標(biāo)準(zhǔn),余凱還透露,地平線最近正在與某業(yè)內(nèi)知名的AIoT終端大廠的研發(fā)機(jī)構(gòu)合作,雙方將一起來(lái)共同推進(jìn)這件事情。
當(dāng)然,地平線本身作為一家AI芯片廠商,來(lái)希望將自己提出的這個(gè)MAPS標(biāo)準(zhǔn)推而廣之,成為行業(yè)標(biāo)準(zhǔn),可能也會(huì)引發(fā)一些爭(zhēng)議。不過(guò),余凱強(qiáng)調(diào):“地平線做這件事情一定要以公心來(lái)推動(dòng)整個(gè)行業(yè)發(fā)展,最后不同的意見(jiàn)肯定會(huì)有,但是我覺(jué)得我們先邁出這一步,讓大家把意見(jiàn)提出來(lái),對(duì)整個(gè)行業(yè)是進(jìn)步。如果沒(méi)有一個(gè)廠家往前邁一步,都停留在虛無(wú)縹緲的TOPS上,那永遠(yuǎn)進(jìn)步不了,不管怎么樣先做起來(lái),啟發(fā)大家產(chǎn)生有建設(shè)性的爭(zhēng)論,都是好事,比虛假的一團(tuán)和氣的好。而且中國(guó)現(xiàn)在正好在整個(gè)AI芯片這一塊領(lǐng)先全球的,我們自己要有原創(chuàng)心,不要懈怠,讓自己觀點(diǎn)拋出來(lái),讓大家來(lái)爭(zhēng)論,整個(gè)行業(yè)才更具活力,如果死氣沉沉,怎樣往前發(fā)展?表面一團(tuán)和氣還不如來(lái)一個(gè)關(guān)于行業(yè)發(fā)展方向的一個(gè)爭(zhēng)議討論?!?/p>
開(kāi)放賦能,打造“方案商生態(tài)”+“開(kāi)發(fā)者生態(tài)”
伴隨著此次旭日3系列的發(fā)布,地平線還攜手合作伙伴針對(duì)相關(guān)應(yīng)用領(lǐng)域推出了相應(yīng)的軟硬結(jié)合的參考方案,比如IPC參考方案、USB CAM參考方案、同行面板方案、車載后裝參考方案、邊緣計(jì)算盒參考方案,可應(yīng)用于智能會(huì)議、智能家居、交互機(jī)器人、車載后裝、通行考勤等諸多應(yīng)用場(chǎng)景。
那么,這是否意味著地平線會(huì)自己來(lái)推芯片方案,甚至是自己來(lái)做集成?
余凱告訴芯智訊:“我們自己不會(huì)做主板方案,更不會(huì)去做整機(jī),因?yàn)槟切┒际怯晌覀冑x能的伙伴來(lái)做的,我們定位就是底層賦能,不會(huì)去跟我們的合作伙伴去搶生意。我們?cè)谒行袠I(yè)里面都不會(huì)做硬件方案,包括整體解決方案,都是讓我們的合作伙伴去做。因?yàn)槲覀冇X(jué)得整個(gè)人工智能場(chǎng)景還是非常碎片化的,一家廠商做不了那么多事情,我們要做的是把大家的開(kāi)發(fā)門檻降低,讓更多廠商跟合作伙伴可以基于我們的芯片能夠去開(kāi)發(fā)各種各樣的應(yīng)用。所以我們要致力于打造開(kāi)放、繁榮、活躍的方案商生態(tài)和開(kāi)發(fā)者生態(tài)。”
具體來(lái)說(shuō),基于邊緣AI芯片,地平線正打造一個(gè)多層次、多維度、多樣性的開(kāi)放生態(tài)體系。在方案商生態(tài)方面,無(wú)論是硬件方案商,還是垂直領(lǐng)域的解決方案商,還是軟硬一體的整體解決方案商,地平線都將依托于底層技術(shù)能力,賦能方案商合作伙伴,幫助他們把對(duì)于場(chǎng)景的理解注入到產(chǎn)品中去,打造各種解決方案,賦能各行各業(yè)。
在開(kāi)發(fā)者生態(tài)方面,地平線也將積淀多年并經(jīng)過(guò)應(yīng)用落地驗(yàn)證的技術(shù)組件‘白盒’開(kāi)放出來(lái),其中包括中間件,參考算法,應(yīng)用參考設(shè)計(jì),算法訓(xùn)練平臺(tái)等,幫助開(kāi)發(fā)者進(jìn)一步加速AI落地。同時(shí),地平線還通過(guò)開(kāi)發(fā)者生態(tài)計(jì)劃,依托開(kāi)放易用的“天工開(kāi)物”AI開(kāi)發(fā)平臺(tái),一站式AI開(kāi)發(fā)者社區(qū)和AI加速營(yíng)開(kāi)發(fā)者扶持計(jì)劃,向開(kāi)發(fā)者提供加速AIoT應(yīng)用孵化的全鏈條支持,助力AI應(yīng)用探索創(chuàng)新。
此外,地平線后續(xù)還將每年舉辦技術(shù)生態(tài)大會(huì),介紹最新的芯片以及軟件成果,包括地平線提供所有的素材、教程以及激勵(lì)計(jì)劃,去繁榮這兩個(gè)生態(tài)。
地平線AIoT產(chǎn)品線總經(jīng)理王叢也表示:“地平線并不僅僅是芯片提供商,而是AI芯片應(yīng)用落地的生態(tài)賦能者。地平線的理念就是開(kāi)放賦能,一路成就客戶。客戶選擇地平線也不僅是選擇一顆芯片,而是選擇 AI 時(shí)代的長(zhǎng)期伙伴?!?br /> 責(zé)任編輯:pj
-
芯片
+關(guān)注
關(guān)注
455文章
50714瀏覽量
423152 -
加速器
+關(guān)注
關(guān)注
2文章
796瀏覽量
37840 -
AI
+關(guān)注
關(guān)注
87文章
30728瀏覽量
268887
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論