電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)在過去接近10年時(shí)間里,AI產(chǎn)業(yè)經(jīng)歷了幾個(gè)重要節(jié)點(diǎn),2012年深度學(xué)習(xí)的研究突破,給AI產(chǎn)業(yè)帶來新的起點(diǎn),2016年Alphago打敗李世石,正式引爆市場,一時(shí)間涌現(xiàn)出大量AI創(chuàng)業(yè)企業(yè),資本也大量投進(jìn)這個(gè)賽道。
在短時(shí)間火熱之后,湊熱鬧的人逐漸退出,AI產(chǎn)業(yè)繼續(xù)穩(wěn)步向前發(fā)展,最近幾年AI技術(shù)快速發(fā)展,應(yīng)用場景不斷浮現(xiàn),AI產(chǎn)業(yè)也進(jìn)入到爆發(fā)式增長階段,巨大的市場潛力逐漸顯現(xiàn)出來。據(jù)艾媒咨詢數(shù)據(jù)顯示,2020年中國AI芯片市場規(guī)模達(dá)183.8億元,預(yù)計(jì)2023年將突破千億級別。
同時(shí)AI芯片也逐漸呈現(xiàn)出多元化趨勢,主要體現(xiàn)在幾個(gè)方面:一是早期AI芯片更多集中在訓(xùn)練上,如今除了AI訓(xùn)練芯片持續(xù)增長,AI推理芯片的市場規(guī)模也在快速擴(kuò)大,預(yù)計(jì)將超過訓(xùn)練芯片;二是AI芯片過去主要部署在云端,如今已經(jīng)向邊緣端/終端方向發(fā)展;第三,AI芯片有各種類型,其中多數(shù)是GPU,不過很明顯,ASIC、FPGA等非GPU芯片市場規(guī)模也在逐步提升。
AI推理芯片市場規(guī)模逐步擴(kuò)大
AI芯片可分為訓(xùn)練和推理兩個(gè)環(huán)節(jié),訓(xùn)練環(huán)節(jié)通常需要通過大量的數(shù)據(jù)輸入,或采取增強(qiáng)學(xué)習(xí)等非監(jiān)督學(xué)習(xí)方法,訓(xùn)練出一個(gè)復(fù)雜的深度神經(jīng)網(wǎng)絡(luò)模型。推理環(huán)節(jié)指利用訓(xùn)練好的模型,使用新的數(shù)據(jù)去推理出各種結(jié)論,比如,視頻監(jiān)控設(shè)備通過后臺的深度神經(jīng)網(wǎng)絡(luò)模型,判斷一張抓拍到的人臉是否屬于黑名單。
也因此通常也會有AI訓(xùn)練芯片和AI推理芯片,另外還會根據(jù)是部署在云端數(shù)據(jù)中心、邊緣端、還是終端,更細(xì)化的分為云端AI訓(xùn)練、云端AI推理、邊緣/終端AI推理芯片。
因?yàn)锳I訓(xùn)練需要大量的數(shù)據(jù),基本被部署在云端,過去幾年地方政府加快建設(shè)公有云、私有云、數(shù)據(jù)中心,也因此AI訓(xùn)練芯片市場大增,在2018年的時(shí)候中國云端AI訓(xùn)練芯片市場份額達(dá)到51.3%,中國AI芯片市場規(guī)模也以云端訓(xùn)練芯片為主。
不過隨著大規(guī)模地方性數(shù)據(jù)中心建設(shè)陸續(xù)完成,云端訓(xùn)練芯片增長速度逐步放緩,而隨著各領(lǐng)域市場需求的釋放,云端推理芯片、終端推理芯片市場增長速度呈現(xiàn)上升趨勢,根據(jù)IDC研究發(fā)現(xiàn),2020年中國數(shù)據(jù)中心用于推理的芯片的市場份額已經(jīng)超過50%,預(yù)計(jì)到2025年,用于推理的工作負(fù)載的芯片將達(dá)到60.8%。
邊緣AI芯片市場規(guī)模將超過云端芯片
同時(shí)AI芯片正在從云端向邊緣端發(fā)展,IDC&浪潮日前發(fā)布的《2021-2022中國人工智能計(jì)算力發(fā)展評估報(bào)告》顯示,在新技術(shù)的驅(qū)動下,5G 等連接技術(shù)降低了數(shù)據(jù)的傳輸和處理速度,為了分擔(dān)數(shù)據(jù)中心的計(jì)算壓力并且也能提高實(shí)時(shí)響應(yīng)速度,人工智能在邊緣側(cè)的處理將成為企業(yè)的一個(gè)關(guān)鍵增長領(lǐng)域。
人工智能在邊緣以及端側(cè)將有廣泛的應(yīng)用場景,從自動駕駛到工業(yè)制造,再到消費(fèi)者智能家居和可穿戴設(shè)備。據(jù)市場咨詢公司ABI Research的數(shù)據(jù)顯示,預(yù)計(jì)到2025年,邊緣AI芯片市場的收入將達(dá)到122億美元,云AI芯片市場的收入將達(dá)到119億美元,邊緣AI芯片市場將超過云AI芯片組市場。
非GPU芯片占比增加,將超過20%
目前AI芯片有3種主流技術(shù)路線,分別是GPU、ASIC以及FPGA。其中GPU芯片被認(rèn)為更適合用于承擔(dān)訓(xùn)練負(fù)載,有分析人士指出,目前GPU已經(jīng)發(fā)展到較為成熟的階段。根據(jù)IDC數(shù)據(jù),2021年上半年AI芯片中,GPU依然是實(shí)現(xiàn)數(shù)據(jù)中心加速的首選,占有90%以上市場份額。
英偉達(dá)是GPU領(lǐng)域的絕對龍頭,占據(jù)了絕大部分市場份額,近幾年國內(nèi)也有多家GPU廠商逐漸成長起來,將其用于AI訓(xùn)練和推理,包括天數(shù)智芯、摩爾線程、沐曦集成、壁仞科技、登臨科技等。
雖然目前GPU仍然占據(jù)主要的市場份額,不過ASIC、FPGA等其他非GPU芯片在各個(gè)領(lǐng)域越來越多的被使用,整體市場份額接近10%,預(yù)計(jì)到2025年其占比將超過20%,主要原因:一是越來越多的AI初創(chuàng)企業(yè)成長起來,它們很多采用ASIC芯片進(jìn)行訓(xùn)練和推理;二是GPU較多的被用于云端訓(xùn)練,而隨著云端、邊緣推理芯片市場規(guī)模逐漸擴(kuò)大,F(xiàn)PGA和ASIC芯片的價(jià)值更容易得到體現(xiàn)。
小結(jié)
整體而言,經(jīng)過多年的發(fā)展,AI芯片市場規(guī)模正在快速增長,同時(shí)AI芯片也逐漸走向更加多元化,從功能上來看,逐漸從云端AI訓(xùn)練拓展到云端和邊緣端推理,從芯片類型來看,GPU芯片仍然占據(jù)重要位置,而FPGA和ASIC等芯片的價(jià)值也得到更多體現(xiàn)。
我們也明顯看到,不少AI芯片企業(yè)開始全面推出產(chǎn)品,或者包括云端訓(xùn)練和推理,或者同時(shí)進(jìn)行云端和邊緣端芯片產(chǎn)品布局,比如寒武紀(jì)推出同時(shí)支持訓(xùn)練和推理的芯片,燧原在推出云端訓(xùn)練芯片之后,也推出了云端推理芯片,鯤云科技基于CAISA芯片的產(chǎn)品可應(yīng)用于云端和邊緣端推理。
在短時(shí)間火熱之后,湊熱鬧的人逐漸退出,AI產(chǎn)業(yè)繼續(xù)穩(wěn)步向前發(fā)展,最近幾年AI技術(shù)快速發(fā)展,應(yīng)用場景不斷浮現(xiàn),AI產(chǎn)業(yè)也進(jìn)入到爆發(fā)式增長階段,巨大的市場潛力逐漸顯現(xiàn)出來。據(jù)艾媒咨詢數(shù)據(jù)顯示,2020年中國AI芯片市場規(guī)模達(dá)183.8億元,預(yù)計(jì)2023年將突破千億級別。
同時(shí)AI芯片也逐漸呈現(xiàn)出多元化趨勢,主要體現(xiàn)在幾個(gè)方面:一是早期AI芯片更多集中在訓(xùn)練上,如今除了AI訓(xùn)練芯片持續(xù)增長,AI推理芯片的市場規(guī)模也在快速擴(kuò)大,預(yù)計(jì)將超過訓(xùn)練芯片;二是AI芯片過去主要部署在云端,如今已經(jīng)向邊緣端/終端方向發(fā)展;第三,AI芯片有各種類型,其中多數(shù)是GPU,不過很明顯,ASIC、FPGA等非GPU芯片市場規(guī)模也在逐步提升。
AI推理芯片市場規(guī)模逐步擴(kuò)大
AI芯片可分為訓(xùn)練和推理兩個(gè)環(huán)節(jié),訓(xùn)練環(huán)節(jié)通常需要通過大量的數(shù)據(jù)輸入,或采取增強(qiáng)學(xué)習(xí)等非監(jiān)督學(xué)習(xí)方法,訓(xùn)練出一個(gè)復(fù)雜的深度神經(jīng)網(wǎng)絡(luò)模型。推理環(huán)節(jié)指利用訓(xùn)練好的模型,使用新的數(shù)據(jù)去推理出各種結(jié)論,比如,視頻監(jiān)控設(shè)備通過后臺的深度神經(jīng)網(wǎng)絡(luò)模型,判斷一張抓拍到的人臉是否屬于黑名單。
也因此通常也會有AI訓(xùn)練芯片和AI推理芯片,另外還會根據(jù)是部署在云端數(shù)據(jù)中心、邊緣端、還是終端,更細(xì)化的分為云端AI訓(xùn)練、云端AI推理、邊緣/終端AI推理芯片。
因?yàn)锳I訓(xùn)練需要大量的數(shù)據(jù),基本被部署在云端,過去幾年地方政府加快建設(shè)公有云、私有云、數(shù)據(jù)中心,也因此AI訓(xùn)練芯片市場大增,在2018年的時(shí)候中國云端AI訓(xùn)練芯片市場份額達(dá)到51.3%,中國AI芯片市場規(guī)模也以云端訓(xùn)練芯片為主。
不過隨著大規(guī)模地方性數(shù)據(jù)中心建設(shè)陸續(xù)完成,云端訓(xùn)練芯片增長速度逐步放緩,而隨著各領(lǐng)域市場需求的釋放,云端推理芯片、終端推理芯片市場增長速度呈現(xiàn)上升趨勢,根據(jù)IDC研究發(fā)現(xiàn),2020年中國數(shù)據(jù)中心用于推理的芯片的市場份額已經(jīng)超過50%,預(yù)計(jì)到2025年,用于推理的工作負(fù)載的芯片將達(dá)到60.8%。
邊緣AI芯片市場規(guī)模將超過云端芯片
同時(shí)AI芯片正在從云端向邊緣端發(fā)展,IDC&浪潮日前發(fā)布的《2021-2022中國人工智能計(jì)算力發(fā)展評估報(bào)告》顯示,在新技術(shù)的驅(qū)動下,5G 等連接技術(shù)降低了數(shù)據(jù)的傳輸和處理速度,為了分擔(dān)數(shù)據(jù)中心的計(jì)算壓力并且也能提高實(shí)時(shí)響應(yīng)速度,人工智能在邊緣側(cè)的處理將成為企業(yè)的一個(gè)關(guān)鍵增長領(lǐng)域。
人工智能在邊緣以及端側(cè)將有廣泛的應(yīng)用場景,從自動駕駛到工業(yè)制造,再到消費(fèi)者智能家居和可穿戴設(shè)備。據(jù)市場咨詢公司ABI Research的數(shù)據(jù)顯示,預(yù)計(jì)到2025年,邊緣AI芯片市場的收入將達(dá)到122億美元,云AI芯片市場的收入將達(dá)到119億美元,邊緣AI芯片市場將超過云AI芯片組市場。
非GPU芯片占比增加,將超過20%
目前AI芯片有3種主流技術(shù)路線,分別是GPU、ASIC以及FPGA。其中GPU芯片被認(rèn)為更適合用于承擔(dān)訓(xùn)練負(fù)載,有分析人士指出,目前GPU已經(jīng)發(fā)展到較為成熟的階段。根據(jù)IDC數(shù)據(jù),2021年上半年AI芯片中,GPU依然是實(shí)現(xiàn)數(shù)據(jù)中心加速的首選,占有90%以上市場份額。
英偉達(dá)是GPU領(lǐng)域的絕對龍頭,占據(jù)了絕大部分市場份額,近幾年國內(nèi)也有多家GPU廠商逐漸成長起來,將其用于AI訓(xùn)練和推理,包括天數(shù)智芯、摩爾線程、沐曦集成、壁仞科技、登臨科技等。
雖然目前GPU仍然占據(jù)主要的市場份額,不過ASIC、FPGA等其他非GPU芯片在各個(gè)領(lǐng)域越來越多的被使用,整體市場份額接近10%,預(yù)計(jì)到2025年其占比將超過20%,主要原因:一是越來越多的AI初創(chuàng)企業(yè)成長起來,它們很多采用ASIC芯片進(jìn)行訓(xùn)練和推理;二是GPU較多的被用于云端訓(xùn)練,而隨著云端、邊緣推理芯片市場規(guī)模逐漸擴(kuò)大,F(xiàn)PGA和ASIC芯片的價(jià)值更容易得到體現(xiàn)。
小結(jié)
整體而言,經(jīng)過多年的發(fā)展,AI芯片市場規(guī)模正在快速增長,同時(shí)AI芯片也逐漸走向更加多元化,從功能上來看,逐漸從云端AI訓(xùn)練拓展到云端和邊緣端推理,從芯片類型來看,GPU芯片仍然占據(jù)重要位置,而FPGA和ASIC等芯片的價(jià)值也得到更多體現(xiàn)。
我們也明顯看到,不少AI芯片企業(yè)開始全面推出產(chǎn)品,或者包括云端訓(xùn)練和推理,或者同時(shí)進(jìn)行云端和邊緣端芯片產(chǎn)品布局,比如寒武紀(jì)推出同時(shí)支持訓(xùn)練和推理的芯片,燧原在推出云端訓(xùn)練芯片之后,也推出了云端推理芯片,鯤云科技基于CAISA芯片的產(chǎn)品可應(yīng)用于云端和邊緣端推理。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報(bào)投訴
-
asic
+關(guān)注
關(guān)注
34文章
1202瀏覽量
120536 -
gpu
+關(guān)注
關(guān)注
28文章
4743瀏覽量
129008 -
AI
+關(guān)注
關(guān)注
87文章
31000瀏覽量
269334
發(fā)布評論請先 登錄
相關(guān)推薦
《算力芯片 高性能 CPUGPUNPU 微架構(gòu)分析》第3篇閱讀心得:GPU革命:從圖形引擎到AI加速器的蛻變
在數(shù)據(jù)挖掘工作中,我經(jīng)常需要處理海量數(shù)據(jù)的深度學(xué)習(xí)任務(wù),這讓我對GPU架構(gòu)和張量運(yùn)算充滿好奇。閱讀《算力芯片》第7-9章,讓我對這些關(guān)鍵技術(shù)有了全新認(rèn)識。
GPU架構(gòu)從早期的固定功能流水線,到
發(fā)表于 11-24 17:12
AI云端計(jì)算資源有哪些類型
AI云端計(jì)算資源涵蓋了從基礎(chǔ)設(shè)施到軟件服務(wù)的多個(gè)層面,為AI模型的訓(xùn)練、
從工業(yè)機(jī)器視覺到協(xié)作機(jī)器人,瑞薩電子有哪些AI芯片的布局?
電子發(fā)燒友原創(chuàng) 章鷹 ? 近日,在深圳舉辦的高峰論壇上,瑞薩電子中國區(qū)總裁賴長青表示,隨著人工智能的發(fā)展潮流,瑞薩電子看到萬物互聯(lián)和AI深度融合,5G技術(shù)和AI技術(shù)同步向前發(fā)展,促成了
FPGA和ASIC在大模型推理加速中的應(yīng)用
隨著現(xiàn)在AI的快速發(fā)展,使用FPGA和ASIC進(jìn)行推理加速的研究也越來越多,從目前的市場來說,有些公司已經(jīng)有了專門做
利用NVIDIA技術(shù)推動下一代AI機(jī)器人發(fā)展
從人形機(jī)器人到工廠,基于物理 AI 的工業(yè)系統(tǒng)正在通過訓(xùn)練、仿真和推理加速發(fā)展。
FCom解讀熱敏晶振與溫補(bǔ)晶振:從結(jié)構(gòu)到原理,從差異到使用條件
解讀熱敏晶振與溫補(bǔ)晶振:從結(jié)構(gòu)到原理,從差異到使用條件
一、結(jié)構(gòu)組成
二、工作原理
三、相似點(diǎn)
四、區(qū)別
五、使用條件
邊緣側(cè)AI芯片提供商超星未來完成數(shù)億元 Pre-B輪融資
在AI產(chǎn)業(yè)生態(tài)中,計(jì)算芯片被視為行業(yè)的“賣水人”。依據(jù)云端/邊緣端、訓(xùn)練/推理兩大分類標(biāo)準(zhǔn),
從訓(xùn)練到推理,AI 大模型發(fā)展有哪五大趨勢?IDC專家解讀
2024年兩會召開后,兩會報(bào)告把加快發(fā)展新質(zhì)生產(chǎn)力列為十大任務(wù)舉措之首。新質(zhì)生產(chǎn)力的核心是用新技術(shù)促進(jìn)產(chǎn)業(yè)高端化、智能化和綠色化。ICT產(chǎn)業(yè)是發(fā)展新質(zhì)生產(chǎn)力的核心支撐要求,ICT產(chǎn)業(yè)正在進(jìn)入AI無處不在的大轉(zhuǎn)型階段。
Groq LPU崛起,AI芯片主戰(zhàn)場從訓(xùn)練轉(zhuǎn)向推理
人工智能推理的重要性日益凸顯,高效運(yùn)行端側(cè)大模型及AI軟件背后的核心技術(shù)正是推理。不久的未來,全球芯片制造商的主要市場將全面轉(zhuǎn)向人工智能
新火種AI|從GPT-5到AI芯片廠,山姆·奧特曼在下一盤多大的棋?
標(biāo)題:從GPT-5到AI芯片廠,山姆·奧特曼在下一盤多大的棋?
轉(zhuǎn)發(fā)語:山姆·奧特曼暴露野心,同時(shí)挑戰(zhàn)英偉達(dá)和臺積電?
到底什么是ASIC和FPGA?
?
最后,我們還是要繞回到AI芯片的話題。
上一期,小棗君埋了一個(gè)雷,說AI計(jì)算分訓(xùn)練和推理。訓(xùn)練
發(fā)表于 01-23 19:08
評論