2020 年 12 月,機(jī)器之心發(fā)布《2020-2021 全球 AI 技術(shù)趨勢發(fā)展報(bào)告》,基于頂會、論文及專利等公共數(shù)據(jù)、機(jī)器之心專業(yè)領(lǐng)域數(shù)據(jù)倉庫,通過數(shù)據(jù)挖掘定位七大趨勢性 AI 技術(shù)領(lǐng)域,并邀請了近 100 位專家學(xué)者通過問卷形成對這七大技術(shù)領(lǐng)域近年發(fā)展情況、成熟度與未來趨勢的綜合總結(jié),并基于 2015-2020 年間的開源論文與專利語料,結(jié)合機(jī)器之心自有的新聞輿論以及模型最佳表現(xiàn)(SOTA)等相關(guān)數(shù)據(jù)庫進(jìn)行了探索性數(shù)據(jù)分析,并形成了用以幫助技術(shù)趨勢判定的量化指標(biāo) Synced Indicator (SI)。
* 注:Synced Indicator 綜合反映該技術(shù)的熱度、重要性、應(yīng)用情況、以及未來發(fā)展?jié)摿Φ榷鄠€維度的情況,通常來說指數(shù)越高說明該技術(shù)越值得關(guān)注。
在經(jīng)歷了前幾年的高歌猛進(jìn)之后,許多人工智能相關(guān)技術(shù)在 2019 年開始放慢腳步。基于數(shù)據(jù)分析的結(jié)果,機(jī)器之心總結(jié)出了近 5 年來累計(jì)趨勢指數(shù)總排名前十的 AI 技術(shù)(圖一),2018、2019 年兩年里各自趨勢指數(shù)增長最快的 AI 技術(shù)(圖二、圖三),以及 2017~2019 三年間綜合對比增幅最大的 AI 技術(shù)(圖四)
圖一:趨勢指數(shù)(SI)Top10 技術(shù)為語音識別、卷積神經(jīng)網(wǎng)絡(luò)、云計(jì)算、GPU、深度學(xué)習(xí)、推薦系統(tǒng)、機(jī)器翻譯、定位、大規(guī)模預(yù)訓(xùn)練模型。
圖二:2018 年趨勢指數(shù)(SI)增長最迅速的技術(shù) Top 5技術(shù)為區(qū)塊鏈、聯(lián)邦學(xué)習(xí)、多任務(wù)學(xué)習(xí)、圖神經(jīng)網(wǎng)絡(luò)。
圖三:2019 年趨勢指數(shù)(SI)增長最迅速的技術(shù) Top 5 技術(shù)為擴(kuò)展現(xiàn)實(shí)、工業(yè)物聯(lián)網(wǎng)、人體關(guān)鍵點(diǎn)檢測、三維推理、移動機(jī)器人;
圖四:2017~2019 年趨勢指數(shù)(SI)增長最迅速的技術(shù) Top 5 技術(shù)為語音識別、文本分類、數(shù)據(jù)挖掘、物體識別、 GPU 技術(shù)。
綜合參考文獻(xiàn)、報(bào)告以及專家意見的定性分析,輔以大量數(shù)據(jù)的定量分析,以下分享五個相關(guān)的研究趨勢發(fā)現(xiàn)。
趨勢一:強(qiáng)化學(xué)習(xí)和無監(jiān)督學(xué)習(xí)是未來 AI 技術(shù)突破的主要著力點(diǎn)
在最新的 NeurIPS 2020 上,強(qiáng)化學(xué)習(xí)領(lǐng)域(Reinforcement Learning)以及其目前的主要應(yīng)用領(lǐng)域 「游戲博弈(Game)」 是除機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)外討論度最高的技術(shù)主題。
圖 1-3-1-3 NeurIPS 論文相關(guān)技術(shù)主題
圖 1-3-3-2 NeurIPS 2020 收錄論文機(jī)器學(xué)習(xí)子領(lǐng)域主題分布
對比無監(jiān)督學(xué)習(xí)以及與之相關(guān)的半監(jiān)督學(xué)習(xí),其相關(guān)專利數(shù)量在近年有所下滑,但研究論文整體呈現(xiàn)快速增長趨勢。
圖 7-3-6 無監(jiān)督學(xué)習(xí) vs. 半監(jiān)督學(xué)習(xí)論文數(shù)量走勢
圖 7-3-6 無監(jiān)督學(xué)習(xí) vs. 半監(jiān)督學(xué)習(xí)專利數(shù)量走勢
圖 7-4-1-5 無監(jiān)督學(xué)習(xí)對比半監(jiān)督學(xué)習(xí)(整體資訊)
在機(jī)器學(xué)習(xí)領(lǐng)域的近年累計(jì)趨勢指數(shù)排行中,無監(jiān)督學(xué)習(xí)與半監(jiān)督學(xué)習(xí)分列二、三位。
圖 7-5-1 機(jī)器學(xué)習(xí) Synced Indicator(累加)
在語言和視覺技術(shù)這兩個人工智能感知層應(yīng)用落地最成熟的技術(shù)領(lǐng)域,無監(jiān)督學(xué)習(xí)都是被提及頻率最高的技術(shù)發(fā)展趨勢。2018 年的圖靈獎的共同獲得者 Geoffrey Hinton、Yann LeCun 以及 Yoshua Bengio 近年的研究重點(diǎn)也均是無監(jiān)督學(xué)習(xí)相關(guān)的。而強(qiáng)化學(xué)習(xí)近年來雖在研究上一直有新的突破,但應(yīng)用上多局限于游戲、自動駕駛等模擬環(huán)境,整體呈現(xiàn)出理論超前于應(yīng)用的狀態(tài),未來會在具體應(yīng)用上有更多實(shí)踐乃至突破。
趨勢二:圖神經(jīng)網(wǎng)絡(luò)、圖深度學(xué)習(xí)、大規(guī)模圖計(jì)算平臺將有很大發(fā)展空間
近年來,受社交網(wǎng)絡(luò)、知識圖譜以及神經(jīng)科學(xué)中圖形的重要性所驅(qū)動,將深度學(xué)習(xí)模型應(yīng)用在不規(guī)則圖結(jié)構(gòu)的數(shù)據(jù)上逐漸成為了一種新興趨勢。這些基于圖的神經(jīng)網(wǎng)絡(luò)目前已經(jīng)在分類、嵌入、問答等多種不同的目標(biāo) 應(yīng)用中取得最佳表現(xiàn)效果。
對比機(jī)器學(xué)習(xí)領(lǐng)域下的主流神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),雖然圖神經(jīng)網(wǎng)絡(luò)在目前的研究占比并不是很重,但可以看到在 2018 年后有一個較為陡峭的上升趨勢,是近年來較值得關(guān)注的新領(lǐng)域。
圖 7-3-5 機(jī)器學(xué)習(xí)七大架構(gòu)論文數(shù)量走勢(未包含 CNN)
與此同時,圖神經(jīng)網(wǎng)絡(luò)從 2017 年起,技術(shù)到應(yīng)用的轉(zhuǎn)化率呈加速發(fā)展階段,在 2019 年機(jī)器學(xué)習(xí)領(lǐng)域整體專利數(shù)據(jù)源較少的情況下反而逆勢上漲。
圖 7-3-5 機(jī)器學(xué)習(xí)七大架構(gòu)專利數(shù)量走勢(未包含 CNN)
相比傳統(tǒng)的文本、語音、圖像數(shù)據(jù)格式,圖結(jié)構(gòu)將端到端學(xué)習(xí)與歸納推理相結(jié)合,是一種泛用性更強(qiáng)且更能代表現(xiàn)實(shí)世界真實(shí)情況的數(shù)據(jù)表示方式,有望解決深度學(xué)習(xí)無法處理的因果推理、可解釋性等一系列瓶頸問題
趨勢三:深度學(xué)習(xí)的可解釋性與 AI 安全問題越發(fā)受重視
黑盒問題是自深度學(xué)習(xí)誕生起便一直伴隨其中的主要問題與瓶頸之一,盡管深度學(xué)習(xí)技術(shù)的發(fā)展日新月異,在準(zhǔn)確率等技 術(shù)指標(biāo)上取得了驚人的成就,但是對于模型的可解釋性方面提升仍然不大。這極大地影響了相關(guān)技術(shù)在一些對模型結(jié)果的可信度和可解釋性有著高要求行業(yè)的應(yīng)用(比如金融和醫(yī)學(xué)行業(yè))。與此同時,伴隨著 AI 技術(shù)的不斷發(fā)展,用戶對于技術(shù)的關(guān)注度越來越高,其所帶來的各項(xiàng)問題也隨之越來越受到大眾關(guān)注。
研究方面,AI 安全相關(guān)的論文近年從萌芽開始穩(wěn)步增長,專利方面,在逐年增長的基礎(chǔ)上 2018 年~ 2019 年里還有一次較大增速的提升。
圖 10-3-2 強(qiáng)人工智能相關(guān)技術(shù)走勢(左:論文數(shù)量,右:專利數(shù)量)
新聞方面,2018 年之前 AI 安全的新聞討論度接近于 0,但出現(xiàn)后是領(lǐng)域內(nèi)增速最快的技術(shù)分類。
圖 10-4-1-2 強(qiáng)人工智能相關(guān)技術(shù)新聞走勢
趨勢四:移動和物聯(lián)網(wǎng)設(shè)備開始承擔(dān)更多的智能計(jì)算任務(wù)
隨著移動智能手機(jī)和物聯(lián)網(wǎng)設(shè)備的計(jì)算能力越來越強(qiáng),移動網(wǎng)絡(luò) 5G 等配套基礎(chǔ)設(shè)施的逐步成熟,移動物聯(lián)網(wǎng)設(shè)備開始承擔(dān)越來越多機(jī)器學(xué)習(xí)相關(guān)的訓(xùn)練和推理計(jì)算。
從相關(guān)領(lǐng)域的論文發(fā)表數(shù)量來看,分布式計(jì)算是目前的主要技術(shù),然而其近年的相關(guān)論文發(fā)表數(shù)量卻有下降趨勢。而與之相關(guān)的邊緣計(jì)算和近年興起的無服務(wù)器計(jì)算則增速明顯。
圖 8-3-3 云計(jì)算論文數(shù)量分布
圖 8-3-3 論文走勢
圖 8-3-3 云計(jì)算專利數(shù)量走勢
一方面,云計(jì)算發(fā)展依舊迅猛,并逐漸向邊緣計(jì)算發(fā)展,助力物聯(lián)網(wǎng)智能化; 另一方面,AI 芯片也逐漸走向云端、邊緣端以及物聯(lián)網(wǎng)設(shè)備終端,有實(shí)力的科技公司將 AI 算力打包成服務(wù),既合理利用了自身多余的算力資 源,又降低了不具備相關(guān)科研實(shí)力的中小企業(yè)可以以更低的成本使用到足夠的資源,完成自身的 AI 開發(fā)與部署需求,這與 近年來媒體討論度頗高的無服務(wù)計(jì)算有著一致的思想理念。
趨勢五:自動駕駛與機(jī)器人技術(shù)任重而道遠(yuǎn)
從我們基于媒體資訊挖掘的整體數(shù)據(jù)可以看出,自動駕駛技術(shù)雖然整體上仍然處于上升趨勢,但是其最近 3 年的總體熱度相對其他 AI 技術(shù)而言卻是逐年下降的。無論是技術(shù)上還是社會影響上,無人駕駛領(lǐng)域的泡沫開始逐漸散去,其研發(fā)開始轉(zhuǎn)入了一個相對沉靜的緩慢發(fā)展期。
機(jī)器人技術(shù)方面,無人機(jī)是該技術(shù)領(lǐng)域近年來較為成熟的一大應(yīng)用,其近年的相關(guān)論文數(shù)量占據(jù)了該領(lǐng)域的六成以上,并保持了一個較高的增長趨勢。智能機(jī)器人、服務(wù)機(jī)器人在專利方面總體都呈現(xiàn)上漲趨勢,可以看到整個行業(yè)正在從完全側(cè)重關(guān)注工業(yè)機(jī)器人向更貼近大眾生活的服務(wù)型機(jī)器人方向轉(zhuǎn)化。
圖 6-3-4 移動機(jī)器人論文數(shù)量走勢(左)與專利數(shù)量走勢(右)
圖 6-3-5 人機(jī)交互、機(jī)器人流程自動化數(shù)量走勢(上)與專利數(shù)量走勢(下)
編輯:hfy
-
人機(jī)交互
+關(guān)注
關(guān)注
12文章
1207瀏覽量
55408 -
機(jī)器人
+關(guān)注
關(guān)注
211文章
28445瀏覽量
207205 -
無人機(jī)
+關(guān)注
關(guān)注
230文章
10449瀏覽量
180576
發(fā)布評論請先 登錄
相關(guān)推薦
評論