最近幾年數(shù)據(jù)量和可訪問性的迅速增長，使得人工智能的算法設(shè)計(jì)理念發(fā)生了轉(zhuǎn)變。人工建立算法的做法被計(jì)算機(jī)從大量數(shù)據(jù)中自動(dòng)習(xí)得可組合系統(tǒng)的能力所取代，使得計(jì)算機(jī)視覺、語音識(shí)別、自然語言處理等關(guān)鍵領(lǐng)域都出現(xiàn)了重大突破。深度學(xué)習(xí)是這些領(lǐng)域中所最常使用的技術(shù)，也被業(yè)界大為關(guān)注。然而，深度學(xué)習(xí)模型需要極為大量的數(shù)據(jù)和計(jì)算能力，只有更好的硬件加速條件，才能滿足現(xiàn)有數(shù)據(jù)和模型規(guī)模繼續(xù)擴(kuò)大的需求。現(xiàn)有的解決方案使用圖形處理單元（GPU）集群作為通用計(jì)算圖形處理單元（GPGPU），但現(xiàn)場可編程門陣列（FPGA）提供了另一個(gè)值得探究的解決方案。日漸流行的FPGA設(shè)計(jì)工具使其對深度學(xué)習(xí)領(lǐng)域經(jīng)常使用的上層軟件兼容性更強(qiáng)，使得FPGA更容易為模型搭建和部署者所用。FPGA架構(gòu)靈活，使得研究者能夠在諸如GPU的固定架構(gòu)之外進(jìn)行模型優(yōu)化探究。同時(shí)，F(xiàn)PGA在單位能耗下性能更強(qiáng)，這對大規(guī)模服務(wù)器部署或資源有限的嵌入式應(yīng)用的研究而言至關(guān)重要。本文從硬件加速的視角考察深度學(xué)習(xí)與FPGA，指出有哪些趨勢和創(chuàng)新使得這些技術(shù)相互匹配，并激發(fā)對FPGA如何幫助深度學(xué)習(xí)領(lǐng)域發(fā)展的探討。

1.簡介
機(jī)器學(xué)習(xí)對日常生活影響深遠(yuǎn)。無論是在網(wǎng)站上點(diǎn)擊個(gè)性化推薦內(nèi)容、在智能手機(jī)上使用語音溝通，或利用面部識(shí)別技術(shù)來拍照，都用到了某種形式的人工智能技術(shù)。這股人工智能的新潮流也伴隨著算法設(shè)計(jì)的理念轉(zhuǎn)變。過去基于數(shù)據(jù)的機(jī)器學(xué)習(xí)大多是利用具體領(lǐng)域的專業(yè)知識(shí)來人工地“塑造”所要學(xué)習(xí)的“特征”，計(jì)算機(jī)從大量示例數(shù)據(jù)中習(xí)得組合特征提取系統(tǒng)的能力，則使得計(jì)算機(jī)視覺、語音識(shí)別和自然語言處理等關(guān)鍵領(lǐng)域?qū)崿F(xiàn)了重大的性能突破。對這些數(shù)據(jù)驅(qū)動(dòng)技術(shù)的研究被稱為深度學(xué)習(xí)，如今正受到技術(shù)界兩個(gè)重要群體的關(guān)注：一是希望使用并訓(xùn)練這些模型、從而實(shí)現(xiàn)極高性能跨任務(wù)計(jì)算的研究者，二是希望為現(xiàn)實(shí)世界中的新應(yīng)用來部署這些模型的應(yīng)用科學(xué)家。然而，他們都面臨著一個(gè)限制條件，即硬件加速能力仍需加強(qiáng)，才可能滿足擴(kuò)大現(xiàn)有數(shù)據(jù)和算法規(guī)模的需求。

對于深度學(xué)習(xí)來說，目前硬件加速主要靠使用圖形處理單元（GPU）集群作為通用計(jì)算圖形處理單元（GPGPU）。相比傳統(tǒng)的通用處理器（GPP），GPU的核心計(jì)算能力要多出幾個(gè)數(shù)量級，也更容易進(jìn)行并行計(jì)算。尤其是NVIDIA CUDA，作為最主流的GPGPU編寫平臺(tái)，各個(gè)主要的深度學(xué)習(xí)工具均用其來進(jìn)行GPU加速。最近，開放型并行程序設(shè)計(jì)標(biāo)準(zhǔn)OpenCL作為異構(gòu)硬件編程的替代性工具備受關(guān)注，而對這些工具的熱情也在高漲。雖然在深度學(xué)習(xí)領(lǐng)域內(nèi)，OpenCL獲得的支持相較CUDA還略遜一籌，但OpenCL有兩項(xiàng)獨(dú)特的性能。首先，OpenCL對開發(fā)者開源、免費(fèi)，不同于CUDA單一供應(yīng)商的做法。其次，OpenCL支持一系列硬件，包括GPU、GPP、現(xiàn)場可編程門陣列（FPGA）和數(shù)字信號處理器（DSP）。

1.1. FPGA

作為GPU在算法加速上強(qiáng)有力的競爭者，F(xiàn)PGA是否立即支持不同硬件，顯得尤為重要。FPGA與GPU不同之處在于硬件配置靈活，且FPGA在運(yùn)行深入學(xué)習(xí)中關(guān)鍵的子程序（例如對滑動(dòng)窗口的計(jì)算）時(shí)，單位能耗下通常能比GPU提供更好的表現(xiàn)。不過，設(shè)置FPGA需要具體硬件的知識(shí)，許多研究者和應(yīng)用科學(xué)家并不具備，正因如此，F(xiàn)PGA經(jīng)常被看作一種行家專屬的架構(gòu)。最近，F(xiàn)PGA工具開始采用包括OpenCL在內(nèi)的軟件級編程模型，使其越來越受經(jīng)主流軟件開發(fā)訓(xùn)練的用戶青睞。

對考察一系列設(shè)計(jì)工具的研究者而言，其對工具的篩選標(biāo)準(zhǔn)通常與其是否具備用戶友好的軟件開發(fā)工具、是否具有靈活可升級的模型設(shè)計(jì)方法以及是否能迅速計(jì)算、以縮減大模型的訓(xùn)練時(shí)間有關(guān)。隨著FPGA因?yàn)楦叱橄蠡O(shè)計(jì)工具的出現(xiàn)而越來越容易編寫，其可重構(gòu)性又使得定制架構(gòu)成為可能，同時(shí)高度的并行計(jì)算能力提高了指令執(zhí)行速度，F(xiàn)PGA將為深度學(xué)習(xí)的研究者帶來好處。

對應(yīng)用科學(xué)家而言，盡管有類似的工具級選擇，但硬件挑選的重點(diǎn)在于最大化提高單位能耗的性能，從而為大規(guī)模運(yùn)行降低成本。所以，F(xiàn)PGA憑借單位能耗的強(qiáng)勁性能，加上為特定應(yīng)用定制架構(gòu)的能力，就能讓深度學(xué)習(xí)的應(yīng)用科學(xué)家受益。

FPGA能滿足兩類受眾的需求，是一個(gè)合乎邏輯的選擇。本文考察FPGA上深度學(xué)習(xí)的現(xiàn)狀，以及目前用于填補(bǔ)兩者間鴻溝的技術(shù)發(fā)展。因此，本文有三個(gè)重要目的。首先，指出深度學(xué)習(xí)領(lǐng)域存在探索全新硬件加速平臺(tái)的機(jī)會(huì)，而FPGA是一個(gè)理想的選擇。其次，勾勒出FPGA支持深度學(xué)習(xí)的現(xiàn)狀，指出潛在的限制。最后，對FPGA硬件加速的未來方向提出關(guān)鍵建議，幫助解決今后深度學(xué)習(xí)所面臨的問題。