人工智能（AI）時代已經(jīng)開啟。Allied Market Research報告顯示，到2031年，全球AI芯片市場規(guī)模預(yù)計(jì)將達(dá)到2636億美元。AI芯片市場非常龐大，市場細(xì)分方式多樣，包括芯片種類、處理器架構(gòu)類型、技術(shù)、應(yīng)用、垂直行業(yè)等。不過，AI芯片主要應(yīng)用于兩個領(lǐng)域，即終端應(yīng)用（例如手機(jī)和智能手表中的芯片）和數(shù)據(jù)中心應(yīng)用（用于深度學(xué)習(xí)推理和訓(xùn)練）。

無論具體應(yīng)用如何，所有AI芯片都可定義為用來運(yùn)行機(jī)器學(xué)習(xí)工作負(fù)載的集成電路（IC），包括FPGA、GPU或定制ASIC AI加速器等。AI芯片的工作方式與人腦非常相似，能夠在復(fù)雜且快速變化的世界中執(zhí)行和處理各種決策及任務(wù)。傳統(tǒng)芯片與AI芯片之間的真正區(qū)別在于所能處理的數(shù)據(jù)量和數(shù)據(jù)類型，以及可以同時運(yùn)行的計(jì)算量。與此同時，新的軟件AI算法突破正在推動新的AI芯片架構(gòu)，助力實(shí)現(xiàn)高效的深度學(xué)習(xí)計(jì)算。

本文將進(jìn)一步討論AI芯片的獨(dú)特需求、AI芯片架構(gòu)的諸多優(yōu)勢，以及AI芯片架構(gòu)的應(yīng)用和未來發(fā)展。

AI芯片的獨(dú)特需求

AI工作負(fù)載非常繁重且要求嚴(yán)苛，所需的算力遠(yuǎn)超傳統(tǒng)工作負(fù)載，因此，在2010年之前，AI芯片的設(shè)計(jì)還無法做到經(jīng)濟(jì)且高效。由于AI需要并行處理大量乘積累加函數(shù)，比如點(diǎn)積函數(shù)，而傳統(tǒng)的GPU恰好能夠以類似的方式并行處理圖形，因此開發(fā)者在AI應(yīng)用中為GPU找到了新的用途。

過去十年，我們看到了明顯的優(yōu)化。AI要求芯片架構(gòu)具有合適的處理器、存儲器陣列、高安全性，以及傳感器之間可靠的實(shí)時數(shù)據(jù)連接。因此，理想的AI芯片架構(gòu)應(yīng)能夠?qū)⒑芏嘤?jì)算元件和存儲器融合到一個芯片中。如今，隨著單芯片的能力逐漸接近極限，AI芯片設(shè)計(jì)正在轉(zhuǎn)向采用多芯片系統(tǒng)。

在設(shè)計(jì)中，為了讓激活值達(dá)到最大，芯片開發(fā)者需要考慮“權(quán)重”和“激活”的參數(shù)。展望未來，要優(yōu)化AI芯片架構(gòu)以提高效率，兼顧AI的軟硬件設(shè)計(jì)極其重要。

AI芯片架構(gòu)的優(yōu)勢

毫無疑問，我們正處于AI復(fù)興時期。現(xiàn)在，我們正在攻克AI芯片設(shè)計(jì)中的種種障礙，AI芯片設(shè)計(jì)領(lǐng)域也涌現(xiàn)出了很多創(chuàng)新型企業(yè)，這些企業(yè)致力于設(shè)計(jì)更出色的AI芯片，讓芯片具備前所未有的強(qiáng)大功能。

隨著追求更先進(jìn)的工藝節(jié)點(diǎn)，AI芯片設(shè)計(jì)中的時鐘速度可以降低15%-20%，密度可以增加15%-30%，這讓開發(fā)者能夠在一個芯片上集成更多的計(jì)算元件。此外，存儲元件也會有所增加，AI技術(shù)可以在幾分鐘而不是幾小時內(nèi)完成訓(xùn)練，從而節(jié)省大量的時間和精力。如果企業(yè)從在線數(shù)據(jù)中心租借空間來設(shè)計(jì)AI芯片，這種節(jié)省尤為顯著，但即使企業(yè)使用內(nèi)部資源，也可以通過更有效的反復(fù)試驗(yàn)和試錯而獲益。

在我們身邊，AI幾乎無處不在。小到物聯(lián)網(wǎng)芯片，大到服務(wù)器、數(shù)據(jù)中心和圖形加速器，AI處理器現(xiàn)已集成到幾乎所有芯片中。當(dāng)然，需要更高性能的行業(yè)會更多地利用AI芯片架構(gòu)，但隨著AI芯片的生產(chǎn)成本越來越低，AI芯片架構(gòu)將會被運(yùn)用到物聯(lián)網(wǎng)等領(lǐng)域，用于優(yōu)化功耗和實(shí)現(xiàn)其他未知的優(yōu)化。

對于AI芯片架構(gòu)來說，這是一個激動人心的時刻。新思科技預(yù)計(jì)，由于性能需求，AI芯片設(shè)計(jì)會繼續(xù)積極采用下一代工藝節(jié)點(diǎn)。此外，開發(fā)者已經(jīng)圍繞不同類型的存儲器、不同類型的處理器技術(shù)以及與這些相關(guān)的軟件組件，進(jìn)行了很多探索。

在存儲器方面，芯片開發(fā)者開始將存儲器放在硬件中的實(shí)際計(jì)算元件旁邊甚至是集成到計(jì)算元件中，以加快處理速度。此外，軟件正在推動硬件發(fā)展，也就是說，新的神經(jīng)網(wǎng)絡(luò)等軟件AI模型需要新的AI芯片架構(gòu)。經(jīng)驗(yàn)證的實(shí)時接口以高速、低延遲的方式提供所需的數(shù)據(jù)連接，同時安全策略需要確保整個系統(tǒng)及其數(shù)據(jù)的安全。

最后，在新的AI芯片架構(gòu)中，光電子技術(shù)和Multi-Die系統(tǒng)發(fā)揮著愈加重要的作用，有助于克服一些AI芯片瓶頸。光電子技術(shù)提供了一種更加節(jié)能的計(jì)算方式，與此同時，隨著不同處理元件之間以及處理單元與存儲器單元之間的連接速度不斷提高，Multi-Die系統(tǒng)（涉及到裸片的異構(gòu)集成，通常存儲器直接堆疊在計(jì)算板上）也有助于提高芯片性能。

AI芯片架構(gòu)創(chuàng)新將繼續(xù)涌現(xiàn)。新思科技也將走在行業(yè)前沿，積極幫助千行百業(yè)設(shè)計(jì)下一代AI芯片。