作者：應用材料公司 Mahendra Pakala

在物聯網、大數據和人工智能 （AI） 的推動下，從交通運輸、醫療保健到零售和娛樂等眾多行業將走上轉型之路，應用材料公司將其統稱為 AI 計算時代。

在以前的計算時代中，大型機/小型機、PC/服務器和智能手機/平板電腦均受益于摩爾定律的進步，伴隨著 2D 微縮，產品的性能、功耗和面積/成本（也稱為“PPAC”）得以同步提升。

雖然 AI 時代的各類應用正在蓬勃發展，但摩爾定律卻放緩了腳步；因此，行業需要在 2D 微縮以外取得突破，以全新方式推動 PPAC 的提升。具體而言，我們需要新的計算架構、新材料、新結構（特別是節省面積的 3D 結構），以及用于芯片堆疊和異構設計的高級封裝。

AI 時代的架構變化正在對邏輯和存儲器產生影響。機器學習的算法大量地使用通用邏輯中極為復雜的矩陣乘法運算，這推動了加速器及其存儲器的轉變。AI 計算包含兩種明顯不同的存儲器任務：第一種是存儲計算的中間結果；第二種是存儲與訓練模型相關的權重。

性能和功耗對于云計算和邊緣計算都十分重要，而存儲器方面的創新能夠為此提供助力。一種使用現有存儲器技術的方法是“近存儲器”，其中大量工作存儲器被壓縮并放置在物理上與邏輯存儲器緊密相鄰的位置，通過高速接口連接。例如，3D 堆疊和硅通孔技術正愈發受到歡迎。作為這些應用中的“工作存儲器”，SRAM 和 DRAM 的一個主要缺點在于它們是易失性存儲器，需要持續供電來保存數據（如權重）。

為了降低云和邊緣的功耗，設計人員正在評估兼具高性能和非易失性的新型存儲器，因為它們只有在主動讀寫時才需要使用電源。有三種方案引領著新型存儲器， 它們分別是磁性RAM （MRAM）、相變式 RAM （PCRAM） 和電阻式 RAM （ReRAM） 。

不同于使用電荷，上述三款存儲器利用新材料產生不同的電阻率狀態 ，而高低電阻依次表示 1 和 0。MRAM 利用磁場方向的變化來控制電阻率。PCRAM 利用了從非晶態到晶態的材料排列結構變化。ReRAM 在材料中創造了一條電流通路。PCRAM 和 ReRAM 均提供電阻率的中間階段，這可在每個單元中存儲多層的比特數據。

我們來了解一下 AI 時代的計算應用，了解它們如何在未來藍圖中推動創新。

圖 1. AI 時代推動半導體創新的復興之路

物聯網邊緣應用可被劃分為低性能/低功耗應用，以及高性能/高功耗應用。

例如，采用 AI 算法的安全攝像頭是一種低性能/低功耗應用，AI 算法非常適合面部和語音識別等應用。設計目標是盡可能多地處理邊緣數據，并且僅將重要信息傳輸到云。由于采樣頻率較低，因此性能要求也很低。功耗（包括待機功耗）至關重要，對于電池供電設備尤為如此。

目前，業界在邊緣設備中使用 SRAM 存儲器。SRAM 并非理想選擇，因為每個存儲單元需要多達六個晶體管，而且源泄漏功率會很高。在存儲權重方面，SRAM 的能效并不突出，特別是在低頻設計中使用時。作為替代方案，MRAM 可確保將晶體管密度提高數倍，從而實現更高的存儲密度或更小的芯片尺寸。MRAM 的另一個關鍵特性在于，這種產品經專門設計，可以安裝到嵌入式片上系統產品 （SOC） 的后端互連層中。MRAM 可用于存儲 SOC 的操作系統和應用程序，無需使用嵌入式閃存芯片便可實現這一目的，從而減少了系統芯片的總數和成本。

高性能“近邊緣”應用，如缺陷檢測和醫學篩檢，則需要更高的性能。MRAM 的一種變型稱作自旋軌道轉矩 MRAM （SOT-MRAM），經證實，這種產品在速度和功耗方面可能優于自旋轉移力矩 MRAM （STT-MRAM）。

云計算需要盡可能高的計算性能，而訓練時則需要將大量數據轉移到機器學習加速器附近，相應地，需要為機器學習加速器提供較大的片上 SRAM 緩存并輔以大型片外 DRAM 陣列——這就要求使用持續的電源。用電量對云服務提供商非常重要，因為 AI 時代的數據會呈指數級增長，而電網功率有限且成本高昂。PCRAM 的功耗和成本比 DRAM 更低，而性能則比固態硬盤和機械硬盤更高，因此成為云計算架構的首選方案。

除了上述“二進制”的邊緣應用、近邊緣應用和云應用方面具備廣闊前景外，在存儲內計算的研究也在日益深入。可以想象，在存儲器陣列中為機器學習執行頻繁的矩陣乘法運算。設計人員正在探索偽交叉點架構，其中權重存儲在各個存儲器節點上。PCRAM、ReRAM 甚至鐵電場效應晶體管 （FeFET） 都是優秀的備選方案，因為它們都有每單元多層存儲的潛力。目前而言，ReRAM 看起來是最適合此類應用的存儲器。可以利用歐姆定律和基爾霍夫定律在陣列內完成矩陣乘法運算，而無需向芯片內移入和移出權重。多層單元架構能夠實現全新級別的存儲器密度，為設計和使用更大的模型提供支持。需要對新材料進行全面的開發和工程設計，才能將這些新的模擬存儲器付諸現實，目前應用材料公司正在積極探索部分極具代表性的方案。

當摩爾定律的指數級發展速度逐漸減緩，AI 時代將迎來數據上的指數級增長。這種壓力已經在推動著架構、材料、3D 結構以及用于芯片堆疊和異構集成的先進封裝不斷創新。存儲器與 AI 計算引擎的關系越來越緊密，最終，存儲器可能成為 AI 計算引擎本身。隨著這些創新嶄露頭角，我們將見證性能、功耗和密度（面積/成本）的顯著提升——隨著新型存儲器的逐步優化，邊緣、近邊緣和云應用的需求最終會得到滿足。我們需要硬件上的全面復興來釋放 AI 時代的全部潛力。