計算的轉(zhuǎn)型在一定程度上是由于新型內(nèi)存架構(gòu)而成為可能的。

人工智能 (AI) 的快速發(fā)展正在影響著方方面面，從我們的駕駛方式到我們的業(yè)務(wù)決策和購物方式。在海量且不斷增長的大數(shù)據(jù)的推動下，人工智能也導(dǎo)致計算需求激增。事實上，與上一代相比，最新的生成式 AI 模型需要將計算能力提高 10 至 100 倍來訓(xùn)練模型，即：反過來，總需求大約每六個月就會翻一番。?

正如您所期望的，這導(dǎo)致了計算轉(zhuǎn)型，而這種轉(zhuǎn)型在一定程度上是由于新型內(nèi)存架構(gòu)而成為可能的。這些先進(jìn)的圖形處理單元 (GPU) 架構(gòu)為設(shè)計人員開辟了全新的可能性。關(guān)鍵是為手頭的任務(wù)選擇正確的內(nèi)存架構(gòu)，并為該架構(gòu)部署正確的內(nèi)存。

可以肯定的是，有一系列更有效的新興存儲器可用于特定任務(wù)。它們包括內(nèi)存計算 SRAM (CIM)、STT-MRAM、SOT-MRAM、ReRAM、CB-RAM 和 PCM。雖然每個都有不同的屬性，但作為一個集體單元，它們可以增強(qiáng)計算能力，同時提高能源效率并降低成本。這些是開發(fā)經(jīng)濟(jì)且可持續(xù)的人工智能 SoC 必須考慮的關(guān)鍵因素。

許多考慮因素會影響設(shè)計人員根據(jù)任何給定應(yīng)用程序的優(yōu)先級選擇架構(gòu)。其中包括吞吐量、模塊化和可擴(kuò)展性、熱管理、速度、可靠性、與 CMOS 的處理兼容性、電力傳輸、成本以及模仿人類神經(jīng)元的模擬行為的需求。

讓我們來看看設(shè)計師目前可以使用的各種新興存儲的特征。

SRAM 和 ReRAM：內(nèi)存計算兩個極端之間的選擇

靜態(tài)隨機(jī)存取存儲器（Static Random-Access Memory，SRAM）是隨機(jī)存取存儲器的一種。所謂的“靜態(tài)”，是指這種存儲器只要保持通電，里面儲存的數(shù)據(jù)就可以恒常保持。相對之下，動態(tài)隨機(jī)存取存儲器里面所儲存的數(shù)據(jù)就需要周期性地更新。然而，當(dāng)電力供應(yīng)停止時，SRAM儲存的數(shù)據(jù)還是會消失（被稱為volatile memory），這與在斷電后還能儲存資料的ROM或閃存是不同的。

SRAM不需要刷新電路即能保存它內(nèi)部存儲的數(shù)據(jù)。而DRAM每隔一段時間，要刷新充電一次，否則內(nèi)部的數(shù)據(jù)即會消失，因此SRAM具有較高的性能，但是SRAM也有它的缺點，即它的集成度較低，功耗較DRAM大，相同容量的DRAM內(nèi)存可以設(shè)計為較小的體積，但是SRAM卻需要很大的體積。同樣面積的硅片可以做出更大容量的DRAM，因此SRAM顯得更貴。

ReRAM代表電阻式RAM，將DRAM的讀寫速度與SSD的非易失性結(jié)合于一身。換句話說，關(guān)閉電源后存儲器仍能記住數(shù)據(jù)。如果ReRAM有足夠大的空間，一臺配備ReRAM的PC將不需要載入時間。

對于高效的內(nèi)存計算芯片，設(shè)計人員必須選擇 SRAM 或 ReRAM，這兩者在功耗和可擴(kuò)展性方面是相反的。SRAM 建議用于小存儲塊和高速要求，但它也有一些缺點，例如面積大和功耗增加。對于內(nèi)存需求較高的項目，ReRAM 因其密度而具有優(yōu)勢。ReRAM 還可以在需要時提供模擬行為的額外優(yōu)勢。需要明確的是，大多數(shù)（如果不是全部）新興存儲器都可以部署用于內(nèi)存計算，但 SRAM 是性能的最佳選擇，而 ReRAM 是密度和能源效率的最佳選擇。

MRAM：低功耗革命

MRAM是一種非易失性的磁性隨機(jī)存儲器。它擁有靜態(tài)隨機(jī)存儲器的高速讀取寫入能力，以及動態(tài)隨機(jī)存儲器的高集成度，而且基本上可以無限次地重復(fù)寫入。

MRAM（特別是 STT-MRAM 和 SOT-MRAM）是一種與 CMOS 處理完全兼容的非易失性超低功耗存儲器選項。MRAM 傳統(tǒng)上速度慢且難以擴(kuò)展，而 STT-MRAM 通過可變電流引發(fā)“自旋軌道扭矩”改變了游戲規(guī)則。STT-MRAM 提供低至 1ns 的快速寫入時間，廣泛應(yīng)用于物聯(lián)網(wǎng)應(yīng)用。SOT-MRAM 是一種變體，可以在相同的功能下實現(xiàn)更快的讀寫速度（盡管這是以更大面積為代價的）。

共同的特點包括低泄漏、可擴(kuò)展性、高保留時間和高耐用性，以及易于與 CMOS 集成。

PCM、ReRAM、CB-RAM：經(jīng)濟(jì)高效的存儲和連接

相變存儲器（Phase-Change Memory，PCM）是一種應(yīng)用相變材料作為儲存介質(zhì)的存儲器技術(shù)。相變材料在一個固相和一個液相之間轉(zhuǎn)換狀態(tài)。通過控制相變材料的固相和液相之間的相變過程，可以實現(xiàn)數(shù)據(jù)的存儲和讀取。PCM技術(shù)相比傳統(tǒng)硬盤，具有更快速度、更低功耗和更小的尺寸等優(yōu)勢，成為非易失性存儲技術(shù)領(lǐng)域的島嶼之一。

導(dǎo)電橋接隨機(jī)存取內(nèi)存(conductive-bridging RAM， CBRAM ）是一種低耗電、與CMOS兼容的內(nèi)存，可定制應(yīng)用在各類嵌入式市場和獨立存儲器市場。

這些存儲器類型屬于相變存儲器的類別。它們是非易失性的，具有兩種不同的低電阻和高電阻狀態(tài)，具體取決于形成存儲器的兩個電極之間施加的電流方向。PCM、ReRAM 和 CB-RAM 等非易失性存儲器非常適合存儲視頻、音頻和圖像等模擬數(shù)據(jù)，無需昂貴的數(shù)模轉(zhuǎn)換器。另一個好處是訓(xùn)練神經(jīng)網(wǎng)絡(luò)，因為相變存儲器增強(qiáng)了突觸的連接性。所有這些都可以輕松地與 CMOS 和 3D 堆疊集成。ReRAM 交叉陣列最適合內(nèi)存計算。CB-RAM 非常適合實現(xiàn)內(nèi)存計算和神經(jīng)網(wǎng)絡(luò)的實現(xiàn)。

雖然沒有一種內(nèi)存類型是所有人工智能芯片的靈丹妙藥，但每種內(nèi)存類型在占用的空間、容量、保留時間、成本、堆疊能力、耐用性等方面都有其優(yōu)勢。每個內(nèi)存挑戰(zhàn)都可以通過多種方式解決，可以考慮使用不止一種合適的替代方案來滿足相同的目標(biāo)。設(shè)計人員需要權(quán)衡每種替代方案的利弊，包括對架構(gòu)決策的進(jìn)一步可擴(kuò)展性影響。

神經(jīng)形態(tài)計算與傳統(tǒng) SRAM

神經(jīng)形態(tài)計算是從人腦的結(jié)構(gòu)和動力學(xué)中獲得靈感，從而創(chuàng)建了用于信息處理的節(jié)能硬件，使其能夠執(zhí)行高度復(fù)雜的任務(wù)。

神經(jīng)形態(tài)計算包括神經(jīng)網(wǎng)絡(luò)的產(chǎn)生和使用。它從人腦中汲取靈感，旨在設(shè)計能夠合并內(nèi)存和處理能力的計算機(jī)芯片。在人腦中，神經(jīng)突觸提供對處理信息的神經(jīng)元直接訪問記憶的能力。

幾十年來，電氣工程師一直對生物物理學(xué)，神經(jīng)計算以及對人工神經(jīng)網(wǎng)絡(luò)的實用混合信號電路的開發(fā)著迷。其中的挑戰(zhàn)在于跨越了從電子設(shè)備到算法的廣泛學(xué)科。神經(jīng)形態(tài)系統(tǒng)的實際用途將會應(yīng)用在我們的日常生活中，光是這一項就值得付出努力。

人工智能需要新的硬件，而不僅僅是新的算法。我們正處在一個轉(zhuǎn)折點，摩爾定律接近尾聲，導(dǎo)致我們的計算機(jī)性能停滯不前。與此同時，如今，我們正在生成越來越多的數(shù)據(jù)，它需要存儲和分類。

上面討論的新興非易失性存儲器代表了神經(jīng)形態(tài)計算的基礎(chǔ)，并適用于非馮諾依曼架構(gòu)。盡管經(jīng)典 SRAM 存儲器具有令人興奮的潛力，但它們?nèi)匀缓苤匾{借無與倫比的延遲，SRAM 仍然是神經(jīng)形態(tài)計算的人工智能和機(jī)器學(xué)習(xí) (ML) 架構(gòu)的支柱。多端口內(nèi)存可實現(xiàn)并行性以適應(yīng) CIM 和近內(nèi)存計算。

神經(jīng)形態(tài)計算通過依賴比當(dāng)前處理架構(gòu)更高效的新架構(gòu)和新內(nèi)存技術(shù)，正在推動人工智能的發(fā)展，并刺激對更多計算能力的需求。特別是，內(nèi)存計算和近內(nèi)存計算對于這個新的人工智能時代至關(guān)重要，內(nèi)存產(chǎn)量、測試、可靠性和實施方面的專業(yè)知識也至關(guān)重要。毫不夸張地說，生態(tài)系統(tǒng)依賴于緊湊、非易失性、節(jié)能的存儲器。設(shè)計人員可以而且必須利用它們來解析大量數(shù)據(jù)和分布式內(nèi)存，并提供為我們的“智能一切”未來提供動力所需的計算能力。

審核編輯：黃飛

?