內(nèi)存計算

內(nèi)存計算(In-memory Computing ,簡稱IMC)似乎是EnCharge AI實(shí)現(xiàn)高效率和低功耗的關(guān)鍵因素。該公司在其網(wǎng)站上列出了2019年、2020年和2021年的四份出版物，展示了他們在改善IMC用于人工智能加速方面的研究進(jìn)展。

他們最早的出版物指出，機(jī)器學(xué)習(xí)計算嚴(yán)重依賴于矩陣向量乘法(MVM)，雖然數(shù)字加速器相對于普通處理器提供了10-100倍的能效和速度改進(jìn)，但這些收益主要是在計算方面，而不是在內(nèi)存訪問方面，即所謂的“內(nèi)存墻”。在內(nèi)存中來回移動數(shù)據(jù)在功耗和時間上都有很高的成本。

雖然IMC可以降低功耗和延遲，但在讀取內(nèi)存位時，需要權(quán)衡更差的信噪比(SNR)。信噪比問題在異構(gòu)系統(tǒng)中對IMC的擴(kuò)展提出了挑戰(zhàn)，而異構(gòu)系統(tǒng)是最有可能在實(shí)際應(yīng)用中使用IMC的場景。

2020年，該研究團(tuán)隊致力于解決信噪比問題，開發(fā)了一種利用charge-domin IMC的可編程異構(gòu)架構(gòu)和配套的軟件堆棧。原型基于65納米CMOS實(shí)現(xiàn)。

2021年，該團(tuán)隊引入了基于電容模擬計算，以提高從二進(jìn)制矢量輸入到5-b矢量輸入的動態(tài)范圍，并在協(xié)同設(shè)計算法方面取得了進(jìn)展，改善了內(nèi)存映射。

審核編輯：劉清