我們認(rèn)為半導(dǎo)體世界中的許多事情是理所當(dāng)然的,但如果幾十年前做出的某些決定不再可行或最優(yōu)了,我們應(yīng)該怎么辦?我們看到了一個(gè)使用 finFET 的小例子,平面晶體管將不再擴(kuò)展。今天,我們面臨著幾個(gè)更大的破壞,這些破壞將產(chǎn)生更大的連鎖反應(yīng)。
技術(shù)通常以線性方式發(fā)展。每一步都提供了對(duì)以前存在的增量改進(jìn),或者克服了一些新的挑戰(zhàn)。這些挑戰(zhàn)來(lái)自新節(jié)點(diǎn)、新物理效果或限制等。雖然這非常有效,而且許多單獨(dú)的步驟都很出色,但它建立在紙牌屋的基礎(chǔ)上,如果基礎(chǔ)上的某些東西從根本上來(lái)說(shuō)變化,整個(gè)設(shè)計(jì)、實(shí)現(xiàn)和驗(yàn)證的連鎖反應(yīng)可能非常顯著。
單個(gè)連續(xù)內(nèi)存
這些更改之一已經(jīng)進(jìn)行了一段時(shí)間。1945 年首次描述的馮諾依曼處理器架構(gòu),具有單一的連續(xù)內(nèi)存空間,是絕對(duì)的突破。它提供了一個(gè)圖靈完備的解決方案,可以解決任何有限問(wèn)題。這成為幾乎所有計(jì)算機(jī)的實(shí)際架構(gòu)。
內(nèi)存很快成為了大小和性能方面的限制。為了克服這個(gè)問(wèn)題,引入了緩存以使廉價(jià)的大容量?jī)?nèi)存看起來(lái)像更昂貴、更快的內(nèi)存。隨著時(shí)間的推移,這些緩存變得多級(jí),跨多個(gè)主機(jī)連貫,并在越來(lái)越大的地址空間上工作。
但這不再是許多現(xiàn)代計(jì)算功能的要求。在基于對(duì)象的軟件功能和特定領(lǐng)域計(jì)算的時(shí)代,對(duì)內(nèi)存組織的需求可能是有害的。它基于這樣一個(gè)前提,即程序可以隨機(jī)訪問(wèn)它想要的任何東西——安全專家希望這不是真的。
必須充分考慮緩存和一致性的全部成本。“在芯片中實(shí)現(xiàn)一致性是復(fù)雜且昂貴的,” Imperas Software的創(chuàng)始人兼首席執(zhí)行官 Simon Davidmann 說(shuō)。“當(dāng)您進(jìn)行多級(jí)緩存時(shí),內(nèi)存層次結(jié)構(gòu)變得越來(lái)越復(fù)雜,并且越來(lái)越充滿錯(cuò)誤,并且消耗越來(lái)越多的功率。”
當(dāng)任務(wù)很好理解時(shí),可以避免這種開(kāi)銷。“在數(shù)據(jù)流引擎中,一致性不那么重要,因?yàn)槟鷮⒃谶吘壱苿?dòng)的數(shù)據(jù)直接從一個(gè)加速器傳送到另一個(gè)加速器,” Arteris IP的研究員兼系統(tǒng)架構(gòu)師 Michael Frank 說(shuō)。“如果你對(duì)數(shù)據(jù)集進(jìn)行分區(qū),一致性就會(huì)成為障礙,因?yàn)樗鼤?huì)花費(fèi)你額外的周期。您必須使用查找表。您必須提供更新信息。”
面向?qū)ο笙到y(tǒng)的采用,以及限制類型轉(zhuǎn)換的強(qiáng)類型語(yǔ)言和對(duì)程序員的一些限制,可以使執(zhí)行流程可預(yù)測(cè)并避免對(duì)單個(gè)連續(xù)內(nèi)存空間的需求。諸如在圖形和機(jī)器學(xué)習(xí)中發(fā)現(xiàn)的任務(wù)在有限的內(nèi)存塊上運(yùn)行,并且不會(huì)從復(fù)雜的內(nèi)存管理或?qū)?nèi)存的硬件控制中受益。
特定領(lǐng)域的計(jì)算正在導(dǎo)致人們重新考慮這方面的許多方面。“例如,DSP 傾向于提供分布式內(nèi)存池,通常直接在軟件中管理,” Arm研發(fā)團(tuán)隊(duì)的高級(jí)首席研究工程師 Matt Horsnell 說(shuō)。“與傳統(tǒng)的共享內(nèi)存系統(tǒng)相比,這可能更適合專門應(yīng)用程序的帶寬要求和訪問(wèn)模式。這些處理器通常通過(guò)提供對(duì)特定訪問(wèn)模式(例如,N 緩沖、FIFO、行緩沖區(qū)、壓縮等)的直接支持來(lái)提供某種形式的內(nèi)存專業(yè)化。”
新的內(nèi)存類型
改變內(nèi)存架構(gòu)有很大的影響。“挑戰(zhàn)在于,在過(guò)去,人們有一個(gè)很好的抽象模型來(lái)思考計(jì)算系統(tǒng),” Rambus的研究員和杰出發(fā)明家 Steven Woo 說(shuō)。“他們從來(lái)沒(méi)有真正考慮過(guò)存儲(chǔ)。它最初是免費(fèi)出現(xiàn)的,而編程模型只是讓你在引用內(nèi)存時(shí),它就發(fā)生了。你永遠(yuǎn)不必明確說(shuō)明你在做什么。隨著摩爾定律的放緩和功率縮放的停止,人們開(kāi)始意識(shí)到有很多新的存儲(chǔ)可以進(jìn)入方程式。但要讓它們真正有用,你必須擺脫我們過(guò)去擁有的非常抽象的觀點(diǎn)。”
第二個(gè)相關(guān)的變化是通過(guò)新的內(nèi)存技術(shù)實(shí)現(xiàn)的。長(zhǎng)期以來(lái),SRAM 和 DRAM 都針對(duì)速度、密度和性能進(jìn)行了優(yōu)化。但是 DRAM 的擴(kuò)展已經(jīng)停滯不前,而且 SRAM 受到最新節(jié)點(diǎn)的可變性的影響,因此難以保持密度。基于不同物理特性的新內(nèi)存類型最終可能會(huì)更好,但這可能不是主要好處。
例如,如果采用ReRAM,存儲(chǔ)單元本質(zhì)上就會(huì)變成模擬的,這就開(kāi)辟了許多可能性。Mythic 負(fù)責(zé)產(chǎn)品和業(yè)務(wù)開(kāi)發(fā)的高級(jí)副總裁 Tim Vehling 說(shuō):“模擬的一個(gè)基本理念是,您實(shí)際上可以在存儲(chǔ)單元本身中進(jìn)行計(jì)算。” “你實(shí)際上消除了整個(gè)內(nèi)存移動(dòng)問(wèn)題,因此功率大幅下降。當(dāng)模擬發(fā)揮作用時(shí),您可以進(jìn)行高效的計(jì)算和很少的數(shù)據(jù)移動(dòng)。借助模擬內(nèi)存計(jì)算技術(shù),它的能效實(shí)際上比數(shù)字等效技術(shù)高出幾個(gè)數(shù)量級(jí)。”
這與機(jī)器學(xué)習(xí)所需的乘法/累加函數(shù)完全一致。“執(zhí)行這些 MAC 操作所消耗的能量是巨大的,”西門子 EDA產(chǎn)品經(jīng)理 Sumit Vishwakarma 說(shuō)。“神經(jīng)網(wǎng)絡(luò)有權(quán)重,這些權(quán)重存在于內(nèi)存中。他們必須不斷地訪問(wèn)內(nèi)存,這是一項(xiàng)非常耗能的任務(wù)。計(jì)算能力是傳輸數(shù)據(jù)所需能力的十分之一。為了解決這個(gè)問(wèn)題,公司和大學(xué)正在研究模擬計(jì)算,它將權(quán)重存儲(chǔ)在內(nèi)存中。現(xiàn)在我只需要輸入一些輸入并得到一個(gè)輸出,這基本上是這些權(quán)重與我的輸入的乘積。”
當(dāng)模擬和數(shù)字解耦時(shí),模擬電路不再受阻。Semtech 信號(hào)完整性解決方案集團(tuán)營(yíng)銷和應(yīng)用副總裁 Tim Vang 說(shuō):“我們可以設(shè)計(jì)模擬電路,在某些情況下提供與數(shù)字等效甚至更好的功能,而且我們可以在較舊的節(jié)點(diǎn)上做到這一點(diǎn)。” “成本可以更低,因?yàn)槲覀儾恍枰械臄?shù)字功能,因此芯片尺寸可以更小。我們可以降低功耗,因?yàn)槲覀儧](méi)有那么多功能。”
當(dāng)內(nèi)存發(fā)生變化時(shí),軟件堆棧中的所有內(nèi)容都會(huì)受到影響。Synopsys產(chǎn)品營(yíng)銷總監(jiān) Prasad Saggurti 說(shuō):“通常會(huì)發(fā)生一種算法,我們看到了一種優(yōu)化它的方法,優(yōu)化內(nèi)存,以便更好地實(shí)現(xiàn)算法。” “另一方面,我們擁有這些不同類型的內(nèi)存。你能改變你的算法來(lái)利用這些新的記憶嗎?過(guò)去,使用 TCAM 主要是一種網(wǎng)絡(luò)域結(jié)構(gòu)來(lái)查找 IP 地址。最近,ML 訓(xùn)練引擎開(kāi)始使用 TCAM。這需要根據(jù)可用存儲(chǔ)器的類型來(lái)改變軟件或固件。”
CMOS 的終結(jié)
但到目前為止,最大的潛在變化是 CMOS 的終結(jié)。隨著器件變得更小,摻雜的控制變得具有挑戰(zhàn)性,這會(huì)導(dǎo)致器件閾值電壓的顯著變化。摻雜定義了器件的極性,例如器件是 PMOS 還是 NMOS,正是這些器件的配對(duì)創(chuàng)建了 CMOS 結(jié)構(gòu),這是創(chuàng)建的所有數(shù)字功能的基礎(chǔ)。隨著行業(yè)向全柵 finFET 結(jié)構(gòu)遷移,出現(xiàn)了一種新的可能性。
“使用水平堆疊的納米線,您實(shí)際上可以構(gòu)建具有兩個(gè)柵極的晶體管,”洛桑聯(lián)邦理工學(xué)院電氣工程和計(jì)算機(jī)科學(xué)教授 Giovanni De Micheli 在 DAC 2022 主題演講中說(shuō)。“你使用第二個(gè)柵極來(lái)極化晶體管并使晶體管成為 P 或 N 晶體管(見(jiàn)圖 1)。你會(huì)得到一個(gè)更強(qiáng)大的晶體管,因?yàn)樗鼊?chuàng)建了一個(gè)比較器而不是一個(gè)開(kāi)關(guān)。現(xiàn)在,有了這些類型的設(shè)備,您就可以擁有全新的拓?fù)浣Y(jié)構(gòu)。”
圖 1. GAA 極性門的 3-D 概念圖。
資料來(lái)源:Michele De Marchi 論文,EPFL,2015
理論上,這可以通過(guò)將極性門一分為二來(lái)進(jìn)一步實(shí)現(xiàn)。除了是 p 型或 n 型之外,這將增加每個(gè)晶體管也成為高或低閾值電壓器件的能力。因此,每個(gè)晶體管在運(yùn)行期間都可以具有不同的功率/性能特性。
讓我們回到邏輯抽象。“幾十年來(lái),我們一直在用 NAND 和 NOR 設(shè)計(jì)數(shù)字電路,”De Micheli 說(shuō)。“為什么?因?yàn)槲覀円婚_(kāi)始就被洗腦了,因?yàn)樵贑MOS中那是最方便的實(shí)現(xiàn)。但是,如果您從多數(shù)邏輯的角度思考(見(jiàn)圖 2),您就會(huì)意識(shí)到這是進(jìn)行加法和乘法運(yùn)算的關(guān)鍵運(yùn)算符。今天,我們?yōu)闄C(jī)器學(xué)習(xí)實(shí)現(xiàn)的所有電路,其中的主要部分就是進(jìn)行加法或乘法運(yùn)算。這就是為什么多數(shù)是極其重要的。此外,多數(shù)邏輯是超導(dǎo)體、光學(xué)技術(shù)、內(nèi)存中的非易失性邏輯等許多技術(shù)的自然模型。”
圖 2. 基于極性門器件的新邏輯元件。
資料來(lái)源:De Micheli/EPFL
De Micheli 的研究表明,采用多數(shù)邏輯設(shè)計(jì)的電路可以使用今天略微修改的 EDA 工具將延遲減少 15% 到 20%。
但這些類型的變化確實(shí)需要對(duì)綜合和其他步驟進(jìn)行重大重新思考。Synopsys 的技術(shù)策略師 Rob Aitken 說(shuō):“如果這被證明是一個(gè)很有前途的載體,你真的需要徹底重新考慮合成引擎。” “許多新設(shè)備不會(huì)有效地采用 NAND/NOR 電路并從中構(gòu)建東西,而是將本機(jī)調(diào)整為 XOR、多數(shù)門或其他一些邏輯功能。會(huì)發(fā)生什么?綜合關(guān)注您正在構(gòu)建的基本事物,雖然它過(guò)于簡(jiǎn)單化,但邏輯綜合需要一個(gè) PLA,然后將其折疊成一個(gè)多層次的對(duì)象。以不同的邏輯風(fēng)格重新思考很重要。”
改變基本的晶體管功能對(duì)流程的許多方面都有重大影響。例如,設(shè)備現(xiàn)在有四個(gè)或五個(gè)終端,而不是三個(gè),這會(huì)對(duì)布局和布線產(chǎn)生什么影響?它將如何影響扇入扇出和擁塞?
結(jié)論
改變是困難的。一項(xiàng)有前途的技術(shù)必須克服現(xiàn)有技術(shù)數(shù)十年的優(yōu)化,這會(huì)帶來(lái)巨大的慣性挑戰(zhàn)。它還可能需要同時(shí)更改解決方案的許多部分,例如硬件和軟件,或整個(gè)實(shí)現(xiàn)鏈中的工具。但隨著該行業(yè)接近半導(dǎo)體的一些基本物理極限,它需要變得更加靈活并愿意改變。
編輯:黃飛
-
CMOS
+關(guān)注
關(guān)注
58文章
5722瀏覽量
235614 -
晶體管
+關(guān)注
關(guān)注
77文章
9698瀏覽量
138322 -
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8422瀏覽量
132714 -
reram
+關(guān)注
關(guān)注
1文章
51瀏覽量
25461
原文標(biāo)題:學(xué)習(xí)分享 | 芯片架構(gòu)師需要思考的一些問(wèn)題
文章出處:【微信號(hào):Ithingedu,微信公眾號(hào):安芯教育科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論