早在今年九月,我就寫過一篇關于人工智能應用中的模擬計算的博客。那些機構正在努力以協同處理的形式使用模擬計算硬件和系統,以幫助解決數字電子技術在開發人工智能技術中存在的一些問題。我沒有談到的是模擬計算這一用例的進展程度,或者其他潛在的應用以及在復興模擬計算上的努力。
截至目前,IBM已將重點放在模擬AI上,而Mythic AI則在尋求更多資金,以繼續開發其模擬人工智能技術,并在可能的情況下推出商業解決方案。盡管Mythic AI確實有一款產品正在初步交付給某些特定客戶,但Mythic AI的解決方案僅專用于邊緣AI推理。該解決方案聲稱比目前的邊緣人工智能推理數字解決方案更省電、更快速、更緊湊。
此外,Mythic的解決方案還聲稱可以進行一些額外的計算,盡管這些計算純粹是用于神經網絡操作。這些解決方案依靠存算一體(或存內計算)的模擬處理技術的優勢,旨在提供比GPU、CPU和FPGA等數字計算設備更高效的矩陣向量乘法。
圖1 利用模擬計算引擎對人工智能模型進行優化、量化和再訓練。來源:Mythic
盡管如此,這些解決方案仍然需要前端和后端的數字電路,以支持模擬人工智能芯片使用可接受的輸入數據,并解決輸出模擬處理的一些固有誤差問題。這些解決方案單純的針對邊緣人工智能推理用例,似乎無法解決部署大規模人工智能的更大挑戰。
模擬計算和內存的應用是有意義的,因為它解決了執行類似任務所需的數字系統在能效、計算速度和復雜性方面的普遍挑戰。
新興的模擬人工智能系統
除了邊緣人工智能推理之外,模擬計算還有許多潛在應用,但幾十年來這些應用在很大程度上被忽視了。少數研究人員正在公開致力于開發模擬計算系統,其中包括微軟的一個部門最近的努力。
微軟的模擬迭代機(AIM)是一種光學計算設備,旨在快速解決優化問題。具體來說,AIM的目標是高效解決廣泛的二次無約束混合優化(QUMO)問題,并原生支持連續變量和二元變量的全對全連接。
在微軟研究團隊最新發表的論文中,研究人員聲稱他們的技術已經能夠在室溫下完全在模擬領域內解決金融交易結算問題,其精度比量子硬件更高。這是在AIM中通過使用存算一體和多個變量的空分復用表示以及梯度下降法等復雜算法來實現的。
哥倫比亞大學和麻省理工學院的研究人員也一直致力于開發模擬計算技術。這些研究人員正在致力于開發一種更通用的模擬計算機,利用數字接口使模擬計算機更方便用戶使用。該研究小組開發的單片模擬計算機被設計為像FPGA一樣可編程。
初代芯片和第二代芯片包括用于積分、矩陣乘法、插值、濾波和函數發生器的模擬電路,這些電路通過模擬硬件可以更有效地開發。此外,這種模擬計算芯片對函數發生器采用了一種新穎的連續時間數字方法,該方法使用無時鐘二進制信號,這些信號可以根據響應變化而不是以固定時鐘間隔變化。
要實現這一點,需要專門的模數轉換器和數模轉換器(ADC/DAC)以及可以處理連續時間數字信號的數字存儲器。從根本上說,該系統的工作原理是將無時鐘二進制信號從模擬信號轉換為數字信號,引用查找表中的值并將存儲在內存中的值轉換回模擬信號。這有利于模擬輸入/模擬輸出函數的生成。
這樣做的主要好處是,該系統可以高效、快速地以相對較高的精度求解相當復雜的微分方程。盡管它的精度不如當今的數字硬件和算法,但對于某些情況來說,這種精度水平已經足夠了。此外,這種模擬計算解決方案的開發時間和運行能耗僅為數字計算機的零頭。
這樣,模擬/數字協處理器就可以使用模擬計算機的結果來為數字計算機進一步處理提供一個起始解決方案。與通過純數字迭代處理達到的起始相比,它的效率要高得多,資源消耗要少得多。
模擬/數字混合人工智能
在輸入為近似值的情況下,這也可能是一種單步解決方案,例如機器學習(ML)、計算機視覺、生物信息學、機器控制、分子生物學和大數據集挖掘。然而,雖然利用模擬芯片可以實現更高水平的精度,但當前的方法需要更大的芯片面積(這種方法的模擬計算與芯片面積成正比)以及混合方法中更復雜的模擬處理技術。
由于這項工作大部分在20世紀70年代初就已停滯不前,因此在支持模擬計算技術的研究方面存在著巨大的差距。例如,有人建議采用晶圓級技術和全3D集成電路技術來制造高性能模擬計算芯片。然而,這些工藝極其昂貴,盡管它們可能取得超出當前超級計算機甚至量子計算機能力的結果。
舉例說明:Tsividis建議在300mm晶圓上構建具有10萬個積分器的模擬計算機,這樣就可以創建一個包含10萬個耦合一階非線性動態方程的系統,或者一個更小的高階方程組來進行模擬。通過這種方法,處理一個方程只需要幾毫秒,并且只需要幾十瓦的功率。
人們還在努力進一步改進這種模擬/數字混合計算方法。盡管關于該方法的信息不多,但Anabrid Gmbh公司正在討論一種模擬計算芯片,以及它與以往的努力有何不同。
這家總部位于德國柏林的人工智能新貴正在銷售一款開源模擬計算平臺——The Analog Thing(THAT),這是一個硬件電位器和模擬硬件的組合,可用于簡單計算和教育目的(圖3)。它可以通過引線手動重新配置,并且似乎更像是一種模擬計算的教育工具。
這些早期產品和研究項目尚未產生可用于主流市場的集成模擬/數字混合或協處理器技術。然而,在模擬/數字混合技術因全數字計算而被拋棄近50年后,一些研究團隊正在致力于開發模擬輔助或真正的協處理器技術。
這些團體押注于模擬計算的未來。即使目前投向人工智能的資金和資源的一小部分可以轉用于模擬計算機的開發,模擬計算也有可能成為現實。
-
IBM
+關注
關注
3文章
1758瀏覽量
74725 -
神經網絡
+關注
關注
42文章
4772瀏覽量
100855 -
人工智能
+關注
關注
1792文章
47354瀏覽量
238815
發布評論請先 登錄
相關推薦
評論