據報道,美國斯坦福大學的研究人員已經證明,可以直接在光學芯片上訓練人工神經網絡。這一重大突破表明,光學電路可以實現基于電子的人工神經網絡的關鍵功能,進而可以以更便宜、更快速和更節能的方式執行語音識別、圖像識別等復雜任務。
“相比使用數字計算機,使用光學芯片進行神經網絡計算更有效,能夠解決更復雜的問題,”斯坦福大學研究團隊的負責人范汕洄(Shanhui Fan)說:“這將增強人工神經網絡的能力,例如,使其能夠執行自動駕駛汽車所要求的任務,或者能夠對口頭問題做出適當的回答。這將以我們現在無法想象的方式改善我們的生活?!?/p>
人工神經網絡是人工智能的一種,它使用連接的單元,以類似大腦處理信息的方式來處理信息。使用人工神經網絡執行復雜的任務,例如語音識別,需要訓練算法對輸入進行分類,比如對不同的單詞進行分類。
雖然光學人工神經網絡最近已經得到實驗證明,但此前的研究是在傳統的數字計算機上使用一個模型進行訓練步驟,然后將最終的設置導入光學電路。在最新Optica期刊上,斯坦福大學的研究人員報告了一種新方法,通過實現“反向傳播”算法(這是訓練傳統神經網絡的標準方法)的光學模擬,直接在設備中訓練人工神經網絡。
圖:研究人員已經證明,神經網絡可以通過光學電路(圖中藍色矩形)進行訓練。在整個網絡中,有若干個這樣的電路連接在一起。激光輸入(綠色)的編碼信息由光波導(黑色)通過芯片。芯片使用可調波束分離器(光波導中彎曲的部分)執行對人工神經網絡至關重要的操作。分離器將兩個相鄰的波導連接在一起,并可通過調整光學移相器(紅色和藍色發光物體)的設置進行調整。分離器的作用就像“旋鈕”,可以在特定任務的訓練過程中進行調整。Credit: Tyler W. Hughes, Stanford University
該論文的第一作者說:“使用物理設備而不是計算機模型進行訓練,可以使訓練過程更精確?!薄岸?,由于訓練步驟是神經網絡實現中非常耗費計算力的部分,因此,在光學電路上執行這個步驟,對于改進人工神經網絡的計算效率、速度和功耗都是至關重要的?!?/p>
基于光的網絡
雖然神經網絡處理通常使用傳統的計算機進行,但仍有大量的工作要專門設計針對神經網絡計算優化的硬件?;诠鈱W的設備非常吸引人,因為它們可以并行地執行計算,同時比電子設備消耗的能量更少。
在這項新研究中,研究人員通過設計一種光學芯片來復制傳統計算機訓練神經網絡的方式,克服了實現全光學神經網絡(all-optical neural network)的一個重大挑戰。
人工神經網絡可以被視為一個帶有許多旋鈕的黑盒。在訓練期間,每個旋鈕都要轉動一點,然后測試系統,查看算法的性能是否得到改善。
“我們的方法不僅可以幫助預測旋鈕轉動的方向,還可以預測每個旋鈕轉動的方向,從而更接近預期的性能?!盚ughes說,“我們的方法大大加快了訓練速度,特別是對于大型網絡,因為可以并行地獲得每個旋鈕的信息?!?/p>
片上訓練
新的訓練協議在具有可調諧光束分離器的光學電路運行,通過改變光學移相器的設置進行調整。具體來說,該方法是將編碼有待處理信息的激光束發射到光學電路中,由光波導通過光束分離器進行傳輸,像旋鈕一樣進行調整,以訓練神經網絡算法。
在新的訓練協議中,激光首先通過光學電路輸入。退出設備后,計算出與預期結果的差值。然后,這些信息被用來產生一個新的光信號,這個信號通過光網絡以相反的方向發送回來。
通過測量此過程中每個分束器周圍的光強度,研究人員展示了如何并行地檢測神經網絡的性能隨著每個分束器設置而變化的情況。移相器的設置可以根據這些信息進行更改,這個過程可以重復,直到神經網絡產生期望的結果。
研究人員用光學模擬測試了他們的訓練技術,方法是教算法執行復雜的任務,比如在一組點中找出復雜的特征。他們發現光學實現與傳統計算機的執行類似。
該研究的負責人說:“我們的研究表明,你可以利用物理定律來實現計算機科學算法?!薄巴ㄟ^在光學領域對這些網絡進行訓練,證明光學神經網絡系統可以利用光學器件來實現某些功能?!?/p>
研究人員計劃進一步優化這個系統,并希望用它來實現神經網絡任務的實際應用。他們設計的通用方法可用于各種神經網絡架構,也可以用于其他應用。
未來智能實驗室是人工智能學家與科學院相關機構聯合成立的人工智能,互聯網和腦科學交叉研究機構。
未來智能實驗室的主要工作包括:建立AI智能系統智商評測體系,開展世界人工智能智商評測;開展互聯網(城市)云腦研究計劃,構建互聯網(城市)云腦技術和企業圖譜,為提升企業,行業與城市的智能水平服務。
-
神經網絡
+關注
關注
42文章
4772瀏覽量
100803 -
圖像識別
+關注
關注
9文章
520瀏覽量
38276 -
AI
+關注
關注
87文章
30946瀏覽量
269196 -
語音識別
+關注
關注
38文章
1741瀏覽量
112674
原文標題:斯坦福證明神經網絡能直接在光學芯片上訓練
文章出處:【微信號:AItists,微信公眾號:人工智能學家】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論