斯坦福大學研究人員已經證明,在光學芯片上直接訓練人工神經網絡是可能的。這一重大突破表明,光學電路可以執行基于電子技術的人工神經網絡的關鍵功能,并且可以更便宜、更快和更節能的方式來執行諸如語音或圖像識別等復雜任務。
研究人員已經證明,神經網絡可以使用光學電路(圖中的藍色矩形)進行訓練。在整個網絡中,會有幾個連接在一起。激光輸入(綠色)信息,通過光學(黑色)芯片。該芯片使用非均勻波束執行對人工神經網絡至關重要的操作,它是由曲線段表示的。這些部分將兩個相鄰的部分連接在一起,并通過調整光學相位(紅色和藍色物體)的設置來調諧,它們的作用就像可以在訓練期間調整以執行給定任務的“轉軌”。這一研究結果由斯坦福大學研究組的Tyler W. Hughes所證明。
“使用光學芯片比數字計算機更有效地執行神經網絡,可以解決更復雜的問題。”斯坦福大學研究小組的Shanhui Fan說。“例如,這將增強人工神經網絡執行自動駕駛汽車所需任務的能力,或者對口頭問題作出適當的反應。它還能以我們現在無法想象的方式改善我們的生活。”
盡管光學人工神經網絡最近被實驗證明,但訓練步驟是在傳統的數字計算機上使用一個模型進行的,然后將最后的設置輸入到光學電路中。在光學學會的擁有很高影響力的研究雜志上,斯坦福大學報告了一種直接在設備中訓練這些網絡的方法,這種方法是通過實現“光學模擬”算法來實現的,這是訓練常規神經網絡的標準方法。
“使用物理設備而不是計算機模型進行訓練可以使訓練過程更加精確。”Hughes說。“此外,由于訓練步驟是神經網絡實現過程中非常昂貴的部分,因此執行這一步驟對于提高人工網絡的計算效率、速度和功耗至關重要。”
基于光的網絡
雖然神經網絡處理通常使用傳統計算機執行,但仍有大量工作要設計專門為神經網絡計算而優化的硬件。基于光學的設備有很大的興趣,因為它們可以并行執行,同時使用比電子設備更少的能量。
在這項新的工作中,研究人員通過設計一種傳統計算機訓練神經網絡的方法設計了一種光學芯片,這對實現全光神經網絡提出了重大挑戰。
一個人工神經網絡可以被認為是一個黑匣子,有大量的人工神經網絡。在訓練過程中,每個訓練單元都會有一些變化,然后對系統進行測試,看看算法的性能是否有所提高。
“我們的方法不僅可以幫助你預測轉向哪個方向,而且還可以幫助你預測你應該把每一種方法都轉化成更接近預期的性能。”Hughes說。“我們的方法大大加快了訓練的速度,特別是對于大型網絡,因為我們并行地獲得了關于每種方法的信息。”
片上訓練
新的訓練協議工作在光路上,通過改變光學相位的設置來調整光路。將待處理的激光束編碼信息發射到光路中,通過光束進行光路傳輸,并對其進行調整,以訓練神經網絡算法。
在新的訓練協議中,激光器首先通過光路輸入。在設備上,計算與預期結果的差異。然后,該信息被用來產生一個新的光信號,該光信號通過光網絡以相反的方向發送回來。在這個過程中,研究人員通過測量每個光束周圍的光強度,展示了如何并行地檢測神經網絡性能將如何隨著光束的設置而變化。根據這些信息可以改變相位設置,并且過程可以重復,直到神經網絡產生期望的結果。
研究人員通過教授一種執行復雜功能的算法,例如在一組點內提取復雜的特征,用光學模擬測試了他們的訓練技術。他們發現,光學實現功能與傳統計算機相似。
“我們的工作證明,你可以利用物理定律來實現計算機科學算法,”Fan說。“通過在光領域對這些網絡進行訓練,它表明光神經網絡系統可以單獨使用光學來實現某些更高的性能。”
目前,研究人員正計劃進一步優化該系統,并希望利用它實現神經網絡任務的實際應用。他們設計的一般方法可用于各種神經網絡體系結構和其他應用,如光學。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
人工神經網絡
+關注
關注
1文章
119瀏覽量
14619 -
光學芯片
+關注
關注
0文章
17瀏覽量
4497
發布評論請先 登錄
相關推薦
Python自動訓練人工神經網絡
人工神經網絡(ANN)是機器學習中一種重要的模型,它模仿了人腦神經元的工作方式,通過多層節點(神經元)之間的連接和權重調整來學習和解決問題。Python由于其強大的庫支持(如Tenso
脈沖神經網絡怎么訓練
脈沖神經網絡(SNN, Spiking Neural Network)的訓練是一個復雜但充滿挑戰的過程,它模擬了生物神經元通過脈沖(或稱為尖峰)進行信息傳遞的方式。以下是對脈沖神經網絡
怎么對神經網絡重新訓練
重新訓練神經網絡是一個復雜的過程,涉及到多個步驟和考慮因素。 引言 神經網絡是一種強大的機器學習模型,廣泛應用于圖像識別、自然語言處理、語音識別等領域。然而,隨著時間的推移,數據分布可能會
BP神經網絡和人工神經網絡的區別
BP神經網絡和人工神經網絡(Artificial Neural Networks,簡稱ANNs)之間的關系與區別,是神經網絡領域中一個基礎且重要的話題。本文將從定義、結構、算法、應用及
如何利用Matlab進行神經網絡訓練
,使得神經網絡的創建、訓練和仿真變得更加便捷。本文將詳細介紹如何利用Matlab進行神經網絡訓練,包括網絡創建、數據預處理、
人工神經網絡模型訓練的基本原理
圖像識別、語音識別、自然語言處理等。本文將介紹人工神經網絡模型訓練的基本原理。 1. 神經網絡的基本概念 1.1 神經元
人工神經網絡模型的分類有哪些
人工神經網絡(Artificial Neural Networks, ANNs)是一種模擬人腦神經元網絡的計算模型,它在許多領域,如圖像識別、語音識別、自然語言處理、預測分析等有著廣泛的應用。本文將
人工智能神經網絡芯片的介紹
人工智能神經網絡芯片是一類專門為深度學習和神經網絡算法設計的處理器。它們具有高性能、低功耗、可擴展等特點,廣泛應用于圖像識別、語音識別、自然語言處理等領域。以下是關于
bp神經網絡和卷積神經網絡區別是什么
BP神經網絡(Backpropagation Neural Network)和卷積神經網絡(Convolutional Neural Network,簡稱CNN)是兩種不同類型的人工神經網絡
卷積神經網絡訓練的是什么
、訓練過程以及應用場景。 1. 卷積神經網絡的基本概念 1.1 卷積神經網絡的定義 卷積神經網絡是一種前饋深度學習模型,其核心思想是利用卷積操作提取輸入數據的局部特征,并通過多層結構進
人工神經網絡的含義和用途是
神經網絡在許多領域都有廣泛的應用,包括圖像識別、語音識別、自然語言處理、推薦系統、預測分析等。 一、人工神經網絡的含義 定義:人工
如何訓練和優化神經網絡
神經網絡是人工智能領域的重要分支,廣泛應用于圖像識別、自然語言處理、語音識別等多個領域。然而,要使神經網絡在實際應用中取得良好效果,必須進行有效的訓
評論