近日,麻省理工學院團隊背景的光子AI芯片公司Lightelligence對外宣布了一項重要進展——成功開發出世界第一款光子芯片原型板卡(Prototype)。
對于這家成立一年半的公司,這款芯片原型的誕生,驗證了團隊部分成員在2017年發表在NaturePhotonics期刊上的開創性想法——用光子代替電子來進行AI計算。但是在那個時候,他們在實驗室開發的整個光子計算系統占據了半個實驗室。
(來源:Lightelligence)
在視頻演示中,團隊在這個原型產品上成功用光子芯片運行了GoogleTensorflow自帶的卷積神經網絡模型來處理MNIST數據集。這是一個使用計算機視覺識別手寫數字的基準機器學習模型,也是機器學習中最著名的基準數據集之一。測試中,整個模型超過95%的運算是在光子芯片上完成的處理,測試結果顯示,光子芯片處理的準確率已經接近電子芯片(97%以上),另外光子芯片完成矩陣乘法所用的時間是最先進的電子芯片的1/100以內。
LightelligenceCEO沈亦晨對DeepTech表示,公司計劃將該光子芯片提供給一些合作方、潛在客戶進行測試,目前國外已經有谷歌、FaceBook、AWS級別,國內BAT級別的客戶與Lightelligence接洽。
他透露,盡管這款芯片還不是公司真正意義上的第一款商業化產品,在性能上也還有很大的提升空間,但卻是對團隊開發完整光子AI芯片系統可行性的一個重要驗證。
圖丨這款原型正在運行MNIST(來源:Lightelligence)
沈亦晨表示,在接下來的幾十年中,對于AI算法尤其是機器學習算法的計算需求仍將大幅增加,但與此同時,我們回過頭看過去幾年計算硬件的發展,其演進速度正變得越來越慢,“從光子學的角度來看,我意識到,對于一些最基本的算法以及機器學習任務來說,光子可能是最佳的計算平臺。在我的博士生涯中,我用一個項目簡單地證明了這個概念性質的設想,現在,Lightelligence的成立正在將這個設想從學術研究帶到真實世界”。
“我們從硬件到軟件做出了一套可以運行的系統,原則上,它可以運行任何神經網絡系統,它也是就我們所知世界上第一臺完全獨立的光學計算AI加速器(standaloneopticalAIaccelerator)。Lightelligence現在發布這款芯片原型想傳達的另一個信息是,光學計算不再是一個“ScienceProject”,而是一個已經接近于產品化的技術”,他說。
圖丨LightelligenceCEO沈亦晨,MIT物理學博士,因其從光學計算的獨特角度切入AI芯片入選2017年《麻省理工科技評論》“35歲以下科技創新35人”中國區榜單(來源:麻省理工科技評論)
越來越近的光學計算
光學計算并不是一個全新的概念。
作為一種完全不同于電子計算的技術,光學計算以光子為信息處理載體,依賴光硬件而非電子硬件,以光運算代替電運算,擅長快速并行處理高度復雜的計算任務,但它一直沒找到合適的應用場景,且受限于傳統分離式光學器件光場調控手段單一、光學設計體積龐大的缺點,光學計算一直都停留在實驗室階段。
近幾年,電子計算愈發受制于摩爾定律,信息技術載體的存儲密度與運算速度的提升愈發力不從心,讓一部分人將目光從“電”轉向了速度更快、能耗更低的“光”。
(來源:麻省理工科技評論)
尤其是基于人工神經網絡算法的深度學習系統的流行。不同于通用芯片所運行的邏輯運算,深度學習系統的大部分時間都花在低精度的矩陣乘法運算上,而密集的矩陣乘法運算,正是人工智能算法中最耗時間和功率的。
目前AI加速芯片都是基于電子運算的,但在結合電子計算所有前沿技術的基礎上,光子芯片可以來執行AI計算里最重要的兩個步驟:內存到計算單元的數據傳輸以及矩陣運算本身。這兩個方面光子芯片具有獨特優勢。
由此,光子AI芯片的概念應運而生,利用光子來做矩陣乘法運算,在功耗降低和速度提升上前景可期,很可能帶來光學計算有史以來最大的機會。
Lightelligence成立的目的,就是從光子芯片這個全新的角度來切入AI加速。
“對產業界來說,這可能開啟了一個全新的方向,而且它的發展速度遠遠高于電子運算。”沈亦晨說。
(來源:NaturePhotonics)
2016年,沈亦晨還在MIT做博士后,他所在的研究團隊打造了首個光學計算系統。該成果于2017年以封面文章的形式發表在頂級期刊NaturePhotonics雜志上,其基于硬件和算法有著雙重創新:在硬件上,光干涉儀作為基本的矩陣運算單元有效取代了傳統電子晶體管;在算法上,團隊開發了一系列在不犧牲性能條件下有效降低深度學習計算量、并適應于光子芯片的算法。
當時,國際著名光學科學家、斯坦福大學終身正教授DavidMiller,曾專門在Nature雜志上撰文評價沈亦晨團隊的光學AI芯片的研究成果,稱“這一系列的研究成果極大地推動了集成光學在未來取代傳統電子計算芯片的發展。”
那篇論文可以說在全球范圍內啟發更多人投入到光子AI芯片的開發中,帶來這一成果的MIT團隊已經誕生出Lightelligence和LightMatter兩家公司。
現在,Lightelligence團隊正在全力研發光子芯片的相關技術,包含芯片設計、核心算法、傳輸、周邊等,欲打造一個完整的光學計算生態。全球包括Lightelligence在內也已經有5~6個團隊正在進行相關的研發及商業化,其中還不乏中國團隊。盡管各家公司的目標都不盡相同,從已經公布的產品進度來看,作為全球首個光子AI芯片的公司,Lightelligence仍將是最值得關注的公司之一。
(來源:Lightelligence)
以Lightelligence此次發布的芯片原型為例,和2017年的首個光學計算系統相比,其最大的改進就體現在計算效率的提升、軟件環境和集成程度的成熟上。
Lightelligence團隊本身擁有一系列獨立自主知識產權,包括光學器件設計、光學系統集成和深度學習算法的核心技術,在設計這款芯片的過程中,團隊在這幾個方面的技術儲備得到了驗證。
在開發的過程中,提升運算速度和改善尺寸的工作是交叉進行的。據沈亦晨介紹,原來實驗室版本的機器集成度比較低,它的控制單元沒有集成在板卡上。現在這款芯片原型的集成度大大提高,隨著集成程度的提高,運算速度也大大提升。
而且開發上的主要任務不只是集成度方面的工作,還包括高速信號的控制。對于光子計算機來說,其中比較重要也比較難的一點就是,當信號傳輸速度很快的時候,如何讓信號達到比較精確的強度。
最終,團隊用了近一年半的時間打造出了這款尺寸與指甲蓋差不多、封裝了光纖的芯片原型。這在光學計算領域也是前所未有的。
(來源:Lightelligence)
而除了前文提到的MNIST圖像識別任務以外,這款芯片原型還可以運行其他的計算任務,團隊同時也提供軟件支持,與谷歌的Tensorflow,Facebook的Caffe2和Pytorch常用框架中的算法兼容。
沈亦晨表示:“團隊希望任何通用的基于線性運算的算法都可以在光子AI芯片上運行,Lightelligence生產的是一款通用的AI芯片,同時我們也會自研更適合在光子芯片上運算的算法,后期我們會發布相關的算法上的進展。”
未來,光子AI芯片的發展能否引領算法開發上加大矩陣計算比重的“硬件定義軟件”風潮,亦值得觀察。
3年內推出第一款量產產品,面向服務器
目前,Lightelligence成立已經一年半時間,團隊的技術進展并不完全體現在這次發布的芯片原型里,沈亦晨說,其實團隊早在半年以前就已經著手開發下一代芯片了,“我們的下一款芯片將會在性能上徹底顛覆現有的電子同類產品”。
基于光子AI芯片速度快、損耗少、算力高、成本低的這些特點,很多面臨性能瓶頸的深度學習場景將是這款產品大展身手的方向。因此,在應用場景上,沈亦晨設想Lightelligence的第一款產品將面向服務器和自動駕駛。
“第一款光子AI芯片的產品定位不是低端市場,我們的競爭力不是價格和尺寸大小,而是同一塊板卡的性能,針對這個優勢我們的應用場景確定為以上兩個市場。”沈亦晨說。他曾提到,電子芯片的生態鏈條非常完善,整個產業已經達到數以十億、百億計的規模。和電子芯片的完善的生態鏈條不同,光子芯片還在剛剛起步的階段,這也決定了其產品可能沒辦法短期內進入到輕量級、個人級的應用中。
未來的汽車工業很可能是光子AI芯片的最重要市場之一,例如,以Lidar技術所需要的大量光源和光探測器來說,光子AI芯片有望提供一個低成本、低功耗的解決方案。不過,自動駕駛的市場仍比較小,Lightelligence仍會先從服務器市場切入,然后過渡到自動駕駛中。
(來源:Lightelligence)
現在,在融資上,Lightelligence已于2017年底獲得包括百度風投和真格基金在內的超過1000萬美元的風險投資,團隊規模也從最初麻省理工學院出來的三人團隊發展到了二十多人全職團隊,成員背景包括麻省理工學院、哥倫比亞大學、佐治亞理工大學、北京大學和加州大學伯克利分校等。團隊也吸引了很多業界專業人士加入,最引人注目的恐怕就是GilbertHendry和MauriceSteinman了。
GilbertHendry博士畢業于哥倫比亞大學,曾在谷歌和微軟工作過5年,并且主持開發過多款機器學習產品,現在是Lightelligence的軟件部負責人及機器學習首席工程師。MauriceSteinman是Lightelligence的工程副總裁,加入Lightelligence之前曾任AMD首席芯片架構師,并主持開發了AMD用于高通量信息傳輸的旗艦產品infinityfabric,有超過30年的豐富的半導體行業經驗。
圖丨GilbertHendry(來源:Lightelligence)
圖丨MauriceSteinman(來源:Lightelligence)
但必須承認,光子AI芯片整體依然仍處于非常早期的階段,光子AI芯片公司面臨的落地風險和技術挑戰并不比其他AI芯片公司的小。但是,人類在追求更高程度的機器智能過程中,對芯片計算能力的需求只會不斷增加,光子AI芯片有希望能夠彌補電子芯片的不足,在一些特殊的計算領域超過電子芯片。
有意思的是,許多人了解到光子AI芯片和光學計算之后,更感興趣的不是其與電子計算的比較,反而好奇光子計算和量子計算有什么區別,兩者哪一個將更快改變產業現狀。
和量子計算相比,光子計算發展的時間短,投入研發的人力也相對較少,聽起來是一個更為小眾的領域。但光子計算對算力的提升不一定亞于量子計算,而且在技術實現上,其制造流程可兼容目前的CMOS工藝,在量產難度上遠低于量子計算,更容易與現有的計算周邊生態進行配合,可說是目前發展的次世代計算架構中,最有機會實現普及量產目標的一個。
本文來源:Deeptech深科技
評論
查看更多