電子發燒友網報道(文/黃晶晶)在前不久舉辦的高通驍龍8 Gen2新品發布會上高通介紹了一款事件視覺傳感器。這款傳感器由神經視覺技術公司Prophesee研發的全球首個事件視覺傳感器,能夠實現亞毫秒級別時標時間,相當于每秒能捕獲10000fps的數據,并且比標準方式少處理10至1000倍數據。同時,在這個事件驅動傳感器的加持下,Spectra ISP能夠在被極端光線隱藏的情境下實現大于120dB的寬動態范圍,而能效水平可以小于10mW。Prophesee正是事件視覺技術的發明者和全球市場的領導者,電子發燒友網在近期的一次展會上采訪了Prophesee副總裁兼大中華區總經理楊雪飛,了解這項技術和應用的最新進展。
已有多家手機廠商關切事件視覺傳感器
“傳統上由于曝光時間的存在手機拍攝運動物體會有模糊的現象。事件視覺傳感器,由于數據量小、數據傳輸速度快,在曝光的時間過程中運動物體的輪廓信息始終會是清晰的。”楊雪飛談到事件視覺傳感器的好處。
為了使拍攝畫面更清晰,一些手機廠商創新地使用了光學防抖、微云臺等技術。但也存在搭載這類技術的成本高,以及精密機械裝置掉落易損壞等問題。楊雪飛表示,如果能用普通RGB攝像頭加上事件視覺傳感器,再搭配軟件算法的方式進行去模糊處理將是很大的技術進步。并可望替代光學防抖,顯著降低零組件成本。
據了解,目前已經有幾家手機廠商在開發事件視覺傳感器的方案。
楊雪飛分析,一般來說圖像采集后通過ISP解析,例如與某手機廠商合作時后端接高通的芯片組,通過ISP芯片進行圖像處理,用軟件算法調整畫質。未來后端也可以直接接AI芯片,通過神經網絡的系統做算法抽取,能夠更快的識別物體。
類似的方案不僅可用于智能手機,還可以結合基于AI、機器學習的各類應用場景,例如XRVR應用做眼球追蹤,可實時追蹤眼球的運動方向,在測試當中測試人員可遠距離操控電腦的音量大小等。
事件視覺傳感器是怎樣的
事件視覺傳感器同樣是采用CMOS工藝,但又與現有CMOS圖像傳感器所不同。
楊雪飛解析,我們核心的模擬電路和數字電路的設計方案和現有CMOS圖像傳感器的方案不同。我們可以實現全異步的輸出,而現有的圖像傳感器都是以幀為單位的同步輸出。異步輸出是我們最核心的一個不同點。
雖然都是通過像素技術來傳遞影像,但我們的方案可以讓每一個像素獨立工作,不需要和周圍的像素相關聯。獨立工作的優點是可以隨時輸出信號,并且數據量大幅度減少。它可以屏蔽掉靜態的場景信息,只輸出動態場景。而動態的信息才是機器最關心的。因為電腦要判斷的是快速變化對它可能產生的影響,或者需要抓取的這些動態變化的場景。
未來在解析度上,一個方向是技術升級走向越高清晰度,從HD、720P到full HD,1080P。另一方面正如前述的眼球追蹤等技術,它可以不需要太高的解析度,但需要更低功耗和更小尺寸。在高端和低成本低功耗兩大路線上Prophesee都將推進發展。
仿生學技術逐漸商用化
事件視覺傳感器技術來自于仿生源。Prophesee這家法國公司在成立最初也是為了推動歐盟的幫忙盲人復明的項目。
楊雪飛分析,在人眼的視網膜上面有兩種感光的細胞,一種叫視錐細胞,一種叫視桿細胞。我們看色彩用的是視錐細胞,在視網膜上面大概只有幾百萬個。而在我們視網膜上有上億個視桿細胞,視桿細胞才使得我們大腦皮層真正形成圖像。因為視錐細胞給大腦皮層一個靜態圖像,但是我們之所以能夠看到很迅速的變化,比如有一個東西經過,通過眼角的余光能感覺到。這個眼角的余光其實更多用的是視桿細胞,它告訴大腦亮度、運動變化,大腦就會形成一個影像。
歐盟的一個項目希望通過仿生學的技術幫助一些因視桿細胞問題而失明的人。而這一技術也逐漸拓展到工業應用,Prophesee的前幾代視覺傳感器產品已在歐洲、日本等地有多個落地項目。
在現場展示的一個應用于港口吊運貨物的項目中,Prophesee基于事件視覺傳感器的方案能夠建立三維建模的場景,傳統上這種三維建模需要拍大量的圖像和大量的數據進行分析,而Prophesee的方案搭配6個不同閃爍頻率的LED燈,相機通過精確地捕捉LED燈的閃爍頻率區別每個燈來進行建模,從而獲取貨物運動的狀態畫面。
圖源:電子發燒友網拍攝
Prophesee從2015年量產第一代傳感器開始,基本保持兩年一代的迭代速度,已陸續發布四代傳感器,2023年將發布第五代傳感器,會在消費類、工業類等領域推出滿足不同需求的解決方案。
Prophesee作為一家神經擬態視覺傳感器初創企業也得到了行業的關注和投資。索尼不僅投資了Prophesee,成為其股東,也與其進行合作開發。例如Prophesee第四代傳感器就是和索尼合作開發,還有索尼已經有兩個傳感器型號用到Prophesee的技術,是將索尼的CMOS圖像傳感器技術與Prophesee獨特的基于事件的Metavision視覺傳感器技術相結合而實現的。
2021年國內投資機構韋豪創芯(依托于韋爾股份投資和支持)也投資了Prophesee。不難看出,CMOS圖像傳感器廠商都對Prophesee給予了密切的關注和認可。在最新與高通進行聯合開發之后,這一事件視覺傳感器又將給智能手機市場的創新帶來濃墨重彩的風景。
-
AI
+關注
關注
87文章
30987瀏覽量
269278 -
視覺傳感器
+關注
關注
3文章
249瀏覽量
22891
發布評論請先 登錄
相關推薦
評論