(文章來源:雷鋒網)
Facebook AI研究院的首席AI科學家Yann LeCun認為,AR(增強現實)眼鏡有望成為機器學習從業者的理想挑戰目標——一個殺手級應用,因為它涉及了多個未解決的問題。
完美的AR眼鏡需要把對話式AI、計算機視覺和其他復雜系統結合起來,這些系統必須能夠像眼鏡那樣小巧,便于操作。低功耗AI不可或缺,這將確保合理的電池壽命,從而使得用戶擁有較長的可以佩戴和使用眼鏡的時間。與蘋果,Niantic和高通這些公司一樣,今年秋天,Facebook確認了到2025年制造增強現實眼鏡的計劃。
“對于硬件而言,這是一個巨大的挑戰,因為你的眼鏡可能帶有可在可變延遲下實時跟蹤視覺的攝像頭,因此在移動時……這需要大量的計算。你希望能夠通過語音與助手互動,以便助手一直在聽你的聲音,并且也會與你說話。您想要手勢[識別],以便助手[可以執行]實時的手部追蹤,”他說。LeCun說,實時手部跟蹤已經可以工作,不過“我們只是不知道如何以小巧的外形來做到這一點,同時功耗與AR眼鏡適配。”
“就更大的型號來說,功耗、性能和外觀,這些確實都超出了我們現在的能力范圍,因此必須使用人們從未想到過的技巧,神經網絡就是其中之一。”他說。LeCun這個月在全球最大的機器學習研究會議NeurIPS上的“EMC2節能機器學習”研討會上發表了講話。他談到了硬件局限性如何限制研究人員的想象,并表示好的想法有時候會在硬件太慢、軟件不易獲得或實驗難以重現時被拋棄。
他還談到了特定的深度學習方法,例如差分聯想記憶和卷積神經網絡,它們構成了挑戰,可能需要新的硬件。差分關聯存儲器(軟RAM)是一種計算方法,目前已在自然語言處理(NLP)中廣泛使用,在計算機視覺應用程序中也越來越常見。“未來幾年,深度學習和機器學習架構將發生很大變化。你已經可以看到很多這樣的情況了。現在有了NLP,城里唯一的游戲基本上就是變換網絡(Transformer networks)。”他說。
他補充說,更有效的批處理和自我監督學習技術,可以幫助AI像人類和動物一樣學習更多,也可能有助于提高AI的能效。在LeCun演講之后,麻省理工學院的電氣工程與計算機科學副教授Vivienne Sze談到了需要一種系統的方法來評估深度神經網絡的需求。SlidesLive報道稱,在本周早些時候,Sze關于高效深度神經網絡的演講是這次NeurIPS視頻中備受關注的一個,獲得了相當多的點擊率。
Sze說:“更大更遠的存儲器往往會消耗更多的電量”, 并指出“所有權重都不相等。” Sze還演示了Accelergy,這是MIT開發的一種能夠估算硬件能耗的框架。除講座外,研討會的海報發布會還展示了值得注意的低功耗AI解決方案。其中包括DistilBERT,這是谷歌BERT的輕便版本,后者是Hugging Face團隊特別為在邊緣設備上快速部署而制造的;以及SRI International和Latent AI對深度神經網絡的量化比較。
許多知名人士呼吁機器學習社區應對氣候變化,并表示這種關注可以推動創新。上周在NeurIPS上的一次小組討論中,另一位深度學習先驅Yoshua Bengio呼吁研究人員更重視影響氣候變化的機器學習上,并減少他們所獲得的出版物數量。在接受VentureBeat采訪時,谷歌AI負責人Jeff Dean說,他支持創建“每瓦計算標準”的想法,以鼓勵使用更高效的硬件。
除了在NeurIPS上進行解釋深度學習算法的理論工作外,會議上的許多工作都強調了將AI對氣候變化的貢獻考慮在內的重要性,其中就有一篇名為“能源使用報告:算法責任中的環境意識”的論文。該論文寫道:“必須對算法的碳足跡進行測量并透明地報告,以便計算機科學家可以在環境可持續性方面發揮誠實和積極的作用。”
根據這一說法,會議的組織者早先建議,2020年向NeurIPS提交工作的AI研究人員可能需要分享他們提交供審議的工作的碳足跡。美國研究機構AI Now Institute最近發布的2019年報告,就將測量算法的碳足跡納入了十幾項建議當中去,稱這些建議可以帶來一個更公正的社會。
在其他與節能有關的AI新聞中,Element AI和Mila Quebec AI研究所的機器學習從業人員上周推出了一種新工具,該工具可使用GPU訓練AI模型來計算碳排放量,從而根據使用時間長短和云區域等因素預測能源使用情況。朝著更高效的機器學習的方向發展,可能會帶來改變地球的創新。但是,大的想法和挑戰需要一個焦點——理論要讓人感覺更實際,需要解決實際的特定問題。LeCun認為,AR眼鏡可能是機器學習從業人員的理想用例。
(責任編輯:fqj)
-
Ar
+關注
關注
24文章
5095瀏覽量
169468 -
機器學習
+關注
關注
66文章
8406瀏覽量
132565
發布評論請先 登錄
相關推薦
評論