色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

淺談深度神經網絡發展歷程

mK5P_AItists ? 來源:未知 ? 作者:胡薇 ? 2018-11-26 11:16 ? 次閱讀

2018年11月18日下午,計算機科學與技術學部主任、人工智能學院焦李成教授在成都參加了由中國人工智能學會主辦的人工智能大講堂并做特邀報告,焦李成教授在報告中回顧了深度神經網絡發展歷程,闡述了復雜影像的智能解譯與識別問題,并激勵大家在人工智能領域勇攀學術高峰,以下為報告記錄。

焦李成:很高興有這個機會跟大家一起交流。今天的演講是命題作文,人工智能學會今年開始做人工智能大講堂,學會理事會將其作為重要的品牌在做,以前是到各個學校去做,現在拿到高峰論壇來做是第一次。上午的也是張院長的命題作文,一定要談人工智能,人才的培養,我覺得很高興有這個機會,跟大家一起交流。

一個名字,深度神經網絡,兩句話大家記住了,李院士講的是深度學習不是萬能的,但是離開深度學習是萬萬不能的。這件事情作為我們內行人來講,今年講的也比較多,內行人也很自然能理解,給我們行業內講是不講這個事的,但是給一般的聽眾講,包括給政府機關、百千萬人才、長江杰青大講堂都講了這句話,這句話的意思是只要是能夠結構化的、只要是能夠有規則的、只要你是有數據的,那么這個問題,你不要企圖和人工智能去拼。圍棋就是這樣,象棋也是這樣,它們是封閉、完備的,在這些問題上你算不過人工智能,沒有它算得快,同時這些規則在短時間內的實施性,人做不到,人有感情,機器沒有感情,它下錯一步,你說它怎么這么臭,它并不正視你,而是繼續下,人工智能一秒鐘算三千步,三萬步,而人看三十步已經很偉大了。

這兩個視頻,一個是我學生做的,西安英卓未來公寓,另外一個是曠視做的。英卓未來公寓從房門開啟一直到最后的離開都是通過智能完成的。當然你見不著人,但是人通過智能給了你最好的服務。所以他們開了第四家酒店,讓大眾能夠體驗到智能家居的生活、享受到智能的品質。曠視在做人臉識別這件事情,最早做這個事是商湯的Mark,我的學生、也是湯曉鷗老師的第一個學生,他做了20年的人臉識別,20年的堅守厚積薄發,去年的7月份到9月份,三個月內機場、高鐵、銀行全都用了他的技術。

大家都知道,這是波士頓動力狗。大家看,它的三級跳,人都不一定能夠做得到,就是這么靈活,整個機器人經過這么幾代以后,智能的行為、協調、所有的動作做的很棒,我覺得對我們人類是一種挑戰。在反恐、排爆、探險,救險這些領域當中,這些技術是非常有用且必要的。我的學生做了一款為漸凍人服務的眼球控制智能出行及家居生活的輪椅系統,做了三代,正好有一位漸凍人“泰山英雄”,他的腿動不了,手也不能完全控制,但他靠著手登上了泰山、華山,所以公眾叫他“泰山英雄”,有媒體聯系到了我們,那么我們將贈送一臺智能輪椅給他,人工智能確實能夠改變我們人在某些情況下的不方便,我個人感覺還是一件非常有意義的事。這套輪椅系統能讓漸凍人及其他肌肉或骨骼受損的人不僅在室外能自己走,跟剛才說的智能公寓結合起來,通過眼睛的控制,能完成從開門到開關燈、開關窗簾、洗澡間等所有的智能生活起居。在杭州的一個比賽中,這套系統也很轟動,得到了大家的認可,拿了一個獎項。當然回來了我們認識了“泰山英雄”,能讓他有了適合他的輪椅、能切切實實的幫到漸凍人,這是更重要的,我和我的學生都感到非常高興。

大家可能看不見,這是星載的,就是照相機和雷達裝在衛星上然后拍攝地面的視頻,船在動、高速上面的車在動、然后機場的飛機在起飛,這是衛星的視頻。衛星視頻數據量非常大也非常高維,我們同時做到了在衛星視頻數據量級上的艦船、飛機、車輛的監測、跟蹤和分類,就是你傳送多少、運動速度多少、未知的信息全部能夠同時的實時識別出來。

將來首先失業的有可能是播音員,為什么呢?現在的語音合成技術完全可以和董卿一樣、和李梓萌一樣,聽上去有感情,但是聲音是合成的。(視頻)這樣的話就可以全天候的進行播音。剛才舉的波士頓動力、漸凍人的輪椅和智能工藝的結合、播音員的語音合成等例子都是活生生正在發生的。所以教育部也很重視人工智能,教育部各個專家組+咨詢組31個人,整個分布在十幾個高校。

其實我國的人工智能發展計劃歸結為三步走,四大任務,五大智能技術方向。三步走我們怎么跟、四大任務我們怎么去完成,還有五大方向我們在科研人才的培養上怎樣去進行匹配,這是我們需要考慮的問題。我認為可以從四個部分考慮,一是基礎理論,二是共性技術,第三是基礎支撐平臺,第四是智能化基礎設施,智能基礎設施建設怎么和物聯網云計算的基礎設施的建設相互協調起來,是我們需要思考的。

工信部的《新一代人工智能產業發展三年行動計劃》大家應該去看,目標很清楚,產品要出來,核心技術要突破,實際上是為整個智能社會和2025智能制造做準備,這件事大家一定要去做,要思考互聯網、大數據、人工智能三個支撐體系和基礎設施怎么樣相互協同,相互協調,共同促進,你跟不上,你一定會落后。人工智能對全社會來講是共性的技術、普適的技術,對教育來講同樣是共性的、普適的課程,這一點我們現在都無法去想象,人工智能對于教育或者是智慧教育帶來的挑戰,我希望大家一定要去關注。

高校的行動計劃,今年教育部連發五文,時間規劃涉及到2020年、2025年、2030年,內容涉及創新體系,人才培養體系,成果轉化和示范應用的基地,它的目標是想干什么?對于高校教師,寫寫論文,帶帶學生已經不夠了。人工智能的方向有什么呢?李院士講了,這是經過多少次爭論后列出來的主要方向,6到8個,要根據各個不同的學校、不同的單位,不同的特色去建相應的方向,一定要有特色而不能同質化。

圍繞基礎理論的研究基金委是有布局的,也經過了專家組充分的論證。人工智能的理論研究從56年到現在,一直在爭論也一直在斗爭,但不管你是三起三落還是八起八落,搞學術的人都得搞。別人不做的時候我們在做,別人不待見的時候我們也在做,高潮來的時候,該怎么樣還怎么樣,做學術的人就要初心不改做自己的事。所以人工智能從誕生之初到現在,從需要模擬人的基本智能,推理、知識、規劃、學習、交流、感知到移動和操作物體的能力,始終在延伸,始終在往前走,水平在不斷的去提高。人工智能不是人的智能,而是希望能夠像人那樣去思考,像自然演化那樣去學習和進化。另外,進化計算和自然計算結合起來有一些挑戰和問題,我覺得這兩個之間的概括需要有人去做,我已經講過幾回,今天先不講,未來希望有機會也跟大家聊一聊進化計算和自然計算的結合。

智能的兩條道,學習和感知、優化和識別的能力什么時候都需要、什么時候都是智能的主體,怎么樣能夠把這兩個結合起來?我認為這個時代說對了一部分,這部分就是可以用梯度算法去做,另外一部分是,進化計算在結構優化上一定是比BP強的,梯度從哪兒求這件事情我覺得還是值得思考,無法獲得梯度怎么辦?人工智能從開始的符號、聯結、行為、貝葉斯到類推,人怎么認知、自然怎么學習演化、人是怎么想的、怎么看的、怎么聽的、怎么說的、怎么走的、怎么動的……神經網絡都做到了嗎?我想說的是,從專家系統到中間基于特征的,再到聲音、語言,文字、圖像以及現在的感知行動結合起來,這件事上是值得我們去走的。

我個人認為人工智能四大挑戰,無教師的學習何時能來?無監督的學習深度何時能做?機器人能夠像人一樣去感知和理解這個世界嗎?機器的情感在哪里?前面說的這些都是網絡范式去做的,而人是在環境、場景中、運動中去感知,首先是感知這個世界,然后理解這個世界,之后去指揮自己的行為,最后再做一系列的事情。所以最終人工智能要對環境、對場景、對情感去感知和理解,形成動力系統。更進一步,人工智能的發展最重要的還是人,這個時候帶來的倫理、法律、道德、宗教等等深刻的社會問題我們怎么去思考它、怎么去理解它以及怎么去面對它。

美國白宮成立了人工智能研究中心,這是絕無僅有的,MIT結合AI成立新的計算機學院。這件事情我覺得對我們整個改革學校的教育,改革下一代的教育都有影響,我們要思考這意味著什么。人工智能改造了計算機的教育,斯坦福始終在創新引領的前沿,我們要思考他們做什么事情,我們要做以人為中心的人工智能的教育和改革。這件事情上,我們教育部的官員和教育工作者都要去好好學習,更要去看別人怎么去做。

所以說到對人工智能的戰略投資,包括對社會的變革、長期的革命,MIT這件事情拿了10億美金,CMU創辦了世界上第一個人工智能本科專業,我知道在紐約辦了一個藝術學院與人工智能的結合,他們用6.4億美金,專門辦了一個藝術學院。我們不能只知道人家做了這件事,更要看這件事的內容是什么,要眼光面向全世界,要看清楚怎么去做,我們要去引領。我就覺得這三件事情都是今年的,都是剛剛發生的事,所以這件事情上,我覺得美國還是清醒的,站在這個制高點,不能說我們人工智能計劃已經很完美。當然國內的布局也很快,這件事情應該說叫做“順勢而為,趁勢而上”,但我們千萬不要說吃了一碗面條,我們腦子就很聰明,好像不是那么回事,要懂得做全局優化。

我想再強調一下,人工智能、機器學習和深度學習我們內行人應該要搞清楚。現在當然說沒有比深度學習更有效的機器學習的辦法,人工智能當然要去做事,肯定得靠深度學習,因為你面對的是黑箱、不完全的數據,而且宏觀上是大數據,微觀上對問題來講又是小樣本。所以對于深度學習,我們內行人離不開他但也不要起哄。在傳統的體系結構下,機器學習和深度學習是什么?這個對話不在一個頻道上。

有監督、無監督、半監督和強化的算法怎么用要看是什么情況,我們自己做這個內行的人,千萬不要說你那個能干什么,這個能干什么,用的場合和問題不一樣,你可能在不同的場合,不同的任務,不同的問題需要用不同的方法去解決。我現在就害怕大家陷入一個坑,我們再回到神經網絡,最早1990年我出的書里神經網絡的四個范式,反饋網絡就是現在大家通常講的網絡,或者是遞歸反饋的。還有自組織網,以及沒有體現的完全無監督的學習。

大數據就講一句,我們所有處理的問題、深度學習的方法,機器學習的方法都一定是面向大數據的問題,但是單個問題拿到的又只是小樣本,一定得記住這一點,這個意義上來講,是大數據小樣本再加學習,這件事情上我們一定要把它結合起來做。面對大數據,面對海量數據,面對結構和非結構的數據大部分深度神經網絡是不可解釋的、是黑箱的。大數據處理的很多方法,同樣是不可解釋的,因為我們現在處理這些數據時只講大、只講海,但處理數據其實也是物理過程,應當像人的認知過程那樣是有生物意義和物理意義的,這個層面上來講,你把那兩個意義丟掉了,拿一堆數據就玩、算法遞歸迭代,最后什么都不解釋,人的經驗、規則哪里去了呢?你沒有用上。

我經常講的,過馬路的時候,對面有一個大美女,打了一個手機,還接了一個領導的電話,大車也穿過來了,旁邊還有一個小偷跟著你,你怎么處理?肯定保命要緊,先過馬路再說,人會分輕重緩急,而且是協同去做。回過頭來,我認為最初研究神經網絡的幾個人是要提的。通過學習的概念,通過學習感知的思想,通過學習優化的思想,這個是神經網絡的精髓。然后在這個基礎上再去做。中間需要把任務完成得好,就要優化去做這件事情。所以說一定是學習、優化、協同、控制和數據結合的。

我的印象應該是在1988年Lippman的文章,所有神經網絡做模式識別邊界的分析,邊界是那個時候劃出來的。大家第一次知道,非線性的問題變得如此簡單。那個時候才出來三層神經網絡,但三層神經網絡可以逼近任意函數,是理論上證明的,不是今天才做的。之后結構的設計、算法的構造,使得方法變得更加有效、實用,離問題更近。以前是數據不夠、訓練方法欠缺,同時人們的要求也沒有那么迫切,硬件的運行也沒有那么好,而現在這四個條件,大概相對30年前已經有了巨大的改善,我第一次看神經網絡大概是83年,那個時候在成都聽加州大學伯克利分校的蔡少棠講了學一個月,講的非線性和混沌,那時因為客觀條件所限,研究發展不像現在那么迅速,而大數據的出現是應景了,這兩者是契合了。這個意義上來講,在具備了有利客觀條件的今天,我們要把問題研究得更透徹,你怎么去進行感知、判斷、決策,哪一個是決策者、哪一個是訓練層、哪一個是推理層、哪一個是優化層得搞清楚了。非線性的嵌套是有結構的。從簡單的特征,到特征的表征,到特征的學習,特征的表征與學習,現在演變成特征的表征學習,神經網絡的演化進程是有脈絡、有邏輯的。

關于神經網絡和專家系統,專家系統三個要點要記住:知識的表示,知識的學習,知識的推理。早期推理知識的辦法不多、表征的框架不多、手段不多。神經網絡給了大家思想和方法,我希望大家記住對神經網絡真正有貢獻的是這些人,43年Hebb規則和MP模型。1962年Widrow和他的學生提出了LMS。第一臺PC機是他發明的,其算法奠定了自適應信號處理和自適應控制技術基礎。這個是俄羅斯籍的斯坦福的教授,這個人記住,其貌不揚,我覺得大家都應該記住他Werbos,BP算法是他提出來的,1974年在哈佛大學拿博士學位的時候,就發表了一篇論文就沒有論文了,但是博士學位是拿到了,真正的BP算法是他提出來的,使三層神經網絡可學習。整個大概十幾年的時間很紅火,而且是自己也做過世界神經網絡學會的主席和先驅,加州工學院Hopfield,三篇文章奠定了他的基礎。另外一個記住一個C.Mead,美國的三院院士,世界第一塊神經網絡的芯片是他做的,這個人在集成電路一直是明星,大家一定要記住這件事情,神經網絡不僅是今天。這個是芬蘭皇家科學院的院長T.Kohonen教授,他來過很多回,提出了自組織特征映射網。徑向基神經網絡出自Billing手,因為他是用基函數來做這件事情,做控制的人全部是用的,很高效。支撐向量機,這些都是神經網絡模型,而且都是學習機,大家不要認為是完全跟神經網絡沒有關系,只是說那一陣跟神經網絡“劃清界限”。淺層到深層的學習,大家要明白,本質性上改變的是什么?你說前面的網絡淺,那在哪里深呢?規模深、特征深、還是機理深?還是怎么做的呢?我說理解深度的時候,我們要去做深在什么地方,對數據的匹配在哪些上面是做了本質性的突破和改變,這件事情上我們一定要去做的。

我還是把他們列在一起,你記住所謂深度大咖的時候,別忘了上面這些人,這些人是他們的祖師爺。

中國神經網絡的發展也是有一個過程的。

我們一直不說,但是路一直在走。簡單的數據到了具體的對象,到了圖像,從小波變換到了小波網絡,從伸縮平移到了方向,到了圖像旋轉變換。所以說包括從地上到了天上,到了空中機載的。對象在變,需求在變,神經網絡也好,機器學習也好,方法也在不斷的往前走。所以我們是把這個結合起來在走。剛才為什么說我希望講一下這些道理,因為進化計算的第一篇文章,不叫人工智能,是優化和學習在走,包括免疫的學習優化,包括我們用到多目標上面去做,包括做協同的、量子的,而且用到了真正目標的識別上,我們都做了。這個過程我們回過頭來說,對于人工智能人才的培養,為什么我們心里面不太慌,經過了十四五年的實踐和培養,反正我們也出了這些書,不敢說水平有多高,但是研究生,本科的教材是有參考的,我自己寫的,我也在不斷的更新。我們幾十本書,應了人才培養教材之需,去年就包括做量子的,光學的,紅外的,包括到認知的,稀疏的,一直到高分辨遙感,老先生一定要改成雷達圖像,我們一路走過來,今年完成的是量子計算,計算智能,簡明人工智能等七八本,大概也有好幾十萬字。計算智能還有模式識別,反正都是在50、60萬字以上,還有自然計算的前沿,就是相當于深度學習的前沿,還有一個大數據智能挖掘的。

從第一代到第二代,一直到現在的第三代神經網絡,變化在什么地方,本質在什么地方,做這件事情,我們一定要去。第一個是卷積神經網絡,我理解的跟別人理解的卷積神經網絡不一樣,很簡單就是內積。然后在電路里面,在學習信息里面,很簡單,怎么走?一卷不就出來了嘛,卷積的概念大家知道是從數字信號處理出來的概念,物理概念和描述很清楚。其實最開始的時候,卷積也不火,不像現在牛哄哄的。

遞歸神經網絡,一定有聯想記憶的。其實模式識別,以前叫做聯想記憶,聯想記憶學習優化。這四件事情,要是在神經網絡里實現了,你的功能就比單純的卷積去做要強大得多。所以遞歸同樣是可以做這件事情。

深度置信網提供的思想一定要記住,我能夠通過概率的判斷做某件事情。我通過概率的判斷和生成,能夠使這個神經網絡的構造性設計更加合理和有效。這是置信網的貢獻。其實現在更熱的是貝葉斯網絡學習。貝葉斯的分布。

分布完了以后,參數少。接下來就是可學習,這個參數我們可以學出來,學習關鍵的參數,那么這個分布就找到了,或者優化的分布就找到了。實際上就是做了一個分布的估計。貝葉斯的描述、表征,估計和深度結合起來,這是貝葉斯網絡火起來最重要的原因。很自然,大家好不容易抓住一個貝葉斯分布,而且可以去做。深度可以給你學,何樂而不為,大家一定要找到一個結合點!

才能做這件事情。

生成對抗網大家覺得是突破,相對傳統的網絡來講。多了一個判別器。所以這個是不一樣,而且是跟概率結合起來,大家覺得一人搞了一種。我這么告訴你,有了卷積網,有了對抗網,你還要有新模型,千萬不要覺得誰好用,誰不好用,這就是深度網絡的全部。那是你本事不高,你有本事弄一個深度神經網絡模型出來,聯想記憶,學習,優化還要到后面的推理,你把這些功能實現了,就像人一樣,你的功能就強大了。但是現在,為什么大家關注核心,是把感知和決策結合起來,通過概率,態勢,估計和學習是有用的。這應該是非常有用的。

兩件事情,淺層模塊+堆棧理念就等于深度網絡。梯度不好的時候,結合一下,混合一下去做。都是不同的選擇,也有不同的學習方式,不管怎么樣,都是為了提高它的效率,這件事情大家去做,就不講那么多了。但是,講大數據。第二個是過擬合。哪一個方法不過擬合。調參,哪一個方法不調參,你說缺乏可解釋性,現有的機器學習方法,哪幾個可解釋,試試看。你不能說他不解釋,這個不弄,那個不說,多任務的時候,人人都做不了,大家都在同一個起跑線上,你要勇闖無人區,要做領頭雁就做一個算法出來。

現在回想起來,我覺得還是有一些工作,小波SVM網絡,用在小樣本上,包括ridgelet網絡,深度contourlet網絡模型等,和利用免疫進行優化學習,量子進化學習,多智能體協同進化學習與多尺度稀疏理論學習框架等。量子的免疫的,我剛才說的是兩個學習進化,我們結合起來去做,可并行,可以非線性的表征和編碼,這兩件事情結合起來,量子優化也是這么去做。不是回到量子的器件,我們不做這事,但是思想是可以學的。免疫優化學,相對傳統的,我們多了免疫項,多了引導項,多了容錯經驗項,那么你的學習優化就不一樣,我們做了20萬TSP和函數優化,做了千萬級的皇后分類,后來我們這些結果,都是最好的結果,后來人們也不跟我們比了。那么你做到了極限了,你試試看。我能做的九個目標的優化問題,那么你去算算,這個東西就難。

我們做了大數據深度學習系統。我跟大家說一個結果,12萬×16萬的圖像,0.5的分辨率,57個G,2766條船,將近300架飛機,整幅圖像處理我們在128秒之內全部檢測分類出來。

人是怎么做的呢?剛才講的人看、聽、說、觸覺,聲音連接圖像。所有的聲音的處理,輸入,獲取是人腦處理的基礎。那么從這個意義上來講,它的共性是什么。首先,它是稀疏性的,它是可學習的,是有選擇的,同時是方向的。這四個是我們感知的基礎,這不是我說的,這是生物上證明的,從這個意義上講,大家光拿一個卷積網,其實沒有回過頭來想它的生物基礎是什么。誰能回答這個問題?或者有多少體現了。

這個也是到現在有將近20年的歷程,生物上不斷證明這件事情,而且喜歡看牛人,看大咖,一直到現在,證明了大腦中是存在的,所有的這些結果都是有的。

我們的方法做到了嗎?我們的深度做到了嗎?,我們一代深度神經網絡,二代深度神經網絡,三代深度神經網絡怎么體現人腦做這些事呢?從這個意義上來講,你怎么去做稀疏感知,稀疏表征和稀疏學習。我們成功研制了國內第一個壓縮感知雷達,就是把稀疏感知和稀疏學習這兩件事情結合起來。所以說你要觀得見,要觀得清,辨得明,而且還要理解得了。從這個意義上來講,不僅僅是場景的感知,而且是目標信息的感和知。昨天兩位院士講的成像的,知才是理解的過程。我剛才講的模型,多小波也好,都做這件事情。

Wishart深度堆棧網絡是我們提出來的,將這種物理特性是和神經網絡結合起來,實現的結構網絡,我們找到了 Wishart深度堆棧網絡。我們做的任務是極化SAR圖像分類。同樣我們做了Wishart的DBN網絡,做到了物理獲取的機理,視覺的機理和腦處理的機理和結構的結合,構造了相應的深度神經網絡。深度神經網絡一定是將物理的、生物的、數學的原理結合起來。當然你要更有效,還要在平臺上去實現這件事情。

劉芳教授已經做了很多工作,畢業了很多學生。做了哪件事情?語義深度網絡。我們現在都在語法上想對策,考慮了數據之間的關聯特性,這是理解數據的基礎,是推理決策的基礎。也是深度學習必由之路。尤其是在星載的電磁波雷達的攝像機,裝在衛星上去做。這件事恰好是把物理的特性和生物的結合起來,我們結合了人是怎么理解的,人是通過語義通過過程,通過數據之間的關聯關系,而不僅僅是看數據多和少,要看數據之間的關聯特性。我們做到了在線表征,屈嶸老師做的超啟發式學習優化,她的工作能夠用在醫院,車站,工廠。深度神經網絡還沒有做這件事情,超啟發式的學習算法和深度神經網絡在哪里?應該是打開現在大數據小樣本,人工智能大數據瓶頸問題的一把鑰匙,期待大家去努力,有問題向屈教授請教。

這件事情上做到了,表征這件事情做得很好。表征完了,找到了好的基函數。所以表征、濾波,函數和深度學習結合起來,就給出了深度的,張量的濾波,我們團隊也在做深度,誰只拿卷積用用,這個稿子論文畢業都不行,出都出不了門,出了北門就是出了國門。學術只有一個標準,那就是國際標準,不存在哈佛和MIT的標準之分。從這個意義上來看,管他大咖,小咖,解決問題就是咖。從某種意義上來講,誤差小,結構要設計得好,能夠實現得了,而且還能算得快。這件事情上是我們做深度的基礎。

你不是要做嘛,那個算法是要上星上彈,在導彈上,衛星上裝的,你載荷要小,怎么辦?就要學得快,在線學習就得增量學習。怎么去做?不僅是增量的,而且還能自表征的,把那些經驗不斷找回來。然后半監督的去學習。我們承擔了國家自然基金的重大專項,完成了星載的在線處理就是做的這件事情。

另外一個,是眼睛看的,腦子想的,還有眼睛怎么看的,腦子怎么想,那就是,顯著看的,注意看的,選擇注意的特征,看這個信息的時候,選擇看的,注意看的,稀疏看的,然后腦子再去學它,跟生物結合起來。不管是雷達上還是光學相機上。我們用了變化檢測,顯著檢測,前面講的所有的模型你去做。有一個核心點,你一定能說出來,你的想法在哪里?你的目標在哪里?你是解決什么樣的問題的,你是怎么樣去提高的,你的生物意義在哪里,物理意義在哪里,結構上做了哪些變化,這個是怎么匹配的。多示例去做,特點在什么上面呢?不同的傳感器獲得像不一樣,光學的,你的任務是多任務學習,你怎么去學的。

我們做的整個的方法,當時就是比別人的好,所以這個冠軍就是我們。這個方法,應該說物理生物、再將深度的思想結合起來,是我們做工作的基本出發點。然后匹配稀疏的,大數據的,小樣本的問題。而且能夠滿足在線的,在軌的大數據的需要。

將學習和優化結合起來,多小波和多尺度的網絡模型是我們自己提的。多小波的大概是30年前就提了這樣的事情。協同進化優化學習,這是第一個國獎,解決了優化和學習的一些基礎性的問題。第二個找到了這些圖像,需要表征,找到了這些特征,而且把中間的機理分析了,給出了重構的模型。第三個國獎就是找到了怎么編碼,怎么稀疏。而且優化了模型,求解了,一代二代三代做了。那好,這就是這三個國獎。近五年拿的,都在人工智能領域。所以圍繞的都是這樣的問題去做的。

后來我們還是回過頭來,這些東西國外才不給你。這個時候從眼睛,比如說大腦,第一件事情候院長我們做了。全世界第一個把眼睛裝到大腦上,類腦別人沒有做。而且看和理解同時做,我們全部變成鐵塊,變成了機箱。

第二個,剛才說的編碼,這是探月的相機。只用很小的像素就可以成像,而且不失真。表征學習和應用,做這件事情。后來就是人像到畫像,畫像到人像,然后再做識別。

警察很厲害,山東的,把這個家伙畫出來了。全黑的,畫出來了。我們把這個人找出來,章穎瑩的冤屈得到了伸張,至少把這個壞家伙找到了。所以我們也是參與其中,應該說為祖國人民也做了一點事情。剛才我說的東西就不說了。應該說XX艘航母回港的時候,我們同時把它全部的像拿到了,視頻也做了,把我們最新的算法,裝在了我們自己的FPGA上,只有這樣才能用。

我們團隊,有三個長江學者創新團隊,三個國家平臺,六個省部級平臺,有111國家創新引智基地,我們有一支隊伍在做這個事情。聯合實驗室有十幾個。本科專業,05年開招,現在14屆,今年招了249名,再加上58名轉專業的同學,現在是四個人才能選一個過來,研究生招了240多人。這么多年在人工智能領域做工作,這個專業叫智能科學與技術,是國家級特色專業,我們本科生培養了2千多人,研究生培養了2千多。拿獎拿到手軟。拿不到冠軍都不愿意說。今年拿了兩個國際的冠軍。一個就是ECCV的無人機的競賽。

給大家看一下。ECCV的無人機的競賽的數據。全部數據主辦方給的,他們飛的。這個數據看那個羊在哪里?所有的羊都是一樣的。這個是所有的車,遮擋的情況下,無處可逃。這算法全是拿主辦方的數據,在他們的機子上運行的。這是多目標的,你有多少目標,多少數據,都可以檢測跟蹤。我們的無人機,給大家看我們飛的視頻。這個是西安南二環實況,檢測、跟蹤、分類全部是實時的,還能把幾何參數找出來。包括人,包括三輪車,所有的分類檢測跟蹤,有多少給多少,遮擋也能搗騰出來。這是我們學生做的,他們現在做得很起勁的。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 神經網絡
    +關注

    關注

    42

    文章

    4773

    瀏覽量

    100890
  • 人工智能
    +關注

    關注

    1792

    文章

    47409

    瀏覽量

    238924

原文標題:焦李成教授談深度神經網絡發展歷程

文章出處:【微信號:AItists,微信公眾號:人工智能學家】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    FPGA在深度神經網絡中的應用

    隨著人工智能技術的飛速發展深度神經網絡(Deep Neural Network, DNN)作為其核心算法之一,在圖像識別、語音識別、自然語言處理等領域取得了顯著成果。然而,傳統的深度
    的頭像 發表于 07-24 10:42 ?727次閱讀

    深度神經網絡在雷達系統中的應用

    深度神經網絡(Deep Neural Networks,DNN)在雷達系統中的應用近年來取得了顯著進展,為雷達信號處理、目標檢測、跟蹤以及識別等領域帶來了革命性的變化。以下將詳細探討深度神經網
    的頭像 發表于 07-15 11:09 ?765次閱讀

    殘差網絡深度神經網絡

    殘差網絡(Residual Network,通常簡稱為ResNet) 是深度神經網絡的一種 ,其獨特的結構設計在解決深層網絡訓練中的梯度消失和梯度爆炸問題上取得了顯著的突破,并因此成為
    的頭像 發表于 07-11 18:13 ?1122次閱讀

    卷積神經網絡的應用場景及優缺點

    1.1 卷積神經網絡的定義 卷積神經網絡是一種深度學習模型,它通過模擬人類視覺系統的工作方式,對輸入數據進行特征提取和分類。與傳統的神經網絡相比,CNNs具有更好的特征學習能力和泛化
    的頭像 發表于 07-11 14:45 ?760次閱讀

    簡單認識深度神經網絡

    深度神經網絡(Deep Neural Networks, DNNs)作為機器學習領域中的一種重要技術,特別是在深度學習領域,已經取得了顯著的成就。它們通過模擬人類大腦的處理方式,利用多層神經
    的頭像 發表于 07-10 18:23 ?1053次閱讀

    深度神經網絡概述及其應用

    深度神經網絡(Deep Neural Networks, DNNs)作為機器學習的一種復雜形式,是廣義人工神經網絡(Artificial Neural Networks, ANNs)的重要分支。它們
    的頭像 發表于 07-04 16:08 ?1359次閱讀

    循環神經網絡和卷積神經網絡的區別

    循環神經網絡(Recurrent Neural Network,RNN)和卷積神經網絡(Convolutional Neural Network,CNN)是深度學習領域中兩種非常重要的神經網絡
    的頭像 發表于 07-04 14:24 ?1349次閱讀

    深度神經網絡與基本神經網絡的區別

    在探討深度神經網絡(Deep Neural Networks, DNNs)與基本神經網絡(通常指傳統神經網絡或前向神經網絡)的區別時,我們需
    的頭像 發表于 07-04 13:20 ?967次閱讀

    深度神經網絡的設計方法

    結構的構建,還包括激活函數的選擇、優化算法的應用、正則化技術的引入等多個方面。本文將從網絡結構設計、關鍵組件選擇、優化與正則化策略、以及未來發展趨勢四個方面詳細探討深度神經網絡的設計方
    的頭像 發表于 07-04 13:13 ?490次閱讀

    bp神經網絡深度神經網絡

    BP神經網絡(Backpropagation Neural Network)是一種常見的前饋神經網絡,它使用反向傳播算法來訓練網絡。雖然BP神經網絡在某些方面與
    的頭像 發表于 07-03 10:14 ?872次閱讀

    深度學習與卷積神經網絡的應用

    隨著人工智能技術的飛速發展深度學習和卷積神經網絡(Convolutional Neural Network, CNN)作為其中的重要分支,已經在多個領域取得了顯著的應用成果。從圖像識別、語音識別
    的頭像 發表于 07-02 18:19 ?929次閱讀

    卷積神經網絡和bp神經網絡的區別

    化能力。隨著深度學習技術的不斷發展神經網絡已經成為人工智能領域的重要技術之一。卷積神經網絡和BP神經
    的頭像 發表于 07-02 14:24 ?4344次閱讀

    深度神經網絡模型有哪些

    深度神經網絡(Deep Neural Networks,DNNs)是一類具有多個隱藏層的神經網絡,它們在許多領域取得了顯著的成功,如計算機視覺、自然語言處理、語音識別等。以下是一些常見的深度
    的頭像 發表于 07-02 10:00 ?1514次閱讀

    神經網絡架構有哪些

    神經網絡架構是機器學習領域中的核心組成部分,它們模仿了生物神經網絡的運作方式,通過復雜的網絡結構實現信息的處理、存儲和傳遞。隨著深度學習技術的不斷
    的頭像 發表于 07-01 14:16 ?742次閱讀

    詳解深度學習、神經網絡與卷積神經網絡的應用

    在如今的網絡時代,錯綜復雜的大數據和網絡環境,讓傳統信息處理理論、人工智能與人工神經網絡都面臨巨大的挑戰。近些年,深度學習逐漸走進人們的視線,通過
    的頭像 發表于 01-11 10:51 ?2212次閱讀
    詳解<b class='flag-5'>深度</b>學習、<b class='flag-5'>神經網絡</b>與卷積<b class='flag-5'>神經網絡</b>的應用
    主站蜘蛛池模板: 色视频色露露永久免费观看| 嘟嘟嘟WWW在线观看视频高清| 国产精品97久久AV色婷婷综合| 手机观看毛片| 亚洲qingse中文字幕久久| 黄色片中文| 99热最新在线| 亚洲AV精品无码成人| 美女被爆羞羞天美传媒| 邓奴的视频IVK| 一本道综合久久免费| 日本一二三区在线视频| 韩国精品韩国专区久久| 99久久精品久久久久久清纯| 天美传媒在线观看完整高清 | 亚洲国产成人精品久久久久| 老司机试看午夜| 国产三级在线免费观看| YELLOW高清视频免费观看| 婬香婬色天天视频| 性盈盈剧场| 色视频色露露永久免费观看| 年轻漂亮的妺妺中文字幕版| 经典三级四虎在线观看| 国产人A片在线乱码视频| 北条麻妃のレズナンパ| 99无人区码一码二码三| 语文老师扒开胸罩喂我奶| 亚洲精品成人无码A片在线| 日本VA在线视频播放| 欧美00后rapper潮水| 快播在线电影网站| 久久无码人妻AV精品一区| 精品AV综合导航| 国内精品久久久久久西瓜色吧| 国产成人精品系列在线观看| 99热在线免费播放| www红色一片| 超碰免费视频caoporn| 成人综合在线视频免费观看完整版| 姉调无修版ova国语版|