本文來(lái)自華為諾亞方舟實(shí)驗(yàn)室資深專家劉曉華在攜程技術(shù)中心主辦的深度學(xué)習(xí)Meetup中的主題演講，介紹了華為諾亞面向語(yǔ)音語(yǔ)義的深度學(xué)習(xí)進(jìn)展。
　　本次演講簡(jiǎn)要回顧了深度學(xué)習(xí)近十年進(jìn)展，重點(diǎn)介紹華為諾亞方舟實(shí)驗(yàn)室最近兩年內(nèi)和深度學(xué)習(xí)相關(guān)的研究成果，并探討了深度學(xué)習(xí)的未來(lái)趨勢(shì)。
　　深度學(xué)習(xí)的近十年進(jìn)展
　　深度學(xué)習(xí)為什么現(xiàn)在這么火？大數(shù)據(jù)、算法突破和計(jì)算能力。算法上有什么樣的突破？第一點(diǎn)，對(duì)多層神經(jīng)網(wǎng)絡(luò)做預(yù)訓(xùn)練。第二點(diǎn)，大量標(biāo)注數(shù)據(jù)驅(qū)動(dòng)的監(jiān)督學(xué)習(xí)和防過(guò)擬合技術(shù)的結(jié)合，例如dropout。第三點(diǎn)，注意力模型。特別是2012年來(lái)，深度學(xué)習(xí)在語(yǔ)音、圖片、視頻識(shí)別，包括自然語(yǔ)言處理方面取得重大突破等。
　　


　　語(yǔ)音識(shí)別方面：基于深度神經(jīng)網(wǎng)絡(luò)的聲音模型替隱馬爾可夫框架下的基于混合高斯分布的升學(xué)模型，使語(yǔ)音識(shí)別取得了突破性進(jìn)展。目前完全融合了聲學(xué)模型、語(yǔ)言模型和聲學(xué)詞典的基于深度學(xué)習(xí)的端到端的語(yǔ)音識(shí)別系統(tǒng)也開(kāi)始出現(xiàn)，并有可能演進(jìn)為下一代的語(yǔ)音識(shí)別系統(tǒng)。
　　圖像識(shí)別：2011年，基于深度卷積神經(jīng)網(wǎng)絡(luò)的圖像識(shí)別系統(tǒng)在ImageNet數(shù)據(jù)集上取得極大成功，并開(kāi)始有成功的商業(yè)化應(yīng)用。
　　自然語(yǔ)言處理：自2014年始，深度學(xué)習(xí)在語(yǔ)法分析、機(jī)器翻譯、對(duì)話等領(lǐng)域都取得了一系列重要成果。
　　符號(hào)人工智能：深度學(xué)習(xí)開(kāi)始進(jìn)入知識(shí)表達(dá)和推理等傳統(tǒng)人工智能的領(lǐng)域，并取得了初步成功。
　　控制/強(qiáng)化學(xué)習(xí)：深度學(xué)習(xí)和強(qiáng)化學(xué)習(xí)結(jié)合催生了深度強(qiáng)化學(xué)習(xí)技術(shù)，該技術(shù)在控制領(lǐng)域，如游戲操作和機(jī)器人的控制的端到端學(xué)習(xí)（end-to-end learning），都有了令人矚目的成功。
　　諾亞語(yǔ)音語(yǔ)義方面深度學(xué)習(xí)相關(guān)研究
　　華為諾亞方舟實(shí)驗(yàn)室已經(jīng)成為中國(guó)在深度自然語(yǔ)言處理研究（deep learning for NLP）領(lǐng)域最好的實(shí)驗(yàn)室之一。
　　

普通下載普通下載

相關(guān)電子資料下載

• 深度學(xué)習(xí)在工業(yè)缺陷檢測(cè)中的應(yīng)用 63
• 探討目前主流3D激光SLAM算法方案 94
• 華為成為中國(guó)首個(gè)PyTorch基金會(huì)Premier會(huì)員 453
• 《人工智能在指揮和控制系統(tǒng)中的決策支持》 133
• 中國(guó)手機(jī)廠商發(fā)力這一領(lǐng)域 外媒：大戲剛剛開(kāi)始 262
• 百度智能云推出國(guó)內(nèi)首個(gè)大模型全鏈路生態(tài)支持體系 251
• 人工智能領(lǐng)域存在第一性原理嗎？ 53
• 基于機(jī)器視覺(jué)檢測(cè)技術(shù)現(xiàn)狀 41
• 自動(dòng)駕駛規(guī)控決策方面的建議與解決方案 40
• 里程碑 主線科技無(wú)人集卡在舟山港開(kāi)啟全天候真無(wú)人常態(tài)化運(yùn)營(yíng) 166