色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

幫助弱者讓你變得更強:利用多任務(wù)學(xué)習(xí)提升非自回歸翻譯質(zhì)量

深度學(xué)習(xí)自然語言處理 ? 來源:南大NLP ? 作者:南大NLP ? 2022-11-09 16:14 ? 次閱讀

01

研究動機

目前最先進的神經(jīng)機器翻譯模型主要是自回歸(autoregressive, AR)[1][2]模型,即在解碼時從左向右依次生成目標(biāo)端單詞。盡管具有很強的性能,但這種順序解碼會導(dǎo)致較高的解碼時延,在效率方面不令人滿意。相比之下,非自回歸(non-autoregressive, NAR)模型[3]使用更加高效的并行解碼,在解碼時同時生成所有的目標(biāo)端單詞。為此,NAR模型需要對目標(biāo)端引入條件獨立假設(shè)。然而,這一假設(shè)無法在概率上準(zhǔn)確地描述人類語言數(shù)據(jù)中的多模態(tài)現(xiàn)象(或多樣性現(xiàn)象,即一條源端句存在多個正確的翻譯結(jié)果)。這為NAR模型帶來了嚴(yán)峻的挑戰(zhàn),因為條件獨立假設(shè)與傳統(tǒng)的極大似然估計(Maximum Likelihood Estimate, MLE)訓(xùn)練方式無法為NAR模型提供足夠信息量的學(xué)習(xí)信號和梯度。因此,NAR模型經(jīng)常產(chǎn)生較差的神經(jīng)表示,尤其是在解碼器(Decoder)部分。而由于解碼器部分直接控制生成,從而導(dǎo)致了NAR模型顯著的性能下降。為了提升NAR模型的性能,大多數(shù)先前的研究旨在使用更多的條件信息來改進目標(biāo)端依賴關(guān)系的建模(GLAT[4], CMLM[5])。我們認(rèn)為,這些研究工作相當(dāng)于在不改變NAR模型概率框架的前提下提供更好的替代學(xué)習(xí)信號。并且,這些工作中的大部分需要對模型結(jié)構(gòu)進行特定的修改。

沿著這個思路,我們希望能夠為NAR模型提供更具信息量的學(xué)習(xí)信號,以便更好地捕獲目標(biāo)端依賴。同時,最好可以無需對模型結(jié)構(gòu)進行特定的修改,適配多種不同的NAR模型。因此,在本文中我們提出了一種簡單且有效的多任務(wù)學(xué)習(xí)框架。我們引入了一系列解碼能力較弱的AR Decoder來輔助NAR模型訓(xùn)練。隨著弱AR Decoder的訓(xùn)練,NAR模型的隱層表示中將包含更多的上下文和依賴信息,繼而提高了NAR模型的解碼性能。同時,我們的方法是即插即用的,且對NAR模型的結(jié)構(gòu)沒有特定的要求。并且我們引入的AR Decoder僅在訓(xùn)練階段使用,因此沒有帶來額外的解碼開銷。

02

貢獻

1、我們提出了一個簡單有效的多任務(wù)學(xué)習(xí)框架,使NAR模型隱層表示包含更豐富的上下文和依賴信息。并且我們的方法無需對模型結(jié)構(gòu)進行特定的修改,適配多種NAR模型。

2、一系列AR Decoder的引入帶來了較大的訓(xùn)練開銷。為此我們提出了兩種降低訓(xùn)練開銷的方案,在幾乎不損失性能的前提下顯著降低了參數(shù)量和訓(xùn)練時間。

3、在多個數(shù)據(jù)集上的實驗結(jié)果表明,我們的方法能夠為不同的NAR模型帶來顯著的提升。當(dāng)使用束搜索解碼時,我們的模型在所有數(shù)據(jù)集上均優(yōu)于強大的Transformer模型,同時不引入額外的解碼開銷。

03

解決方案

3.1、模型結(jié)構(gòu)

我們的模型結(jié)構(gòu)如圖1所示。對于每個NAR Decoder層,我們都引入了一個輔助的弱AR Decoder(每個AR Decoder僅包含1層Transformer Layer)。我們令這些AR Decoder基于對應(yīng)的NAR隱層表示進行解碼,即令NAR隱層表示作為AR Decoder Cross-Attention的Key和Value。由于AR Decoder的解碼能力較弱,因此很難自行捕捉目標(biāo)句的依賴關(guān)系。只有當(dāng)其對應(yīng)的NAR隱層表示中的信息足夠充分,AR Decoder才能夠正確地解碼。因此,AR Decoder為NAR模型帶來了新的訓(xùn)練信號,迫使NAR Decoder變得更強,在隱層表示中包含更多的上下文和依賴信息來支持AR Decoder的解碼。在這個過程中,NAR提升了自己的表示能力,從而在實際解碼時獲得了更好的表現(xiàn)。

9a185f60-5f58-11ed-8abf-dac502259ad0.png

圖1:我們的方法示意圖

3.2、訓(xùn)練目標(biāo)

我們的訓(xùn)練目標(biāo)如下式所示

9a3715d6-5f58-11ed-8abf-dac502259ad0.png

對于NAR部分,我們保持NAR模型的原始訓(xùn)練目標(biāo)不變。如對于CTC模型,我們使用CTC Loss作為NAR的損失函數(shù)。對于AR部分,我們使用交叉熵?fù)p失進行訓(xùn)練,并將所有AR Decoder的損失相加。最終的損失函數(shù)是兩部分的加權(quán)和,權(quán)重是超參數(shù)。

3.3、Glancing Training訓(xùn)練策略

Glancing Training是一種有效提升NAR模型性能的訓(xùn)練策略[4]。我們在我們的方法中應(yīng)用了Glancing Training。具體來說,在訓(xùn)練時根據(jù)模型當(dāng)前的解碼質(zhì)量,隨機采樣參考句中的token作為NAR Decoder的輸入。模型當(dāng)前解碼質(zhì)量越差則采樣越多,反之亦然。然后令A(yù)R Decoder基于NAR隱層表示進行解碼。

3.4、降低解碼開銷

我們?yōu)槊繉覰AR Decoder都配置了一個AR Decoder,這可能會帶來較大的訓(xùn)練開銷。為此,我們從模型參數(shù)量和訓(xùn)練時間的角度,提出了兩種降低訓(xùn)練開銷的方案。

Parameter Sharing:令所有的AR Decoder之間共享參數(shù),降低參數(shù)量;

Layer Dropout:每個訓(xùn)練步隨機選擇一半數(shù)量的AR Decoder進行訓(xùn)練,降低訓(xùn)練時間。

3.5、解碼過程

在解碼時,我們不使用AR Decoder,僅使用NAR模型自身進行解碼。因此,我們的方法沒有引入額外的解碼開銷。

04

實驗

我們在機器翻譯領(lǐng)域目前最廣泛使用的數(shù)據(jù)集上進行了實驗:WMT14英德(4.5M語言對)、WMT16英羅(610K語言對)、IWSLT14德英(160K語言對)。我們遵循Gu和Kong[6]的工作中的數(shù)據(jù)預(yù)處理方式,并且使用了BLEU[9]指標(biāo)作為機器翻譯質(zhì)量評價指標(biāo)。為了緩解數(shù)據(jù)集中多模態(tài)現(xiàn)象導(dǎo)致的訓(xùn)練困難,我們對所有數(shù)據(jù)集使用了知識蒸餾技術(shù)進行處理[3]。

4.1、實驗結(jié)果

我們的方法可以對不同類型的NAR模型帶來提升。

我們使用了Vanilla-NAR[3]和CTC[7]作為我們的基線模型,并在基線模型上應(yīng)用我們的方法,實驗結(jié)果如表1所示。可以看到,我們的方法一致且顯著地提高了每個基線模型在每個語言對上的翻譯質(zhì)量。這說明了我們方法的通用性。

表1:對不同的基線模型應(yīng)用我們的方法

9a494d1e-5f58-11ed-8abf-dac502259ad0.png

與其他的NAR模型相比,我們的方法獲得了更好的結(jié)果。

我們選用CTC模型應(yīng)用我們的方法作為我們的模型,并與其他強大的NAR模型進行比較,實驗結(jié)果如表2所示。可以看到,我們的方法顯著提高了翻譯質(zhì)量,并優(yōu)于其他強大的基線模型。此外,當(dāng)應(yīng)用Glancing Training技術(shù)后,我們的方法可以帶來更大程度的提升。

與采取迭代解碼的模型(CMLM)相比,我們的方法僅使用單步解碼,具備更快的解碼速度,并在除了WMT14英德之外的所有語言對上獲得了更好的性能。

Hao等人[8]的工作與我們的工作相關(guān),都使用了多任務(wù)學(xué)習(xí)框架。我們在CTC模型上復(fù)現(xiàn)了他們的方法(CTC+MTL)。實驗結(jié)果表明我們的方法可以為模型帶來更明顯的提升。

表2:與其他強大的NAR模型比較。9a5b6e7c-5f58-11ed-8abf-dac502259ad0.png代表使用k輪迭代解碼

9a70d4a6-5f58-11ed-8abf-dac502259ad0.png

4.2、實驗分析

較弱的AR Decoder是否有必要?

在我們的方法中,AR Decoder的解碼能力需要足夠弱,由此強迫NAR Decoder變得更強。我們對這一點進行了驗證。我們使用不同層數(shù)的AR Decoder進行實驗(1、3、6層),實驗結(jié)果如圖2所示。每種深度的AR Decoder都可以為NAR模型帶來增益,但是隨著AR Decoder層數(shù)的增加,AR Decoder解碼能力增強,為NAR模型帶來的增益也在逐漸降低。這也驗證了我們的動機:一個較弱的AR Decoder能夠使NAR Decoder包含更多有用的信息。

9a946d9e-5f58-11ed-8abf-dac502259ad0.png

圖2:不同層數(shù)的AR Decoder為模型帶來了不同程度的增益

關(guān)于訓(xùn)練開銷的消融實驗。

我們在IWSLT14德英數(shù)據(jù)集上評估了我們提出的降低訓(xùn)練開銷策略的效果。如表3所示,在使用了Param Sharing和Layer Dropout兩種策略后,參數(shù)量(83.8M vs 55.3M)和訓(xùn)練時間(31.2h vs 19.4h)均得到了顯著的降低,同時保持模型性能幾乎沒有變化

表3:兩種降低訓(xùn)練開銷策略的效果評估

9aaa27d8-5f58-11ed-8abf-dac502259ad0.png

我們的方法使模型能夠更好地解碼長句。

為了進一步分析NAR模型在生成不同長度目標(biāo)端句時的表現(xiàn)差異,我們在WMT14英德數(shù)據(jù)集的測試集上進行了實驗,將目標(biāo)端句按照長度分成不同的區(qū)間。如表4所示,隨著句子長度的增加,我們的模型和Transformer之間的差距在逐漸降低。當(dāng)目標(biāo)端句長度大于60時,我們的模型能夠超過Transformer的解碼性能。在解碼更長的句子時,模型需要處理更復(fù)雜的上下文關(guān)聯(lián)。我們推測我們提出的多任務(wù)學(xué)習(xí)方法顯著改善了NAR隱藏狀態(tài)下包含的上下文和依賴信息,因此在長句子翻譯中具有更好的性能。

表4:生成不同長度目標(biāo)端句時的性能差異

9ac170e6-5f58-11ed-8abf-dac502259ad0.png

我們的方法使模型減少了重復(fù)生成。

由于數(shù)據(jù)集中的多模態(tài)現(xiàn)象,NAR模型會出現(xiàn)重復(fù)生成的翻譯錯誤。表5展示了在應(yīng)用我們的方法前后,NAR模型出現(xiàn)重復(fù)生成現(xiàn)象的比率。可以看到,我們的方法顯著降低了重復(fù)單詞的出現(xiàn)頻率,使NAR模型的生成質(zhì)量更好。值得注意的是,盡管CTC模型本身已經(jīng)能夠產(chǎn)生很少的重復(fù)生成,我們的方法依然可以進一步降低重復(fù)生成的比率。

表5:重復(fù)生成的比率

9adb01aa-5f58-11ed-8abf-dac502259ad0.png

不使用知識蒸餾技術(shù)時的性能表現(xiàn)。

盡管知識蒸餾是一種常用的約減多模態(tài)現(xiàn)象的手段,但它限制了NAR模型在AR教師模型下的性能,同時構(gòu)建教師模型也需要額外的開銷。為了驗證我們的方法在原始數(shù)據(jù)場景中的有效性,我們在WMT14和IWSLT14數(shù)據(jù)集上進行了實驗。如表6所示,我們的方法可以為基線模型(CTC)帶來非常顯著的提升,進一步縮小了與Transformer模型的差距。

表6:不使用知識蒸餾的實驗結(jié)果

9afd0700-5f58-11ed-8abf-dac502259ad0.png

我們的方法相對于其他多任務(wù)學(xué)習(xí)方法的優(yōu)勢。

Hao等人[8]的工作也使用了多任務(wù)學(xué)習(xí)框架,但我們的方法能夠為NAR模型帶來更顯著的提升。我們認(rèn)為我們的方法在多任務(wù)學(xué)習(xí)模塊(即AR Decoder)的位置和容量上更有優(yōu)勢。

對于AR Decoder的位置,我們認(rèn)為Decoder決定生成過程,因此將AR Decoder部署于NAR Decoder上能夠更直接和顯式地改善NAR的生成過程,而Hao等人的工作是部署于NAR Encoder上的。

對于AR Decoder的容量,我們認(rèn)為AR Decoder應(yīng)盡可能弱,這樣AR Decoder無法自行對目標(biāo)端句進行建模,從而迫使NAR Decoder隱層表示包含更多的上下文和依賴信息。而Hao等人的工作使用的標(biāo)準(zhǔn)AR Decoder,對NAR隱層表示的要求更低,因此為NAR帶來的提升更少。

05

總結(jié)

在本文中,我們?yōu)镹AR模型提出了一個多任務(wù)學(xué)習(xí)框架,引入了一系列弱AR解碼器輔助訓(xùn)練NAR模型。隨著弱AR解碼器的訓(xùn)練,NAR隱藏狀態(tài)將包含更多的上下文和依賴信息,從而提高NAR模型的性能。在多個數(shù)據(jù)集上的實驗表明,我們的方法可以顯著且一致地提高翻譯質(zhì)量。當(dāng)使用束搜索解碼時,我們基于CTC的NAR模型在所有基準(zhǔn)測試上都優(yōu)于強大的Transformer,同時不引入額外的解碼開銷。

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 解碼器
    +關(guān)注

    關(guān)注

    9

    文章

    1143

    瀏覽量

    40720
  • Ar
    Ar
    +關(guān)注

    關(guān)注

    24

    文章

    5096

    瀏覽量

    169474
  • 模型
    +關(guān)注

    關(guān)注

    1

    文章

    3229

    瀏覽量

    48811

原文標(biāo)題:EMNLP'22 | 幫助弱者讓你變得更強:利用多任務(wù)學(xué)習(xí)提升非自回歸翻譯質(zhì)量

文章出處:【微信號:zenRRan,微信公眾號:深度學(xué)習(xí)自然語言處理】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    【「大模型啟示錄」閱讀體驗】對本書的初印象

    很高興能夠申請到《大模型啟示錄》一書,作為一名在讀大學(xué)生,我深感榮幸。在日常生活中,人工智能(AI)的應(yīng)用已經(jīng)變得無處不在,它不僅幫助我們完成一些簡單的文本歸納任務(wù),還能在代碼調(diào)試中指出錯誤,甚至
    發(fā)表于 12-16 14:05

    如何利用AI進行提升自我呢?

    利用AI進行學(xué)習(xí)是一個高效且富有創(chuàng)新性的過程。以下是一些建議,幫助你充分利用AI進行學(xué)習(xí): 選擇適合的AI
    的頭像 發(fā)表于 07-19 10:46 ?538次閱讀

    超ChatGPT-4o,國產(chǎn)大模型竟然更懂翻譯,8款大模型深度測評|AI 橫評

    隨著AI工具的不斷增多,各家模型的能力也日益提升,現(xiàn)在無論哪款大模型幾乎都能夠處理各種翻譯難題。在AI浪潮當(dāng)下,越來越多的論文和前沿信息需要快速翻譯和解讀,依賴傳統(tǒng)的翻譯工具依舊面臨“
    的頭像 發(fā)表于 07-14 08:04 ?128次閱讀
    超ChatGPT-4o,國產(chǎn)大模型竟然更懂<b class='flag-5'>翻譯</b>,8款大模型深度測評|AI 橫評

    不同類型神經(jīng)網(wǎng)絡(luò)在回歸任務(wù)中的應(yīng)用

    神經(jīng)網(wǎng)絡(luò)是一種強大的機器學(xué)習(xí)模型,可以用于各種任務(wù),包括回歸。在本文中,我們將討論不同類型的神經(jīng)網(wǎng)絡(luò),以及它們在回歸任務(wù)中的應(yīng)用。 基本的神
    的頭像 發(fā)表于 07-11 10:27 ?1255次閱讀

    機器學(xué)習(xí)算法原理詳解

    機器學(xué)習(xí)作為人工智能的一個重要分支,其目標(biāo)是通過計算機自動從數(shù)據(jù)中學(xué)習(xí)并改進其性能,而無需進行明確的編程。本文將深入解讀幾種常見的機器學(xué)習(xí)算法原理,包括線性
    的頭像 發(fā)表于 07-02 11:25 ?995次閱讀

    研究人員利用人工智能提升超透鏡相機的圖像質(zhì)量

    研究人員利用深度學(xué)習(xí)技術(shù)提高了直接集成在 CMOS 成像芯片上的超透鏡相機(左)的圖像質(zhì)量。超透鏡利用 1000 納米高的圓柱形氮化硅納米柱陣列(右圖)操縱光線。 研究人員
    的頭像 發(fā)表于 06-11 06:34 ?374次閱讀
    研究人員<b class='flag-5'>利用</b>人工智能<b class='flag-5'>提升</b>超透鏡相機的圖像<b class='flag-5'>質(zhì)量</b>

    亞馬遜推出“Project PI”提升商品質(zhì)量

    近日,亞馬遜為提升顧客滿意度,推出了創(chuàng)新性的“Project PI”(偵探項目)。該項目利用先進的生成式AI和計算機視覺技術(shù),為商品質(zhì)量把控提供了強有力的支持。
    的頭像 發(fā)表于 06-06 09:20 ?352次閱讀

    開源項目!設(shè)計一款智能手語翻譯眼鏡

    手語翻譯的依賴。 這款眼鏡的設(shè)計既實用又低調(diào),方便日常佩戴,能夠無縫融入用戶的日常生活中,使用者能夠輕松地與不懂手語的人士溝通。它的亮點在于利用人工智能技術(shù)檢測手勢并進行實時翻譯,不
    發(fā)表于 05-20 15:59

    【大語言模型:原理與工程實踐】核心技術(shù)綜述

    的具體需求,這通常需要較少量的標(biāo)注數(shù)據(jù)。 多任務(wù)學(xué)習(xí)和遷移學(xué)習(xí): LLMs利用在預(yù)訓(xùn)練中積累的知識,可以通過遷移學(xué)習(xí)在相關(guān)
    發(fā)表于 05-05 10:56

    【大語言模型:原理與工程實踐】揭開大語言模型的面紗

    Transformer架構(gòu),利用注意力機制對文本進行編碼,通過預(yù)訓(xùn)練、有監(jiān)督微調(diào)和強化學(xué)習(xí)等階段,不斷提升性能,展現(xiàn)出強大的語言理解和生成能力。 大語言模型的涌現(xiàn)能力,是指隨著模型
    發(fā)表于 05-04 23:55

    深入探討線性回歸與柏松回歸

    或許我們所有人都會學(xué)習(xí)的第一個機器學(xué)習(xí)算法就是線性回歸算法,它無疑是最基本且被廣泛使用的技術(shù)之一——尤其是在預(yù)測分析方面。
    的頭像 發(fā)表于 03-18 14:06 ?654次閱讀
    深入探討線性<b class='flag-5'>回歸</b>與柏松<b class='flag-5'>回歸</b>

    提升通訊質(zhì)量:了解手機信號放大器的原理、選擇與安裝?

    提升通訊質(zhì)量:了解手機信號放大器的原理、選擇與安裝?|深圳特信電子有限公司隨著通信技術(shù)的不斷發(fā)展,手機信號放大器作為一種重要的設(shè)備,可以幫助用戶提升手機信號接收
    發(fā)表于 03-13 09:03

    利用NVIDIA產(chǎn)品技術(shù)組合提升用戶體驗

    本案例通過利用NVIDIA TensorRT-LLM加速指令識別深度學(xué)習(xí)模型,并借助NVIDIA Triton推理服務(wù)器在NVIDIA V100 GPU上進行高效部署,幫助必優(yōu)科技的文檔智能體
    的頭像 發(fā)表于 01-17 09:30 ?687次閱讀

    請教:有SPC560B的多任務(wù)實時系統(tǒng)的例程嗎(freertos)

    請教:有SPC560B的多任務(wù)實時系統(tǒng)的例程嗎(freertos)
    發(fā)表于 01-15 17:04

    如何從零開始構(gòu)建深度學(xué)習(xí)項目?(如何啟動一個深度學(xué)習(xí)項目)

    性能重大提升的背后往往是模型設(shè)計的改變。不過有些時候?qū)δP瓦M行微調(diào)也可以提升機器學(xué)習(xí)的性能。最終的判斷可能會取決于對相應(yīng)任務(wù)的基準(zhǔn)測試結(jié)果
    發(fā)表于 01-11 10:49 ?305次閱讀
    如何從零開始構(gòu)建深度<b class='flag-5'>學(xué)習(xí)</b>項目?(如何啟動一個深度<b class='flag-5'>學(xué)習(xí)</b>項目)
    主站蜘蛛池模板: 秋霞午夜一级理论片久久| 二次元美女扒开内裤喷水| 欧美亚洲日韩一道免费观看| xx69欧美| 视频一区亚洲中文字幕| 国产色青青视频在线观看| 亚洲欧洲精品A片久久99| 久久亚洲精选| bdsm中国精品调教ch| 色欲国产麻豆一精品一AV一免费| 国产精品久久久久久搜索| 亚洲免费视频在线观看| 快穿做妓女好爽H| xxxx69动漫| 午夜福利不卡片在线播放免费| 娇女的呻吟亲女禁忌h16| 2023极品少妇XXXO露脸| 人妻兽虐曲| 国产免费福利在线视频| 曰本老头同性xxxxx| 欧美色图14p| 国产三级在线观看视频| 曰产无码久久久久久精品| 免费中文字幕视频| 贵妇局长的蕾丝乳罩| 亚洲欧美中文字幕5发布| 暖暖免费观看日本在线视频| 国产成人久视频免费| 亚洲在线中文无码首页| 欧美xxxxx18| 国产精品亚洲在钱视频| 岳打开双腿开始配合日韩视频| 人妻仑乱少妇88MAV| 湖南张丽大战黑人hd视频| 97SE亚洲国产综合在线| 四虎影视国产精品亚洲精品hd | 欧美三级黄色大片| 国产乱子影视频上线免费观看| 张津瑜的9分58秒7段免费| 日韩亚洲欧美中文在线| 久久99精品AV99果冻传媒|