下一代 COTA 中的深度學(xué)習(xí)

COTA 的成功使我們更堅(jiān)定地持續(xù)優(yōu)化機(jī)器學(xué)習(xí)算法，以提高系統(tǒng)準(zhǔn)確性，并為客服和終端用戶提供更好的體驗(yàn)。

深度學(xué)習(xí)框架可以在文本分類、匯總，機(jī)器翻譯和許多輔助 NLP 任務(wù)（句法和語義分析，文本蘊(yùn)含，命名實(shí)體識別和鏈接）中使用。

與深度學(xué)習(xí)相關(guān)的實(shí)驗(yàn)

在 Uber AI 實(shí)驗(yàn)室的研究人員的支持下，我們嘗試將深度學(xué)習(xí)應(yīng)用于下一代 COTA。我們基于卷積神經(jīng)網(wǎng)絡(luò)（CNN），遞歸神經(jīng)網(wǎng)絡(luò)（RNN）以及這兩者的幾種不同組合，實(shí)現(xiàn)了多種體系結(jié)構(gòu)，包括分層結(jié)構(gòu)和基于注意力的體系結(jié)構(gòu)。

使用深度學(xué)習(xí)框架，我們能夠以多任務(wù)學(xué)習(xí)的方式來訓(xùn)練我們的模型，使用單一模型既能夠識別問題類型，又能提出最佳工單解決方案。由于問題類型被組織成層次結(jié)構(gòu)，我們可以訓(xùn)練模型來預(yù)測問題在層次結(jié)構(gòu)中的位置，在這其中使用波束搜索的循環(huán)解碼器（類似于序列模型的解碼組件），可以進(jìn)行更精確的預(yù)測。

超參數(shù)優(yōu)化選擇最佳模型

為了確定最佳的深度學(xué)習(xí)架構(gòu)，我們針對所有類型的架構(gòu)進(jìn)行了大規(guī)模超參數(shù)優(yōu)化，并在 GPU 集群上進(jìn)行了并行訓(xùn)練。最后的結(jié)果表明，最精確的體系結(jié)構(gòu)既適用于 CNN 也適用于 RNN，但為了我們的研究目的，我們決定尋求一種更簡單的 CNN 體系結(jié)構(gòu)，該體系結(jié)構(gòu)精準(zhǔn)度稍有欠缺，但在訓(xùn)練和推斷時(shí)間上更具優(yōu)勢。我們最后設(shè)計(jì)的模型精度比原始隨機(jī)森林模型高 10％。

在下圖中，我們展示了工單集的數(shù)據(jù)覆蓋率（模型正在處理的工單百分比，x 軸）和準(zhǔn)確度（y 軸）之間的關(guān)系。如下所示，隨著數(shù)據(jù)覆蓋率的降低，兩種模型都變得更加精確，但是我們的深度學(xué)習(xí)模型在相同的數(shù)據(jù)覆蓋率上表現(xiàn)出更高的準(zhǔn)確性，在相同準(zhǔn)確度下表現(xiàn)出更高的數(shù)據(jù)覆蓋率。

圖 6：深度學(xué)習(xí)模型和經(jīng)典模型（隨機(jī)森林）性能比較

我們目前正與 Uber Michelangelo 團(tuán)隊(duì)緊密合作，處于將這個(gè)深度學(xué)習(xí)模型產(chǎn)品化的最后階段。