01

文章摘要

鋪設(shè)異常檢測(cè)可以幫助減少數(shù)據(jù)存儲(chǔ)、傳輸、標(biāo)記和處理的壓力。本論文描述了一種基于Transformer和自監(jiān)督學(xué)習(xí)的新方法，有助于定位異常區(qū)域。實(shí)驗(yàn)結(jié)果顯示，自監(jiān)督學(xué)習(xí)可以提高在小型未標(biāo)記圖像數(shù)據(jù)集上的性能。Transformer被證明在路面損壞檢測(cè)領(lǐng)域是適用的。文章構(gòu)建的類似于人臉識(shí)別的框架可以通過(guò)將新的補(bǔ)丁放入圖庫(kù)中來(lái)增強(qiáng)性能，而移除相似的補(bǔ)丁不會(huì)影響識(shí)別結(jié)果。該方法足夠高效和小型化，以支持實(shí)時(shí)工作，并且可以直接應(yīng)用于邊緣檢測(cè)。

02

主要工作與貢獻(xiàn)

1. 該論文提出了一種新穎的方法，將Transformer模型和自監(jiān)督學(xué)習(xí)相結(jié)合，用于路面異常檢測(cè)。Transformer是一種強(qiáng)大的神經(jīng)網(wǎng)絡(luò)架構(gòu)，用于處理序列數(shù)據(jù)，在該研究中被應(yīng)用于圖像數(shù)據(jù)，并取得了顯著的成果。
2. 監(jiān)督學(xué)習(xí)是一種無(wú)需人工標(biāo)注的學(xué)習(xí)方法，可以從未標(biāo)記的數(shù)據(jù)中學(xué)習(xí)有用的特征。該論文展示了自監(jiān)督學(xué)習(xí)在小型未標(biāo)記圖像數(shù)據(jù)集上的應(yīng)用，并證明它能夠顯著提高性能。
3. 研究人員構(gòu)建了一個(gè)類似于人臉識(shí)別的框架，通過(guò)將新的圖像補(bǔ)丁加入圖庫(kù)中，來(lái)增強(qiáng)路面異常檢測(cè)的性能。這種方法能夠在不進(jìn)行訓(xùn)練的情況下實(shí)現(xiàn)性能的提升。
4. 該方法被證明足夠高效和小型化，能夠支持實(shí)時(shí)工作，因此可以在實(shí)際應(yīng)用中進(jìn)行邊緣檢測(cè)和路面異常監(jiān)測(cè)。

03

所提方法

Transformer可能比CNN更好，因?yàn)門ransformer天然具有全局感受野，可以捕捉長(zhǎng)距離像素之間的關(guān)系。自注意力機(jī)制可能有助于解決缺乏數(shù)據(jù)的問(wèn)題，因?yàn)樵陬愃茥l件下，MAE（掩碼自編碼器）表現(xiàn)良好。本論文將自監(jiān)督學(xué)習(xí)和Transformer應(yīng)用于路面異常檢測(cè)。使用ViT-S的自監(jiān)督學(xué)習(xí)來(lái)重構(gòu)未標(biāo)記的路面圖像，并提出了一種編碼-檢索-匹配的路面異常檢測(cè)方法來(lái)解決分類重訓(xùn)練的問(wèn)題。文章方法的框架如圖1所示。主要由兩個(gè)部分組成：圖庫(kù)和編碼器。首先，圖像將被劃分為幾個(gè)補(bǔ)丁，并且典型的補(bǔ)丁將被添加到圖庫(kù)中。這將降低分辨率并減少背景像素。在模型訓(xùn)練完成后，將提取編碼器部分。所有的補(bǔ)丁都可以被編碼成特征向量。一旦向量被編碼，計(jì)算它們之間的距離得到一個(gè)距離向量（一列）。最后，將找到與預(yù)測(cè)類別最接近的補(bǔ)丁。

圖1 論文方法總體架構(gòu)

01.編碼器

圖2 ViT架構(gòu)

ViT是Transformer在計(jì)算機(jī)視覺(jué)領(lǐng)域的第一個(gè)成功應(yīng)用，它簡(jiǎn)單地將圖像劃分為補(bǔ)丁作為輸入序列，以便Transformer能夠處理。參考了BERT，ViT在其中添加了一個(gè)[class]標(biāo)記來(lái)融合用于分類的信息。如圖2所示，ViT首先通過(guò)平均劃分輸入來(lái)獲取圖像補(bǔ)丁，然后進(jìn)行線性投影以獲取圖像標(biāo)記。一旦生成了標(biāo)記，將添加位置嵌入以恢復(fù)丟失的位置信息。然后，它們將被輸入到Transformer編碼器中。最后，只有[class]標(biāo)記將在分類中使用。多頭注意力機(jī)制可以用公式(1)來(lái)描述。

其中，n表示嵌入的數(shù)量，Zh是第h個(gè)注意頭的輸出，dk表示K的維度。嵌入E和可學(xué)習(xí)權(quán)重W進(jìn)行點(diǎn)積運(yùn)算，以得到查詢（Query）Q，鍵（Key）K和值（Value）V。

最終輸出是可學(xué)習(xí)權(quán)重和Z（堆疊Zh）的點(diǎn)生成。不同頭部的權(quán)重是獨(dú)立的，以確保從各種表示子空間中提取特征。整個(gè)過(guò)程可以大致描述為等式（2）-（5）。

其中Z0表示輸入向量，Y是用于分類的圖像表示。Z0L是Z的位置0上的標(biāo)記（也稱為[class]標(biāo)記）。LN表示層標(biāo)準(zhǔn)化。

02.Drop path

文章采用“drop path” 作為一種規(guī)范化方法來(lái)防止過(guò)擬合。簡(jiǎn)單來(lái)說(shuō)，它會(huì)根據(jù)預(yù)先確定的概率隨機(jī)地禁用每一層之間的路徑，至少保留一條路徑。在實(shí)現(xiàn)中，對(duì)于每一層的多個(gè)輸入，會(huì)隨機(jī)丟棄一些輸入。這個(gè)效果類似于模型集成，其中不同的路徑組合意味著不同的子網(wǎng)絡(luò)，而在預(yù)測(cè)時(shí)不會(huì)丟棄路徑來(lái)將它們組合起來(lái)。

03.監(jiān)督學(xué)習(xí)

在實(shí)驗(yàn)中，文章使用圖像補(bǔ)丁作為輸入，輸出為正常或異常。因此，這是一個(gè)二元分類任務(wù)；輸出值是介于0到1之間的sigmoid輸入得分。數(shù)值越接近0，輸入越有可能是異常（類別0）。相反，越接近1，輸入越有可能是正常的（類別1）。在訓(xùn)練過(guò)程中，sigmoid得分(x)與真實(shí)值(y)之間的差距越大，二元交叉熵?fù)p失就越大。在模型用于推斷時(shí)，會(huì)設(shè)置一個(gè)閾值（通常為0.5）。當(dāng)sigmoid得分低于閾值時(shí)，輸入被視為異常，反之亦然。

04.自監(jiān)督學(xué)習(xí)

MAE是一種基于部分掩膜圖像的像素級(jí)重建任務(wù)的方法。編碼器僅對(duì)可見(jiàn)的補(bǔ)丁進(jìn)行編碼。編碼完成后，[mask]標(biāo)記將添加到相應(yīng)的位置。解碼器將接收所有標(biāo)記作為輸入進(jìn)行重建。

MAE的關(guān)鍵方面可以分為四個(gè)部分：掩膜策略、編碼器、解碼器和重建目標(biāo)。掩膜策略通常選擇隨機(jī)掩膜，掩膜比例較大。在這種情況下，被掩膜部分占據(jù)了圖像的大部分區(qū)域，很難找到掩膜周圍的未掩膜區(qū)域，迫使模型學(xué)習(xí)不依賴局部信息。文章選擇純粹的ViT作為編碼器，因?yàn)樗鼪](méi)有引入過(guò)多的修改，導(dǎo)致對(duì)特定領(lǐng)域過(guò)擬合，并且重建目標(biāo)是均方損失。

05.類似面部識(shí)別的框架

通常，模型在超出其訓(xùn)練數(shù)據(jù)分布范圍的數(shù)據(jù)上表現(xiàn)較差。不同地區(qū)之間存在明顯的道路差異，例如路面分類，將會(huì)降低模型的精度。文章從最佳ViT-S模型中提取編碼器作為幀中的編碼器。選擇第11、12、13、10、9、8和6列的圖像塊作為輸入，因?yàn)檫@些位置的異常概率較高。如果Sigmoid輸出低于某個(gè)閾值，該類別被認(rèn)為是異常（類別0）。一旦預(yù)測(cè)為異常，整個(gè)輸入圖像都被視為異常。

04

實(shí)驗(yàn)驗(yàn)證

1

監(jiān)督學(xué)習(xí)結(jié)果

表1 ViT-S在不同DA和drop path下的精度比較

監(jiān)督學(xué)習(xí)的結(jié)果顯示在表格1和圖3、圖4中。表格1顯示數(shù)據(jù)增強(qiáng)（DAs）比隨機(jī)刪除路徑（drop paths）可以帶來(lái)更多的性能提升。從圖3和圖4可以看出，兩個(gè)模型在最后幾個(gè)周期開(kāi)始過(guò)擬合。Resnet的結(jié)果較好，因?yàn)樗諗康揭粋€(gè)更好的局部最優(yōu)點(diǎn)。CNN具有局部相關(guān)性等先驗(yàn)知識(shí)，當(dāng)數(shù)據(jù)較少時(shí)會(huì)導(dǎo)致這樣的結(jié)果。而Transformer沒(méi)有這樣的知識(shí)，因此需要從更多數(shù)據(jù)中進(jìn)行學(xué)習(xí)。

圖3 resnet34的學(xué)習(xí)曲線

圖4 ViT–S的學(xué)習(xí)曲線

2

自我監(jiān)督學(xué)習(xí)結(jié)果

表2證明，在微調(diào)中應(yīng)用DA對(duì)于提高性能是必要的，因?yàn)樽?a target="_blank">高精度主要取決于微調(diào)，使模型適應(yīng)二進(jìn)制分類任務(wù)。如果微調(diào)數(shù)據(jù)的數(shù)量不足，模型仍然會(huì)過(guò)擬合。根據(jù)有監(jiān)督和自監(jiān)督學(xué)習(xí)圖，MAE可以顯著加速收斂并提高精度。

表2 在不同位置應(yīng)用DA的準(zhǔn)確性

3

可視化視角討論

文章使用GradCAM（梯度加權(quán)類激活映射）來(lái)直觀地分析文章的路面異常檢測(cè)算法。選擇了兩張分別具有兩種類型的明顯遇險(xiǎn)的測(cè)試圖像。圖5圖6顯示了結(jié)果。混合結(jié)果意味著所有頭的平均值。圖中的響應(yīng)越高，它與分類的相關(guān)性就越大。圖6與無(wú)MAE的ViT相比，有MAE的ViT在遇險(xiǎn)周圍有更集中的活動(dòng)區(qū)域。這一事實(shí)支持了像MAE這樣的自監(jiān)督學(xué)習(xí)可以幫助模型在數(shù)據(jù)集幾乎沒(méi)有標(biāo)記數(shù)據(jù)的情況下學(xué)習(xí)更好的表示。此外，我們可以看到，最后兩個(gè)區(qū)塊比其他區(qū)塊更關(guān)注遇險(xiǎn)區(qū)域。有一些像Block_9這樣的塊具有統(tǒng)一的響應(yīng)。這一發(fā)現(xiàn)在圖5中更為明顯。

圖5 測(cè)試圖像A中ViT w/MAE的單獨(dú)結(jié)果

圖6 測(cè)試圖像A中ViT w/MAE和ViT w/o MAE的混合結(jié)果

05

結(jié)論

研究旨在快速檢測(cè)道路異常，以減少路面損壞識(shí)別、數(shù)據(jù)存儲(chǔ)和標(biāo)注的工作量。通過(guò)驗(yàn)證異常檢測(cè)任務(wù)，自監(jiān)督學(xué)習(xí)對(duì)這個(gè)問(wèn)題產(chǎn)生了顯著影響，其價(jià)值比數(shù)據(jù)增強(qiáng)（準(zhǔn)確率為0.9268 vs 0.9183）更為重要。Transformer在道路領(lǐng)域適用，因?yàn)樗哂胁蹲介L(zhǎng)距離關(guān)系的強(qiáng)大能力。第二個(gè)重要發(fā)現(xiàn)是，通過(guò)定制畫廊，類似于人臉識(shí)別的框架可以快速識(shí)別不同的損壞類型。基于ViT（Visual Transformer）和MAE，本研究設(shè)計(jì)了一種新穎的方法來(lái)檢測(cè)異常的路面部分。