色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

基于重構的方法存在的“恒等映射”問題

CVer ? 來源:CVer ? 作者:CVer ? 2022-10-24 09:52 ? 次閱讀

Introduction

異常檢測已經(jīng)取得了非常突出的進展。考慮到異常的多樣性,通常的異常檢測方案是首先擬合出正常樣本的分布,之后檢測該分布之外的離群點作為異常。因此,異常檢測需要學習出一個非常緊湊的正常樣本的邊界 (下圖a)。出于這種目的,當前所有的異常檢測方法都只能用一個模型解決一個類別 (下圖c)。但是,這種“一個模型只處理一個類別”的separate setting是十分耗費儲存空間的,并且無法處理正常樣本具有一定多樣性的場景 (比如,一種物體有多種正常的型號)。

1d754198-52ed-11ed-a3b6-dac502259ad0.jpg

傳統(tǒng)的separate setting V.S. our unified setting

我們致力于解決一個更困難的unified setting,那就是用一個模型解決所有類別的異常檢測 (上圖d)。這就需要所有類別共享相同的分類邊界 (上圖b),因此,如何擬合出多類正常樣本的分布是十分重要的。

基于重構的方法是一種常用的異常檢測方法。這種方法在正常樣本上訓練一個重構模型,并假設重構只能在正常樣本上成功,對于異常樣本將會具有較大的重構誤差。因此,重構誤差可以作為異常評分。但是,基于重構的方法會遇到“恒等映射”的問題。所謂“恒等映射”指的是,雖然重構模型是在正常樣本上訓練的,其遇到異常樣本同樣會重構成功。這使得正常樣本和異常樣本的重構誤差都很小,難以被區(qū)分開來。更重要的是,相比于傳統(tǒng)的separate setting,在unified setting下,正常樣本的分布更加復雜,這加劇了“恒等映射”的問題 (詳見paper的實驗及分析)。

1d7c637e-52ed-11ed-a3b6-dac502259ad0.jpg

MLP, CNN, transformer都會遇到“恒等映射”的問題

我們首先follow了特征重構 [2] 的框架,并測試了3種通用的網(wǎng)絡架構MLP、CNN、transformer (上圖)。我們發(fā)現(xiàn),3種網(wǎng)絡結構都會遇到“恒等映射”的問題。這使得在訓練過程中,重構的loss (上圖藍線) 可以降到非常小,但其檢測性能 (上圖綠線) 和定位性能 (上圖紅線) 甚至會隨著loss的下降而下降。這證明了“恒等映射”的問題,即,可以非常好地完成重構,但卻無法區(qū)分正常和異常。

因此,我們希望,從重構網(wǎng)絡的結構設計上徹底解決“恒等映射”問題。具體的,我們提出了三個創(chuàng)新點,構成了我們的UniAD網(wǎng)絡。

1d825b6c-52ed-11ed-a3b6-dac502259ad0.jpg

UniAD網(wǎng)絡結構

創(chuàng)新點一:Layer-wise Query Embedding

我們觀察到,transformer中“恒等映射”的問題比MLP和CNN要輕微一些。第一,在transformer中,loss并不會完全降低到0。第二,在transformer中,檢測性能和定位性能的下降幅度遠小于MLP和CNN。因此,我們認為transformer中必然存在一種結構可以抑制“恒等映射”。經(jīng)過數(shù)學分析和消融實驗,我們認為,具有query embedding的attention可以抑制“恒等映射” (分析與實驗詳見paper)。

但是,現(xiàn)有的transformer網(wǎng)絡,一些不具有query embedding (如類似于ViT的),一些只在decoder的第一層有query embedding (如類似于DETR的)。我們希望通過增加query embedding,來增加其抑制“恒等映射”的能力。因此,我們以transformer為基礎,提出了Layer-wise Query Embedding,即,在decoder的每一層都加入query embedding。

創(chuàng)新點二:Neighbor Masked Attention

我們認為,在傳統(tǒng)的Attention中,一個token是可以利用自己的信息的,這可能會防止信息泄漏,即,直接將輸入進行輸出,形成“恒等映射”。因此,我們提出了Neighbor Masked Attention,即,一個token是不能利用自己和自己的鄰居的信息的。這樣,網(wǎng)絡就必須通過更遠處的token來理解這個點的信息應該是什么,進而在這個過程中理解了正常樣本,擬合了正常樣本的分布。

1d871300-52ed-11ed-a3b6-dac502259ad0.jpg

Neighbor Masked Attention

創(chuàng)新點三:Feature Jittering

受到De-noising Auto-Encoder的啟發(fā),我們設計了一個Feature Jittering策略。即,在輸入的feature tokens中加入噪聲,而重構的目標依然是未加噪聲的feature tokens。因此,F(xiàn)eature Jittering可以將重構任務轉化為去噪任務。網(wǎng)絡通過去除噪聲來理解正常樣本,并擬合正常樣本的分布。同時,恒等映射在這種情況下不能使得loss等于0,也就不是最優(yōu)解了。

性能對比

我們在MVTec-AD上“一個模型處理所有類別”的unified setting下,在檢測指標上遠超baseline達到了8.4%,在定位指標上遠超baseline達到了7.3%。

1d8cabbc-52ed-11ed-a3b6-dac502259ad0.jpg

MVTec-AD的異常檢測指標

1d9964e2-52ed-11ed-a3b6-dac502259ad0.jpg

MVTec-AD的異常定位指標

我們的異常檢測的可視化結果如下圖所示,從左到右依次為,正常 (作為reference)、異常、異常的重構結果、ground-truth、我們的檢測結果。結果證明,我們的方法可以將異常重構為對應的正常,所以重構的差異可以準確地定位出異常區(qū)域。

1da206c4-52ed-11ed-a3b6-dac502259ad0.jpg

可視化結果

我們還將unified setting拓展到了CIFAR-10數(shù)據(jù)集中,我們的方法同樣穩(wěn)定地超越了Baseline。

1dc9996e-52ed-11ed-a3b6-dac502259ad0.jpg

CIFAR-10的異常檢測指標

消融實驗

消融實驗證明了我們所設計模塊的有效性。

1dd64646-52ed-11ed-a3b6-dac502259ad0.jpg

消融實驗

結論

首先,我們提出了異常檢測的unified setting,即,可以僅僅使用一個模型,解決所有類別的異常檢測問題。之后,我們分析了基于重構的方法存在的“恒等映射”問題,并針對性地提出了三點改進,形成了我們的UniAD網(wǎng)絡。我們的方法在MVTec-AD上,顯著地超越了baseline達到8.4% (異常檢測) 和7.3% (異常定位)。

審核編輯:彭靜
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 異常檢測
    +關注

    關注

    1

    文章

    42

    瀏覽量

    9766
  • 模型
    +關注

    關注

    1

    文章

    3415

    瀏覽量

    49477
  • 網(wǎng)絡架構

    關注

    1

    文章

    95

    瀏覽量

    12711

原文標題:NeurIPS 2022 | 上交&清華等提出UniAD:一個模型解決所有類別的異常檢測!

文章出處:【微信號:CVer,微信公眾號:CVer】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    FPGA的重構方式

      根據(jù)重構方法不同,F(xiàn)PGA的重構可分為靜態(tài)重構和動態(tài)重構兩種,前者是指在系統(tǒng)空閑期間進行在線編程,即斷開先前的電路功能后,重新下載存貯
    發(fā)表于 05-27 10:22

    有什么FPGA可重構方法可以對EPCS在線編程?

    的簡單操作來完成FPGA的工作方式重構,這種可重構方式結構簡單,配置靈活,用戶操作更加方便。本文首先介紹了FPGA常用的配置方式,然后詳細闡述了有什么FPGA可重構方法可以對EPCS在
    發(fā)表于 07-31 07:15

    IDE的自動重構方法

    IDE的自動重構
    發(fā)表于 12-15 07:02

    求一種高檔FPGA可重構配置方法

    求大神分享一種高檔FPGA可重構配置方法
    發(fā)表于 04-29 06:16

    空間映射方法研究及其在LTCC設計中的應用

    介紹了空間映射方法的一些基本概念、發(fā)展和數(shù)學表達。為了能在含大量復雜結構的LTCC電路建模和優(yōu)化中實現(xiàn)空間映射方法應用,開發(fā)了空間映射系統(tǒng)實
    發(fā)表于 12-13 02:03 ?55次下載

    大本體的分塊與映射方法研究

    在本體的映射研究中,現(xiàn)實本體或大本體之間的映射算法是研究的難點。該文提出一種針對大層次本體的映射方法。根據(jù)本體的結構和概念之間的語義距離,應用向量空間模式(VSM)將
    發(fā)表于 03-21 15:52 ?19次下載

    STEP模式映射的一種實用方法

    STEP模式映射的一種實用方法 在STEP標準的應用中, 常需要通過不同STEP應用協(xié)議之間或其中某一應用協(xié)議的不同視圖之間的映射來實現(xiàn)異構系統(tǒng)間的數(shù)據(jù)交換。本文提
    發(fā)表于 02-22 14:37 ?10次下載

    基于對EPCS在線編程的FPGA可重構方法

    基于對EPCS在線編程的FPGA可重構方法 0 引言    可重構體系結構已經(jīng)成為FPGA系統(tǒng)開發(fā)的研究熱點,并已有許多令人矚目的研究成果及產品應用。FPGA可
    發(fā)表于 12-08 17:22 ?1547次閱讀

    基于SFS方法的超空泡三維重構研究

    通過采用陰影恢復圖像的方法(即SFS方法)對超空泡的實驗圖像進行三維重構,并與理想光照條件下的半球重構圖像進行對比分析,為以后有關超空泡的三維重構
    發(fā)表于 02-17 11:23 ?13次下載
    基于SFS<b class='flag-5'>方法</b>的超空泡三維<b class='flag-5'>重構</b>研究

    基于規(guī)范變量分析的數(shù)據(jù)重構方法及應用_盧娟

    基于規(guī)范變量分析的數(shù)據(jù)重構方法及應用_盧娟
    發(fā)表于 03-16 14:54 ?0次下載

    波形重構方法比較

    在使用電子測量儀器的時候,波形查看是最常用到的功能,那么波形的采集和重構一般是怎樣實現(xiàn)呢?在采集方法上比較典型的兩種儀器就是示波器和功率分析儀,今天小編就簡單介紹一下瞬態(tài)、穩(wěn)態(tài)測量儀器常見的波形采集方法
    發(fā)表于 07-28 15:23 ?1882次閱讀
    波形<b class='flag-5'>重構</b>的<b class='flag-5'>方法</b>比較

    基于單元相鄰關系的重構區(qū)域構造方法

    針對基于非結構網(wǎng)格方法的飛行器多體分離數(shù)值模擬中的局部網(wǎng)格重構問題,提出了一種基于單元相鄰關系的重構區(qū)域構造方法。首先,根據(jù)單元半徑比檢查網(wǎng)格質量并標記
    發(fā)表于 12-18 10:57 ?0次下載
    基于單元相鄰關系的<b class='flag-5'>重構</b>區(qū)域構造<b class='flag-5'>方法</b>

    一種多重映射的自動短文摘方法

    傳統(tǒng)自動文摘一般對字數(shù)沒有明確限制,運用傳統(tǒng)技術進行短文摘提取時,受字數(shù)限制,難以獲取均衡的性能。針對該問題,提出一種多重映射的自動短文摘方法。通過計算關聯(lián)度映射值、長度映射值、標題
    發(fā)表于 12-23 11:46 ?0次下載
    一種多重<b class='flag-5'>映射</b>的自動短文摘<b class='flag-5'>方法</b>

    空間映射的分形圖像編碼方法

    映射壓縮因子,再計算和量化空間映射灰度變換的其他系數(shù),提高range塊和domam塊成功匹配的可能性。實驗證明,該方法在不降低重構圖像質量的前提下,減少了編碼塊數(shù),提高了圖像的壓縮比,
    發(fā)表于 02-08 17:13 ?1次下載

    采用ARM和CPLD結構的檢測系統(tǒng)可重構設計方法

    檢測系統(tǒng)的可重構設計是檢測技術的發(fā)展方向。可重構設計是指利用可重用的軟硬件資源,根據(jù)不同的應用需求,靈活地改變自身體系結構的設計方法。對于檢測系統(tǒng)而言,可重構可以分為軟件可
    發(fā)表于 10-20 10:40 ?2291次閱讀
    采用ARM和CPLD結構的檢測系統(tǒng)可<b class='flag-5'>重構</b>設計<b class='flag-5'>方法</b>
    主站蜘蛛池模板: 九九热这里只有国产精品 | 天天躁日日躁狠狠躁中文字幕老牛 | 国产婷婷一区二区在线观看 | 暖暖日本手机免费完整版在线观看 | 扒开屁股眼往里面夹东西 | 99久久亚洲精品日本无码 | 高hbl双性浪荡古代 高h 大尺度纯肉 np快穿 | 永久午夜福利视频一区在线观看 | 免费国产在线观看 | 亚洲成片在线看 | 嫩草影院在线观看精品 | 亚洲一区高清 | 国产日韩成人内射视频 | 草莓国产视频免费观看 | 国产一级特黄aa毛片 | 好湿好紧水多AAAAA片秀人网 | 超碰97免费人妻 | 国产亚洲精品福利视频 | 在线观看成年人免费视频 | 成激人情在线影院920 | 攻把受做哭边走边肉楼梯PLAY | 菠萝视频高清版在线观看 | 亚洲色欲色欲WWW在线成人网 | 在线观看精品视频看看播放 | 亚洲乱码爆乳精品成人毛片 | 久久毛片视频 | 晚夜免费禁用十大亏亏 | 亚洲高清一区二区三区电影 | 全彩acg无翼乌火影忍者 | 吃春药后的女教师 | 欧美性情一线免费http | 午夜伦理yy44008影院 | 久久九九有精品国产23百花影院 | 精品国产午夜肉伦伦影院 | 国产色情短视频在线网站 | 在线观看永久免费网址 | gogo亚洲肉体艺术照片9090 | 日韩免费一区 | 色老板美国在线观看 | 亚洲国产在线2020最新 | 伦理电影v男人天堂 |