色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

湯新加坡團(tuán)隊 針對長尾數(shù)據(jù)分布提出了視覺識別方案

ss ? 來源:學(xué)術(shù)頭條 ? 作者:學(xué)術(shù)頭條 ? 2020-11-25 17:05 ? 次閱讀

導(dǎo)讀:在NeurIPS 2020上,商湯新加坡團(tuán)隊提出的Balanced-Meta Softmax (BALMS), 針對真實世界中常見的長尾數(shù)據(jù)分布提出了新的視覺識別方案。在優(yōu)化目標(biāo)方面,BALMS 提出一種新的損失函數(shù),Balanced Softmax,來修正長尾設(shè)定下因訓(xùn)練與測試標(biāo)簽分布不同而導(dǎo)致的偏差。在優(yōu)化過程方面,BALMS提出 Meta Sampler來自動學(xué)習(xí)最優(yōu)采樣率以配合Balanced Softmax,避免過平衡問題。BALMS在長尾圖像分類與長尾實例分割的共四個數(shù)據(jù)集上取得SOTA表現(xiàn)。這項研究也被收錄為ECCV LVIS workshop的spotlight。

論文名稱: Balanced Meta-Softmax for Long-Tailed Visual Recognition

問題和挑戰(zhàn)

真實世界中的數(shù)據(jù)分布大多符合長尾分布:常見類比占據(jù)了數(shù)據(jù)集中的主要樣本,而大量的罕見類別只在數(shù)據(jù)集中少量出現(xiàn)。例如一個動物圖片數(shù)據(jù)集中,寵物貓的圖片數(shù)量可能遠(yuǎn)遠(yuǎn)超過熊貓的圖片數(shù)量。

由于長尾現(xiàn)象對算法落地造成了很大的挑戰(zhàn),視覺社區(qū)對這一問題的關(guān)注日漸增加,近年陸續(xù)推出了一些長尾數(shù)據(jù)集,例如大規(guī)模實例分割數(shù)據(jù)集LVIS。我們發(fā)現(xiàn)長尾問題的難點主要存在于以下兩個方面:

1)優(yōu)化目標(biāo)。根據(jù)長尾問題的設(shè)定,訓(xùn)練集是類別不均衡的。然而主流的指標(biāo),如mean AP (mAP),衡量全部類別上的平均精度,因此鼓勵算法在類別平衡的測試集上取得較好的表現(xiàn)。這導(dǎo)致了訓(xùn)練與測試時標(biāo)簽分布不同的問題,我們稱之為標(biāo)簽分布遷移。

2)優(yōu)化過程。罕見類別在模型訓(xùn)練過程中很少出現(xiàn),因此無法在優(yōu)化過程中提供足夠的梯度。這使得即使我們有了一個較好的優(yōu)化目標(biāo),也很難使模型收斂到對應(yīng)的全局最優(yōu)。

方法介紹

1. Balanced Softmax

Softmax函數(shù)常常被用來將模型輸出轉(zhuǎn)化為物體屬于每個類別的條件概率。

應(yīng)用貝葉斯定理可以發(fā)現(xiàn)常規(guī)的Softmax回歸會受到標(biāo)簽分布遷移的影響,并作出帶偏差的估計。這個偏差導(dǎo)致Softmax回歸出的分類器更傾向于認(rèn)為樣本屬于常見類別。

舉一個簡單的例子,考慮這樣一個任務(wù):通過性別來分類貓和狗。這個任務(wù)看起來是無法完成的,因為我們知道性別在貓和狗上是均勻分布的。無論貓還是狗,都有50%的可能性是雌性和50%的可能性是雄性,因此只靠性別我們無法區(qū)別貓和狗。

有趣的是,當(dāng)我們的訓(xùn)練數(shù)據(jù)是類別不平衡的時,比如有90%的貓和10%的狗,我們的估計就會出現(xiàn)偏差:這時無論是雄性還是雌性,我們都會傾向于認(rèn)為它是一只貓。在這樣的訓(xùn)練數(shù)據(jù)上學(xué)習(xí)到的分類器就會天然帶有對常見類別的偏愛。

為了避免這個偏差,我們從多項分布的Exponential Family形式出發(fā)重新對Softmax進(jìn)行了推導(dǎo)并顯式考慮了標(biāo)簽分布遷移,得到了適合長尾問題的Balanced Softmax。同時,我們發(fā)現(xiàn)Balanced Softmax可以近似地最小化長尾設(shè)定下的泛化錯誤上界。

為了分析Balanced Softmax的效果,我們將模型在測試集上預(yù)測的分?jǐn)?shù)在每個類別上累加,用來計算模型預(yù)測的標(biāo)簽分布。理想情況下,模型在測試集上預(yù)測出的標(biāo)簽分布應(yīng)該是平衡的。在下圖中我們對不同模型的預(yù)測類別進(jìn)行了可視化,類別按照出現(xiàn)頻率降序排列,第0類為出現(xiàn)次數(shù)最多的類。我們發(fā)現(xiàn)藍(lán)色線代表的常規(guī)Softmax明顯地偏向于常見類別,橙色線代表的Equalization Loss [1] 通過去除某閾值以下罕見類別的負(fù)樣本梯度緩解了這一問題,而紅色線代表的Balanced Softmax則進(jìn)一步達(dá)到了最平衡的預(yù)測類別分布。

2. 元采樣器Meta Sampler

雖然我們得到了一個適合長尾問題的理想的優(yōu)化目標(biāo),優(yōu)化過程本身依然充滿挑戰(zhàn):罕見類別只能在訓(xùn)練中出現(xiàn)極少次數(shù),因此無法很好地貢獻(xiàn)到訓(xùn)練梯度。解決這一問題的最常見的方法是類別均衡采樣 (CBS)[2],也就是對每個類別采樣同樣數(shù)量的樣本來組成訓(xùn)練批次。然而,實驗表明直接將Balanced Softmax與CBS一起使用會導(dǎo)致模型表現(xiàn)下降,于是我們對兩者一起使用時的梯度進(jìn)行了分析。在假設(shè)接近收斂時,我們有:

理想情況下每個類別的梯度的權(quán)重應(yīng)和類別內(nèi)樣本數(shù)量成反比,但上式中的權(quán)重為和類別內(nèi)樣本數(shù)量成平方反比。我們將這個現(xiàn)象稱為過平衡問題。

下圖展示了一個對過平衡問題的可視化。這是一個類別不平衡的二維數(shù)據(jù)三分類問題,三個類別分別為紅、黃、藍(lán),樣本數(shù)量分別為10000、100和1。可以發(fā)現(xiàn)Balanced Softmax和CBS一起使用時,優(yōu)化過程會被藍(lán)色的罕見類別主導(dǎo)。

為了解決過平衡問題,我們提出了Meta Sampler(元采樣器),一種可學(xué)習(xí)版本的CBS。Meta Sampler使用元學(xué)習(xí)的方法,顯式地學(xué)習(xí)當(dāng)前最佳的采樣率,從而更好地配合Balanced Softmax的使用。

下圖展示了我們對不同模型預(yù)測的標(biāo)簽分布進(jìn)行的可視化。其中,紫色線代表的Balanced Softmax與CBS的組合由于過平衡問題,明顯地偏向于尾部類別。而紅色線代表的Balanced Softmax與Meta Sampler的組合則很好地解決了這一問題,最終取得了最為均衡的標(biāo)簽分布。

實驗結(jié)果

我們在圖像分類(CIFAR-10/100-LT,ImageNet-LT,Places-LT)與實例分割(LVIS-v0.5)兩個任務(wù)上分別進(jìn)行了實驗驗證。實驗結(jié)果顯示了Balanced Softmax和Meta Sampler對模型表現(xiàn)都有明顯的貢獻(xiàn)。兩者的組合,Balanced Meta-Softmax (BALMS),在這兩個任務(wù)上都達(dá)到或超過了SOTA結(jié)果,尤其在最具挑戰(zhàn)性的LVIS數(shù)據(jù)集上大幅超過了之前的SOTA結(jié)果。

這項研究也被收錄為ECCV LVIS workshop的Spotlight,關(guān)于LVSI-v1.0的相關(guān)實驗結(jié)果可以在LVSI workshop主頁上找到(Team Innova)。

結(jié)語

BALMS對長尾問題下的概率建模以及采樣策略進(jìn)行了探討。我們發(fā)現(xiàn)常用的Softmax回歸在存在標(biāo)簽分布遷移時會出現(xiàn)估計偏差,并提出了Balanced Softmax來避免這個偏差。另一方面,我們發(fā)現(xiàn)類別均衡采樣器在與Balanced Softmax一起使用時會導(dǎo)致過平衡問題,于是提出元采樣器來顯式學(xué)習(xí)最優(yōu)采樣策略。我們的解決方案在長尾圖像分類與長尾實例分割任務(wù)上均得到了驗證。歡迎關(guān)注我們的開源代碼庫,希望BALMS可以成為未來長尾學(xué)習(xí)的良好基線。

責(zé)任編輯:xj

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 數(shù)據(jù)
    +關(guān)注

    關(guān)注

    8

    文章

    7006

    瀏覽量

    88949
  • 視覺識別
    +關(guān)注

    關(guān)注

    3

    文章

    89

    瀏覽量

    16726
收藏 人收藏

    評論

    相關(guān)推薦

    開源項目 ! 利用邊緣計算打造便攜式視覺識別系統(tǒng)

    利用邊緣計算打造便攜式人工智能解決方案,面向開發(fā)者的視覺識別項目! 自制視覺識別系統(tǒng) 我們將深入探究一套堪稱絕妙的軟硬件組合,以助力開發(fā)者
    發(fā)表于 12-16 16:31

    金蝶新加坡數(shù)據(jù)中心盛大開業(yè)

    近日,金蝶國際在新加坡迎來了一個重要的里程碑時刻,正式宣布金蝶新加坡公司的正式成立以及數(shù)據(jù)中心的落成啟用。 此次開業(yè)典禮標(biāo)志著金蝶國際在全球化戰(zhàn)略上邁出了堅實的一步。金蝶
    的頭像 發(fā)表于 11-11 11:45 ?307次閱讀

    一種完全分布式的點線協(xié)同視覺慣性導(dǎo)航系統(tǒng)

    在本文中,我們提出了一種完全分布式的點線協(xié)同視覺慣性導(dǎo)航系統(tǒng)。我們通過蒙特卡羅模擬和真實環(huán)境數(shù)據(jù)集,在稠密特征或稀疏特征環(huán)境下將所提出的算法
    的頭像 發(fā)表于 09-30 14:45 ?388次閱讀
    一種完全<b class='flag-5'>分布</b>式的點線協(xié)同<b class='flag-5'>視覺</b>慣性導(dǎo)航系統(tǒng)

    基于分布式存儲系統(tǒng)醫(yī)療影像數(shù)據(jù)存儲解決方案

    基于分布式存儲系統(tǒng)醫(yī)療影像數(shù)據(jù)存儲解決方案
    的頭像 發(fā)表于 09-14 09:53 ?305次閱讀
    基于<b class='flag-5'>分布</b>式存儲系統(tǒng)醫(yī)療影像<b class='flag-5'>數(shù)據(jù)</b>存儲解決<b class='flag-5'>方案</b>

    醫(yī)療PACS影像數(shù)據(jù)的極速分布式塊存儲解決方案

    醫(yī)療PACS影像數(shù)據(jù)的極速分布式塊存儲解決方案
    的頭像 發(fā)表于 08-23 10:13 ?322次閱讀
    醫(yī)療PACS影像<b class='flag-5'>數(shù)據(jù)</b>的極速<b class='flag-5'>分布</b>式塊存儲解決<b class='flag-5'>方案</b>

    瑞薩針對顯示應(yīng)用的MCU和方案介紹

    瑞薩針對人機(jī)交互的應(yīng)用(TFT顯示)推出了多款MCU產(chǎn)品和參考方案。從簡單的串口屏方案到RGB和MIPI接口的TFT顯示方案,瑞薩基于不同的
    發(fā)表于 07-02 18:23 ?774次閱讀
    瑞薩<b class='flag-5'>針對</b>顯示應(yīng)用的MCU和<b class='flag-5'>方案</b>介紹

    新加坡智慧停車迎來革新,AMD攜手恒星系統(tǒng)打造新型AI解決方案

    停車解決方案提供商新加坡恒星系統(tǒng)有限公司(Sun Singapore Systems Pte. Ltd.)已成功部署一款基于AI的新型智慧停車解決方案。這款革命性的方案由AMD的Zyn
    的頭像 發(fā)表于 06-21 15:32 ?1675次閱讀

    格芯斬獲新加坡員工體驗大獎(EX Awards)八項殊榮

    日前,在備受矚目的2024年新加坡員工體驗大獎(Singapore Employee Experience Awards,EX Awards)頒獎典禮上,格芯新加坡團(tuán)隊斬獲八項大獎,并榮膺年度整體學(xué)習(xí)獎(Overall Lear
    的頭像 發(fā)表于 05-30 16:11 ?557次閱讀
    格芯斬獲<b class='flag-5'>新加坡</b>員工體驗大獎(EX Awards)八項殊榮

    基于FPGA EtherCAT的六自由度機(jī)器人視覺伺服控制設(shè)計

    和增強(qiáng)系統(tǒng)處理圖像的實時性,本文提出了一種伊瑟特的六自由度機(jī)器人視覺伺服控制系統(tǒng),將攝像頭集成到基于 Zynq的伊瑟特主站上,提高了視覺伺服的實時性.經(jīng)測試,該平臺能夠?qū)?b class='flag-5'>視覺檢測目標(biāo)的
    發(fā)表于 05-29 16:17

    解決方案|3D視覺引導(dǎo)多SKU紙箱混拆

    在物流和包裝行業(yè),紙箱混拆是常見的作業(yè)需求。然而,由于紙箱的多樣性(如尺寸、形狀和重量),傳統(tǒng)的方法往往難以應(yīng)對。針對這一背景,富唯智能提出了基于3D視覺引導(dǎo)SKU紙箱的解決方案,助力
    的頭像 發(fā)表于 05-10 16:36 ?394次閱讀
    解決<b class='flag-5'>方案</b>|3D<b class='flag-5'>視覺</b>引導(dǎo)多SKU紙箱混拆

    解決方案|基于3D視覺技術(shù)的鋁合金板件刷油烘干自動化上下料

    針對鋁合金板件刷油烘干上下料過程中的自動化需求,我們提出了一套基于3D視覺引導(dǎo)的解決方案。該方案通過引入先進(jìn)的3D
    的頭像 發(fā)表于 04-20 17:45 ?322次閱讀
    解決<b class='flag-5'>方案</b>|基于3D<b class='flag-5'>視覺</b>技術(shù)的鋁合金板件刷油烘干自動化上下料

    蘋果公司巨資2.5億美元擴(kuò)建新加坡園區(qū)

    蘋果早在1981年就在新加坡設(shè)立首家工廠,主要負(fù)責(zé)早期個人電腦研發(fā),當(dāng)時僅有72名員工。現(xiàn)今,新加坡園區(qū)已發(fā)展成該地區(qū)的運(yùn)營中樞,同時也是軟件、硬件、服務(wù)和支持團(tuán)隊的核心所在地。
    的頭像 發(fā)表于 04-18 16:58 ?1056次閱讀

    分布式存儲與計算:大數(shù)據(jù)時代的解決方案

    分布式存儲和計算技術(shù)應(yīng)運(yùn)而生,并迅速成為處理大數(shù)據(jù)的首選方案。本文將深入探討分布式存儲和計算的概念、優(yōu)勢及其在各個領(lǐng)域的應(yīng)用情況。 1.分布
    的頭像 發(fā)表于 03-07 14:42 ?758次閱讀

    機(jī)器視覺的圖像目標(biāo)識別方法綜述

    文章來源:MEMS引言從20世紀(jì)80年代開始,機(jī)器視覺技術(shù)的發(fā)展速度不斷加快,已經(jīng)走進(jìn)了人們的日常生活與工作之中。機(jī)器視覺的圖像目標(biāo)識別系統(tǒng)的自動化程度較高,應(yīng)用范圍廣,尤其在危險場所的運(yùn)用,采用
    的頭像 發(fā)表于 02-23 08:26 ?711次閱讀
    機(jī)器<b class='flag-5'>視覺</b>的圖像目標(biāo)<b class='flag-5'>識別</b>方法綜述

    計算機(jī)視覺:AI如何識別與理解圖像

    計算機(jī)視覺是人工智能領(lǐng)域的一個重要分支,它致力于讓機(jī)器能夠像人類一樣理解和解釋圖像。隨著深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的發(fā)展,人們對于如何讓AI識別和理解圖像產(chǎn)生了濃厚的興趣。本文將探討計算機(jī)視覺中AI如何進(jìn)
    的頭像 發(fā)表于 01-12 08:27 ?1418次閱讀
    計算機(jī)<b class='flag-5'>視覺</b>:AI如何<b class='flag-5'>識別</b>與理解圖像
    主站蜘蛛池模板: 国产人妻麻豆蜜桃色精| 国产无遮挡又黄又爽在线视频 | 精品国产免费观看久久久| 口工漫画r18全彩啪啪| 日本亚洲欧洲免费旡码| 亚洲成人99| 99精品久久| 国产亚洲美女精品久久久2020 | georgielyall装修工| 国产亚洲精品久久无码98| 暖暖日本 在线 高清| 香蕉动漫库| qvod在线观看| 好看AV中文字幕在线观看| 秋霞伦理电影在2017韩国在线伦| 亚洲黄色录像片| QVOD在线播放| 久久综合电影| 小小水蜜桃3视频在线观看| 99热久这里都是精品小草| 激情欧美日韩一区二区| 日本免费无码A专区在线观看| 一级片mp4| 国产精品久久国产三级国不卡顿| 蜜芽无码亚洲资源网站| 亚洲蜜芽在线观看精品一区| 柏木舞子在线| 久久综合色视频| 息与子在线交尾中文字幕| JIZJIZJIZ 日本老师水多| 久久九九青青国产精品| 我不卡影院手机在线观看| chinese情侣自拍啪hd| 久久精品国产在热亚洲完整版| 天天躁日日躁狠狠躁午夜剧场| 97人妻无码AV碰碰视频| 久久AV喷吹AV高潮欧美| 忘忧草秋观看未满十八| AV无码国产精品午夜A片麻豆| 久久国产精品麻豆AV影视| 亚州精品视频|