導讀

在半監(jiān)督醫(yī)學圖像分割中，標記和未標記數(shù)據(jù)分布之間存在經(jīng)驗不匹配問題。本文提出了一種簡單的方法來緩解這個問題—在一個簡單的 Mean Teacher 架構中雙向復制粘貼標記和未標記的數(shù)據(jù)。

Bidirectional Copy-Paste for Semi-Supervised Medical Image Segmentation

論文鏈接：https://arxiv.org/pdf/2305.00673.pdf

源碼鏈接：https://github.com/DeepMed-Lab-ECNU/BCP

簡介

從CT或MRI等醫(yī)療圖像中分割內部結構對于許多臨床應用至關重要。已經(jīng)提出了各種基于監(jiān)督學習的醫(yī)療圖像分割技術，這通常需要大量標注數(shù)據(jù)。然而由于在標注醫(yī)療圖像時手動輪廓繪制過程繁瑣且昂貴，近年來，半監(jiān)督分割越來越受到關注，并在醫(yī)療圖像分析領域變得無處不在。

一般地，在半監(jiān)督醫(yī)療分割領域，標簽數(shù)據(jù)和無標簽數(shù)據(jù)從相同分布抽取。但在現(xiàn)實世界中，很難從標記數(shù)據(jù)中估計準確的分布，因為它們數(shù)據(jù)很少。因此，在大量未標注數(shù)據(jù)和極少量標注數(shù)據(jù)宗師存在經(jīng)驗分布不匹配。半監(jiān)督分割方法總是嘗試以一致的方式對稱地訓練標注和未標注數(shù)據(jù)。例如子訓練生成為標簽，以偽監(jiān)督方式監(jiān)督未標注數(shù)據(jù)。基于Mean Teacher的算法采用一致性損失來監(jiān)督具有強增強的未標注數(shù)據(jù)，類似于監(jiān)督具有GT的標注數(shù)據(jù)。ContrastMask在標注數(shù)據(jù)和未標注數(shù)據(jù)上應用密集對比學習。但是大部分已有的半監(jiān)督算法在不同學習范式下使用標注和未標注數(shù)據(jù)。

CutMix是一種簡單但強大的數(shù)據(jù)處理方法，也被稱為復制黏貼（CP），它有可能鼓勵未標注的數(shù)據(jù)從標注數(shù)據(jù)中學習常見的語義，因為同一圖中的像素共享的語義更接近。在半監(jiān)督學習中，未標注數(shù)據(jù)的弱-強增強對之間的強制一致性被廣泛使用，并且CP通常被用作強增強。但現(xiàn)有的CP方法未考慮CP較差未標注數(shù)據(jù)，或者簡單地將標注數(shù)據(jù)中物體復制為前景并黏貼到另一個數(shù)據(jù)。它們忽略了為標記數(shù)據(jù)和未標記數(shù)據(jù)設計一致的學習策略，這阻礙了其在減少分布差距方面使用。同時，CP試圖通過增加未標注數(shù)據(jù)的多樣性來增強網(wǎng)絡泛化能力，但由于CutMix圖像僅由低精度偽標簽監(jiān)督，因此很難實現(xiàn)高性能。

為了緩解標注數(shù)據(jù)和未標注數(shù)據(jù)之間經(jīng)驗不匹配問題，一個成功的設計是鼓勵未標注數(shù)據(jù)從標注數(shù)據(jù)中學習全面的公共語義，同時通過對標注數(shù)據(jù)和未標注數(shù)據(jù)的一致學習策略來促進分布對齊。本文通過提出一種簡單但非常有效的雙向復制黏貼（BCP）方法實現(xiàn)這一點。該方法在Mean Teacher框架中實例化。具體地，為了訓練學生網(wǎng)絡，本文通過將隨機裁剪從標記圖像（前景）復制黏貼到未標注圖像（背景）來增加輸入。繁殖將隨機裁剪從五標注圖像（前景）復制黏貼到標注圖像（背景）來增加輸入。學生網(wǎng)絡由生成的監(jiān)督信息通過來自教師網(wǎng)絡的未標注圖像偽標簽和標注圖像的標簽圖之間的雙向復制黏貼進行監(jiān)督。這兩個混合圖像有助于網(wǎng)絡雙向對稱地學習標注數(shù)據(jù)和未標注數(shù)據(jù)間通用語義。

本文方法

定義三維醫(yī)療圖像為。醫(yī)療圖像半監(jiān)督語義分割目標是預測每體素標簽映射指示中背景和目標的位置。訓練集包含個標注數(shù)據(jù)和個未標注數(shù)據(jù)（），即，，。

在本文的Mean Teacher架構中，隨機選擇兩個未標注圖像，兩個標注圖像。之后從復制黏貼一個隨機塊到生成混合圖像，從到生成另一個混合圖像。無標注圖像能夠從標注圖像中從向內（inward）和向外（outward）方向學習全面的通用語義。圖像和之后傳入學生網(wǎng)絡預測分割掩碼和。通過雙向復制黏貼來自教師網(wǎng)絡的未標注圖像預測和標注圖像標簽圖來監(jiān)督分割掩碼。

Mean Teacher和訓練策略

在本文BCP框架中，有一個教師網(wǎng)絡和學生網(wǎng)絡。學生網(wǎng)絡由SGD優(yōu)化，教師網(wǎng)絡是學生網(wǎng)絡的指數(shù)移動平均。本文的訓練策略包括三個步驟：首先使用標注數(shù)據(jù)預訓練一個模型，然后使用預訓練模型作為教師模型為未標注圖像產生偽標簽。在每一個周期，首先使用SGD優(yōu)化學生網(wǎng)絡參數(shù)。最后使用學生參數(shù)的指數(shù)移動平均更新教師網(wǎng)絡參數(shù)。

通過復制-黏貼預訓練

本文對標注數(shù)據(jù)進行了復制黏貼增廣來訓練監(jiān)督模型，監(jiān)督模型在自訓練過程中會為未標注數(shù)據(jù)生成偽標簽。該策略已被證明能有效提高分割性能。

雙向復制-黏貼

在一堆圖像間執(zhí)行復制黏貼，首先需要生成零-中心掩碼，指示體素來自前景（0）或背景（1）圖像。零值區(qū)域大小為。雙向復制黏貼過程可以描述為：

雙向復制黏貼監(jiān)督信號

為了訓練學生網(wǎng)絡，監(jiān)督信號也是由BCP操作產生。無標注的圖像和傳入教師網(wǎng)絡，計算概率圖：

初始的偽標簽由一個通常的二值化分割任務的閾值0.5決定，或者多標簽分割任務使用argmax操作。最后的偽標簽由選擇最大的連接組件，這操作可以有效地移除離群體素。之后提出雙向復制-黏貼無標注圖像偽標簽和有標注GT標簽獲得監(jiān)督信號。

損失函數(shù)

學生網(wǎng)絡的每個輸入圖像由來自標注圖像和未標注圖像分量組成。直觀地，標記圖像的GT掩碼通常比未標注圖像的偽標記更準確。使用控制無標注圖像像素對損失函數(shù)的影響：

教師網(wǎng)絡參數(shù)更新：

實驗

LA數(shù)據(jù)集

心房分割挑戰(zhàn)[39]數(shù)據(jù)集包括100個帶標簽的三維釓增強磁共振圖像掃描（GE MRI）。

這里選擇UA-MT，SASSNet，DTC，URPC，MC-Net，SS-Net作為比較模型。這里給出了不同標簽率下的實驗結果。表1給出了相關實驗結果。可以看出本文方法在4個評價指標上都獲得最高的性能，大幅度超過比較模型。

Pancreases-NIT數(shù)據(jù)集

82個人工繪制的腹部CT增強體積。這里選擇V-Net，DAN，ADVNET，UA-MT，SASSNet，DTC和CoraNet作為比較算法。表2給出了相關實驗結果。本文方法BCP在Dice、Jaccard和95HD指標上實現(xiàn)了顯著的改進（即分別以3.24%、4.28%和1.16的優(yōu)勢超過第二好）。這些結果沒有進行任何后期處理以進行公平比較。

ACDC數(shù)據(jù)集

四類（即背景、右心室、左心室和心?。┓指顢?shù)據(jù)集，包含100名患者的掃描。表3給出了相關實驗結果。BCP超越了SOTA方法。對于標記比率為5%的設置，我們在Dice指標上獲得了高達21.76%的巨大性能改進

審核編輯 ：李倩