谷歌宣布推出免費(fèi)AI工具軟件，輔助人類(lèi)鑒黃師對(duì)兒童***待內(nèi)容（CSAM）的圖像進(jìn)行分類(lèi)和鑒別。過(guò)去的類(lèi)似工具往往只能阻止已經(jīng)標(biāo)記的不良內(nèi)容的傳播，而谷歌本次推出的AI軟件可以自己對(duì)圖像材料進(jìn)行標(biāo)記，經(jīng)人類(lèi)工作人員實(shí)地測(cè)試，鑒黃效率提升了700%。

對(duì)于大型互聯(lián)網(wǎng)企業(yè)來(lái)說(shuō)，及時(shí)阻止兒童***待內(nèi)容（CSAM）的傳播是屬于第一優(yōu)先級(jí)的任務(wù)。但對(duì)于一線工作人員來(lái)說(shuō)，這項(xiàng)工作是異常艱巨而困難的，必須要靠人類(lèi)來(lái)識(shí)別并刪除這些不良內(nèi)容。

不過(guò)今后，這些工作人員可能會(huì)稍微松一口氣，谷歌今天發(fā)布了旨在幫助識(shí)別這類(lèi)內(nèi)容的免費(fèi)AI軟件。

在這一領(lǐng)域，大多數(shù)技術(shù)解決方案都是通過(guò)根據(jù)以前識(shí)別出的不良內(nèi)容目錄，來(lái)檢測(cè)現(xiàn)有的圖像和視頻。（比如由微軟開(kāi)發(fā)的PhotoDNA圖像識(shí)別工具，現(xiàn)在Facebook和Twitter等都在使用。）這類(lèi)軟件可以有效阻止人們共享之前已標(biāo)記的兒童***待內(nèi)容，但無(wú)法捕獲未標(biāo)記的非法內(nèi)容。人類(lèi)必須介入并親自對(duì)內(nèi)容進(jìn)行審查。

谷歌AI工具自行對(duì)材料進(jìn)行標(biāo)記，鑒黃效率提升700%

這正是谷歌本次推出的AI軟件大顯身手的地方。它能利用機(jī)器視覺(jué)方面的專(zhuān)業(yè)知識(shí)，對(duì)標(biāo)記的圖像和視頻進(jìn)行排序，并“優(yōu)先推送最可能的兒童***待內(nèi)容以供審查”，從而協(xié)助人類(lèi)工作人員。這應(yīng)該會(huì)使審查速度變得更快。

谷歌表示，在一項(xiàng)試驗(yàn)中，在這款A(yù)I工具的幫助下，審查員“在相同時(shí)間內(nèi)對(duì)兒童***待內(nèi)容的操作量提高了700％以上。”

互聯(lián)網(wǎng)觀察基金會(huì)（IWF）副首席執(zhí)行官Fred Langford表示，該軟件將“有助于我們這樣的團(tuán)隊(duì)更有效地調(diào)配有限的資源。目前，我們只使用純?nèi)肆?lái)進(jìn)行內(nèi)容審核，然后判斷能不能通過(guò)。這款A(yù)I工具將有助于我們對(duì)審核內(nèi)容進(jìn)行分類(lèi)。”

互聯(lián)網(wǎng)觀察基金會(huì)（IWF）副首席執(zhí)行官Fred Langford

IWF位于英國(guó)，是致力于阻止兒童***待內(nèi)容在線傳播的最大組織之一，由谷歌等大型國(guó)際科技公司提供資金。

距離完全自動(dòng)化鑒黃可能僅需一兩年

IWF聘請(qǐng)內(nèi)容鑒別團(tuán)隊(duì)來(lái)識(shí)別這些不良內(nèi)容的圖像，并在十幾個(gè)國(guó)家提供舉報(bào)渠道，以便互聯(lián)網(wǎng)用戶報(bào)告可疑內(nèi)容。該機(jī)構(gòu)自己也會(huì)開(kāi)展調(diào)查行動(dòng)，鎖定會(huì)共享兒童***待內(nèi)容的網(wǎng)站，并與執(zhí)法機(jī)構(gòu)合作來(lái)關(guān)閉這些網(wǎng)站。

Langford表示，由于現(xiàn)在對(duì)AI存有一些“異想天開(kāi)的觀點(diǎn)”，IWF將對(duì)谷歌的AI工具進(jìn)行全面測(cè)試，以了解其表現(xiàn)如何，如何將其融入人類(lèi)審查人員的工作流程中。

他還表示，這類(lèi)工具是向邁向全自動(dòng)內(nèi)容審核系統(tǒng)的第一步，可以識(shí)別以前很難識(shí)別的材料，無(wú)需人為干預(yù)。“這種分類(lèi)器在我們這個(gè)領(lǐng)域的地位有點(diǎn)像“圣杯”一樣”

不過(guò)他還說(shuō)，應(yīng)該只在范圍明確的案件中信任這類(lèi)工具，以避免讓不良內(nèi)容漏網(wǎng)。“幾年前我認(rèn)為這種分類(lèi)器的誕生可能還要等五六年，但現(xiàn)在我認(rèn)為，在某些情況下，我們距離完全自動(dòng)化識(shí)別工具的誕生可能只有一到兩年的時(shí)間了。”