異常檢測是識別某種事物偏離正常和預(yù)期情形的過程。如果能夠及早檢測出異常狀況,則可以采取相關(guān)糾正措施,避免引發(fā)嚴(yán)重后果。兒時的我們玩過誰能在一幅精心編排的圖片中識別出怪異情況的游戲,這是玩耍時的異常檢測。工程師、科學(xué)家和技術(shù)人員歷來依靠異常檢測來防止工業(yè)事故,制止金融欺詐,及早干預(yù)以解決健康風(fēng)險等。
傳統(tǒng)上,異常檢測系統(tǒng)依賴于統(tǒng)計技術(shù)、預(yù)定義規(guī)則和/或人類專業(yè)知識。但這些方法在可擴展性、適應(yīng)性和準(zhǔn)確性方面存在局限性。
在現(xiàn)實生活中,人工智能異常檢測的高價值用例在過去幾年大幅增長,預(yù)計將延續(xù)增長勢頭。人工智能(AI)的發(fā)展正在徹底改變異常檢測領(lǐng)域。它提高了檢測準(zhǔn)確性,加快了檢測速度,降低了誤報率,并實現(xiàn)了可擴展性和成本效益。本文將介紹如何實施此類解決方案,此外還將提到一些使用案例以供說明。
如今,我們遇到的許多異常現(xiàn)象可能不僅僅是偶然現(xiàn)象,而是惡意的人為現(xiàn)象。例如,社交媒體充斥著虛假和深度偽造的圖像和視頻。先進(jìn)的圖形和視頻制作及處理技術(shù)使得這種狀況的出現(xiàn)成為可能。
舉一個簡單的例子,我們來玩一個游戲,在從社交媒體上找到的一張現(xiàn)代圖片上發(fā)現(xiàn)怪異情況。仔細(xì)研究下面的圖片,記下異常情況。
▲在印度阿迪亞爾漫長而炎熱的夏天,
婦女前往幾英里遠(yuǎn)的地方取水
傳統(tǒng)的人工智能異常檢測技術(shù)是否對這張圖片有效?也許有效。人們對標(biāo)題中提到的地方的了解程度,加上相關(guān)的常識、物理學(xué)原理知識、可行性角度等,可以幫助識別圖片中的異常情況。據(jù)此,人們可能會宣布這張圖片是真實的或偽造的。但這不足以讓其他人相信您的結(jié)論。您需要能夠解釋如何得出這一結(jié)論。這涉及到可解釋性,這是至關(guān)重要的。
什么是“可解釋的人工智能”(XAI)?
XAI是人工智能的子集,側(cè)重于機器學(xué)習(xí)模型的透明性和可解釋性。使用XAI,人工智能模型的輸出或決策可由人類解釋和理解,以便更容易相信和利用結(jié)果。使用 XAI進(jìn)行異常檢測可以幫助識別和理解異常狀況的原因,從而更好地制定對策并改善系統(tǒng)性能。XAI在異常檢測方面的主要優(yōu)勢在于它能夠處理復(fù)雜的數(shù)據(jù)集,提高準(zhǔn)確性,并降低誤報率和漏報率。
XAI有哪些不同的使用案例?
人工智能異常檢測系統(tǒng)可能會做出對個人和整個社會產(chǎn)生重大影響的決策。許多使用案例都是關(guān)于“邊緣人工智能”應(yīng)用的,這些應(yīng)用涉及到安保、安全、生產(chǎn)線壽命和客戶友好服務(wù)。此外,在未來的司法系統(tǒng)和醫(yī)療預(yù)后服務(wù)用例中,沒有推理的底線決策將會乏善可陳。XAI為異常檢測系統(tǒng)提供了一種闡述決策過程以及通過學(xué)習(xí)和持續(xù)改進(jìn)造福行業(yè)和社會的方法。
使用案例:門禁系統(tǒng)(人臉識別)
門禁系統(tǒng)廣泛通過人臉識別進(jìn)行身份驗證,它依賴于計算機視覺和人工智能技術(shù)。雖然AI系統(tǒng)在臉部檢測方面可能表現(xiàn)得非常出色,但許多意外因素可能會導(dǎo)致無法識別臉部。
根據(jù)這種應(yīng)用的目的,可以經(jīng)過調(diào)整以防止誤報,并在發(fā)生惡意侵入嘗試時發(fā)出警報。但是對于知道自己的臉部應(yīng)該被識別的用戶來說,至少可以說這很煩人。人臉識別系統(tǒng)可能在識別嘴部附近或眼睛周圍時遇到困難。
XAI可以進(jìn)行相應(yīng)的互動,以便用戶摘下面罩或眼鏡之后重試。人工智能系統(tǒng)以學(xué)習(xí)為導(dǎo)向,依靠反饋不斷改進(jìn)其算法。系統(tǒng)可以自我改進(jìn),即使臉部被部分遮擋,下次仍可能識別此用戶。另一方面,XAI使系統(tǒng)始終能夠區(qū)分識別失敗和試圖侵入這兩種狀況,并相應(yīng)地發(fā)出警報。
使用案例:自主駕駛TSR(交通標(biāo)志識別)
自主駕駛系統(tǒng)可使用計算機視覺和人工智能技術(shù)識別限速標(biāo)志并采取相應(yīng)的措施。如果有惡意者或自然老化因素改變了某個交通標(biāo)志,比方說從60英里/小時變?yōu)?00英里/小時或80英里/小時,該怎么辦?這種使用案例可能比面部識別案例更具挑戰(zhàn)性。
被篡改的600英里/小時標(biāo)志可以很輕松地被忽略掉,因為當(dāng)前道路車輛的時速根本不能接近600英里/小時。但是,許多車輛可以輕松達(dá)到80英里/小時,并且這是許多地方許多道路上的合法限速標(biāo)志。但若該標(biāo)志為偽造的標(biāo)志,則高速行駛可能不僅是非法的,而且在特殊路況下還是相當(dāng)危險的。
XAI可以確定交通標(biāo)志的有效性,提供結(jié)論概率水平并解釋如何得出該結(jié)論。然后,車輛自主系統(tǒng)可以根據(jù)該結(jié)論采取安全措施。
使用案例:監(jiān)測工廠機器的運行狀況
對于企業(yè)而言,工廠機器的意外和突然停機可能會造成非常昂貴的經(jīng)濟成本。為了避免發(fā)生這種情況,機器中的傳感器會持續(xù)監(jiān)測機器發(fā)出的聲音,并運行人工智能網(wǎng)絡(luò)模型來分析和檢測異常狀況。如果檢測到無序的聲音或不規(guī)則的頻率(這可能會導(dǎo)致機械問題),則會提醒技術(shù)人員在機器突發(fā)故障前采取預(yù)防措施。
未來使用案例:促進(jìn)法律聽證和量刑
有人談?wù)撨^使用人工智能分析法律案件和做出判決。通過分析法律文書和歷史數(shù)據(jù),人工智能可以識別可能與案件相關(guān)的異常數(shù)據(jù)情況。對人類法官而言,最重要的方面是在審理案件后撰寫的意見書所依據(jù)的理由。
通過使用XAI,識別系統(tǒng)可以解釋所發(fā)現(xiàn)的異常情況,從而更好地幫助法官做出決策并提高識別系統(tǒng)的整體性能。例如,使用XAI可以幫助查明案件中沒有依據(jù)特定法律先例的原因。
實施XAI的技術(shù)要求是什么?
對于大多數(shù)基于XAI的異常檢測用例而言,出色的計算機視覺、聲音分析、傳感器融合功能和多個人工智能網(wǎng)絡(luò)模型必不可少。
例如,在人臉識別用例中,主要的人工智能網(wǎng)絡(luò)模型負(fù)責(zé)檢測和驗證經(jīng)過訓(xùn)練可識別的特定個人,與此模型并行的是一個相對精簡的網(wǎng)絡(luò),它只在檢測并驗證為“陽性”的最小感興趣區(qū)域(ROI)運行。輔助網(wǎng)絡(luò)的作用是運行異常性和真實性檢查,防止被深度偽造等方式侵入系統(tǒng)。此過程開銷必須進(jìn)行優(yōu)化,以最大限度降低功耗,因此將對篩選的幀和感興趣區(qū)域運行混合精度網(wǎng)絡(luò),并且僅在主網(wǎng)絡(luò)的選擇性輸入/輸出層面運行混合精度網(wǎng)絡(luò)。后一個流程與傳統(tǒng)使用案例略有不同,因此在不同的人工智能處理器模塊之間需要靈活的內(nèi)存架構(gòu)和自適應(yīng)數(shù)據(jù)流。如果檢測到身份驗證為“陰性”或發(fā)現(xiàn)真實性問題,則更大的XAI模型會出面確定導(dǎo)致失敗的問題,并將該信息傳遞到應(yīng)用層以待進(jìn)一步處理。
如何實施XAI?
大多數(shù)人工智能異常檢測用例通常都是關(guān)于“邊緣人工智能”應(yīng)用的。這需要快速檢測異常狀況,確定異常原因并相應(yīng)地報知,以便實時采取適當(dāng)?shù)募m正措施。能夠并行運行多個人工智能網(wǎng)絡(luò),并在處理器本身也執(zhí)行計算機視覺分析的人工智能處理器是關(guān)鍵所在。根據(jù)使用案例和應(yīng)用情形的不同,可能需要運行部分人工智能網(wǎng)絡(luò),然后對主題圖像或感測元素進(jìn)行統(tǒng)計分析。隨后可能會對圖像進(jìn)行處理,然后運行第一個網(wǎng)絡(luò)的其余部分或運行另一個人工智能網(wǎng)絡(luò)來解釋異常原因。
因此,XAI的實施需要功能強大的處理器,該處理器應(yīng)具備以下功能:
高度靈活的人工智能處理器,可實施各種XAI/ML處理流程
內(nèi)存架構(gòu)
多引擎結(jié)構(gòu)
高性能計算功能
支持多種數(shù)據(jù)類型,包括低精度算術(shù)運算
高度并行的處理能力
高級量化功能
支持最新的神經(jīng)網(wǎng)絡(luò)架構(gòu)
高利用率,以優(yōu)化功耗
內(nèi)置計算機視覺/DSP處理功能
支持?jǐn)?shù)據(jù)和權(quán)重的混合精度推理
用于實施XAI的CEVA處理器
CEVA是人工智能應(yīng)用開發(fā)處理器和平臺的領(lǐng)先提供商,其NeuPro-M人工智能處理器專為運行XAI網(wǎng)絡(luò)而設(shè)計。NeuPro-M處理器內(nèi)核可配置多達(dá)8個引擎,每個引擎都有自己的視覺DSP處理器。因此,應(yīng)用層無需觸及外部DSP、GPU或CPU即可進(jìn)行圖像處理。
根據(jù)應(yīng)用層需求,可以選配適當(dāng)數(shù)量的引擎,以允許運行許多不同的人工智能網(wǎng)絡(luò)。這些引擎支持各種神經(jīng)網(wǎng)絡(luò)架構(gòu),并支持量化功能。比如,應(yīng)用層可以在16位中實施某些網(wǎng)絡(luò)層,有些在8位中。某些情況下,甚至可以實施2位網(wǎng)絡(luò)。這種靈活性不僅可以節(jié)省能源和面積,還能提供快速的性能,所有這些都是邊緣人工智能用例的關(guān)鍵因素。在數(shù)據(jù)和權(quán)重的精度不同的情況下,NeuPro-M還支持混合精度。
本文作者:Gil Abraham, Business Development Director and Product Marketing, CEVA
關(guān)于CEVA
CEVA是排名前列的無線連接和智能傳感技術(shù)以及集成IP解決方案授權(quán)商,旨在打造更智能、更安全、互聯(lián)的世界。我們?yōu)閭鞲衅魅诤稀D像增強、計算機視覺、語音輸入和人工智能應(yīng)用提供數(shù)字信號處理器、人工智能處理器、無線平臺、加密內(nèi)核和配套軟件。這些技術(shù)與我們的Intrinsix IP集成服務(wù)一起提供給客戶,幫助他們解決復(fù)雜和時間關(guān)鍵的集成電路設(shè)計項目。許多世界排名前列的半導(dǎo)體廠商、系統(tǒng)公司和OEM利用我們的技術(shù)和芯片設(shè)計技能,為移動、消費、汽車、機器人、工業(yè)、航天國防和物聯(lián)網(wǎng)等各種終端市場開發(fā)高能效、智能、安全的互聯(lián)設(shè)備。
我們基于DSP的解決方案包括移動、物聯(lián)網(wǎng)和基礎(chǔ)設(shè)施中的5G基帶處理平臺;攝像頭設(shè)備的高級影像技術(shù)和計算機視覺;適用于多個物聯(lián)網(wǎng)市場的音頻/語音/話音應(yīng)用和超低功耗的始終開啟/感應(yīng)應(yīng)用。對于傳感器融合,我們的Hillcrest Labs傳感器處理技術(shù)為耳機、可穿戴設(shè)備、AR/VR、PC機、機器人、遙控器、物聯(lián)網(wǎng)等市場提供廣泛的傳感器融合軟件和慣性測量單元 (“IMU”) 解決方案。在無線物聯(lián)網(wǎng)方面,我們的藍(lán)牙(低功耗和雙模)、Wi-Fi 4/5/6/6E (802.11n/ac/ax)、超寬帶(UWB)、NB-IoT和GNSS 平臺是業(yè)內(nèi)授權(quán)較為廣泛的連接平臺。
-
dsp
+關(guān)注
關(guān)注
556文章
8153瀏覽量
356267 -
藍(lán)牙
+關(guān)注
關(guān)注
116文章
6055瀏覽量
173571 -
CEVA
+關(guān)注
關(guān)注
1文章
189瀏覽量
76501 -
檢測系統(tǒng)
+關(guān)注
關(guān)注
3文章
974瀏覽量
43800 -
人工智能
+關(guān)注
關(guān)注
1805文章
48899瀏覽量
247910 -
機器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8499瀏覽量
134322 -
邊緣計算
+關(guān)注
關(guān)注
22文章
3308瀏覽量
50738
原文標(biāo)題:面向異常檢測的“可解釋人工智能”(XAI)
文章出處:【微信號:CEVA-IP,微信公眾號:CEVA】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
人工智能是什么?
解讀人工智能的未來
人工智能醫(yī)生未來或上線,人工智能醫(yī)療市場規(guī)模持續(xù)增長
人工智能:超越炒作
什么是基于云計算的人工智能服務(wù)?
人工智能的應(yīng)用領(lǐng)域有哪些?
人工智能芯片是人工智能發(fā)展的
《移動終端人工智能技術(shù)與應(yīng)用開發(fā)》人工智能的發(fā)展與AI技術(shù)的進(jìn)步
在將可解釋的人工智能變成現(xiàn)實之前 需要了解以下四件事
什么是可解釋的人工智能,它的定義如何
如何實現(xiàn)可解釋的人工智能?
人工智能可解釋性規(guī)制面臨的問題分析
文獻(xiàn)綜述:確保人工智能可解釋性和可信度的來源記錄

可信人工智能研究方向與算法探索

可解釋人工智能(XAI)在軍事領(lǐng)域的作用

評論