色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

阿里安全提出的自動(dòng)化對(duì)抗攻擊平臺(tái)CAA,給AI系統(tǒng)做“安全體檢”

工程師鄧生 ? 來源:鞭牛士 ? 作者:鞭牛士 ? 2020-12-11 16:35 ? 次閱讀

鞭牛士BiaNews消息:安全人員曾為某著名車企自動(dòng)駕駛系統(tǒng)做過一次安全測試,用物理對(duì)抗攻擊欺騙Autopilot車道檢測系統(tǒng),導(dǎo)致汽車在Autopilot不發(fā)出警告的情況下駛?cè)脲e(cuò)誤車道。假如這是一場真實(shí)的攻擊,后果不堪設(shè)想。事實(shí)上,AI系統(tǒng)如果沒有足夠的“免疫力”,甚至?xí)灰粡垐D片欺騙,如將停車標(biāo)志識(shí)別為通行,在醫(yī)療應(yīng)用中將有問題的醫(yī)療影像識(shí)別為正常圖像等。

為幫助AI應(yīng)用從源頭構(gòu)建安全性,阿里安全圖靈實(shí)驗(yàn)室整理歸納了學(xué)界針對(duì)AI模型提出的32種攻擊方法,以此為基礎(chǔ)搭建了一個(gè)自動(dòng)化AI對(duì)抗攻擊平臺(tái)CAA,幫助檢測AI系統(tǒng)存在的安全漏洞。

經(jīng)CAA“體檢”后,AI安全專家可針對(duì)被檢測AI的薄弱地帶提出安全建議,助力AI魯棒性(穩(wěn)定性)檢測,以此增強(qiáng)AI系統(tǒng)的安全性,近日,該研究成果被人工智能頂會(huì)AAAI2021接收。

相比業(yè)界此前提出的其他攻擊工具箱,阿里圖靈實(shí)驗(yàn)室研發(fā)的自動(dòng)化對(duì)抗攻擊平臺(tái)CAA首度實(shí)現(xiàn)了對(duì)抗攻擊的“工具化”。它讓AI應(yīng)用的使用者即使不具備任何專業(yè)領(lǐng)域知識(shí)的情況下,也可以進(jìn)行AI模型的對(duì)抗攻擊和魯棒性測試。

此外,CAA還可預(yù)先評(píng)估待檢測AI的特性,通過自動(dòng)化搜索技術(shù)來合成多個(gè)攻擊算法的組合,提升了現(xiàn)有模型攻擊方法的性能和效率。阿里安全專家通過實(shí)驗(yàn)表明,CAA超越了最新提出的攻擊方法,是可有效評(píng)估當(dāng)前AI系統(tǒng)安全性的最強(qiáng)“攻擊”。

圖示:阿里安全提出的自動(dòng)化對(duì)抗攻擊平臺(tái)CAA運(yùn)行示意圖

以事前“攻擊演練”檢測AI系統(tǒng)的安全性,是當(dāng)前提升安全AI的有效方法,也是阿里提出新一代安全架構(gòu),從源頭構(gòu)建安全的核心理念。但如果不知道目標(biāo)模型的防御細(xì)節(jié),研究者通常很難根據(jù)經(jīng)驗(yàn)選擇到對(duì)當(dāng)前模型最優(yōu)的攻擊算法,從而難以驗(yàn)證“體檢”的真實(shí)效果。

阿里安全圖靈實(shí)驗(yàn)室算法專家簫瘋表示,阿里安全首次提出將智能技術(shù)引入到對(duì)抗攻擊中,使得所有攻擊細(xì)節(jié)和參數(shù)作為一個(gè)黑箱,而攻擊者只需要提供目標(biāo)模型和數(shù)據(jù),算法就會(huì)自動(dòng)選擇最優(yōu)的攻擊組合和參數(shù)。

以AI體檢AI,以AI訓(xùn)練AI。蕭瘋認(rèn)為,對(duì)識(shí)別黃、賭、毒等不良內(nèi)容的安全檢測AI而言,模型可靠性和魯棒性顯得尤為重要。目前,在鑒黃算法上,圖靈實(shí)驗(yàn)室正在借此技術(shù)方法提升曝光、模糊、低畫質(zhì)等極端分類場景下的模型識(shí)別能力,并且逐漸提升模型在極端場景下的魯棒性,為業(yè)界提供更安全可靠的AI算法能力。

責(zé)任編輯:PSY

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30746

    瀏覽量

    268896
  • 自動(dòng)化
    +關(guān)注

    關(guān)注

    29

    文章

    5563

    瀏覽量

    79240
  • 抗攻擊
    +關(guān)注

    關(guān)注

    0

    文章

    3

    瀏覽量

    6368
  • 阿里
    +關(guān)注

    關(guān)注

    6

    文章

    438

    瀏覽量

    32828
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    自動(dòng)化水廠監(jiān)控系統(tǒng)

    隨著科技的發(fā)展,自動(dòng)化技術(shù)在各行各業(yè)中的應(yīng)用日益廣泛,而自動(dòng)化水廠監(jiān)控系統(tǒng)作為智慧水務(wù)的重要組成部分,具備多種功能,以滿足水廠安全、高效、穩(wěn)定運(yùn)行的需求,正逐步改變著傳統(tǒng)水廠的運(yùn)營模式
    的頭像 發(fā)表于 12-16 16:17 ?85次閱讀

    羅克韋爾自動(dòng)化推出Logix SIS,開拓安全新格局

    作為工業(yè)自動(dòng)化、信息和數(shù)字轉(zhuǎn)型領(lǐng)域的全球領(lǐng)先企業(yè)之一,?羅克韋爾自動(dòng)化近日推出了 Logix SIS,進(jìn)一步豐富了其行業(yè)領(lǐng)先的安全技術(shù)產(chǎn)
    的頭像 發(fā)表于 11-25 09:38 ?300次閱讀

    自動(dòng)化AI開發(fā)平臺(tái)功能介紹

    自動(dòng)化AI開發(fā)平臺(tái)集成了多種算法、工具和框架,旨在幫助開發(fā)者更快速、高效地設(shè)計(jì)、訓(xùn)練、部署和管理AI模型。以下,AI部落小編將詳細(xì)介紹
    的頭像 發(fā)表于 11-14 09:29 ?207次閱讀

    AI即服務(wù)平臺(tái)安全性分析

    AIaaS平臺(tái)降低AI應(yīng)用門檻,但面臨數(shù)據(jù)泄露、惡意攻擊安全威脅。需加強(qiáng)數(shù)據(jù)加密、訪問控制、模型加固、供應(yīng)鏈安全等措施,確保合法合規(guī),提供
    的頭像 發(fā)表于 11-07 09:32 ?136次閱讀

    移動(dòng)電源18650電芯全自動(dòng)點(diǎn)焊機(jī):高效、精準(zhǔn)、安全|比斯特自動(dòng)化

    移動(dòng)電源18650電芯全自動(dòng)點(diǎn)焊機(jī):高效、精準(zhǔn)、安全|比斯特自動(dòng)化
    的頭像 發(fā)表于 10-10 11:30 ?305次閱讀

    基于CSS融合存儲(chǔ)系統(tǒng)自動(dòng)化制造服務(wù)平臺(tái)存儲(chǔ)解決方案

    基于CSS融合存儲(chǔ)系統(tǒng)自動(dòng)化制造服務(wù)平臺(tái)存儲(chǔ)解決方案
    的頭像 發(fā)表于 09-10 10:15 ?339次閱讀
    基于CSS融合存儲(chǔ)<b class='flag-5'>系統(tǒng)</b>的<b class='flag-5'>自動(dòng)化</b>制造服務(wù)<b class='flag-5'>平臺(tái)</b>存儲(chǔ)解決方案

    隧道安全監(jiān)測自動(dòng)化系統(tǒng)解決方案

    一、背景在現(xiàn)代交通網(wǎng)絡(luò)中,隧道作為連接不同區(qū)域的重要通道,其安全性與運(yùn)營效率直接關(guān)系到整個(gè)交通系統(tǒng)的穩(wěn)定與順暢。隨著科技的飛速發(fā)展,隧道安全監(jiān)測自動(dòng)化
    的頭像 發(fā)表于 09-09 14:46 ?337次閱讀
    隧道<b class='flag-5'>安全</b>監(jiān)測<b class='flag-5'>自動(dòng)化</b><b class='flag-5'>系統(tǒng)</b>解決方案

    案例分享:某鋼鐵智慧電力綜合自動(dòng)化系統(tǒng)改造

    、智能管理。系統(tǒng)能夠?qū)崟r(shí)監(jiān)測電力設(shè)備的運(yùn)行狀態(tài),及時(shí)發(fā)現(xiàn)潛在的安全隱患,并通過自動(dòng)化控制手段實(shí)現(xiàn)故障的快速隔離和恢復(fù),確保電力供應(yīng)的穩(wěn)定性和安全
    的頭像 發(fā)表于 08-23 15:01 ?390次閱讀
    案例分享:某鋼鐵智慧電力綜合<b class='flag-5'>自動(dòng)化</b><b class='flag-5'>系統(tǒng)</b>改造

    高速公路自動(dòng)化安全監(jiān)測預(yù)警系統(tǒng)解決方案

    一、背景在當(dāng)今快速發(fā)展的交通網(wǎng)絡(luò)中,高速公路作為連接城市與區(qū)域的重要紐帶,其安全與暢通直接關(guān)系到國家經(jīng)濟(jì)的發(fā)展與民眾生活的便捷。隨著科技的不斷進(jìn)步,高速公路自動(dòng)化安全監(jiān)測預(yù)警系統(tǒng)應(yīng)運(yùn)而
    的頭像 發(fā)表于 08-12 14:58 ?753次閱讀
    高速公路<b class='flag-5'>自動(dòng)化</b><b class='flag-5'>安全</b>監(jiān)測預(yù)警<b class='flag-5'>系統(tǒng)</b>解決方案

    機(jī)械自動(dòng)化自動(dòng)化的一種嗎

    引言 自動(dòng)化技術(shù)是指利用控制裝置對(duì)生產(chǎn)過程進(jìn)行控制,以實(shí)現(xiàn)生產(chǎn)過程的自動(dòng)化。機(jī)械自動(dòng)化自動(dòng)化技術(shù)的一種,它主要涉及到使用機(jī)械設(shè)備和控制系統(tǒng)
    的頭像 發(fā)表于 07-01 09:32 ?1645次閱讀

    工業(yè)自動(dòng)化和控制系統(tǒng)網(wǎng)絡(luò)安全的關(guān)系

    一、工業(yè)自動(dòng)化和控制系統(tǒng)概述 1.1 工業(yè)自動(dòng)化的概念 工業(yè)自動(dòng)化是指利用計(jì)算機(jī)、通信和控制技術(shù),實(shí)現(xiàn)工業(yè)生產(chǎn)過程中的自動(dòng)化控制和管理。它主
    的頭像 發(fā)表于 06-16 14:25 ?677次閱讀

    英國AI安全研究所推出AI模型安全評(píng)估平臺(tái)

    據(jù)報(bào)道,英國人工智能安全研究院近日發(fā)布了名為“Inspect”的AI模型安全評(píng)估平臺(tái),此平臺(tái)采用開源技術(shù)且對(duì)全球
    的頭像 發(fā)表于 05-13 15:20 ?408次閱讀

    變電所自動(dòng)化控制系統(tǒng)應(yīng)用與分析

    摘要:變電所自動(dòng)化控制系統(tǒng)是對(duì)變電所執(zhí)行自動(dòng)監(jiān)視、測量、控制和協(xié)調(diào)的綜合性系統(tǒng)。本文對(duì)變電所自動(dòng)化控制中的計(jì)算機(jī)監(jiān)控
    的頭像 發(fā)表于 03-28 10:39 ?419次閱讀
    變電所<b class='flag-5'>自動(dòng)化</b>控制<b class='flag-5'>系統(tǒng)</b>應(yīng)用與分析

    四信大壩安全監(jiān)測自動(dòng)化系統(tǒng)提升方案,筑牢安全大壩

    四信大壩安全監(jiān)測自動(dòng)化系統(tǒng),是守護(hù)水庫大壩安全的智能衛(wèi)士。通過全面部署水位、雨量、位移等傳感終端,結(jié)合視頻監(jiān)控,實(shí)現(xiàn)對(duì)大壩安全的全方位監(jiān)控。
    的頭像 發(fā)表于 03-27 14:17 ?656次閱讀
    四信大壩<b class='flag-5'>安全</b>監(jiān)測<b class='flag-5'>自動(dòng)化</b><b class='flag-5'>系統(tǒng)</b>提升方案,筑牢<b class='flag-5'>安全</b>大壩

    水利閘門自動(dòng)化控制系統(tǒng)簡介及構(gòu)成

    成都國科自動(dòng)化ZK4000系列閘門自動(dòng)化控制系統(tǒng),采用了計(jì)算機(jī)、光纖網(wǎng)絡(luò)通訊和現(xiàn)場總線、現(xiàn)地控制單元、傳感器、測控軟件等多種現(xiàn)代技術(shù),可實(shí)現(xiàn)對(duì)閘門開度、水位等參數(shù)的實(shí)時(shí)監(jiān)測和控制。通
    的頭像 發(fā)表于 02-27 14:24 ?1287次閱讀
    水利閘門<b class='flag-5'>自動(dòng)化</b>控制<b class='flag-5'>系統(tǒng)</b>簡介及構(gòu)成
    主站蜘蛛池模板: 亚洲欧美一区二区三区四区 | 男男高H啪肉Np文多攻多一受| 麻豆免费版| 日韩亚射吧| 亚洲高清在线天堂精品| 伊人国产在线视频| RUNAWAY韩国动漫免费网| 国产精品A久久久久久久久| 护士被老头边摸边吃奶的视频| 老司机试看午夜| 色欲久久99精品久久久久久AV| 亚洲理论片在线中文字幕| 97视频在线观看免费视频| 国产 在线 亚洲 欧美 动漫| 经典WC女厕所里TV| 欧美一区二区三区激情视频| 性盈盈剧场| 91精品国产色综合久久不| 国产成人精品123区免费视频| 久久99re2热在线播放7| 秋霞成人午夜鲁丝一区二区三区| 亚洲VA欧美VA天堂V国产综合| 91欧洲在线视精品在亚洲| 国产精品人妻无码久久久蜜桃| 久久日韩精品无码一区| 肉奴隷 赤坂丽在线播放| 伊人久久网站| 国产AV精品久久久毛片| 久久亚洲精品中文字幕60分钟| 乳色吐息未增删樱花ED在线观看| 伊人香蕉在线播放视频免费| 高清欧美videos sexo| 久久无码人妻中文国产| 午夜精品久久久内射近拍高清 | 一本到2v不卡区| 草莓视频在线观看完整高清免费| 极品色αv影院| 色婷婷国产精品视频一区二区三区| 伊人久久亚洲精品一区| 国产精品1区2区| 欧美麻豆一精品一AV一免费|