色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

聊天機器人為什么需要學習機器學習?

如意 ? 來源:360機房 ? 作者:Harris ? 2020-10-10 11:45 ? 次閱讀

人工智能是一個不斷發展的行業,其動力來自大型科技公司、新創業公司和大學研究團隊。雖然人工智能技術正在飛速發展,但圍繞機器學習安全的規定和故障保護卻是完全不同的情況。

無法保護機器學習模型免受數據中毒等網絡攻擊可能會造成極大的損失。聊天機器人漏洞甚至可能導致私人用戶數據被盜。以下將探討機器學習網絡安全的重要性。此外,我們將說明聊天機器人安全商Scanta公司如何通過其虛擬助手保護聊天機器人。

為什么機器學習安全性很重要?

保護機器學習模型免受網絡攻擊類似于確保車輛通過安全檢查。僅僅因為汽車可以行駛并不意味著在公共道路上行駛是安全的。無法保護機器學習模型可能導致數據泄露或更糟的情況。

一個很好的例子是McAfee公司技術人員如何入侵特斯拉的一種自動駕駛汽車。特斯拉早期的路標檢測系統模型使它容易受到網絡攻擊。技術人員只需在特斯拉汽車上加上幾英寸的黑色膠帶,就能讓它誤讀時速35英里的標志。這導致車輛將其解釋為85英里/小時的標志。其結果,每當汽車加速超過35英里/小時就會踩下剎車。

自動駕駛汽車中的漏洞可能導致致命事故。對于聊天機器人和虛擬助手來說,缺乏機器學習安全性可能會導致大量私人客戶數據泄露、網絡釣魚攻擊以及對企業的代價昂貴訴訟。而這正是達美航空發生的事情。

在2019年,達美航空公司起訴其聊天機器人開發人員,原因是該公司在2017年發生了乘客數據泄露事件。黑客獲得了對達美航空公司聊天機器人系統的訪問權限,并修改了源代碼。這使他們可以抓取用戶輸入的數據。這次事故對達美航空公司造成了巨大的損失,導致數百萬美元用于調查漏洞并保護受影響的客戶。

聊天機器人中的機器學習安全漏洞

聊天機器人特別容易受到機器學習攻擊,因為它們之間經常發生用戶交互,而這些交互通常是完全不受監督的。Scanta公司對聊天機器人面臨的最常見的網絡攻擊進行了闡述。

Scanta公司首席技術官Anil Kaushik表示,他們看到的最常見的攻擊之一是通過對抗性輸入進行的數據中毒攻擊。

什么是數據中毒?

數據中毒是黑客對機器學習模型的訓練數據進行污染的一種機器學習攻擊。他們通過注入對抗性輸入來實現這一點,這些輸入是故意改變數據樣本的,目的是誘使系統產生錯誤的輸出。

像客戶服務聊天機器人這樣經過用戶輸入數據進行持續訓練的系統尤其容易受到此類攻擊。大多數現代的聊天機器人都可以自動操作并在沒有人工干預的情況下回答客戶的詢問。通常情況下,除非查詢升級為人員,否則永遠不會監視聊天機器人與用戶之間的對話。缺乏監督使得聊天機器人成為黑客利用的主要目標。

為了幫助企業保護其聊天機器人和虛擬助手,Scanta公司不斷改進其機器學習安全系統VA Shield。

Scanta公司由Chaitanya Hiremath于2016年創立,是一家科技公司,最初是增強現實游戲和社交媒體應用程序的開發商。他們在增強現實(AR)行業的成功甚至在探索頻道上嶄露頭角。但是,Scanta最近轉向為聊天機器人和虛擬助手提供機器學習安全服務。

Scanta如何保護聊天機器人和虛擬助手

Scanta公司的VA Shield是一種機器學習安全系統,可以在模型、數據集和對話級別保護聊天機器人。Scanta公司首席技術官AnilKaushik說,“VA Shield使用機器學習防御機器學習攻擊。我們為每個用戶進行行為分析,并標記任何異常行為。行為分析是針對最終用戶以及聊天機器人的。分析所有輸入、輸出和輸入輸出組合實體,以檢測任何惡意活動。”

在對話級別,Scanta公司評估聊天機器人的輸出,以阻止惡意攻擊并捕獲業務見解。他說,“場景分析是一個簡單的概念,其中聊天機器人的響應是在場景中根據請求進行查看的,”為了進行這些分析,我們使用歷史數據。例如,查看了用戶的歷史請求特征和來自聊天機器人的響應,以及聊天機器人的響應特征。”

為什么常規的IT團隊無法處理這些攻擊?

Scanta公司首席執行官Chaitanya Hiremath表示,擁有自己IT團隊的公司會外包機器學習安全服務。這些IT團隊難道不能自己納入機器學習安全協議嗎?Hiremath說,“我們已經與許多公司進行了交談,得知這些機器學習威脅是大多數人不知道的事情,我感到非常驚訝,現實是許多人甚至不知道這是他們必須防止的事情。大多數IT團隊和安全解決方案都提供網絡安全和Web應用程序防火墻等功能。這種類型的安全性不同于Scanta提供的安全性。我們在討論和介紹的內容處于不同的水平。這遠遠超出了消除訓練數據的偏見。”

在以上提到的達美航空示例中,網絡攻擊者入侵了聊天機器人并修改了源代碼,并且能夠訪問私人客戶數據。Hiremath說,“這是因為沒有人監視正在進入聊天機器人的內容和正在發生的內容,這是當今機器學習技術構建方式的結果。但是,必須有一種機制來解釋是否有惡意。我們將此系統稱為零信任框架。必須確保所有方面都受到保護。這與保護數據庫或網絡一樣重要。”

人們的日常生活和個人數據越來越與計算機系統交織在一起。隨著現代社會數字化的日益發展,提高數據安全性成為當務之急。特別是像GDPR這樣的組織制定的數據法律,企業比以往任何時候都更重要地保護其私有數據和客戶數據。

Scanta公司和機器學習安全性的未來

Hiremath說,“我們希望成為機器學習安全性的領導者,并幫助各個行業的企業保護他們創建的機器學習系統。我們不僅僅將其視為應用程序的插件或附件。在三到五年內,我們看到這成為其自己的行業,我們希望成為該領域的市場領導者之一。機器學習安全性有大量用例。現在,我們希望專注于虛擬助手和聊天機器人。我們不僅希望成為聊天機器人安全性的領導者,而且還希望成為其他機器學習系統的領導者。我們目前正在進行研發,以找出我們可以幫助他們保護的其他領域。”

機器學習模型的更高安全性將使數據科學界和人工智能技術的日常用戶受益。在2020年上半年,由于存在固有的種族偏見和執法部門可能濫用的證據,IBM公司抵制面部識別技術。重要的是,像IBM、達美公司和特斯拉公司這樣的大型企業應退后一步,將安全性和社會影響放在開發之前。

希望有更多類似Scanta公司出現在機器學習領域,為開發機器學習技術的公司和使用它們的人們創建更安全的人工智能系統。
責編AJX

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 機器人
    +關注

    關注

    211

    文章

    28381

    瀏覽量

    206919
  • 人工智能
    +關注

    關注

    1791

    文章

    47191

    瀏覽量

    238268
  • 機器學習
    +關注

    關注

    66

    文章

    8407

    瀏覽量

    132567
收藏 人收藏

    評論

    相關推薦

    自然語言處理在聊天機器人中的應用

    上歸功于自然語言處理技術的進步。 聊天機器人的工作原理 聊天機器人的核心是一個對話系統,它能夠處理用戶的輸入(通常是文本形式),并生成相應的回復。這個系統通常包括以下幾個關鍵組件: 語言理解 :機器人
    的頭像 發表于 12-05 15:24 ?404次閱讀

    馬斯克旗下xAI計劃推出Grok聊天機器人獨立應用

    近日,據最新報道,埃隆·馬斯克旗下的xAI公司計劃最早于12月推出一款獨立的聊天機器人應用程序,這款應用將圍繞其旗下的Grok聊天機器人進行打造。此舉被視為xAI在聊天機器人市場的重要布局,旨在
    的頭像 發表于 11-29 13:38 ?167次閱讀

    NLP技術在聊天機器人中的作用

    的第一個作用是幫助聊天機器人理解用戶的意圖。聊天機器人需要能夠識別用戶的問題或請求,并將其轉化為可執行的任務。這涉及到以下幾個步驟: 詞義消歧 :NLP技術可以幫助聊天機器人理解單詞的
    的頭像 發表于 11-11 10:33 ?419次閱讀

    ChatGPT 與傳統聊天機器人的比較

    隨著人工智能技術的飛速發展,聊天機器人已經成為我們日常生活中不可或缺的一部分。從簡單的客服助手到復雜的個人助理,這些虛擬助手正在逐漸改變我們與技術的互動方式。在眾多聊天機器人中,ChatGPT無疑是
    的頭像 發表于 10-25 16:16 ?527次閱讀

    Meta人工智能聊天機器人進軍新市場,挑戰ChatGPT

    Meta近日宣布,其人工智能聊天機器人將進軍21個新市場,與OpenAI的ChatGPT展開激烈競爭。
    的頭像 發表于 10-11 16:29 ?299次閱讀

    Snapchat聊天機器人集成谷歌Gemini技術

    Snap與谷歌云的戰略合作再升級,為Snapchat平臺注入了新的智能活力。雙方宣布,Snapchat的My AI聊天機器人將深度集成谷歌Gemini技術,這一創新舉措標志著Snapchat在人工智能應用領域的又一次飛躍。
    的頭像 發表于 09-25 14:51 ?282次閱讀

    Meta將推出音頻版聊天機器人

    Meta公司即將在年度Connect大會上揭曉一項創新舉措:推出音頻版聊天機器人。據可靠消息,Meta已與Judi Dench、Kristen Bell及John Cena等多位國際知名演員達成合作
    的頭像 發表于 09-24 15:18 ?448次閱讀

    AI聊天機器人Grok向歐洲X平臺Premium會員開放

    社交平臺X的首席執行官琳達·亞卡里諾宣布,全新研發的Grok人工智能聊天機器人正式向歐洲的X Premium會員提供服務。Grok是X平臺精心打造的一款AI聊天機器人,旨在提升歐洲會員的交流體驗。
    的頭像 發表于 05-17 09:38 ?411次閱讀

    Anthropic在歐洲推出Claude聊天機器人

    AI初創公司Anthropic在歐洲市場邁出了重要步伐,成功推出了Claude聊天機器人及其相應的訂閱計劃。此舉旨在進一步增加用戶數量和提升公司收入。Anthropic公司表示,其基礎軟件產品已經在歐洲的金融、酒店等行業吸引了眾多關注。
    的頭像 發表于 05-15 09:36 ?347次閱讀

    揭秘聊天機器人的“大腦”-大語言模型

    如果說 AI 正處于改變歷史的“iPhone 時刻”,那么聊天機器人就是其首批熱門應用之一。
    的頭像 發表于 04-17 10:01 ?727次閱讀
    揭秘<b class='flag-5'>聊天機器人</b>的“大腦”-大語言模型

    英偉達引領AI新潮流,推出“Chat with RTX”聊天機器人

    隨著人工智能技術的突飛猛進,英偉達(NVIDIA)再次展現了其技術領導地位,為Windows PC用戶帶來了一款革命性的本地聊天機器人應用程序——“Chat with RTX”。這一創新應用的推出,不僅標志著人工智能在日常生活中的進一步滲透,也預示著聊天機器人將邁向一個更
    的頭像 發表于 02-19 11:11 ?986次閱讀

    英偉達推出全新AI聊天機器人

    近日,英偉達(Nvidia)宣布推出其全新的AI聊天機器人——“Chat With RTX”。這款聊天機器人被視為英偉達版的ChatGPT,為用戶提供了一個全新的、本地化的AI交互體驗。
    的頭像 發表于 02-19 11:09 ?914次閱讀

    谷歌AI聊天機器人改名為Gemini

    谷歌(Google)近日宣布,旗下備受矚目的AI聊天機器人Bard正式更名為Gemini,并推出了一款功能更加強大的付費版本——Gemini Advanced。這一戰略調整旨在與微軟、OpenAI等科技巨頭在AI聊天機器人市場展開更為激烈的競爭。
    的頭像 發表于 02-18 11:28 ?1093次閱讀

    字節跳動推出AI聊天機器人Coze扣子

    近日,字節跳動正式推出了名為“Coze扣子”的AI聊天機器人開發平臺。自2月1日起,這一平臺已正式上線,為開發者和用戶提供了一個全新的交互體驗。
    的頭像 發表于 02-03 09:31 ?1819次閱讀

    如何用AI聊天機器人寫出萬字長文

    如何用AI聊天機器人寫出萬字長文
    的頭像 發表于 12-26 16:25 ?1055次閱讀
    主站蜘蛛池模板: 久久国产精品麻豆AV影视| 东北足疗店妓女在线观看| 国产精品综合AV一区二区国产馆| 理论片午午伦夜理片2021| 亚洲AV久久无码精品九九软件 | 成人国产在线看不卡| 无码成A毛片免费| 97视频在线观看视频最新| 亚洲国产AV精品卡一卡二| FREECHINESE东北群交| 久久免费特黄毛片| 亚洲精品电影天堂网| 囯产精品久久久久久久久蜜桃| 国产亚洲欧美高清在线| 日产2021免费一二三四区在线| 99re1久久热在线播放| 久久国产av偷拍在线| 亚洲精品久久YY5099| 国产精品久久毛片A片软件爽爽 | 久久精品天天中文字幕| 亚洲AV无码偷拍在线观看| 丰满的美女射精动态图| 精品国产原创在线观看视频| 挺进绝色老师的紧窄小肉六| 草柳最新地址| 欧美日韩国产码在线| 亚洲 成人网| 国产高清精品自在久久| 三级黄色a| 办公室沙发口爆12P| 欧美日韩亚洲中字二区| 99久久99久久精品免费看子| 国产中文在线| 亚洲.欧美.中文字幕在线观看| 高清mv视频免费观看| 亚洲欧美综合视频| BL文库好大粗黑强强肉NP| 鲁一鲁亚洲无线码| 在线色av| 麻豆精品传媒一二三区| 最近2019中文字幕MV免费看|