色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

可用指南旨在使 AI 更安全

廖阿朋 ? 2023-01-04 11:17 ? 次閱讀

介紹

人工智能 (AI) 領域準備進入一個新的領域——機器從補充人類用戶的工具轉變為自主智能代理,可以設定自己的目標,決定學習什么,決定如何學習,和更多。高度智能系統改變世界的潛力類似于以往工業革命帶來的變化。問題不是智能系統是否會繼續改變我們的生活;而是 問題是以什么方式和在什么程度上。

什么是人工智能安全工程?

AI Safety Engineering(或簡稱“AI Safety”)是一個擬議的 AI 開發框架,它將機器倫理學與心理學、經濟學、金融學和其他領域相結合,以:

擴大對機器倫理的討論,以包括狹義的、一般的和超人的智能

將最近和正在進行的人工智能倫理討論與開發具有通用智能的機器的可用工程指南、流程和標準聯系起來

針對智能系統中已知和潛在漏洞的來源

作為一個新興的研究領域,人工智能安全的出現有幾個原因。首先,人工智能的成功不僅僅以實現目標來衡量;成功的人工智能是以符合人類價值觀和偏好的方式實現目標的人工智能。回顧 60 多年的 AI 發展,我們可以看到機器目標與人類價值觀和偏好之間的不一致遲早會導致 AI 失敗。正如本系列中所探討的那樣,將這種失調作為一個關鍵漏洞是開發安全人工智能的核心。

其次,人工智能的最新進展已經開始達到人工狹義智能系統的邊界,這些系統在給定的上下文中執行單一或狹義定義的任務。傳感器、大數據、處理,尤其是機器學習方面的進步使這些系統越來越像人類,并擴展了它們的能力和用途。考慮到這一點,達到人工智能的下一個層次——通用人工智能——即將到來,如果安全人工智能不是優先考慮的潛在后果也是如此。

Safe AI 的核心是假設通用人工智能會給人類帶來風險。AI Safety 不是通過嘗試在任務或目標級別將人類價值觀和偏好傳授給機器來解決這個問題——這可能是不可能的壯舉——AI Safety 旨在:

以符合人類能力和/或

優先考慮人類福利、合作行為和為人類服務

這樣做,我們將確保人工智能流程和目標在宏觀層面尊重人類,而不是試圖在微觀層面實現同樣的目標——讓機器傾向于對我們友好,作為智能核心的一部分。

作為一種工程開發理念,AI Safety 將 AI 系統設計視為產品設計,對產品責任的每個角度進行檢查和測試,包括使用、誤用和潛在漏洞。圖 1說明了 AI Safety 的新興原則和建議。

pYYBAGO07p6AVlhjAAjnLSuLgG4869.png

圖 1:AI 安全工程強調開發智能系統,即使在遞歸自我改進的情況下也能證明它們是安全的。

在本系列中領先

AI 安全工程是一門新興學科,有很多需要研究、討論和編纂的內容。貿澤電子很高興推出這個博客系列,讓 AI 工程師了解關鍵概念并鼓勵參與其持續開發:

本系列的第 2 部分重點介紹了我們從過去 60 多年的 AI 開發中學到的經驗,即 AI 失敗的原因是機器目標與人類價值觀和偏好之間的不一致。它還討論了為什么將人類價值觀和偏好傳授給機器是一個無法解決的問題,并指出了安全人工智能的必要性。

第 3 部分討論了需要 AI 安全的另一個原因:AI 的進步正在突破人工狹義智能 (ANI) 系統的界限,并將人工智能 (AGI) 納入視野。

第 4 部分探討了實施 AI 安全的其他挑戰:不可預測性、不可解釋性和不可理解性。

第 5 部分描述了 AI 安全將改變工程的方式。開發深入用戶價值核心的用例和檢查情報漏洞是這里的兩個關鍵主題。

第 6 部分以關于使用“人工愚蠢”來幫助我們開發安全人工智能的討論作為結尾。限制機器能力以及理解認知偏差是這里的關鍵主題。

審核編輯hhy

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    30747

    瀏覽量

    268900
  • 人工智能
    +關注

    關注

    1791

    文章

    47200

    瀏覽量

    238270
收藏 人收藏

    評論

    相關推薦

    C2000?第2代至第3代MCU功能安全使能器遷移指南

    電子發燒友網站提供《C2000?第2代至第3代MCU功能安全使能器遷移指南.pdf》資料免費下載
    發表于 11-28 15:08 ?0次下載
    C2000?第2代至第3代MCU功能<b class='flag-5'>安全</b><b class='flag-5'>使</b>能器遷移<b class='flag-5'>指南</b>

    AI引擎機器學習陣列指南

    AMD Versal AI Core 系列和 Versal AI Edge 系列旨在憑借 AI 引擎機器學習 ( ML ) 架構來提供突破性的 AI
    的頭像 發表于 09-18 09:16 ?390次閱讀
    <b class='flag-5'>AI</b>引擎機器學習陣列<b class='flag-5'>指南</b>

    初創公司SEA.AI利用NVIDIA邊緣AI和計算機視覺技術變革航海安全系統

    總部位于奧地利林茨的初創公司正在利用 NVIDIA 邊緣 AI 和計算機視覺技術變革航海安全系統,讓每一次出海變得安全
    的頭像 發表于 09-09 09:32 ?501次閱讀

    為什么加速數據處理對各行各業的AI創新都至關重要

    病的新療法;公共事業正在使用 AI 建設清潔、更可靠的能源網絡,汽車行業正在利用 AI 使自動駕駛汽車
    的頭像 發表于 07-05 10:46 ?674次閱讀

    智譜AI與OpenAI、谷歌等簽署AI安全承諾

    在近日舉辦的第二屆人工智能安全峰會上,智譜AI與來自北美、亞洲、歐洲和中東地區的15家頂尖人工智能公司共同簽署了一項重要協議——前沿人工智能安全承諾。此舉旨在確保人工智能開發的
    的頭像 發表于 05-23 14:17 ?442次閱讀

    英國AI安全研究所推出AI模型安全評估平臺

    據報道,英國人工智能安全研究院近日發布了名為“Inspect”的AI模型安全評估平臺,此平臺采用開源技術且對全球AI工程師免費開放,旨在提升
    的頭像 發表于 05-13 15:20 ?408次閱讀

    亞馬遜云科技宣布生成式AI助手Amazon Q正式可用 激活企業內部數據并加速軟件開發

    Business旨在增強員工的數據驅動能力,幫助他們生成內容、構建報表,并利用公司的內部資源及數據做出迅速、明智的決策。 Amazon Q Apps是Amazon Q Business的一個全新且強大的功能,它使員工能夠利用
    的頭像 發表于 05-06 08:43 ?326次閱讀

    開發者手機 AI - 目標識別 demo

    功能簡介 該應用是在Openharmony 4.0系統上開發的一個目標識別的AI應用,旨在從上到下打通Openharmony AI子系統,展示Openharmony系統的AI能力,并為
    發表于 04-11 16:14

    NanoEdge AI的技術原理、應用場景及優勢

    NanoEdge AI 是一種基于邊緣計算的人工智能技術,旨在將人工智能算法應用于物聯網(IoT)設備和傳感器。這種技術的核心思想是將數據處理和分析從云端轉移到設備本身,從而減少數據傳輸延遲、降低
    發表于 03-12 08:09

    智慧路燈桿AI監測應用,讓高速出行安全

    針對更好監測和管理高速公路上的交通狀況,可以基于智慧路燈桿打造AI交通監測應用,通過智能感知高速路段的路況、車況、環境狀況,實現實時風險感知、風險預警和協同處置,讓高速出行安全
    的頭像 發表于 03-11 17:20 ?447次閱讀
    智慧路燈桿<b class='flag-5'>AI</b>監測應用,讓高速出行<b class='flag-5'>更</b><b class='flag-5'>安全</b>

    是德科技推出AI數據中心測試平臺旨在加速AI/ML網絡驗證和優化的創新

    2024年2月29日,是德科技(Keysight Technologies,Inc.)宣布,針對人工智能(AI)和機器學習(ML)基礎設施生態系統,推出了 AI數據中心測試平臺,旨在加速AI
    的頭像 發表于 02-29 09:32 ?629次閱讀
    是德科技推出<b class='flag-5'>AI</b>數據中心測試平臺<b class='flag-5'>旨在</b>加速<b class='flag-5'>AI</b>/ML網絡驗證和優化的創新

    汽車網絡安全-挑戰和實踐指南

    汽車網絡安全-挑戰和實踐指南
    的頭像 發表于 02-19 16:37 ?531次閱讀
    汽車網絡<b class='flag-5'>安全</b>-挑戰和實踐<b class='flag-5'>指南</b>

    AI加入軟件會安全

    “變化即常態”是技術領域的主旋律。隨著新技術的飛速發展,軟件安全的復雜性也在不斷增加,不法分子總是能發掘出隱蔽的手段進行網絡攻擊。雖然沒有人能夠準確斷言未來軟件安全的發展,但開發者們可以基于當下的
    的頭像 發表于 01-25 09:40 ?694次閱讀

    Vitis AI用戶指南

    電子發燒友網站提供《Vitis AI用戶指南.pdf》資料免費下載
    發表于 01-03 10:51 ?1次下載
    Vitis <b class='flag-5'>AI</b>用戶<b class='flag-5'>指南</b>

    AI引擎內核與計算圖編程指南

    電子發燒友網站提供《AI引擎內核與計算圖編程指南.pdf》資料免費下載
    發表于 01-03 10:50 ?0次下載
    <b class='flag-5'>AI</b>引擎內核與計算圖編程<b class='flag-5'>指南</b>
    主站蜘蛛池模板: oldgrand欧洲老妇人| 亚洲蜜桃AV永久无码精品放毛片| 最近免费中文字幕大全免费| 久久99这里只有精品| 一级做a爰片久久免费| 久久精品视频免费| ca88亚洲城娱乐| 日日日操操操| 国产亚洲精品视频在线网| 亚洲精品视频久久| 老师掀开短裙让我挺进动态| 在线播放av欧美无码碰| 欧美精品一区二区三区四区 | 黑丝制服影院| 伊人久久网站| 强奸美女老师| 国产午夜视频在线| 99久久无码一区人妻A片蜜| 涩涩爱涩涩片影院| 久久99精品视频| 成人国产精品日本在线| 亚洲一区二区影院| 日本高清无人区影院| 久久人人玩人妻潮喷内射人人| 久久精品综合网中文字幕| 边吃胸边膜下床震免费版视频| 亚洲高清无码在线 视频| 欧美日韩亚洲中字二区| 幻女FREE性俄罗斯学生| 第一次破女视频出血视频| 最近中文字幕MV免费高清在线 | 亚洲一卡久久4卡5卡6卡7卡| 妓女嫖客叫床粗话对白| 91久久精一区二区三区大全| 久久婷婷五月免费综合色啪| 高傲教师麻麻被同学调教123| 色欲av蜜臀av高清| 秋霞电影网视频一区二区三区| 九九热在线免费观看| 国产免费久久爱久久啪| 俄罗斯极品hd|