色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

如何讓人工智能擺脫算法偏見

ThunderSoft中科創達 ? 來源:未知 ? 作者:胡薇 ? 2018-11-15 14:57 ? 次閱讀

人們都曾看過電影里機器控制了世界而人類被毀滅的場景。好在這些電影只是娛樂性的,現實世界是不會發生的。然而一個更應該關注的問題是:算法偏見。

1

什么是“算法偏見”

所謂“算法偏見”是指在看似沒有惡意的程序設計中帶著設計者的偏見,或者所采用的數據是帶有偏見的。結果當然是帶來了各種問題,例如,被曲解的谷歌搜索,合格的考生無法進入醫學院就學,聊天機器人在推特上散布種族主義和性別歧視信息等。

算法偏見造成的最棘手的問題是,從事編程工程師即使主觀上沒有種族主義、性別、年齡歧視等傾向,也有可能造成偏見。

人工智能AI,Artificial Intelligence)本質上就是為了自學而設計的,有時它的確會出錯。當然,人們可以在事后做出調整,但最好的解決辦法是一開始就防止它發生。

具有諷刺意味的是人工智能最令人興奮的可能性之一就是能夠搭建一個沒有人類偏見的世界。比如當涉及到招聘時,一種算法可以讓男性和女性在申請同一份工作時獲得平等的待遇,或者在警務工作中避免種族偏見的發生。

不管人們是否意識到,人類創造的機器確實反映了人們怎樣是看待世界的,因此也會有類似的刻板印象和世界觀。由于人工智能越來越深入到生活中,人類必須重視它。

2

算法偏見的分類

人工智能面臨的另外一個挑戰是,偏見不是以一種形式出現的,而是有各種類型的。這包括交互偏見、潛意識偏見、選擇偏見、數據驅動的偏見和確認偏見。

“交互偏見”是指用戶由于自己與算法的交互方式而使算法產生的偏見。當機器被設置向周圍環境學習時,它們不能決定要保留或者丟棄哪些數據,什么是對的,什么是錯的。

相反,它們只能使用提供給它們的數據——不論是好的、壞的,還是丑的,并在此基礎上做出決策。前面提到的聊天機器人Tay便是這類偏見的一個例子。它是受到一個網絡聊天社區的影響而變得偏種族主義了。

“潛意識偏見”是指算法錯誤地把觀念與種族和性別等因素聯系起來。例如,當搜索一名醫生的圖像時,人工智能會把男性醫生的圖像呈現給一名女性,或者在搜索護士時反過來操作。

“選擇偏見”是指用于訓練算法的數據被傾向性地用于表示一個群體或者分組,從而使該算法對這些群體有利,而代價是犧牲其他群體。以招聘為例,如果人工智能被訓練成只識別男性的簡歷,那么女性求職者在申請過程中就很難成功。

“數據驅動的偏見”是指用來訓練算法的原始數據已經存在偏見了。機器就像孩子一樣:他們不會質疑所給出的數據,而只是尋找其中的模式。如果數據在一開始就被曲解,那么其輸出的結果也將反映出這一點。

最后一類是“確認偏見”,這類似于數據驅動的偏見,偏向于那些先入為主的信息。它影響人們怎樣收集信息,以及人們怎樣解讀信息。例如,如果自己覺得8月份出生的人比其他時候出生的更富有創造性,那就會偏向于尋找強化這種想法的數據。

3

算法偏見并不可怕

當我們了解到這么多偏見的例子滲入到人工智能系統時,似乎會引起我們的擔憂。但重要的是要認清事實,記住這個世界本身就是有偏見的,因此,在某些情況下,人們對從人工智能中得到的結果并不奇怪。

然而,并不應該如此,人們需要一個對人工智能算法和系統進行測試和驗證的過程,以便在開發期間和部署之前及早發現偏見。

與人類不同,算法不能撒謊,因此,如果結果是有偏見的,那一定有原因:和它得到的數據有關。

人類可以撒謊去解釋不雇傭某人的原因,但人工智能不能。而采用算法,就有可能知道什么時候會出現偏見,并對其進行調整,以便將來能克服這些問題。

人工智能會學習,也會犯錯。通常情況下,只有在實際環境中使用算法后才能發現任何內在的偏見,因為這些偏見在實踐中被放大了。

不應把算法看成是一種威脅,而是解決任何偏見問題的好機會,并能在必要的時候加以糾正。

可以通過開發系統來發現有偏見的決策,并及時采取措施。與人類相比,人工智能特別適合采用貝葉斯(Bayesian)方法來確定某種假設的概率,從而消除所有人類偏見的可能性。這比較復雜,但是可行的,特別是考慮到人工智能的重要性(在以后幾年里只會越來越重要)。

隨著人工智能系統的建立和部署,非常重要的一點是必須理解它們是怎樣工作的,只有這樣才能通過設計讓它們具有意識,避免將來出現偏見問題。

不要忘記,盡管人工智能發展非常迅速,但仍處于起步階段,還有很多值得學習和改進的地方。這種調整會持續一段時間,在此期間,人工智能會變得更聰明,將有越來越多的方法來克服偏見等問題。

技術行業總是在質疑機器是怎樣工作的,為什么這樣工作。雖然大部分人工智能是在黑盒中運作的,決策過程是隱藏的,但人工智能的透明度是建立信任和避免誤解的關鍵。

4

消除偏見的策略

目前有很多研究都在進行幫助鑒別偏見的產生,例如Fraunhofer Heinrich Hertz研究所開展的工作。他們正在研究識別不同類型的偏見,例如前面提到的偏見,還有一些更“低級”的偏見,以及人工智能訓練和發展過程中可能出現的問題。

另外還需要考慮的是無監督訓練。目前大多數人工智能模型是通過有監督訓練生成的,采集的是明顯帶有人類選擇的標簽數據。

而對于無監督訓練,使用不具任何標簽的數據,算法必須要通過自己對數據進行分類、識別和匯集。

雖然這種方法通常比有監督學習慢很多數量級,但這種方法限制了人的參與。

因此,能夠消除任何有意識或者無意識的人為偏見,從而避免對數據產生影響。

在底層也有很多事情可以改進。在開發新產品、網站或者功能時,技術公司需要各方面的人員。

多樣性會給算法提供各種各樣的數據,而這些數據也是有偏見的。如果能有一些人去分析輸出結果,那么發現偏見的可能性會更高。

此外,還可以發揮算法審計的作用。2016年,卡耐基梅隆研究小組在網絡招聘廣告中發現了算法偏見。

當他們列出了在網上尋找工作的人員后,谷歌廣告顯示,男性在高收入工作中所占比例是女性的近六倍。該小組的結論是,進行內部審計將有助于減少這類偏見。

總之,機器偏見來自人的偏見。人工智能的偏見有多種方式的表現,但實際上,它只有一個來源:人類自己。

處理這一問題的關鍵在于技術公司、工程師和開發人員,他們都應該采取有效的措施來防止無意中創建一種帶有偏見的算法。通過進行算法審計并始終保持透明度,就有信心讓人工智能算法遠離偏見。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 機器人
    +關注

    關注

    211

    文章

    28390

    瀏覽量

    206955
  • 人工智能
    +關注

    關注

    1791

    文章

    47208

    瀏覽量

    238294

原文標題:行業 | 讓人工智能擺脫偏見

文章出處:【微信號:THundersoft,微信公眾號:ThunderSoft中科創達】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    嵌入式和人工智能究竟是什么關系?

    應用場景。例如,在智能家居領域,嵌入式系統可以控制各種智能設備,如智能燈泡、智能空調等,而人工智能則可以實現對這些設備的
    發表于 11-14 16:39

    《AI for Science:人工智能驅動科學創新》第6章人AI與能源科學讀后感

    了電力的實時平衡和優化,有效降低了電網的運行成本和故障率。 此外,書中還討論了人工智能在能源科學研究中的挑戰和機遇。這些挑戰包括數據質量、算法優化、隱私保護等方面,而機遇則體現在技術創新、產業升級
    發表于 10-14 09:27

    AI for Science:人工智能驅動科學創新》第4章-AI與生命科學讀后感

    很幸運社區給我一個閱讀此書的機會,感謝平臺。 《AI for Science:人工智能驅動科學創新》第4章關于AI與生命科學的部分,為我們揭示了人工智能技術在生命科學領域中的廣泛應用和深遠影響。在
    發表于 10-14 09:21

    《AI for Science:人工智能驅動科學創新》第二章AI for Science的技術支撐學習心得

    非常高興本周末收到一本新書,也非常感謝平臺提供閱讀機會。 這是一本挺好的書,包裝精美,內容詳實,干活滿滿。 關于《AI for Science:人工智能驅動科學創新》第二章“AI
    發表于 10-14 09:16

    《AI for Science:人工智能驅動科學創新》第一章人工智能驅動的科學創新學習心得

    ,還促進了新理論、新技術的誕生。 3. 挑戰與機遇并存 盡管人工智能為科學創新帶來了巨大潛力,但第一章也誠實地討論了伴隨而來的挑戰。數據隱私、算法偏見、倫理道德等問題不容忽視。如何在利用AI提升科研效率
    發表于 10-14 09:12

    risc-v在人工智能圖像處理應用前景分析

    RISC-V在人工智能圖像處理領域的應用前景十分廣闊,這主要得益于其開源性、靈活性和低功耗等特點。以下是對RISC-V在人工智能圖像處理應用前景的詳細分析: 一、RISC-V的基本特點 RISC-V
    發表于 09-28 11:00

    人工智能ai 數電 模電 模擬集成電路原理 電路分析

    人工智能ai 數電 模電 模擬集成電路原理 電路分析 想問下哪些比較容易學 不過好像都是要學的
    發表于 09-26 15:24

    人工智能ai4s試讀申請

    目前人工智能在繪畫對話等大模型領域應用廣闊,ai4s也是方興未艾。但是如何有效利用ai4s工具助力科研是個需要研究的課題,本書對ai4s基本原理和原則,方法進行描訴,有利于總結經驗,擬按照要求準備相關體會材料。看能否有助于入門和提高ss
    發表于 09-09 15:36

    名單公布!【書籍評測活動NO.44】AI for Science:人工智能驅動科學創新

    大力發展AI for Science的原因。 第2章從科學研究底層的理論模式與主要困境,以及人工智能三要素(數據、算法、算力)出發,對AI for Science的技術支撐進行解讀。 第3章介紹了在
    發表于 09-09 13:54

    報名開啟!深圳(國際)通用人工智能大會將啟幕,國內外大咖齊聚話AI

    8月28日至30日,2024深圳(國際)通用人工智能大會暨深圳(國際)通用人工智能產業博覽會將在深圳國際會展中心(寶安)舉辦。大會以“魅力AI·無限未來”為主題,致力于打造全球通用人工智能領域集產品
    發表于 08-22 15:00

    FPGA在人工智能中的應用有哪些?

    FPGA(現場可編程門陣列)在人工智能領域的應用非常廣泛,主要體現在以下幾個方面: 一、深度學習加速 訓練和推理過程加速:FPGA可以用來加速深度學習的訓練和推理過程。由于其高并行性和低延遲特性
    發表于 07-29 17:05

    5G智能物聯網課程之Aidlux下人工智能開發(SC171開發套件V2)

    5G智能物聯網課程之Aidlux下人工智能開發(SC171開發套件V2) 課程類別 課程名稱 視頻課程時長 視頻課程鏈接 課件鏈接 人工智能 參賽基礎知識指引 14分50秒 https
    發表于 05-10 16:46

    5G智能物聯網課程之Aidlux下人工智能開發(SC171開發套件V1)

    課程類別 課程名稱 視頻課程時長 視頻課程鏈接 課件鏈接 人工智能 參賽基礎知識指引 14分50秒 https://t.elecfans.com/v/25508.html *附件:參賽基礎知識指引
    發表于 04-01 10:40

    嵌入式人工智能的就業方向有哪些?

    嵌入式人工智能的就業方向有哪些? 在新一輪科技革命與產業變革的時代背景下,嵌入式人工智能成為國家新型基礎建設與傳統產業升級的核心驅動力。同時在此背景驅動下,眾多名企也紛紛在嵌入式人工智能領域布局
    發表于 02-26 10:17

    生成式人工智能和感知式人工智能的區別

    生成新的內容和信息的人工智能系統。這些系統能夠利用已有的數據和知識來生成全新的內容,如圖片、音樂、文本等。生成式人工智能通常基于深度學習技術,如生成對抗網絡(GANs)、變分自編碼器(VAEs)等。 生成式人工智能的研究目標是能
    的頭像 發表于 02-19 16:43 ?1734次閱讀
    主站蜘蛛池模板: 亚洲国产精品无码中文字满| 精品午夜视频| 一二三四在线观看高清电视剧| 欧美性视频xxxxhd| 日本色呦呦| 欧美日韩一区在线观看| 人妻美妇疯狂迎合| 桃色园社区| 色橹| 亚洲AV美女成人网站P站 | 男女免费观看在线爽爽爽视频| 欧美怡红院视频一区二区三区| 视频成人app永久在线观看| 妻子的妹妹在线| 天堂岛www| 一区二区视频在线观看高清视频在线| 18禁无遮遮挡羞漫画免费阅读 | 亚洲xxxx动漫| 99热这里只有精品9| 拔萝卜电视剧高清免费| 国产色精品久久人妻无码看片软件| 久久国产主播福利在线| 欧美在线看费视频在线| 亚洲狠狠网站色噜噜| 91精品一区二区三区在线观看| 帝王被大臣们调教高肉| 精品久久久久中文字幕| 欧美性色xo影院69| 亚洲人日本人jlzzy| 亚洲一品AV片观看五月色婷婷| 9797在线看片亚洲精品| 国产精品人成在线播放新网站| 国产精品99亚发布| 国产精品三级在线观看| 快穿之诱受双性被灌满h| 久久久国产精品免费A片3D| 久久中文字幕无线观看| 甜性涩爱在线看| 99精品中文字幕在线观看| 国产一卡在线观看完整版 | 国内国外精品影片无人区|