色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

人機結合才能真正進步!算法的使用通常和人類決策方式不同

zhKF_jqr_AI ? 來源:未知 ? 作者:李倩 ? 2018-08-10 09:12 ? 次閱讀

上個月,《哈佛商業評論》發表了一篇名為Want Less-Biased Decisions? Use Algorithms的文章,作者為Alex P. Miller。文中表示,雖然目前AI算法存在偏見,但是技術的進步如果有助于提高系統性能,這也是很重要的。即使有了偏見,也比人類的偏見小得多。

針對這篇文章,fast.ai的創始人之一Rachel Thomas有不同的看法。她認為算法偏見的影響實際上深遠得多,我們關注的重點應該是如何解決這一問題。以下是論智對原文的編譯:

最近,《哈佛商業評論》刊登了一篇文章,講的是人類總是作出有偏見的決定(這確實沒錯),但文章忽視了許多相關問題,包括:

算法的實現通常沒有適當的方法(因為很多人誤解算法是客觀、精準并且不會犯錯的)

在很多情況下,算法的使用比人類決策規模大得多,所以也會產生和人類相同的偏見(通常是由于算法使用成本低)

算法的使用者也許不了解概率或置信區間(即使這些都已經標明了),而且如果讓他們重寫算法也會很困難

與其關注微不足道的選擇,更重要的是思考怎樣才能創造偏見更少的決策工具。

在《哈佛商業評論》的文章中,作者Miller認為,“算法革命”的批評者們擔心“算法在運用時會不透明、帶有偏見,成為無法解釋的工具”,但是在文章中,他只針對“偏見”展開解釋,對“不透明”和“無法解釋”的特征沒有解釋。

人機結合才能真正進步

媒體總是通過人類和機器的對比來顯示AI的進步,我們總是看到這樣的標題:“在XX比賽中,機器戰勝了人類”。如果考慮到大多數算法的使用方法,這種對比也是不準確的,這樣評價AI也是非常狹隘的。在所有案例中,算法都有人類因素存在,尤其是數據的收集、決策的制定、實現方式、對結果的解讀以及不同參與者的不同理解等方面,都會受人類的影響。

很多致力于研究醫學領域AI產品的人并不打算用AI替代人類,他們只是在創造能夠幫助醫生做出更精確更高效的決策,從而提高醫療質量。能做到最佳水平的不是人類也不是電腦,而是二者的結合。

Miller在他的文章中指出,人類帶有非常多的偏見,然后對比了目前的幾種方法,來比較哪種更加糟糕。但是文章并未提出有什么方法可以讓偏見更少,從而做出決策呢(也許用人類和算法的結合)?總之這才是更值得考慮的、重要的問題。

算法的使用通常和人類決策方式不同

算法在實際中運用范圍很廣,也因此會出現很多相同的偏見,甚至被認為是正確或客觀的結果。Miller在文章中分享的研究將它們進行比較時,并沒有發現實際使用中的區別。

Cathy O’Neil在Weapons of Math Destruction一書中寫道,她所批評的那類算法對窮人更不友好。

這些算法專注于處理大型任務,并且使用成本低,這也是吸引人的部分原因。相反,富裕的人通常會選擇個人定制的輸入。大型公司或者貴族預科學校通常更傾向于內部推薦或者面對面的面試。有特權的人通常會由人來選拔,而普通人才靠機器選拔。

O’Neil書中的一個例子是有一位患有雙向情感障礙的大學生想在暑假時在便利店打工。他應聘的每家店都用相同的心理測量軟件來對面試者打分,所以每家店都拒絕了他。這表明了算法的另一個危險之處,雖然人類通常會有相似的偏見,但并不是每個人都會做出同樣的決定。雖然他有精神障礙,但這位大學生也許最終會找到一個愿意雇用他的店。

很多人更愿意相信算法做出的決策,而不愿意相信人類的決定。而設計算法的研究者們可能對概率和置信區間有更好的了解,而一般人不會注意到這一點。

算法需要被解釋

很多關于算法偏見的案例都沒有有意義的解釋或者有意義的處理過程。這看起來似乎是算法決策過程中的特殊趨勢,也許是因為人們錯誤地認為算法就是客觀的,所以沒有必要進行客觀分析。同時,如上面所解釋的,算法決策系統通常是為了削減成本,重復檢查就會增加成本。

Cathy O’Neil還寫道一位老師非常受學生和家長的愛戴,但是莫名其妙就被算法開除了。她永遠不會知道為什么會有這樣的結果。如果我們能重新對算法進行檢查或者了解其中的因素,就不會令人如此費解。

The Verge曾調查美國超過一半的州所使用的軟件,統計人們接收到的醫療健康服務。當這種軟件在阿肯色州使用后,很多有嚴重殘疾的人們發現他們的醫療補助突然被大幅減少。例如,一位腦癱患者Tammy Dobbs原本需要每天有人幫助她下床、去衛生間、吃飯等等,突然算法將醫療救助時間減少到了每周20個小時。她無法解釋為什么會這樣。最終,法院調查后發現是軟件的算法出現了錯誤,影響了患有糖尿病或腦癱的患者。然而,像Dobbs這樣的很多人還是會擔心某一天他們的醫療補助是否會再次被削減。

算法的創建者被問到能否有交流決策的方法,他說:“也許這是我們的責任。”但之后又稱,這可能是其他人的原因。我們不能認為自己造出來的成果是別人的責任。

另一個在科羅拉多州使用的系統發現了系統中有超過900個錯誤規則,結果導致了很多問題,例如將懷孕的女性不算入需要醫療補助的計劃之內。律師們很難發現算法中的錯誤,因為這些內部工作機制就像商業秘密一樣受保護。所以,重要的是要創建一個能輕松發現錯誤的機制。

復雜的真實系統

當我們談到AI,就需要想想現實世界中復雜的系統。《哈佛商業評論》中所提到的研究將決策看成孤立的行為,并沒有考慮所處的環境。判斷一個人是否會坦白其他罪行,這種決定并不是單獨做出的,它還要結合復雜的法律系統。我們有必要了解研究領域所處的真實環境是如何運作的,同時不要忽略了可能受到影響的人們。

美國法庭中所用到的COMPAS算法是用在預審前保釋、判刑和假釋中的決策系統。ProPublica調查后發現,白人被告者的結果誤報率是24%,而黑人被告的誤報率高達45%(即被告被系統認定為“高風險”但結果卻并未再次入獄)。之后的研究發現,COMPAS還不如一個簡單的線性方程精確。

通過這些案例可以看出,算法也許會加劇潛在的社會問題。所以我們有責任了解系統以及它們可能帶來的問題。

反偏見不等于反算法

大多數對算法偏見持反對意見的人,都會反對不公平的偏見,但他們不是討厭算法的人。Miller表示,這些批評者“很少會問這些系統在沒有算法的情況下運行得怎樣”,這表明那些反對偏見算法的人可能并不知道人類有多少偏見,或者可能只是不喜歡算法。在我開始撰寫有關機器學習偏見的文章之前,我花了大量時間研究和撰寫有關人類的偏見。

當我發布或分享有關偏見的算法時,總有人認為我是反算法或者反科技的。而且我不是唯一受到質疑的人。所以我希望有關偏見算法的討論重點不要僅僅局限于這種微不足道的地方,我們需要深入解決這個問題。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 算法
    +關注

    關注

    23

    文章

    4607

    瀏覽量

    92842
  • AI
    AI
    +關注

    關注

    87

    文章

    30753

    瀏覽量

    268901
  • 機器
    +關注

    關注

    0

    文章

    781

    瀏覽量

    40711

原文標題:fast.ai創始人質疑《哈佛商業評論》文章:算法偏見的影響很嚴重!

文章出處:【微信號:jqr_AI,微信公眾號:論智】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    高效的物聯網——人類進步的動力

    粗獷的消耗環境資源換取經濟資源的方式顯得日益的不可取。二是,隨著人類進步人類也希望從日常的工作任務中解放出來,需要有足夠的時間的時間去完成自己想做的事情。
    發表于 11-27 09:34 ?993次閱讀

    粒子群算法決策變量和適應度函數的約束問題

    本人最近在做粒子群算法的相關研究,遇到如下問題:要求決策變量為整數(0或1),初始化時已隨機設置成0或1的形式,決策變量范圍設置成(0-1間),在更新過程中如何對速度和位置進行設置呢,不設置的話還是會隨機產生一些數,比如0.23
    發表于 06-10 11:01

    機器能超越真正人類嗎?人工智能未來發展如何?

    年代開始就是用機器在做了。只是隨著時間的推移,應用得越來越好了。如今任何地方的銀行或者對沖基金,都會使用大量的算法和數據分析來幫助人們做決策通常來說,只有在做一些測試或者設計一些有趣的假設模型
    發表于 10-03 09:26

    自動駕駛的目標:比最好的人類司機更快更及時地作出決策

    沒有贏家的困境。除非我們能避免其發生。這正是自動駕駛的主要目標之一:車輛中的傳感器、通信能力、執行器和人工智能(AI)協同工作,收集并分析信息,從而比最好的人類司機更快、更及時地作出決策。擴展感知
    發表于 10-26 11:25

    掌握逆變電源的原理和運行方式

    在電路中將直流電轉換為交流電的過程稱之為逆變,這種轉換通常通過逆變電源來實現。這就涉及到在逆變過程中的控制算法問題。只有掌握了逆變電源的控制算法才能
    發表于 11-15 06:15

    一種新型的決策樹剪枝優化算法

    目前關于決策樹剪枝優化方面的研究主要集中于預剪枝和后剪枝算法。然而,這些剪枝算法通常作用于傳統的決策樹分類
    發表于 11-30 10:05 ?0次下載
    一種新型的<b class='flag-5'>決策</b>樹剪枝優化<b class='flag-5'>算法</b>

    基于粗決策樹的動態規則提取算法

    針對靜態算法對大數據和增量數據處理不足的問題,構造了基于粗決策樹的動態規則提取算法,并將其應用于旋轉機械故障診斷中。將粗集與決策結合,用增
    發表于 12-29 14:24 ?0次下載

    AI+教育究竟該如何落地才能真正促進教育行業的進步

    「AI+教育」到底該如何落地,才能真正促進教育行業的進步?松鼠 AI 智適應教育在極客公園創新之火的活動現場給出了答案:通過技術去解決如今教育所面臨的核心痛點,這或許是目前最好的路徑。
    發表于 09-28 10:46 ?3157次閱讀

    真正的自動駕駛何時才能到來

    自動駕駛汽車何時才能真正到來?像人類一樣駕駛的全自動駕駛汽車,必須具有人類的認知能力:首先能“看”到,然后能“想”到,最后才能“做”到。
    發表于 08-30 08:41 ?1300次閱讀

    人工智能技術使智能機器能夠“思考”只有人類才能做到的方式行動

    人工智能使智能機器(無論是計算機,機器人,無人機還是其他設備)能夠“思考”并以以前只有人類才能做到的方式行動。這意味著他們可以解釋周圍的世界,從信息中提取和學習,根據所學知識做出決定,
    發表于 08-12 16:58 ?1366次閱讀

    決策樹的構成要素及算法

    決策樹是一種解決分類問題的算法決策算法采用樹形結構,使用層層推理來實現最終的分類。
    發表于 08-27 09:52 ?4353次閱讀

    ADAS是否能取代人類決策

    人類發明了第一個工具開始,人類就成為了如何使用工具的獨一決策者。汽車作為人類發明的工具之一,被主導了長達62年之久。隨著車載智能的快速普及應用,人類
    的頭像 發表于 10-20 17:16 ?1934次閱讀

    什么是“算法”?如何識別算法

    決策系統描述為“算法通常是人們轉移決策責任的一種方式。對許多人來說,“算法”指的是一套基于客
    的頭像 發表于 03-12 09:50 ?4091次閱讀

    基于智能決策理論的無人機集群認知干擾算法

    為解決無人機集群網絡在復雜通信環境中對抗智能性干擾能力較弱的問題,基于智能決策理論,提岀一種多域聯合的認知抗干擾算法。該算法在優勢演員-評論家算法
    發表于 03-16 10:42 ?8次下載
    基于智能<b class='flag-5'>決策</b>理論的無<b class='flag-5'>人機</b>集群認知干擾<b class='flag-5'>算法</b>

    結合卡爾曼濾波等的四旋翼無人機目標跟蹤算法

    結合卡爾曼濾波等的四旋翼無人機目標跟蹤算法
    發表于 06-23 15:00 ?24次下載
    主站蜘蛛池模板: 欧美人与善交大片| 日本人吃奶玩奶虐乳| 让男人玩尿道的女人| 无人区国产片| 24小时日本在线电影| 高清bblxx手机在线观看| 精品国产乱码久久久久久免费流畅 | 久九九精品免费视频| 欧美午夜精品一区区电影| 亚洲qingse中文字幕久久| 91香蕉福利一区二区三区| 国产剧情福利AV一区二区 | 久久大香线蕉综合爱| 日日操天天操夜夜操| 在线亚洲视频无码天堂| 高h乱一受多攻男男| 久久亚洲精品中文字幕60分钟| 日本日本熟妇中文在线视频| 一区二区三区无码高清视频| 持田香织abc| 伦理 电影在线观看百度影音| 香蕉水蜜桃牛奶涩涩| A级毛片高清免费网站不卡| 回复术士勇者免费观看全集| 日本人娇小hd| 嘴巴舔着她的私处插| 国产青青草原| 全身无赤裸裸美女网站| 综合伊人久久| 黄色xxxxxx| 无颜之月全集免费观看| www.伊人网| 免费成年人在线视频| 亚洲色欲色欲无码AV| 国产成人在线视频| 欧美最猛性XXX孕妇| 中文字幕A片视频一区二区| 秋霞电影网伦大理电影在线观看| 一区二区三区无码高清视频| 国产婷婷色一区二区三区在线 | 亚洲字幕在线观看|