色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

谷歌組建專門道德團隊,對抗AI偏見問題

DPVg_AI_era ? 來源:未知 ? 作者:李倩 ? 2018-11-12 10:22 ? 次閱讀

谷歌認為,比起殺人AI機器人,我們更該擔心的是AI偏見問題。谷歌提出AI技術(shù)開發(fā)的道德準則,成立了專門的機器學習道德部門,對公司產(chǎn)品和服務進行分析測試,提出改進意見,盡可能避免AI偏見的產(chǎn)生。

在去年舉行的谷歌會議上,谷歌當時的人工智能(AI)負責人John Giannandrea表示,我們不需要擔心殺手機器人,相反,我們需要擔心的是AI偏見。

“如果要說真正的安全問題,那就是如果我們給這些系統(tǒng)提供有偏見的數(shù)據(jù),那么生成的AI模型就會有偏見。”他說。

這是谷歌過去一直在努力解決的問題。2015年6月,谷歌照片應用的算法曾經(jīng)錯誤地將黑人分類為“大猩猩”,引發(fā)了軒然大波。因此,從IBM到Airbnb,每家公司都在努力確保自己算法不會出現(xiàn)類似的偏差。

最近一段時間,谷歌為解決AI偏見又上了緊箍咒。

對于谷歌機器學習道德、信任和安全主管Jen Gennai來說,防止出現(xiàn)數(shù)據(jù)和AI偏見實際上就是他的工作內(nèi)容。Gennai負責領(lǐng)導一個跨公司的團隊,對谷歌的新產(chǎn)品和服務進行分析和咨詢,以確保所有新產(chǎn)品都遵守這一道德標準。

“如果我們要打造一項新技術(shù),我們需要確保它從一開始就走在正確的軌道上?!彼f。

谷歌制定AI技術(shù)開發(fā)七大準則

今年6月,Google首席執(zhí)行官Sundar Pichai發(fā)布了該公司的人工智能原則,指導谷歌在這些方面的工作和研究,包括確保Google員工不會制造或加強不公平的AI偏見。

Pichai表示,AI的開發(fā)和使用將在未來許多年內(nèi)對社會產(chǎn)生重大影響。作為AI的領(lǐng)導者,我們感到自己有責任做到這一點。

這種關(guān)于人AI技術(shù)的新立場是受到谷歌出現(xiàn)問題的影響而提出的。除了“大猩猩”事件之外,哈佛大學研究人員Latanya Sweeney發(fā)現(xiàn)谷歌搜索中的存在種族歧視。當搜索類似黑人名字時,會比搜索類似白人名字更有可能出現(xiàn)與“被逮捕”相關(guān)的廣告。

“這些現(xiàn)象都是我們的部門成立的原因,不應該讓我們的用戶看到這些,我們需要首先阻止這些偏見的產(chǎn)生?!盙ennai說。

谷歌谷歌機器學習道德、信任和安全負責人Jen Gennai

現(xiàn)在每當谷歌推出新產(chǎn)品時,都會接受Gennai及其團隊的嚴格測試。來自技術(shù)、法律、隱私和社會科學等領(lǐng)域的專家聚集在一起,根據(jù)谷歌制定的AI準則對每個產(chǎn)品進行分析。

這種測試主要是找出產(chǎn)品的優(yōu)缺點?!拔覀儾⒉皇枪纠锟膳碌谋O(jiān)工?!盙ennai說?!拔覀兿氲氖?,希望公司能推出最好的產(chǎn)品,所以我們要找出所有可能出錯的漏洞,以便解決問題。

在谷歌智能助理給真人打電話的功能上,產(chǎn)品團隊事先就AI如何處理不同口音做了大量工作,但Gennai的測試團隊提出了一些其他問題。

“我們研究了用戶如何與之互動,如何利用技術(shù)降低AI的偏見。我們提出了問題,要如何判斷用戶是不是有口吃或語言障礙。產(chǎn)品開發(fā)團隊做了很多工作,但我們試圖縮小所有差距,提升產(chǎn)品表現(xiàn)?!彼f。

改進數(shù)據(jù)集質(zhì)量

改善AI偏見的一種方法是改進數(shù)據(jù)集。 Gennai舉了一個婚禮的例子。

過去,如果你在Google圖片上搜索“婚禮”,得到的結(jié)果是白人穿著婚禮禮服的照片,因為算法是在基于西方人的數(shù)據(jù)源上進行訓練的。然而,這對印度或中國的谷歌用戶就不合適。谷歌要求人們提交世界各地的婚禮照片,以改善數(shù)據(jù)集。

“現(xiàn)在,我們得到了印度用戶的大量反饋,他們向我們發(fā)送了許多色彩繽紛的婚禮照片,”我們希望了解我們現(xiàn)有資源,創(chuàng)建偏見相對較小的新資源。”

讓用戶也能理解算法

了解谷歌算法的內(nèi)部工作流程,有助于團隊更好地進行修改。比如用谷歌搜索“CEO”時出現(xiàn)的問題,當你在搜索欄中鍵入“CEO”時,你會看到一些穿著西裝打著領(lǐng)帶的白人男子的圖片。

Gennai的團隊調(diào)查數(shù)據(jù)時發(fā)現(xiàn),這個現(xiàn)象往往并不是人為偏見,而是技術(shù)上的偏見。

“在算法看來,海軍藍像素就等于CEO,而且因為白人男性更容易穿藍色西裝,所以這純粹是模型學習的方式問題。但這表明我們需要仔細檢查數(shù)據(jù)。

讓谷歌用戶了解公司算法的運作方式也是很重要的。谷歌用戶現(xiàn)在可以查看為你投放廣告的原因,并查看由算法做出的決定。用戶還可以查看為何會在谷歌搜索結(jié)果中看到某個鏈接,具體取決于用戶之前的搜索記錄。 Gennai表示,這是為了幫助用戶更多地了解谷歌,以便他們可以信任谷歌搜索。

透明度也是谷歌AI原則的一部分。但是“與用戶共享一個完整的算法根本沒有用,反而可能會引起更多的混淆,并感覺我們是故意混淆。但是,用用戶可讀的語言解釋算法,將有助于人們了解谷歌正在嘗試做的事情,即使我們做錯了?!盙ennai說。

解決AI偏見,光靠谷歌不夠

說到最后,偏見的根源其實還是來自人類?!拔覀兠總€人都有偏見,我們現(xiàn)有的全部數(shù)據(jù)源,都是建立在我們每個人和過去的歷史偏見之上?!?/p>

但是,僅僅因為這一點,并不能說我們無法阻止偏見。相反,谷歌試圖盡可能調(diào)查和解釋最大的偏見來源,并嘗試改變。

從這個角度看,谷歌的AI準則在公司內(nèi)部非常重要,也是因為這個原因,谷歌為公司外的人創(chuàng)建了“負責任的AI”開發(fā)實踐項目,這些人正在使用其開源軟件來構(gòu)建人工智能和機器學習算法。

“我們希望能夠以身作則,提供相關(guān)工具和知識,讓更多的人能夠遵循這些準則?!彼f。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 谷歌
    +關(guān)注

    關(guān)注

    27

    文章

    6164

    瀏覽量

    105312
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30763

    瀏覽量

    268906
  • 機器學習
    +關(guān)注

    關(guān)注

    66

    文章

    8408

    瀏覽量

    132573

原文標題:谷歌為AI再上“緊箍咒”:道德團隊審查產(chǎn)品,確保AI不作惡

文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    AI for Science:人工智能驅(qū)動科學創(chuàng)新》第4章-AI與生命科學讀后感

    的深入發(fā)展。 3. 挑戰(zhàn)與機遇并存 盡管AI在生命科學領(lǐng)域取得了顯著的成果,但也面臨著諸多挑戰(zhàn)。例如,數(shù)據(jù)隱私、算法偏見、倫理道德等問題都需要我們認真思考和解決。同時,如何更好地將AI
    發(fā)表于 10-14 09:21

    AI for Science:人工智能驅(qū)動科學創(chuàng)新》第二章AI for Science的技術(shù)支撐學習心得

    偏見、倫理道德等問題。此外,如何更好地將AI與科學研究人員的傳統(tǒng)工作模式相融合,也是一個亟待解決的問題。未來,隨著技術(shù)的不斷進步和應用場景的拓展,AI for Science有望在更多
    發(fā)表于 10-14 09:16

    戴爾重組銷售架構(gòu),成立AI團隊

    戴爾公司近期宣布了一項重大戰(zhàn)略調(diào)整,旨在通過銷售團隊重組及新團隊的成立,加速其向人工智能(AI)領(lǐng)域的轉(zhuǎn)型步伐。此次重組中,戴爾不僅裁減了部分銷售人員以優(yōu)化成本結(jié)構(gòu),更關(guān)鍵的是,公司正式成立了專注于
    的頭像 發(fā)表于 08-07 17:22 ?630次閱讀

    蘋果公司組建AI團隊,從谷歌挖角專家

    蘋果公司近日在人工智能領(lǐng)域取得重大進展,成功從谷歌挖來數(shù)十名頂尖人工智能專家,并在瑞士蘇黎世設(shè)立了一處神秘的歐洲實驗室。此舉標志著蘋果正組建一支實力雄厚的團隊,旨在開發(fā)全新的人工智能模型和前沿產(chǎn)品,與業(yè)界巨頭展開激烈競爭。
    的頭像 發(fā)表于 05-13 11:39 ?583次閱讀

    谷歌員工爆料Python基礎(chǔ)團隊原地解散

    谷歌最近的一項人事變動引發(fā)了技術(shù)圈的廣泛關(guān)注。據(jù)谷歌員工Thomas Wouters透露,與其共同致力于Python基礎(chǔ)開發(fā)的團隊,包括他本人和主管在內(nèi),都遭到了裁員。Thomas Wouters
    的頭像 發(fā)表于 05-08 11:24 ?500次閱讀

    谷歌核心團隊裁員200人

    谷歌近日在其“核心”團隊中進行了裁員,涉及至少200名員工。此次裁員發(fā)生在公司上月月底公布財報之前,谷歌計劃將一些崗位轉(zhuǎn)移至印度和墨西哥。
    的頭像 發(fā)表于 05-07 09:42 ?375次閱讀

    谷歌解散整個Python團隊

    近日,谷歌Python工程師Thomas Wouters在社交媒體上透露,谷歌對其Python團隊進行了架構(gòu)調(diào)整,整個團隊被解散。這一變動可能源于公司的成本優(yōu)化策略,涉及
    的頭像 發(fā)表于 05-06 10:50 ?615次閱讀

    谷歌核心團隊首次面臨裁員,面臨監(jiān)管壓力

     谷歌開發(fā)者生態(tài)系統(tǒng)副總裁Asim Husain通過電子郵件向團隊傳達了裁員消息。他在市政廳的演講中告知員工,這是本年度團隊計劃中的最大規(guī)模裁員。
    的頭像 發(fā)表于 05-06 10:04 ?319次閱讀

    谷歌整合安卓系統(tǒng)與Pixel硬件團隊,奧斯特羅引領(lǐng)新"Platfo"

    Osterloh曾主管谷歌硬件部門,涵蓋Pixel、Fitbit以及Nest等各種產(chǎn)品的研發(fā)和戰(zhàn)略規(guī)劃。他對The Verge表示:“唯有結(jié)合硬件、軟件和AI團隊,方能為用戶提供突破性AI
    的頭像 發(fā)表于 04-19 10:16 ?479次閱讀

    微軟組建單獨團隊,幫助下一代Xbox游戲機向后兼容

    Xbox行政總裁Sarah Bond近日向內(nèi)部員工發(fā)出電郵,詳述了新進展。她指出,微軟正在全身心投入新一代硬件研發(fā),力求實現(xiàn)技術(shù)飛躍;同時,已組建專門小組,負責確保現(xiàn)有的Xbox游戲庫能夠適應未來技術(shù)變化,保障長時間內(nèi)的游戲可訪問性。
    的頭像 發(fā)表于 04-07 11:40 ?358次閱讀

    微軟宣布組織架構(gòu)調(diào)整,組建Microsoft AI

    微軟,這家全球市值最高的科技巨頭,近日宣布了一項重大的組織架構(gòu)調(diào)整。公司決定組建全新的Microsoft AI部門,旨在統(tǒng)一管理和推進所有消費者AI產(chǎn)品和研究工作。為此,微軟特地挖角了人工智能領(lǐng)域的知名人物——DeepMind的
    的頭像 發(fā)表于 03-21 10:52 ?851次閱讀

    三星電子在硅谷成立AI芯片開發(fā)團隊

    三星電子近日在硅谷成立了一支全新的AI芯片開發(fā)團隊,以加速在人工智能領(lǐng)域的布局。這支團隊由前谷歌研究員Woo Dong-hyuk領(lǐng)導,他在谷歌
    的頭像 發(fā)表于 02-22 14:43 ?642次閱讀

    谷歌DeepMind資深AI研究員創(chuàng)辦AI Agent創(chuàng)企

    近日,剛從谷歌DeepMind離職的資深AI研究員Ioannis Antonoglou宣布創(chuàng)辦了一家名為“AI Agent”的創(chuàng)企。Ioannis Antonoglou常駐倫敦,此前曾擔任谷歌
    的頭像 發(fā)表于 02-04 10:02 ?784次閱讀

    OpenAI組建AI價值觀新團隊

    近日,人工智能領(lǐng)域的領(lǐng)軍企業(yè)OpenAI宣布,他們正在組建一個全新的團隊,名為“集體對齊”(Collective Alignment)。這個團隊主要由研究人員和工程師組成,旨在設(shè)計和實施一套系統(tǒng)性的流程,以收集和利用公眾意見,幫
    的頭像 發(fā)表于 01-17 15:00 ?666次閱讀

    谷歌發(fā)布全新AI SDK,簡化安卓應用集成

    谷歌破繭而出,全新發(fā)布 Google AI SDK,引領(lǐng) Android 應用邁向高性能 AI 集成新時代。這次發(fā)布的 SDK,專門為 Android 應用打造,將 Gemini Pr
    的頭像 發(fā)表于 01-03 14:18 ?822次閱讀
    主站蜘蛛池模板: 超碰97人人做人人爱网站| 国产成人免费片在线观看| 调教日本美女| 果冻传媒在线观看视频| 免费夜里18款禁用软粉色| 视频专区亚洲欧美日韩| 杨幂视频1分11未删减在线观看| BT7086福利二区最新| 国产亚洲人成网站在线观看播放| 毛片免费观看的视频| 无码人妻丰满熟妇啪啪网不卡| 影音先锋男人资源813.| 俄罗斯摘花| 美女屁股软件| 亚洲高清国产拍精品动图| 99久久亚洲| 精品亚洲视频在线观看| 色欲AV人妻精品麻豆AV| 中文字幕一区二区三区在线观看 | 国产av免费观看日本| 久久日本片精品AAAAA国产| 天美传媒在线完整免费观看网站| 123超碰在线视频| 国产一区二区在线观看免费| 欧美日韩国产码在线| 一色屋精品亚洲香蕉网站| 国产av在线看的| 欧美 亚洲 有码中文字幕| 亚洲色欲色欲WWW在线成人网| 成人网络电视破解版| 老师真棒无遮瑕版漫画免费| 亚洲、国产综合视频| YIN荡的老师系列第6部分视频| 久久国产主播福利在线| 赤兔CHINESE最新男18GUY| 久久AV无码AV高潮AV不卡| 特级做A爰片毛片免费看108| a视频在线观看| 亚州视频一区| 粗好大用力好深快点漫画| 麻豆沈芯语|