色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

OpenAI推出AI真假鑒別工具,成功率僅有26%

youyou368 ? 來源:電子元器件超市 ? 2023-02-06 16:16 ? 次閱讀

很多人也許已經忘記,ChatGPT 正式發布時間是去年 11 月底,到現在才剛剛兩個月,但它掀起的熱潮卻已引發科技公司紛紛跟進,催生了獨角獸創業公司,還讓學術界修改了論文接收的要求。

在 ChatGPT 引發 AI 領域「是否要禁用」大討論之后,OpenAI 的真假鑒別工具終于來了。

1 月 31 日 OpenAI 官宣了區分人類作品和 AI 生成文本的識別工具上線,該技術旨在識別自家的 ChatGPT、GPT-3 等模型生成的內容。然而分類器目前看起來準確性堪憂:OpenAI 在博客里指出 AI 識別 AI 高置信度正確率約為 26%。但該機構認為,當它與其他方法結合使用時,可以有助于防止 AI 文本生成器被濫用。

「我們提出分類器的目的是幫助減少人工智能生成的文本造成的混淆。然而它仍然有一些局限性,因此它應該被用作其他確定文本來源方法的補充,而不是作為主要的決策工具,」OpenAI 發言人通過電子郵件對媒體介紹道。「我們正通過這個初始分類器獲取有關此類工具是否有用的反饋,并希望在未來分享改進的方法。」

最近科技領域隨著圍繞生成式 AI,尤其是文本生成 AI 的熱情正在不斷增長,但相對的是人們對于濫用的擔憂,批評者呼吁這些工具的創造者應該采取措施減輕其潛在的有害影響。

面對海量的 AI 生成內容,一些行業立刻作出了限制,美國一些最大的學區已禁止在其網絡和設備上使用 ChatGPT,擔心會影響學生的學習和該工具生成的內容的準確性。包括 Stack Overflow 在內的網站也已禁止用戶共享 ChatGPT 生成的內容,稱人工智能會讓用戶在正常的討論中被無用內容淹沒。

這些情況突出了 AI 識別工具的必要性。雖然效果不盡如人意,但 OpenAI AI 文本分類器(OpenAI AI Text Classifier)在架構上實現了和 GPT 系列的對標。它和 ChatGPT 一樣是一種語言模型,是根據來自網絡的許多公開文本示例進行訓練的。與 ChatGPT 不同的是,它經過微調可以預測一段文本由 AI 生成的可能性 —— 不僅來自 ChatGPT,也包括來自任何文本生成 AI 模型的內容。

具體來說,OpenAI 在來自五個不同組織(包括 OpenAI 自己)的 34 個文本生成系統的文本上訓練了 AI 文本分類器。這些內容與維基百科中相似(但不完全相同)的人工文本、從 Reddit 上共享的鏈接中提取的網站以及為 OpenAI 文本生成系統收集的一組「人類演示」配對。

需要注意的是,OpenAI 文本分類器不適用于所有類型的文本。被檢測的內容至少需要 1000 個字符,或大約 150 到 250 個單詞。它沒有論文檢測平臺那樣的查重能力 —— 考慮到文本生成人工智能已被證明會照抄訓練集里的「正確答案」,這是一個非常難受的限制。OpenAI 表示,由于其英語前向數據集,它更有可能在兒童或非英語語言書寫的文本上出錯。

在評估一段給定的文本是否由 AI 生成時,檢測器不會正面回答是或否。根據其置信度,它會將文本標記為「非常不可能」由 AI 生成(小于 10% 的可能性)、「不太可能」由 AI 生成(在 10% 到 45% 之間的可能性)、「不清楚它是否是」AI 生成(45% 到 90% 的機會)、「可能」由 AI 生成(90% 到 98% 的機會)或「很有可能」由 AI 生成(超過 98% 的機會)。

看起來和圖像識別的 AI 很像,除了準確程度。根據 OpenAI 的說法,分類器錯誤地將人類編寫的文本標記為 AI 編寫的文本的概率為 9%。

一番試用之后,效果的確不大行

OpenAI 宣稱其 AI 文本分類器的成功率約為 26%,一些網友上手試用之后,發現識別效果果然不行。

知名 ML 和 AI 研究人員 Sebastian Raschka 試用之后,給出了「It does not work」的評價。他使用其 2015 年初版的 Python ML 書籍作為輸入文本,結果顯示如下。

Randy Olson 的 foreword 部分被識別為不清楚是否由 AI 生成(unclear)

他自己的 preface 部分被識別為可能由 AI 生成(possibly AI)

第一章的段落部分被識別為很可能由 AI 生成(likely AI)

387526ca-a4d2-11ed-bfe3-dac502259ad0.png

Sebastian Raschka 對此表示,這是一個有趣的例子,但自己已經為將來可能因離譜的論文識別結果而受到懲罰的學生感到難過了。

因此他提議,如果要部署這樣的模型,請共享一個混淆矩陣。不然如果教育者采用這一模型進行評分,則可能會對現實世界造成傷害。此外還應該增加一些有關誤報和漏報的透明度。

此外,Sebastian Raschka 輸入了莎士比亞《麥克白》第一頁的內容,OpenAI AI 文本分類器給出的結果竟然是很可能由 AI 生成。簡直離譜!

3918e2ce-a4d2-11ed-bfe3-dac502259ad0.png

還有人上傳了 AI 寫作工具 Easy-Peasy.AI 創作的內容,結果 OpenAI AI 文本分類器判定為由 AI 生成的可能性非常小。

3937aa2e-a4d2-11ed-bfe3-dac502259ad0.png

最后,有人用上了反復翻譯大法,把文本讓 GPT3 重寫一遍,也能騙過識別器。

39ebeb2e-a4d2-11ed-bfe3-dac502259ad0.png

總結一下的話就是正向識別不準,反向識別出錯,也無法識破一些改論文的技巧。看來,起碼在 AI 文本內容識別這一領域,OpenAI 還需努力。

最近,有媒體爆料百度計劃在今年3月推出 ChatGPT 風格的應用程序,最初將其嵌入到其主要搜索服務中。該工具的名稱尚未確定,就像 ChatGPT 一樣允許用戶獲得對話式搜索結果。百度對此未予置評。不過,有網友建議,還是先做一個AI內容真假鑒別工具吧!

審核編輯 :李倩

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    31463

    瀏覽量

    269861
  • 模型
    +關注

    關注

    1

    文章

    3296

    瀏覽量

    49042
  • OpenAI
    +關注

    關注

    9

    文章

    1121

    瀏覽量

    6632

原文標題:ChatGPT “克星”來了!OpenAI 推出AI真假鑒別工具,成功率僅有26%

文章出處:【微信號:jbchip,微信公眾號:電子元器件超市】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    OpenAI即將推出o3 mini推理AI模型

    近日,OpenAI首席執行官Sam Altman在社交媒體平臺X上發表了一篇引人關注的文章。在文章中,他透露了一個重要信息:OpenAI已經成功完成了全新推理AI模型o3 mini版本
    的頭像 發表于 01-20 10:54 ?194次閱讀

    OpenAI推出AI視頻生成模型Sora

    近日,備受期待的OpenAI再次推出了其創新之作——AI視頻生成模型Sora。這一新品的發布,無疑為AI技術注入了新的活力。 據悉,Sora與Ope
    的頭像 發表于 12-12 09:40 ?232次閱讀

    單片集成功率放大器件的工作原理是什么

    單片集成功率放大器件(Monolithic Integrated Power Amplifier, MIPA)是一種集成在單個芯片上的功率放大器,它通常用于無線通信系統中,如手機、基站、無線局域網
    的頭像 發表于 09-20 17:30 ?477次閱讀

    單片集成功率放大器件的功率通常在多少

    單片集成功率放大器件的功率通常在 1瓦 左右。單片集成功率放大器件(Monolithic Power Amplifier,簡稱MPA)是一種集成電路,它將功率放大器的功能集成在一個芯片
    的頭像 發表于 09-20 17:28 ?441次閱讀

    了解具有集成功率MOSFET的直流/直流轉換器熱阻規格

    電子發燒友網站提供《了解具有集成功率MOSFET的直流/直流轉換器熱阻規格.pdf》資料免費下載
    發表于 08-26 14:19 ?0次下載
    了解具有集<b class='flag-5'>成功率</b>MOSFET的直流/直流轉換器熱阻規格

    如何提高eCall碰撞測試成功率

    eCall是在汽車碰撞場景下完成,具有不可重復性,提高eCall碰撞測試成功功率對其測試認證尤為重要。通過掃頻、首先完成零部件測試、增加濾波器、同步首先完成、側碰首先完成、保證上行鏈接、多次重復點測等方式提高eCall碰撞成功率
    的頭像 發表于 08-16 16:16 ?585次閱讀
    如何提高eCall碰撞測試<b class='flag-5'>成功率</b>

    OpenAI推出在線搜索工具“SearchGPT”

    科技巨頭OpenAI正悄然醞釀一場搜索領域的變革,其最新推出的在線搜索工具“SearchGPT”正悄然挑戰著Alphabet旗下谷歌的搜索霸主地位。這款被寄予厚望的新工具,目前正處于緊
    的頭像 發表于 07-26 16:54 ?716次閱讀

    AFE10004高度集成功率放大器數據表

    電子發燒友網站提供《AFE10004高度集成功率放大器數據表.pdf》資料免費下載
    發表于 07-19 09:27 ?0次下載
    AFE10004高度集<b class='flag-5'>成功率</b>放大器數據表

    使用\"hi 樂鑫\"語音喚醒,成功率比較低怎么解決?

    你好,我正在測試使用 esp-box,使用\"hi 樂鑫\"語音喚醒,成功率比較低。 已經設置為中文場景,但經常用\"hi 樂鑫\"喚醒無反應,這里面有什么設置要求嗎? 另,樂這個字是個多音字,有什么方案可以在開發模式下更換喚醒詞?
    發表于 07-19 06:33

    OpenAI推出ChatGPT大學教育版

    近日,OpenAI宣布推出了一款專為大學設計的人工智能產品——ChatGPT Edu。這款全新的AI工具旨在服務于學生、教職員工、研究人員以及校園運營,以滿足他們在不同場景下的智能化需
    的頭像 發表于 06-06 09:48 ?549次閱讀

    OpenAI推出ChatGPT Edu,助力教育及學術領域AI應用普及

    OpenAI近日宣布推出全新服務——ChatGPT Edu,旨在推動教育機構與學術單位在人工智能領域的深入應用與發展。此舉不僅彰顯了OpenAI在普及AI技術方面的決心,也為廣大師生及
    的頭像 發表于 06-04 09:17 ?568次閱讀

    OpenAI推出專用的AI檢測工具

    OpenAI最近推出了一款全新的AI檢測工具,這款工具專門針對由DALL·E 3模型生成的圖片。令人印象深刻的是,該
    的頭像 發表于 05-09 10:01 ?549次閱讀

    OpenAI發布圖像檢測分類器,可區分AI生成圖像與實拍照片

    OpenAI介紹,初步測試結果表明,該分類器在辨別非AI生成圖像與DALL·E 3生成圖像時,成功率高達近98%,僅有不到0.5%的非AI
    的頭像 發表于 05-09 09:57 ?500次閱讀

    OpenAI新推AI檢測工具,準確率提升98%

    C2PA作為數字內容認證的通用標準,由多家廠商共同發起并推廣使用,通過它可以證明內容的確切來源。繼今年初在ChatGPT和OpenAI API中引入C2PA元數據后,OpenAI進一步推出了這款專用檢測
    的頭像 發表于 05-08 10:36 ?637次閱讀

    OpenAI視頻生成工具Sora將于年內正式向公眾推出

    OpenAI的首席技術官Mira Murati在近期采訪中透露,公司正計劃在今年晚些時候正式向公眾正式推出其視頻生成工具Sora。Murati表示,盡管具體的推出時間可能需要幾個月,但
    的頭像 發表于 03-19 11:41 ?937次閱讀
    主站蜘蛛池模板: 午夜插插插| 久久99国产综合精品AV蜜桃| 国产69精品久久久久妇女| 果冻传媒剧情在线观看| 欧美大片免费观看| 亚洲三级精品| 古风H啪肉NP文| 麻花豆传媒剧国产免费mv观看| 色欲色香天天天综合| 中文日韩亚洲欧美字幕| 国产精品久久久久久久久爆乳| 美女脱内衣裸身尿口露出来| 亚洲蜜桃AV永久无码精品放毛片| 啊灬啊灬啊灬快高潮视频 | 亚洲一级电影| 国产成人在线观看免费网站| 欧美97色伦综合网| 中文字幕在线观看亚洲| 國產麻豆AVMDXMDX| 天天澡夜夜澡人人澡| china chinese中国人玩| 久久香蕉国产线看观看| 亚洲精品国产自在在线观看| 动漫护士被乳羞羞漫| 欧美日韩高清一区二区三区| 最新亚洲中文字幕在线观看| 精品AV综合导航| 羞羞影院男女爽爽影院尤物| 国产99视频精品一区| 日本经典片免费看| 草民电影网午夜伦理电影网| 欧美性动漫3d在线观看完整版| 99久久精品免费精品国产 | 国产传媒18精品免费观看| 琪琪色原网20岁以下热热色原网站| 2017必看无码作品| 浪货嗯啊趴下NP粗口黄暴| 亚洲中文 字幕 国产 综合| 久久a在线视频观看| 在线视频av大全色久久| 麻豆精品传媒2021网站入口|