色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

何愷明團隊所在的Facebook AI推出ResNeXt-101模型

DPVg_AI_era ? 來源:lq ? 2019-06-29 07:26 ? 次閱讀

近日,何愷明團隊所在的Facebook AI推出ResNeXt-101模型,利用Instagram上的用戶標記圖片作為預訓練數據集,省去了人工標記數據的巨額成本,而且使用中只需微調,性能即超越了ImageNet任務的SOTA水平。

目前,幾乎所有最先進的視覺感知算法都依賴于相同的范式:(1)在手動注釋的大型圖像分類數據集上預訓練卷積網絡,(2)在較小的特定任務的數據集上微調網絡。這個模式已經廣泛使用了好多年,并取得了明顯的進展。比如:物體檢測,語義分割,人體姿勢估計,視頻識別,單眼深度估計等。

事實上,如果沒有有監督式預訓練,很多方法現在還被認為是一種蠻干 ImageNet數據集實際上是預訓練數據集。我們現在實際上對數據集的預訓練了解相對較少。其原因很多:比如現存的預訓練數據集數量很少,構建新數據集是勞動密集型的工作,需要大量的計算資源來進行實驗。然而,鑒于預訓練過程在機器學習相關領域的核心作用,擴大我們在這一領域的科學知識是非常重要的。

本文試圖通過研究一個未開發的數據體系來解決這個復雜的問題:使用外部社交媒體上數十億的帶有標簽的圖像作為數據源。該數據源具有大而且不斷增長的優點,而且是“免費”注釋的,因為數據不需要手動標記。顯而易見,對這些數據的訓練將產生良好的遷移學習結果。

本文的主要成果是,在不使用手動數據集管理或復雜的數據清理的情況下,利用數千個不同主題標簽作為標記的數十億幅Instagram圖像進行訓練的模型,表現出了優異的傳輸學習性能。在目標檢測和圖像分類任務上實現了對當前SOTA性能的提升。在ImageNet-1k圖像分類數據集上獲得single-crop 最高準確率達到了85.4%,AP達到了45.2%。當在ImageNet-1k上訓練(或預訓練)相同模型時,分數分別為79.8%和43.7%。然而,我們的主要目標是提供關于此前未開發的制度的新實驗數據。為此,我們進行了大量實驗,揭示了一些有趣的趨勢。

表1:圖像分類數據集的摘要。每個數據集標明數據來源和功能(訓練集,驗證集,測試集),圖像數量I和標簽數量L。

ImageNet數據集和模型

除了標準的IN-1k數據集之外,我們還嘗試了包含1420萬幅圖像和22000標簽的完整ImageNet2011完整版本的更大子集。我們構建了包含5k和9k標簽的訓練集和驗證集。

對于5k標簽集組,我們使用現在標準的IN-5k(6.6M訓練圖像)。對于9k標簽集,我們遵循用于構建IN-5k數據集的相同協議,采用下一個最頻繁的4k標簽和所有相關圖像(10.5M訓練圖像)。在兩種情況下,均使用50個圖像進行驗證。

我們使用具有分組卷積層的殘差網絡ResNeXt 。實驗中使用ResNeXt-101 32×Cd,它有101層,32組,組寬分別為:4(8B乘加FLOPs,43M參數),8(16B,88M),16(36B,193M), 32(87B,466M)和48(153B,829M)。我們認為實驗結果可以推廣到其他架構。

與ImageNet相比,我們使用的Instagram數據集可能包含每個圖像的多個標簽(因為用戶指定了多個主題標簽)。每個圖像的平均標簽數量因數據集而異;例如,train-IG-1B-17k每個圖像最多包含2個主題標簽。

實驗結果與性能

表2:使用不同規模、不同參數配置的ResNeXt-101模型獲得的不同性能結果比較

圖1:使用不同規模和參數配置的ResNeXt-101模型在ImageNet和Instagram標記數據集的分類性能的比較

運行實例及相關代碼

# Download an example image from the pytorch websiteimport urlliburl, filename = ("https://github.com/pytorch/hub/raw/master/dog.jpg", "dog.jpg")try: urllib.URLopener().retrieve(url, filename)except: urllib.request.urlretrieve(url, filename)

# sample execution (requires torchvision)from PIL import Imagefrom torchvision import transformsinput_image = Image.open(filename)preprocess = transforms.Compose([ transforms.Resize(256), transforms.CenterCrop(224), transforms.ToTensor(), transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]),])input_tensor = preprocess(input_image)input_batch = input_tensor.unsqueeze(0) # create a mini-batch as expected by the model# move the input and model to GPU for speed if availableif torch.cuda.is_available(): input_batch = input_batch.to('cuda') model.to('cuda')with torch.no_grad(): output = model(input_batch)# Tensor of shape 1000, with confidence scores over Imagenet's 1000 classesprint(output[0])# The output has unnormalized scores. To get probabilities, you can run a softmax on it.print(torch.nn.functional.softmax(output[0], dim=0))

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 圖像分類
    +關注

    關注

    0

    文章

    90

    瀏覽量

    11914
  • 機器學習
    +關注

    關注

    66

    文章

    8406

    瀏覽量

    132567
  • 數據集
    +關注

    關注

    4

    文章

    1208

    瀏覽量

    24689

原文標題:何愷明團隊新作ResNext:Instagram圖片預訓練,挑戰ImageNet新精度

文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    AI模型可以設計電路嗎?

    AI模型
    電子發燒友網官方
    發布于 :2024年01月02日 15:09:29

    Facebook手機明年或上市 采用Firefox OS系統

    Facebook手機一事同Facebook達成了合作協議,手機在明年下半年推出,并將搭載Firefox OS操作系統。”除此之外,該博客還放出了一張Facebook手機概念圖。圖片中的
    發表于 12-31 09:04

    Facebook 最新推出的虛擬現實世界,簡直好玩到炸裂

    `導讀:在虛擬世界里互動?這件事可絕對不像聽起來那么無聊。Facebook 今天在自己的開發者大會F8上推出了虛擬現實社交網絡平臺 Facebook Spaces,簡直好玩到炸裂!可能你還記得在去年
    發表于 04-21 09:25

    蘋果音箱月產大跌 Facebook智能音箱延至10月

      導讀:亞馬遜公司的Echo智能音箱,被稱為蘋果手機發售以來科技行業最重大發明,全世界幾乎所有的大型科技公司都模仿亞馬遜推出了智能音箱。據外媒最新消息,Facebook的隱私泄露丑聞影響到了該公司
    發表于 04-25 09:30

    Facebook智能音箱可能先在國際市場推出 隱私問題受到關注

      導讀:據外媒報道,據知情人士稱,Facebook正考慮在國際市場上率先推出其智能音箱產品,以避免因數據隱私問題在美國遭到公開審查。此外,這兩款智能音箱將內置一款語音助手,它使用的基礎技術與公司在
    發表于 05-09 09:29

    如何加速電信領域AI開發?

    所在的電信領域對開發者業務知識要求高,且電信場景多樣化、網絡設備復雜,華為推出的這款電信領域AI開發平臺到底如何幫助開發者攻克電信領域AI開發的障礙?我們或可從
    發表于 02-25 06:53

    基于暗原色先驗的單幅圖像去霧算法

    這是去霧算法的翻譯版,個人翻譯,原汁原味,簡單易懂。
    發表于 11-19 15:05 ?10次下載

    Bloomsbury AI團隊加入Facebook團隊,共同構建新的自然語言杜絕假新聞

    當然,本次的收購對于Facebook來說,意義重大,Bloomsbury AI可以幫助其監控社交網絡和監管虛假新聞和違禁內容。目前,Facebook面臨著用戶隱私泄露、虛假新聞不斷等負面消息,然而,Bloomsbury
    發表于 07-09 20:02 ?350次閱讀

    Facebook推出ONNX,旨在為不同編程框架的神經網絡創建共享模型

    今年9月,Facebook宣布推出“開源神經網絡交換”(ONNX),呼吁其他公司加入,旨在為不同編程框架的神經網絡創建共享模型。今天,Facebook聯合AWS和微軟宣布,在合作伙伴的
    的頭像 發表于 12-28 16:12 ?4245次閱讀

    Facebook構建虛擬空間訓練AI

    近日,Facebook推出一個開源的模擬數據集,希望幫助研究人員創建更加真實的AR/VR體驗,最終目的是幫助 AI 了解物理世界的環境。
    的頭像 發表于 06-18 17:07 ?3281次閱讀

    Facebook推出新款AI打牌機器人 可打敗專業對手

    Facebook推出AI 打牌機器人,已經獲得了多人協作性上的全面提升。外媒報道稱,新機器人可在德州撲克和 Go 等流行棋盤游戲上打敗專業選手。上周五的時候,該公司 AI 研究
    發表于 12-09 15:10 ?2410次閱讀

    Facebook推出AI模型,希望給計算機視覺領域帶來一次“革命”   

    3月5日消息,Facebook的研究人員推出了一種新的AI模型,該模型可以從網上任何未標記圖像的中學習,這是一項突破,盡管該
    的頭像 發表于 03-05 13:49 ?1097次閱讀

    耐能團隊上線新款AI模型體驗工具Showroom

    近期,耐能團隊上線了一款新的AI模型體驗工具「Showroom」。
    的頭像 發表于 05-31 10:35 ?1056次閱讀

    NVIDIA 為全球企業帶來生成式 AI 推出用于創建大型語言模型和視覺模型的云服務

    AI驅動的應用構建自定義模型 ? 加利福尼亞州圣克拉拉 – GTC – 太平洋時間 2023年3月21日 – 為了加速企業應用生成式AI,NVIDIA今日宣布推出一套云服務,使企業能
    發表于 03-22 13:45 ?393次閱讀
    NVIDIA 為全球企業帶來生成式 <b class='flag-5'>AI</b>  <b class='flag-5'>推出</b>用于創建大型語言<b class='flag-5'>模型</b>和視覺<b class='flag-5'>模型</b>的云服務

    開源大模型FLM-101B:訓練成本最低的超100B參數大模型

    近期,一支來自中國的研究團隊正是針對這些問題提出了解決方案,他們推出了FLM-101B模型及其配套的訓練策略。FLM-101B不僅大幅降低了
    的頭像 發表于 09-12 16:30 ?1452次閱讀
    開源大<b class='flag-5'>模型</b>FLM-<b class='flag-5'>101</b>B:訓練成本最低的超100B參數大<b class='flag-5'>模型</b>
    主站蜘蛛池模板: 精品一卡2卡三卡4卡乱码精品视频| 在线 亚洲 日韩 欧洲视频| 小sao货ji巴cao死你视频| 无敌在线视频观看免费| 亚洲国产AV精品一区二区蜜芽| 亚洲精品久久久久无码AV片软件| 亚洲一区在线观看无码欧美| 中文字幕视频在线观看| 99精品国产电影| 干了快生了的孕妇| 国内精品久久| 美女白虎穴| 色99蜜臀AV无码| 亚洲日本一区二区三区在线不卡| 最新影音先锋av资源台| 丹麦1o一19sex性hdhd| 国产亚洲人成在线视频| 浪潮AV色综合久久天堂| 日本一区精品久久久久影院| 亚洲aaaa级特黄毛片| 最美白虎逼| 国产精品久久久久久日本| 久久精品国产免费播高清无卡| 欧美性视频xxxxhd| 亚洲精品久久国产高清| 99久久国产露脸精品竹菊传煤| 国产剧情在线精品视频不卡| 狼人无码伊人AV啪啪| 色姊姊真舒服| 最近中文字幕高清中文字幕MV| 国产成人免费a在线资源| 久久99国产亚洲高清观着| 青柠视频在线观看高清HD| 亚洲精品成人在线| MD传媒在线观看佳片| 国内精品蜜汁乔依琳视频| 欧美内射深插日本少妇| 亚洲精品卡2卡3卡4卡5卡区 | 97免费视频在线观看| 国产精人妻无码一区麻豆| 男女亲吻摸下面吃奶视频|