色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Google開源了一款名為TensorFlow Federated的框架

電子工程師 ? 來源:lp ? 2019-03-11 09:40 ? 次閱讀

【導語】據了解,全球有 30 億臺智能手機和 70 億臺邊緣設備。每天,這些電話與設備之間的交互不斷產生新的數據。傳統的數據分析和機器學習模式,都需要在處理數據之前集中收集數據至服務器,然后進行機器學習訓練并得到模型參數,最終獲得更好的產品

但如果這些需要聚合的數據敏感且昂貴的話,那么這種中心化的數據收集手段可能就不太適用了。

去掉這一步驟,直接在生成數據的邊緣設備上進行數據分析和機器學習訓練呢?

近日,Google 開源了一款名為 TensorFlow Federated (TFF)的框架,可用于去中心化(decentralized)數據的機器學習及運算實驗。它實現了一種稱為聯邦學習(Federated Learning,FL)的方法,將為開發者提供分布式機器學習,以便在沒有數據離開設備的情況下,便可在多種設備上訓練共享的 ML 模型。其中,通過加密方式提供多一層的隱私保護,并且設備上模型訓練的權重與用于連續學習的中心模型共享。

傳送門:https://www.tensorflow.org/federated/

實際上,早在 2017 年 4 月,Google AI 團隊就推出了聯邦學習的概念。這種被稱為聯邦學習的框架目前已應用在 Google 內部用于訓練神經網絡模型,例如智能手機中虛擬鍵盤的下一詞預測和音樂識別搜索功能。

圖注:每臺手機都在本地訓練模型(A);將用戶更新信息聚合(B);然后形成改進的共享模型(C)。

DeepMind 研究員Andrew Trask 隨后發推稱贊:“Google 已經開源了Federated Learning……可在數以百萬計的智能手機上共享模型訓練!”

讓我們一起來看看使用教程

從一個著名的圖像數據集 MNIST 開始。MNIST 的原始數據集為 NIST,其中包含 81 萬張手寫的數字,由 3600 個志愿者提供,目標是建立一個識別數字的 ML 模型。

傳統手段是立即將 ML 算法應用于整個數據集。但實際上,如果數據提供者不愿意將原始數據上傳到中央服務器,就無法將所有數據聚合在一起。

TFF 的優勢就在于,可以先選擇一個 ML 模型架構,然后輸入數據進行訓練,同時保持每個數據提供者的數據是獨立且保存在本地。

下面顯示的是通過調用 TFF 的 FL API,使用已由 GitHub 上的“Leaf”項目處理的 NIST 數據集版本來分隔每個數據提供者所寫的數字:

GitHub 傳送鏈接:https://github.com/TalwalkarLab/leaf

#Loadsimulationdata.source,_=tff.simulation.datasets.emnist.load_data()defclient_data(n):dataset=source.create_tf_dataset_for_client(source.client_ids[n])returnmnist.keras_dataset_from_emnist(dataset).repeat(10).batch(20)#WrapaKerasmodelforusewithTFF.defmodel_fn():returntff.learning.from_compiled_keras_model(mnist.create_simple_keras_model(),sample_batch)#Simulateafewroundsoftrainingwiththeselectedclientdevices.trainer=tff.learning.build_federated_averaging_process(model_fn)state=trainer.initialize()for_inrange(5):state,metrics=trainer.next(state,train_data)print(metrics.loss)

除了可調用 FL API 外,TFF 還帶有一組較低級的原語(primitive),稱之為 Federated Core (FC) API。這個 API 支持在去中心化的數據集上表達各種計算。

使用 FL 進行機器學習模型訓練僅是第一步;其次,我們還需要對這些數據進行評估,這時就需要 FC API 了。

假設我們有一系列傳感器可用于捕獲溫度讀數,并希望無需上傳數據便可計算除這些傳感器上的平均溫度。調用 FC 的 API,就可以表達一種新的數據類型,例如指出 tf.float32,該數據位于分布式的客戶端上。

READINGS_TYPE=tff.FederatedType(tf.float32,tff.CLIENTS)

然后在該類型的數據上定義聯邦平均數。

@tff.federated_computation(READINGS_TYPE)defget_average_temperature(sensor_readings):returntff.federated_average(sensor_readings)

之后,TFF 就可以在去中心化的數據環境中運行。從開發者的角度來講,FL 算法可以看做是一個普通的函數,它恰好具有駐留在不同位置(分別在各個客戶端和協調服務中的)輸入和輸出。

例如,使用了 TFF 之后,聯邦平均算法的一種變體:

參考鏈接:https://arxiv.org/abs/1602.05629

@tff.federated_computation(tff.FederatedType(DATASET_TYPE,tff.CLIENTS),tff.FederatedType(MODEL_TYPE,tff.SERVER,all_equal=True),tff.FederatedType(tf.float32,tff.SERVER,all_equal=True))deffederated_train(client_data,server_model,learning_rate):returntff.federated_average(tff.federated_map(local_train,[client_data,tff.federated_broadcast(server_model),tff.federated_broadcast(learning_rate)]))

目前已開放教程,可以先在模型上試驗現有的 FL 算法,也可以為 TFF 庫提供新的聯邦數據集和模型,還可以添加新的 FL 算法實現,或者擴展現有 FL 算法的新功能。

據了解,在 FL 推出之前,Google 還推出了 TensorFlow Privacy,一個機器學習框架庫,旨在讓開發者更容易訓練具有強大隱私保障的 AI 模型。目前二者可以集成,在差異性保護用戶隱私的基礎上,還能通過聯邦學習(FL)技術快速訓練模型。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • Google
    +關注

    關注

    5

    文章

    1762

    瀏覽量

    57509
  • 機器學習
    +關注

    關注

    66

    文章

    8408

    瀏覽量

    132580
  • 數據集
    +關注

    關注

    4

    文章

    1208

    瀏覽量

    24691

原文標題:讓數百萬臺手機訓練同一個模型?Google把這套框架開源了

文章出處:【微信號:rgznai100,微信公眾號:rgznai100】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    卷積神經網絡的實現工具與框架

    TensorFlow是由Google Brain團隊開發的開源機器學習框架,它支持多種深度學習模型的構建和訓練,包括卷積神經網絡。TensorF
    的頭像 發表于 11-15 15:20 ?261次閱讀

    Google AI Edge Torch的特性詳解

    已經支持 Jax、Keras 和 TensorFlow 編寫的模型,現在我們加入了對 PyTorch 的支持,進步豐富框架選擇。
    的頭像 發表于 11-06 10:48 ?362次閱讀
    <b class='flag-5'>Google</b> AI Edge Torch的特性詳解

    分享一款GUI開發神器

    GT-HMI(Human Machine Interface) 國產開源 GUI 框架及永久免費設計軟件。
    的頭像 發表于 11-06 09:29 ?341次閱讀

    ?介紹一款Java開發的開源MES系統

    ?介紹一款Java開發的開源MES系統,萬界星空科技開源的MES系統。該系統基于Java開發,具有廣泛的適用性和高度的可定制性,能夠滿足不同行業、不同規模企業的智能制造需求。
    的頭像 發表于 09-05 17:39 ?643次閱讀
    ?介紹<b class='flag-5'>一款</b>Java開發的<b class='flag-5'>開源</b>MES系統

    TensorFlow是什么?TensorFlow怎么用?

    TensorFlow是由Google開發的開源深度學習框架,它允許開發者方便地構建、訓練和部署各種復雜的機器學習模型。
    的頭像 發表于 07-12 16:38 ?685次閱讀

    tensorflow和pytorch哪個更簡單?

    TensorFlow和PyTorch都是用于深度學習和機器學習的開源框架TensorFlowGoogle Brain團隊開發,而Py
    的頭像 發表于 07-05 09:45 ?849次閱讀

    tensorflow和pytorch哪個好

    tensorflow和pytorch都是非常不錯的強大的框架TensorFlow還是PyTorch哪個更好取決于您的具體需求,以下是關于這兩個框架
    的頭像 發表于 07-05 09:42 ?676次閱讀

    keras模型轉tensorflow session

    和訓練深度學習模型。Keras是基于TensorFlow、Theano或CNTK等底層計算框架構建的。TensorFlow開源的機器學
    的頭像 發表于 07-05 09:36 ?515次閱讀

    TensorFlow的定義和使用方法

    TensorFlow個由谷歌人工智能團隊谷歌大腦(Google Brain)開發和維護的開源機器學習庫。它基于數據流編程(dataflow programming)的概念,將復雜的
    的頭像 發表于 07-02 14:14 ?757次閱讀

    TensorFlow與PyTorch深度學習框架的比較與選擇

    深度學習作為人工智能領域的個重要分支,在過去十年中取得了顯著的進展。在構建和訓練深度學習模型的過程中,深度學習框架扮演著至關重要的角色。TensorFlow和PyTorch是目前最受歡迎的兩大深度
    的頭像 發表于 07-02 14:04 ?960次閱讀

    谷歌模型框架是什么軟件?谷歌模型框架怎么用?

    谷歌模型框架通常指的是谷歌開發的用于機器學習和人工智能的軟件框架,其中最著名的是TensorFlowTensorFlow
    的頭像 發表于 03-01 16:25 ?870次閱讀

    三星顯示展出一款名為Cling Band的卷曲腕戴概念機

    WitDisplay消息,在折疊之后,卷曲是許多人預想中的下個手機新型態。而在此次 MWC 上,柔性 OLED 面板龍頭三星顯示便帶來了一款名為 Cling Band 的卷曲腕戴概念機。
    的頭像 發表于 02-29 11:07 ?759次閱讀

    AURIX TC397是否可以搭配Google TensorFlow的演算法去運算?

    請問各位大神,AURIX TC397 是否可以搭配 Google TensorFlow 的演算法 去運算??
    發表于 02-18 06:05

    LG發布一款名為“MyView”的32英寸4K家用顯示器/智能電視混合產品

    據悉,LG將在今年的消費電子展上展示一款名為“MyView”的32英寸4K家用顯示器/智能電視混合產品。
    的頭像 發表于 01-12 16:22 ?1281次閱讀

    邊緣計算平臺開源框架有哪些類型

    邊緣計算平臺開源框架是指基于邊緣計算概念開發的開源軟件框架,用于構建和管理邊緣計算平臺。這些框架提供
    的頭像 發表于 12-27 15:17 ?1306次閱讀
    主站蜘蛛池模板: 欧美精品XXXXBBBB| 色哟哟网站入口在线观看视频| 99热久久精品国产一区二区| 熟妇久久无码人妻AV蜜桃| 久久精品一区二区三区资源网| 菠萝视频高清版在线观看| 亚洲视频网站欧美视频网站| 日日射日日操| 久久久精品成人免费看| 国产精品无需播放器| 538在线播放| 亚洲视频免费| 天天色天天综合网| 欧美另类videosbest| 久久九九精品国产自在现线拍| 国产高清美女一级a毛片久久w| 99re久久热免费视频| 亚洲性爱城| 亚洲 欧美 国产 视频二区| 热久久国产欧美一区二区精品| 老头狠狠挺进小莹体内视频| 好男人在线观看视频观看高清视频免费 | 美女xx00| 花蝴蝶在线观看免费中文版高清| 出租屋自拍贵在真实15P| 99热最新在线| 538prom国产在线视频一区| 一个人在线观看免费中文www| 亚久久伊人精品青青草原2020| 色人阁综合| 色99蜜臀AV无码| 人妻少妇久久久久久97人妻| 女仆翻身大作战| 免费看成人毛片| 米奇在线8888在线精品视频| 久久秋霞理论电影| 久久精品熟一区二区三区| 久久精品一区二区影院| 精子网久久国产精品| 九九久久久| 久久精品国产欧美日韩99热|