色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

高效構建基于機器學習的產品的經驗

zhKF_jqr_AI ? 來源:未知 ? 作者:李倩 ? 2018-07-02 14:42 ? 次閱讀

編者按:Insight Data Science AI負責人Emmanuel Ameisen分享了高效構建基于機器學習產品的經驗。

要構建通用AI,先掌握線性回歸

從基本開始

試圖發展對世界的科學理解的時候,大多數領域從粗略的勾勒開始,之后才探索重要的細節。拿物理來說吧,我們從簡單模型(牛頓力學)開始,漸漸深入更復雜的模型(相對論),到時我們將知道,我們最初的假定是錯誤的。通過在最簡單的有用層次推理,我們可以高效地解決問題,

所有事情都應該盡可能簡單,但不要過于簡單。

阿爾伯特·愛因斯坦

從非常簡單的模型開始這一做法,同樣可以應用于機器學習工程,通常可以證明,這是非常有價值的做法。事實上,我們在Insight看到數以百計的項目從想法到發布成品的全過程,發現從一個簡單的基線模型開始,一貫地導向更好的最終產品。

應對復雜問題時,簡單的方案,有很多缺陷:

它們有時候忽略輸入的重要方面。例如,簡單模型常常忽略句子中的詞序,或者變量之間的相關性。

它們受到限制,難以得到精細的結果。大多數簡單模型可能需要配合啟發式方法或手工指定的規則才能供客戶使用。

它們并不那么有趣,可能無法讓你在開發時獲得尖端研究的體驗。

這些方案常常產生受到誤導的輸出,可能在我們看來非常愚蠢,正如本文標題所言,蠢模型。然而,如同我們將在本文中描述的,它們提供了極為有用的第一步,讓我們可以更好地理解我們的問題,以找到最好的處理方法。正如George E. P. Box所說:

所有模型都是錯誤的,但有些模型有用。

換句話說:如果你想玩下有趣的玩意,從復雜的模型開始。如果你想解決問題、構建產品,從愚蠢的模型開始。

什么是基線?

不同的分布需要不同的基線(來源:xkcd/1725)

基線模型不僅易于配置,同時有合理的幾率提供不錯的結果。試驗基線模型通常很快,而且代價較低,因為流行的軟件包大多包括了基線模型實現。

值得考慮的一些基線:

線性回歸。從一組特征預測連續值(價格、年齡等),首先嘗試下線性回歸。

邏輯回歸。試圖分類結構數據或自然語言時,邏輯回歸通常能給出快速、牢靠的結果。

梯度提升樹。Kaggle競賽經典模型!從時序預測到一般結構數據,梯度提升樹難以戰勝。盡管比其他基線要稍微難以解釋一點,它通常表現出色。

簡單卷積架構。對大多數圖像分類、檢測、分割問題而言,微調VGG或再訓練某個U-net變體通常是一個良好的開始。

還有更多!

簡單基線模型的選擇取決于要處理的數據類型和任務類型。如果你打算基于多個特征預測房價,那選擇線性回歸很合理。不過,如果你想要構建語音到文本算法,那選擇線性回歸就不怎么合理了。你需要思考你希望從基線模型中得到什么,以選擇最佳的基線。

為什么從基線開始?

部署模型需要很多工作,確保提交前充分探索(來源:Uber)

開始一個項目時,首要的是了解會阻礙項目進度的未曾預見的潛在挑戰。即使基線模型最終沒有成為最終版本的模型,它們仍然能夠讓你非常快速地迭代,浪費最少的時間。下面是一些原因。

基線將花去不到1/10的時間,可能提供高達90%的結果

生產率乘以9!

這里有一個非常常見的故事:一個團隊想要實現一個模型預測用戶點擊廣告的概率。他們從邏輯回歸開始,并很快(經過一些微調)達到了90%精確度。

問題在于:這個團隊應該集中精力將精確度提高到95%,還是應該以這樣90%的方式解決其他問題?

大多數最先進的模型,由于其隨機性本質,仍然會給出非零誤差率。你的用例可能不同,但大多數系統的效率本質上是乘法的,這意味著你寧愿選擇90%精確度的10個連續步驟(導致34%的最終精確度),而不是一個99%的步驟,跟著九個10%的步驟(0.000000099%)。

從基線開始,讓你可以首先解決瓶頸!

基線模型為更復雜的模型提供了上下文

通常,模型表現有三個易于評定的層次:

微不足道的可實現表現,你希望任何模型都能超過這個層次。例如,在分類任務中,每次都猜測最頻繁出現的分類所得到的精確度。

人類表現,人類在這一任務上能夠達到的表現。在某些任務上,計算機的表現比人類好很多(比如下圍棋),在其他一些任務上,則比人類要差(比如寫詩)。知道人類能夠表現得多好,有時可以幫助你事先為算法設定期望。不過,由于人類/計算機在不同領域的任務上表現不一樣,這也許需要進行一些文獻檢索加以校正。

部署模型要求的表現,從商業和可用性角度出發,使你的模型適宜部署到生產環境的最小價值。通常而言,聰明的設計決策可以讓這一價值更容易實現。例如,Google的智能回復,顯示三個建議回復,明顯提升了顯示有用結果的幾率。

以上三個層次缺了一層,我會稱它為“合理的自動化表現”,這代表可以通過一個相對簡單的模型實現的表現。這對評估復雜模型是否表現良好而言,是不可或缺的,也能讓我們處理精確性和復雜性的折衷。

許多時候,我們發現基線模型的表現和復雜模型相當,甚至優于復雜模型,特別是選擇復雜模型時沒有查看基線模型失敗之處的時候。此外,復雜模型通常更難部署,這意味著,很有必要事先衡量它們在簡單基線水平上的提升,是否值得額外的工程上的努力來部署它們。

簡單模型易于部署

根據定義,基線模型是簡單的。它們通常包含相對較少的可訓練參數,無需太多工作就可以快速擬合數據。

這意味著,在工程上,簡單模型:

訓練起來更快,讓你能夠迅速得到模型表現的反饋。

研究充分,這意味著你碰到的大多數錯誤或者是構建模型時的簡單bug,或者突顯了你的數據有問題。

推理起來更快,這意味著部署它們不需要很多基礎設施工程,也不會增加延遲。

構建和部署一個基線模型之后,正是決定下一步做什么的最佳時機。

構建基線模型之后做什么?

是時候拿一些論文出來看?

就像我們之前提到的那樣,如果你發現基線模型的表現不夠好,那么,查看簡單模型失效之處有助于你找到更好的方法。

例如,在我之前寫的NLP初步中,通過查看基線的誤差,我們可以看到它無法區分有意義的單詞和填充詞。這引導我們使用可以捕捉這一細微差別的模型。

基線幫助你理解數據

如果基線表現良好,你就不用為配置一個更復雜的模型操心了。如果基線表現不佳,它產生的錯誤種類對理解數據的偏離和特定問題非常有指導性。大多數機器學習的問題是通過更好地理解和準備數據解決的,而不是通過選擇更復雜的模型解決的。查看基線的表現有助你發現:

哪些分類更難區分。對大多數分類問題而言,查看混淆矩陣能得到很多關于哪些分類導致模型出現問題的信息。當特定分類上的表現特別差時,值得探索數據以理解為什么。

模型捕捉到了哪些信號。大多數基線可以提取特征重要性,揭示輸入的哪些方法預測性最好。分析特征重要性對理解模型如何做出判定以及模型在哪些方面有所欠缺非常有幫助。

模型錯過了哪些信號。如果數據的特定方面從直覺上看起來很重要,但模型忽略了它。那么進行特征工程或者選用其他能夠更好地利用數據這一方面的模型會是一個好主意。

基線幫助你理解任務

基線不僅有助于你更好地理解數據,還能讓你看到推理的哪一部分容易,哪一部分困難。進而允許你探索改進模型的哪個方向使困難部分表現更好。

例如,在嘗試預測給定團隊在守望先鋒中的勝率時,Bowen Yang從邏輯回歸開始。他很快發現在游戲過半之后預測精確度戲劇性地提升了。這一觀察幫助他決定下一個模型的選擇,一種允許從先驗信息學習的嵌入技術,在一開始就提升了精確度。

大多數機器學習問題遵循“沒有免費午餐”定理:并不存在一個萬能的解決方案。從多種架構、嵌入策略、模型中選定能夠提取和利用數據結構的最佳方案是一項挑戰。查看簡單的基線勉力建模的內容,對做出選擇幫助很大。

再舉一個例子。試圖分割心臟MRI影像時,Chuck-Hou Yee首先嘗試了一個原始的U-net架構。這讓他發現模型產生的很多分割誤差是因為缺少上下文信息(小型感受野)。為了應對這一問題,他轉而使用了擴張卷積,這一選擇顯著提升了模型的表現。

當基線派不上用場的時候

最后,為某些任務構建有效的基線非常困難。如果你打算從音源中分離出不同的說話人(雞尾酒會問題),你可能需要從復雜模型開始,以得到滿意的結果。在這些情形下,作為簡化模型的替代,你可以簡化數據:嘗試讓你的復雜模型過擬合數據的一個非常小的子集。如果你的模型具備學習這一問題的表達能力,它會很簡單。如果發現這部分很困難,那么通常這意味著你需要試試其他模型。

結語

當你意識到強大的模型的存在之后,很容易忽略那些簡單方法。然而,和大多數領域一樣,在機器學習中,從基本開始總是很有價值的。

學習如何應用復雜方法固然是一項挑戰,機器學習工程師的最大挑戰是為給定的任務決定建模策略。首先嘗試簡單模型可以為這一決策提供信息;如果簡單模型的表現平平無奇,轉而使用一個更復雜的模型,一個擅長避免基線產生的特定錯誤的模型。

在Insight,這一方法總共節省了數以千計小時的時間。我們希望這一方法對你同樣有用。如果遇到問題,或有什么想法,歡迎留言!

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 圖像分類
    +關注

    關注

    0

    文章

    90

    瀏覽量

    11915
  • 基線
    +關注

    關注

    0

    文章

    12

    瀏覽量

    7963
  • 機器學習
    +關注

    關注

    66

    文章

    8408

    瀏覽量

    132580

原文標題:創造機器學習產品的秘訣:總是從蠢模型開始

文章出處:【微信號:jqr_AI,微信公眾號:論智】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    【下載】《機器學習》+《機器學習實戰》

    、Apriori算法、FP-Growth算法。第四部分介紹了機器學習算法的一些附屬工具。全書通過精心編排的實例,切入日常工作任務,摒棄學術化語言,利用高效的可復用Python代碼來闡釋如何處理統計數據,進行
    發表于 06-01 15:49

    構建機器學習產品必需的數學背景

    必讀我們該如何學習機器學習中的數學
    發表于 08-15 11:44

    機器學習經驗總結

    面試經驗機器學習
    發表于 08-16 14:20

    什么是機器學習? 機器學習基礎入門

    中,我將概述機器學習,它是如何工作的,以及為什么它對嵌入式工程師很重要。什么是機器學習機器學習
    發表于 06-21 11:06

    Airbnb機器學習和數據科學團隊經驗分享

    Airbnb資深機器學習科學家Shijing Yao、前Airbnb數據科學負責人Qiang Zhu、Airbnb機器學習工程師Phillippe Siclait分享了在Airbnb
    的頭像 發表于 07-07 09:24 ?3864次閱讀

    ML-Bench 1.0構建和分析機器學習基準

    本講座描述了用于構建機器學習基準的分析方法。
    的頭像 發表于 11-13 06:32 ?2415次閱讀

    機器學習的12大經驗總結

    本文整理了關于機器學習研究者和從業者的 12 個寶貴經驗,包括需要避免的陷阱、需要關注的重點問題、常見問題的答案。希望這些經驗機器
    的頭像 發表于 12-13 15:29 ?2681次閱讀

    為生產系統構建機器學習的一些考慮

    這篇文章介紹了為生產系統構建機器學習過程的很多方面的內容,都是從實踐中總結出來的。
    的頭像 發表于 04-19 11:34 ?1562次閱讀

    如何才能正確的構建機器學習的模型

    組織構建一個可行的、可靠的、敏捷的機器學習模型來簡化操作和支持其業務計劃需要耐心、準備以及毅力。各種組織都在為各行業中的眾多應用實施人工智能項目。這些應用包括預測分析、模式識別系統、自主系統、會話
    發表于 01-11 19:25 ?14次下載

    六個構建機器學習模型需避免的錯誤

    近年來,機器學習在學術研究領域和實際應用領域得到越來越多的關注。但構建機器學習模型不是一件簡單的事情,它需要大量的知識和技能以及豐富的
    發表于 05-05 16:39 ?1418次閱讀

    Python機器學習應用

    機器學習的目標:機器學習是實現人工智能的手段,主要研究內容是如何利用數據或經驗進行學習,改善具體
    發表于 05-25 16:24 ?19次下載

    電力公司正在使用機器學習構建綠色的智能電網

    從發電到智能電表,各種電力項目正在采用機器學習構建綠色、有韌性的智能電網,其中許多項目都采用了 NVIDIA 的技術。
    的頭像 發表于 05-30 15:10 ?1895次閱讀

    高效理解機器學習

    來源:DeepNoMind對于初學者來說,機器學習相當復雜,可能很容易迷失在細節的海洋里。本文通過將機器學習算法分為三個類別,梳理出一條相對清晰的路線,幫助初學者理解
    的頭像 發表于 05-08 10:24 ?541次閱讀
    <b class='flag-5'>高效</b>理解<b class='flag-5'>機器</b><b class='flag-5'>學習</b>

    機器學習構建ML模型實踐

    實踐中的機器學習構建 ML 模型
    的頭像 發表于 07-05 16:30 ?713次閱讀

    構建云原生機器學習平臺流程

    構建云原生機器學習平臺是一個復雜而系統的過程,涉及數據收集、處理、特征提取、模型訓練、評估、部署和監控等多個環節。
    的頭像 發表于 12-14 10:34 ?112次閱讀
    主站蜘蛛池模板: 国产片MV在线观看| 洲精品无码高潮喷水A片| 乳色吐息未增删樱花ED在线观看| 麻生希第一部快播| 久久99热狠狠色一区二区| 国产亚洲日韩在线播放不卡| 国产乱辈通伦影片在线播放亚洲| 成人免费视频在线| 处xxxx.88| 高h肉文np| 国产精品高潮AV久久无码| 攻把受做哭边走边肉楼梯PLAY| 纯肉高H放荡受BL文库| 丹麦1o一19sex性hdhd| 放射源分类办法| 国产高清在线a视频大全| 国产成人在线播放视频| 囯产精品麻豆巨作久久| 国产精品久久人妻互换毛片| 国产黄片毛片| 黑人干亚洲人| 久久精品国产视频澳门| 美女MM131爽爽爽| 嗯呐啊唔高H兽交| 秋霞伦理高清视频在线| 涩涩在线观看免费视频| 无码AV动漫精品一区二区免费| 星空无限传媒视频在线观看视频| 午夜影视免费| 亚洲涩福利高清在线| 伊人久久大香线蕉观看| 52色擼99热99| 超碰在线视频人人AV| 国产AV无码一二三区视频| 国产香蕉视频| 久久久久久88色偷偷| 男生在床上脱美女 胸| 三级黄色在线看| 亚洲精品美女久久777777| 又色又爽又黄gif动态视频| 99九九精品国产高清自在线 |