色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

將ML模型推向邊緣實現了AI的新用例

星星科技指導員 ? 來源:mouser ? 作者: Mark Patrick ? 2023-05-09 09:51 ? 次閱讀

AI推向邊緣的影響

在上一篇文章中,我們探索了將AI推向網絡邊緣的一些有力論點。本篇連載文章中,我們將討論哪些AI應用能真正從這種方法中受益。首先,回顧一下在網絡邊緣實施AI的原因可以提供一些重要提示。請查看以下任何一項是否適用于項目:

無法訪問快速、穩定的網絡連接
產品在受限環境中運行
項目需要交付實時AI
可用預算有限

考慮到上述因素,通過在邊緣運行ML模型可以使哪些具體的AI項目更容易運行?

虛擬助手

Apple在2010年推出Siri,一如既往地再次引領了潮流。這為其他許多虛擬助手鋪平了道路,其中最著名的便是亞馬遜的Alexa和Google Assistant。虛擬助手使科幻風格的語音控制成為現實,并通過以下方式工作:

1. 首先要說一個喚醒詞或啟動語音助手。對于Amazon Echo這樣的獨立式設備,則會不斷監聽喚醒詞,并使用簡單的語音模式匹配在本地進行處理。這就是為什么Alexa僅識別特定喚醒詞(Alexa、Amazon、Echo和計算機)的原因;
2. 設備現在連接到云端服務器,并發送收聽內容的錄音;
3. 云服務器運行語音到文本ML模型,將錄制的語音轉換為自然語言文本塊;
4. 文本則會借助自然語言處理解析以提取含義;
5. 服務器會計算出所請求的內容,然后將適當的命令或內容發送回設備。

通過將ML模型移到邊緣來增進這種體驗的方式顯而易見:語音助手將具有更快的響應速度、不需要連接到互聯網即可嵌入語音控制。也就是說,被調用的應用程序本身可能需要網絡連接(例如音樂流媒體服務)。

面部識別

面部識別是發展速度最快的AI應用之一。這一技術仍在發展,一路上小問題不斷。例如,兩年前,亞馬遜旗下的Rekognition深陷種族主義的爭議和指控之中。這套系統在接受了2.5萬張圖像的訓練后,錯誤地將28個美國少數族裔議員識別為臭名遠播的罪犯。1

2019年,英國最大的警察機關大都會警察局 (Met) 對面部識別技術進行了早期試驗,結果顯示這項技術在81%的時候都不準確。但是,最新的面部識別系統正在變得越來越準確。Met今年年初宣布將在大型活動中采用這項技術掃描已證實的鬧事者。

許多需要面部識別的用例都需要這項技術近乎實時地工作。因此,應用程序更依賴于將ML模型移動到網絡邊緣。Met所采用的系統基于NEC NeoFace Watch,它是完全獨立的設備,并具備實時工作能力。NEC的技術還瞄準了其他幾個市場,包括零售、企業活動、節日和其他大型活動以及交通運輸。

實時監控

工業和采礦業依賴于極其龐大和昂貴的機械。如果這種機器出現意外停機,企業可能蒙受數以百萬計的損失。例如,許多采礦作業都依賴于巨型大功率泵來保持巷道無水,并將開采出的泥漿泵送至選礦廠。如果這些泵當中有一臺出現災難性故障,則整個運營都將中斷。因此,礦業公司在AI系統中投入巨資,以期借助這些系統提前預測潛在的故障。

目前,這些系統通常基于從設備上安裝的物聯網傳感器傳輸數據。然后,數據會被集中處理,并將任何必要的警告回傳到相應的操作人員。但是,礦山和施工工地的范圍可能達到數十公里,通常地形險惡,因此將ML模型直接集成到邊緣設備中將簡化整個過程。

在邊緣運行AI和ML模型需要什么?

將AI轉移到網絡邊緣需要三樣東西:合適的硬件、新工具和用于創建ML模型的新范式。下面我們將逐一進行介紹。

經過優化的硬件

如前文所討論的那樣,ML模型通常依賴于大量的并行運算。本質上講,它們需要原始的計算能力。但是,在算力和設備消耗的實際功率之間始終要進行權衡與取舍。要將ML模型推向邊緣,需要消耗功率盡可能少的設備。當需要嵌入設備時更是如此。幸運的是,現在有各種各樣的高性能、低功耗MCU

合適的工具

接下來需要合適的工具鏈以在微控制器上運行ML模型。絕大多數ML框架被設計在64位Intel系列的CPUGPU上運行。相比之下,所有合適的微控制器都具有32位精簡指令集架構,例如ARM Cortex系列的MCU。但是,TensorFlow Lite等ML框架的開發使ML模型可以在此類MCU上運行。

一次建模,即可隨處運行

最后一塊拼圖是創建和運行ML模型的不同范式。這可以用“一次建模,即可隨處運行”這句話來概括。顧名思義:先創建模型(通常使用大功率的經ML優化的機器),然后使用工具鏈將其轉換為可以在任何微控制器上運行的代碼。遺憾的是,這樣也損失了從持續學習或強化學習中受益的能力。

權衡

下表列出了在邊緣模型上運行ML模型時所做出的一些權衡。但愿它能提供一些有助于確定是否將您的下一個AI項目移至最前沿的指引。

特性 在數據中心 在邊緣
實時
持續學習
可嵌入
需要網絡?
強化學習
模型是否齊全?

結論

將ML模型推向邊緣,實現了AI的新用例,從而有望帶來可嵌入式AI的革命。這些在MCU上運行ML模型所需的MCU硬件和工具的發展,均為這類技術的擴展奠定了基礎。

審核編輯:郭婷

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • mcu
    mcu
    +關注

    關注

    146

    文章

    17123

    瀏覽量

    350995
  • AI
    AI
    +關注

    關注

    87

    文章

    30731

    瀏覽量

    268893
  • ML
    ML
    +關注

    關注

    0

    文章

    149

    瀏覽量

    34642
收藏 人收藏

    評論

    相關推薦

    AI模型部署邊緣設備的奇妙之旅:如何實現手寫數字識別

    ,我們可以從一個經典的機器學習案例——手寫數字識別開始。手寫數字識別是AI技術與嵌入式系統融合的一個直觀且易于理解的例子。它不僅展示了如何在資源受限的設備上運行復雜的AI算法,而且體現
    發表于 12-06 17:20

    AI模型部署邊緣設備的奇妙之旅:目標檢測模型

    以及邊緣計算能力的增強,越來越多的目標檢測應用開始直接在靠近數據源的邊緣設備上運行。這不僅減少了數據傳輸延遲,保護用戶隱私,同時也減輕云端服務器的壓力。然而,在
    發表于 12-19 14:33

    硬件幫助AI移動到邊緣

    統。有關AI超出語音和愿景的硬件,實施和影響的進一步見解,請查看特殊項目中的其他文章。 AI推向邊緣的創新
    發表于 05-29 10:38

    EdgeBoard FZ5 邊緣AI計算盒及計算卡

    科技攜手百度,推出系列高性能及高性價比EdgeBoard 邊緣AI計算卡/計算盒,助力AI項目落地。可靈活適配海量的且不斷迭代的AI模型,并
    發表于 08-31 14:12

    【HarmonyOS HiSpark AI Camera】邊緣計算安全監控系統

    打火機)就報警的模型實現邊緣測的相關檢測和報警的業務邏輯。中期,完成傳感器數據和視頻推流到云端,實現遠程監控。后期,各個環節的豐富和優化,比如多傳感器、設備接入等,組成一套較完善系統
    發表于 09-25 10:11

    網絡邊緣實施AI的原因

    AI推向邊緣的影響通過在邊緣運行ML模型可以使哪些
    發表于 02-23 06:21

    eIQ軟件對ML模型有何作用

    隨著產品越來越復雜,具有更強大的處理能力和更高的速度,使得機器學習(ML)技術逐漸擴展到邊緣應用。借助eIQ軟件,現在可以非常輕松地新的ML
    發表于 12-20 07:01

    嵌入式邊緣AI應用開發指南

    保駕護航。下面讓我們來了解如何不借助手動工具或手動編程來選擇模型、隨時隨地訓練模型并將其無縫部署到TI處理器上,從而實現硬件加速推理。圖1: 邊緣A
    發表于 11-03 06:53

    如何ML模型部署到微控制器?

    Micro 和STM32Cube.AI運行時來分析我的 ML 模型,然后在兩個不同的板上編譯。提供這兩塊板子相關的硬件資源,其中STM32H7B3I更大一些。然而,奇怪的是,我可以
    發表于 12-29 13:09

    ST MCU邊緣AI開發者云 - STM32Cube.AI

    意法半導體(ST)為嵌入式AI開發人員和數據科學家擴展面向嵌入式AI開發人員和數據科學家的解決方案,推出了一套業界首創的全新工具和服務,通過輔助硬件和軟件決策,
    發表于 02-02 09:52

    NVIDIA利用 NVIDIA EGX 平臺幫助企業 AI 推向邊緣

    (Supermicro),以及業內領先軟件基礎設施提供商,如 Canonical、Cloudera、紅帽(Red Hat)、SUSE 和 VMware 利用 NVIDIA EGX 平臺幫助企業 AI 推向
    的頭像 發表于 10-09 15:02 ?2372次閱讀

    邊緣AI模型壓縮技術

    在某個時間點,人們認為大型和復雜的模型表現更好,但現在它幾乎是一個神話。隨著邊緣AI的發展,越來越多的技術大型復雜模型轉換為可以在
    的頭像 發表于 10-19 14:22 ?1048次閱讀
    <b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>的<b class='flag-5'>模型</b>壓縮技術

    如何優化ML模型與硬件實現TinyML?Arm歸納出5種作法

    近幾年,因應AIML應用趨勢浪潮,越來越多企業開始嘗試這樣的能力帶到靠近數據源的邊緣設備或IoT裝置,來發展各種Edge AI或AIoT
    的頭像 發表于 01-07 09:20 ?1285次閱讀

    Supermicro全新系統產品組合前沿AI性能推向邊緣計算環境

    模型(Pre-trained Model)及AI推論解決方案部署在產生數據的邊緣端,進而縮短響應時間與
    的頭像 發表于 02-24 09:10 ?990次閱讀
    Supermicro全新系統產品組合<b class='flag-5'>將</b>前沿<b class='flag-5'>AI</b>性能<b class='flag-5'>推向</b><b class='flag-5'>邊緣</b>計算環境

    NVIDIA與恩智浦聯手,在邊緣設備上部署AI模型

    恩智浦工業及IoT邊緣高級副總裁Charles Dachs表示,人工智能的創新塑造智能互聯世界的未來,融入Nvidia先進的AI培訓技術以及恩智浦在工業及物聯網邊緣科研實力,
    的頭像 發表于 03-25 16:05 ?875次閱讀
    主站蜘蛛池模板: 2019久久这里只精品热在线观看 | 东北成人社区| 琪琪的色原网站| xxxx美国老师1819| 日日干夜夜爱| 国产精品爽爽久久久久久无码| 向日葵视频app下载18岁以下勿看| 国产精品人妻午夜福利 | 益日韩欧群交P片内射中文| 久久99热成人精品国产| 亚洲中文字幕欧美自拍一区| 激情男女高潮射精AV免费| 在线播放成人无码日| 欧美性暴力变态xxxx| 国产AV无码一二三区视频| 亚洲国产成人精品无码区APP| 精品午夜久久福利大片免费| 24小时日本在线| 受被攻做到腿发颤高h文| 精品视频在线观看视频免费视频| 最新毛片网| 日本精品久久久久中文字幕2| 国产女合集小岁9三部| 18禁在线无遮挡羞羞漫画 | 亚洲字幕久久| 青草精品国产福利在线视频| 国产欧美一区二区精品仙草咪| 姉调无修版ova国语版| 视频区 国产 欧美 日韩| 久久久久免费视频| 成人毛片大全| 曰批国产精品视频免费观看| 日韩欧美精品有码在线播放| 久久黄色大片| 国产精品人妻午夜福利| 99精品视频一区在线视频免费观看 | 久久天堂网| 国产极品白嫩超清在线观看| 在线免费视频国产| 手机看片国产免费| 男女全黄h全肉细节文|