色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

為嵌入式應用程序優化 AI

張飛雄 ? 來源:一個黃人 ? 作者:一個黃人 ? 2022-07-20 09:49 ? 次閱讀

在我之前的博客中,我談到了對基于 AI 的界面的需求如何變得幾乎不可避免——并且添加一個基于 AI 的界面(如 face-id)來授權對機器的訪問,乍一看似乎是一個巨大的飛躍,但實際上并非如此有你想象的那么困難。有大量可用的 AI 平臺、大量培訓選項甚至開源應用程序,例如face-id 示例。您可以使用可以在 PC 上運行的原型快速啟動和測試。

約束

將訓練有素的網絡遷移到您的嵌入式應用程序似乎是另一個巨大的障礙。PC 或云訓練的網絡并沒有針對內存使用或功耗進行太多優化。他們可能會使用浮點數或雙字進行網絡計算,并且在處理圖像上的滑動窗口時會嚴重依賴片外內存訪問。對于在插入墻上電源的高性能 PC 上運行的原型來說,這不是問題,但您需要在最終應用程序中更加節儉,同時不影響性能。

優化的要點

優化的一個關鍵步驟稱為量化。將權重從浮點切換到定點并減小定點大小,例如從 32 位浮點到 8 位整數,不僅會影響權重的大小,還會影響中間計算值。僅此一項就可以顯著減少內存占用,在大多數情況下對識別質量幾乎沒有明顯影響。

第二個操作是利用權重的稀疏性,對準確性的影響最小。這種做法將利用接近零的權重,并將它們四舍五入為零,同時密切跟蹤準確性影響。權重用于乘以部分和,當其中一個因素為零時,這是沒有意義的練習,因此無需執行操作。

在實際實現中,圖像是增量處理的,因此當計算窗口在圖像上移動時必須更新權重。這可以帶來很多更新和大量流量。通過強制大部分權重為零,可以壓縮權重數組,從而可以將所有或大部分數組存儲在片上 SRAM 中,以便按需解壓縮。這反過來又最大限度地減少了訪問主存儲器的需要,從而提高了性能并降低了功耗。它還偶然減少了加載重量時的片上流量。更少的流量爭用意味著更高的吞吐量。

還應考慮一個因素。像大多數復雜的應用程序一樣,神經網絡依賴于復雜的庫。您需要使用專為在微控制器環境中使用而設計的庫,并將編譯器用于您選擇的平臺。一個好的起點可能是開源庫,例如TensorFlow Lite,但要充分利用微控制器,就需要專門定制的解決方案。

當然,知道你必須做什么并不容易。您現在需要找到一個能夠簡化這些操作并提供硬件優化庫的平臺。

我如何使它成為一個易于使用的流程?

您想要的是一個流程,您可以在其中使用您在特定平臺(例如 TensorFlow)上訓練的網絡,并將其直接編譯到您的嵌入式解決方案中——除了撥打一些基本要求外,無需干預。當然,您還希望該選項能夠進一步手動優化,可能在不同的平面上設置不同的量化級別。也許可以嘗試權重閾值與片上內存大小。您需要針對硬件優化的庫和針對庫優化的硬件。

CEVA 的CDNN等經過驗證的 AI 平臺旨在提供這種類型的流程。CDNN 為量化和運行時任務生成提供離線處理器工具集,以及為 CEVA DSP 和客戶用戶硬件加速器定制的運行時庫。CEVA 的解決方案支持所有流行的 AI 模型格式,包括 TensorFlow Lite、ONNX、Caffe 等。

審核編輯 黃昊宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 嵌入式
    +關注

    關注

    5087

    文章

    19148

    瀏覽量

    306186
  • AI
    AI
    +關注

    關注

    87

    文章

    31155

    瀏覽量

    269494
收藏 人收藏

    評論

    相關推薦

    【「嵌入式Hypervisor:架構、原理與應用」閱讀體驗】+全文學習心得

    Hypervisor是一種在嵌入式系統中實現虛擬化技術的關鍵組件,它能夠在同一硬件平臺上并行運行多個操作系統或應用程序,提供資源隔離、管理和優化。通過引入時空域隔離的虛擬機,嵌入式Hy
    發表于 10-09 19:11

    嵌入式系統的啟動流程

    嵌入式系統的啟動流程是一個復雜但有序的過程,它涉及從系統上電到操作系統內核及應用程序啟動的多個階段。
    的頭像 發表于 10-05 17:44 ?428次閱讀

    嵌入式linux開發的基本步驟有哪些?

    嵌入式Linux開發是一個復雜的過程,涉及到硬件選擇、操作系統移植、驅動開發、應用程序開發等多個方面。以下是嵌入式Linux開發的基本步驟,以及每個步驟的說明。 硬件選擇 在開始嵌入式
    的頭像 發表于 09-02 09:11 ?541次閱讀

    C28x嵌入式應用程序二進制接口

    電子發燒友網站提供《C28x嵌入式應用程序二進制接口.pdf》資料免費下載
    發表于 08-31 09:39 ?0次下載
    C28x<b class='flag-5'>嵌入式</b><b class='flag-5'>應用程序</b>二進制接口

    MSP430嵌入式應用程序二進制接口

    電子發燒友網站提供《MSP430嵌入式應用程序二進制接口.pdf》資料免費下載
    發表于 08-30 11:43 ?0次下載
    MSP430<b class='flag-5'>嵌入式</b><b class='flag-5'>應用程序</b>二進制接口

    C6000嵌入式應用程序二進制接口

    電子發燒友網站提供《C6000嵌入式應用程序二進制接口.pdf》資料免費下載
    發表于 08-29 14:52 ?0次下載
    C6000<b class='flag-5'>嵌入式</b><b class='flag-5'>應用程序</b>二進制接口

    恩智浦加速嵌入式AI創新應用開發

    AI應用飛速發展的今天,如何能夠將AI嵌入式系統開發有機結合起來,營造新的開發生態,打造與眾不同的創新用例,一直是嵌入式開發者追求的目標。
    的頭像 發表于 08-27 09:46 ?850次閱讀

    嵌入式系統中的實時操作系統

    嵌入式RTOS是嵌入式應用程序運行、相互交互和與外界通信的底層軟件機制。在本節中,您將了解嵌入式軟件開發人員使用哪些流行RTOS以及它們運行的嵌入式
    的頭像 發表于 08-20 11:28 ?508次閱讀

    嵌入式軟件開發與AI整合

    嵌入式軟件開發與AI整合是當前技術發展的重要趨勢之一。隨著人工智能技術的快速發展,嵌入式系統越來越多地集成了AI算法,以實現更復雜的智能功能。以下是關于
    的頭像 發表于 07-31 09:25 ?742次閱讀
    <b class='flag-5'>嵌入式</b>軟件開發與<b class='flag-5'>AI</b>整合

    AI引爆邊緣計算變革,塑造嵌入式產業新未來AI引爆邊緣計算變革,塑造嵌入式產業新未來——2024研華嵌入式

    中國北京,2024年5月30日?- 2024年研華嵌入式產業合作伙伴會議在北京·中關村皇冠假日酒店成功舉辦,現場參會嘉賓逾300人。會議以“AI引爆邊緣計算變革,塑造嵌入式產業新未來”為主題展開
    發表于 05-31 13:53 ?356次閱讀
    <b class='flag-5'>AI</b>引爆邊緣計算變革,塑造<b class='flag-5'>嵌入式</b>產業新未來<b class='flag-5'>AI</b>引爆邊緣計算變革,塑造<b class='flag-5'>嵌入式</b>產業新未來——2024研華<b class='flag-5'>嵌入式</b>

    嵌入式系統軟硬件基礎知識大全

    兩部分組成的。硬件部分包括處理器、存儲器、輸入輸出等,是嵌入式系統實現功能的基礎。軟件部分則包括操作系統、驅動程序應用程序等,負責控制硬件組件的工作和實現各種功能。嵌入系統的硬件和軟
    發表于 05-09 14:12

    USB嵌入式主機堆棧

    在USB標準下,USB設備之間不能直接通信。它們只能與控制一個或多個設備通信的總線的 USB 主機通信。常見的 USB 主機是 PC。本應用筆記討論了 USB 嵌入式主機,它可以使嵌入式應用程序在各種 USB 設備中使用。
    發表于 05-03 09:13 ?200次閱讀
    USB<b class='flag-5'>嵌入式</b>主機堆棧

    深度詳解嵌入式系統專用輕量級框架設計

    MR 框架是專為嵌入式系統設計的輕量級框架。充分考慮了嵌入式系統在資源和性能方面的需求。通過提供標準化的設備管理接口,極大簡化了嵌入式應用開發的難度,幫助開發者快速構建嵌入式
    發表于 04-27 02:32 ?1014次閱讀
    深度詳解<b class='flag-5'>嵌入式</b>系統專用輕量級框架設計

    提升嵌入式系統可靠性的有效策略

    嵌入式工程師來說一個很大的好處是,我們的IDE和工具鏈可以自動產生應用程序或內存空間校驗和(Checksum),從而根據這個校驗和驗證應用程序是否完好。有
    發表于 04-26 14:50 ?545次閱讀
    提升<b class='flag-5'>嵌入式</b>系統可靠性的有效策略

    再談嵌入式實時操作系統

    由于嵌入式處理器早期功能單一且運算能力不高,嵌入式應用已不能滿足各個領域不斷增長的需求。嵌入式操作系統應運而生,嵌入式操作系統可以支持新時代復雜、多任務環境和功能的
    的頭像 發表于 04-09 17:27 ?814次閱讀
    再談<b class='flag-5'>嵌入式</b>實時操作系統
    主站蜘蛛池模板: 亚洲嫩草影院久久精品| 国产精品自拍| 偷拍久久国产视频免费| 国内精品久久| 国产精品99久久免费黑人人妻 | 乡村教师电影版| 三级黄色在线免费观看| 欧美最猛12teevideos| 男同志video最新猛男| 国产午夜精品自在自线之la| 成人免费视频网站www| 超碰97人人做人人爱网站| 啊灬啊别停灬用力啊在线观看视频| 亚洲无线观看国产| 日韩欧美一级| 日本一本免费线观看视频 | 夜色视频社区| 色综合久久久久久| 美女激清床上戏大全| 免费xxx成年大片| 欧美 另类 美腿 亚洲 无码| 教室里的激情电影| 俄罗斯女人Z0ZOZO| 99re 这里只有精品| 亚洲人视频在线观看| 夜色福利院在线观看免费| 天天狠狠色综合图片区| 欧美激情一区二区三区视频| 欧美日韩高清一区二区三区| 久久精品18| 美国一级黄色| 日本无翼恶漫画大全优优漫画| 男女一边摸一边做羞羞的事情免费| 母乳女神春日もな| 日本亚洲电影| 亚洲精品第一页| 最近的2019中文字幕国语版 | 免费欧美大片| 日本欧美久久久久免费播放网| 男生扒开美女尿口戳戳| 日本阿v片在线播放免费|