色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

一種基于MCU的神經網絡模型靈活更新方案之先行篇

jf_pJlTbmA9 ? 來源:恩智浦MCU加油站 ? 作者:恩智浦MCU加油站 ? 2023-10-17 17:48 ? 次閱讀

相信不少在MCU平臺使用Tensorflow Lite Micro(Tensorflow Lite Micro專為嵌入式平臺推出的專用版TFlite),以下簡稱TFLm,推理引擎體驗過AI的小伙伴們,一定都遇到過這樣的情況:當我們歷經千辛萬苦訓練出來一個模型之后,要如何將它導入工程里呢?

各抒己見

這時候有同學會說了:我有文件系統啊,模型放到sd卡中,文件操作讀進來分分鐘??!還有的同學會說了:我有xxd,當然,xxd也是TFLM的御用工具,負責將一個文件以十六進制的形式顯示出來,使用過這個推理引擎的同學一定對下面這段注釋很是熟悉:

// xxd -i mobilenet_v1_0.25_128_quant.tflite > mobilenet_v1_0.25_128_quant_model.h

這之后,我們的模型就會被轉化成類似于下面這個樣子,不要懷疑,這就是我們的模型真正的樣子,并非眉清目秀,在程序中就可以通過mobilenet_model這個指針來訪問模型數據:

const char mobilenet_model[] __ALIGNED(16) = {
  0x18, 0x00, 0x00, 0x00, 0x54, 0x46, 0x4c, 0x33, 0x00, 0x00, 0x0e, 0x00,
  0x18, 0x00, 0x04, 0x00, 0x08, 0x00, 0x0c, 0x00, 0x10, 0x00, 0x14, 0x00,
  0x0e, 0x00, 0x00, 0x00, 0x03, 0x00, 0x00, 0x00, 0x78, 0x5b, 0x07, 0x00,
  0x0c, 0x00, 0x00, 0x00, 0x10, 0x00, 0x00, 0x00, 0x20, 0x00, 0x00, 0x00,
  。。。。
  0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x00, 0x01, 0x00, 0x00, 0x00,
  0x97, 0x26, 0x08, 0x39
};
unsigned int mobilenet_model_len = 496912;

這時候,又有同學說了,你們這些方法都太弱了:你們有SD卡,有文件系統,有xxd!這些我統統不需要,不用額外安裝工具,不用文件系統擴展,不用看著我這空蕩蕩的錢包,還要祭出小錢錢去買張SD卡。

嗯,我只需要編譯器+裸板即可!要的就是簡潔(也想高調,可是小錢錢不允許?。?。

不賣關子了,我們有.incbin。這個小東西是一個匯編指令,用來包含某一個文件到匯編文件中,文件的內容將會按字節逐一添加到當前elf(鏡像文件)節中。不會做任何方式的解釋,保證數據的完整和一致性。即原封不動的添加進來,不過要注意,以下代碼要保存在以.s尾綴的匯編文件中:

.global mobilenet_model   // 導出全局符號
.global mobilenet_model _end
.section .rodata   // 存儲位置

. mobilenet_model :
   .incbin “mobilenet_v1_0.25_128_quant.tflite”
. mobilenet_model_end :

這樣一來,同樣可以使用mobilenet_model這個模型指針來進行模型的訪問。

很難說,上面三位同學的方法哪一種更好一點,可能第三位同學提出的方法,是對于外部依賴最少的,只需要利用編譯器對于匯編指令的支持即可。既不需要費力的移植文件系統,也不用花費小錢錢購買SD卡,也不用求求xxd工具幫我們做事。

當然,小編在這里也站一下隊,明確一下立場!我投.incbin一票,當然了,這個也是小編一直在用的方式。更換模型,只需要修改一下導入路徑即可,可以說香的不行了!

新的挑戰

不好,,,好像有點跑題變成夸夸群了,回到主題。

小伙伴既然已經回答了小編提出的問題:導入模型的N種方法,小編就再追問大家一個問題:如果頻繁更新模型要怎么辦呢?

當然,使用文件系統的小伙伴可能這時候會心一笑了:哈哈,我就知道有這么一出,讓我猜到了吧,比靈活性,沒人能和我比!

的確,無論是使用.incbin還是xxd的方式,每更新一次模型都要對整個模型重新編譯下載。而使用文件系統的方式,只需要將模型拖到SD即可,不過根據程序設計,是否需要保證模型名字保持一致才能夠正確loading。。。這個就不是本篇要討論的了。

柳暗花明

相信看到這里的小伙伴們心里已經有數了,小編一定是已經找到了另一種替代方案,既能實現模型的更新,又不用重新對模型進行編譯。是的,小編也就不再賣關子了,這就揭開廬山真面目。

小編這里要提出的方法,有點類似于引入文件系統的概念,只不過,是一個手動管理的“丐版”文件系統。

一句話概括就是:在非易失性器件上,說普通話就是Nor Flash上開辟一塊固定的區域來存儲模型,之后我們只需要將最新的模型也同樣下載到這一區域即可,這樣一來,我們在主程序中,只需要維護這一區域,將其作為模型的數據起始地址,就可以達到實時更新模型的目的了。

是不是感覺小編的這個想法,思路是如此的清晰!而且,還免去了移植文件系統的繁瑣過程,最重要的是,保住了錢包里的小錢錢,不用買SD卡了。

這里特別強調是Nor Flash,作為可以隨機讀的器件,可以方便地進行隨機訪問,使用起來或者說在程序的編寫上會更加的便捷。當然,使用NAND flash也未曾不可,有興趣的伙伴可以自行整理。

留下懸念

當然,可能有小伙伴要質疑:那你這個可以實現存儲多個模型嗎?小編很負責任地告訴大家,只要膽子大,宇宙都能給你裝下!只不過,在存放數據的時候,需要額外存儲一些幀頭信息,告知程序一共有多少組模型存儲其中。

小編將在下期為大家介紹如何設計合適的存儲結果以存放我們的flash數據,并編寫一個PC端小程序,負責進行數據的轉換,敬請期待!

來源:恩智浦MCU加油站
免責聲明:本文為轉載文章,轉載此文目的在于傳遞更多信息,版權歸原作者所有。本文所用視頻、圖片、文字如涉及作品版權問題,請聯系小編進行處理

審核編輯 黃宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • mcu
    mcu
    +關注

    關注

    146

    文章

    17458

    瀏覽量

    354460
  • 神經網絡
    +關注

    關注

    42

    文章

    4789

    瀏覽量

    101598
  • AI
    AI
    +關注

    關注

    87

    文章

    32439

    瀏覽量

    271629
  • 模型
    +關注

    關注

    1

    文章

    3415

    瀏覽量

    49477
收藏 人收藏

    評論

    相關推薦

    【PYNQ-Z2試用體驗】神經網絡基礎知識

    學習和認知科學領域,是一種模仿生物神經網絡(動物的中樞神經系統,特別是大腦)的結構和功能的數學模型或計算模型,用于對函數進行估計或近似。
    發表于 03-03 22:10

    一種基于GAP技術的網絡保護設備設計新方案

    本文提出了基于GAP技術的網絡保護設備設計新方案,闡述了主要模塊的實現方法。
    發表于 04-29 06:45

    如何構建神經網絡?

    原文鏈接:http://tecdat.cn/?p=5725 神經網絡一種基于現有數據創建預測的計算系統。如何構建神經網絡?神經網絡包括:輸入層:根據現有數據獲取輸入的層隱藏層:使用反
    發表于 07-12 08:02

    輕量化神經網絡的相關資料下載

    視覺任務中,并取得了巨大成功。然而,由于存儲空間和功耗的限制,神經網絡模型在嵌入式設備上的存儲與計算仍然是個巨大的挑戰。前面幾篇介紹了如何在嵌入式AI芯片上部署神經網絡:【嵌入式AI
    發表于 12-14 07:35

    卷積神經網絡模型發展及應用

    十余年來快速發展的嶄新領域,越來越受到研究者的關注。卷積神經網絡(CNN)模型是深度學習模型中最重要的一種經典結構,其性能在近年來深度學習任務上逐步提高。由于可以自動學習樣本數據的特征
    發表于 08-02 10:39

    一種基于高效采樣算法的時序圖神經網絡系統介紹

    成為了非常重要的問題。 基于以上問題,本文提出了一種基于高效采樣算法的時序圖神經網絡系統 。首先我們介紹用于時序圖神經網絡采樣的高效采樣方法。采樣常常被用于深度學習中以降低模型的訓練時
    發表于 09-28 10:34

    一種基于人工神經網絡的秘密共享方案

    本文首先分析了人工神經網絡和秘密共享的相通之處,闡明了用人工神經網絡來實現秘密共享是可能的;其次給出了一種基于人工神經網絡的秘密共享的門限方案
    發表于 08-15 09:54 ?15次下載

    一種攜帶歷史元素的循環神經網絡推薦模型

    動態推薦系統通過學習動態變化的興趣特征來考慮推薦系統中的動態因素,實現推薦任務隨著時間變化而實時更新。該文提出一種攜帶歷史元素的循環神經網絡( ecurrent Neural Net works
    發表于 03-31 09:31 ?5次下載
    <b class='flag-5'>一種</b>攜帶歷史元素的循環<b class='flag-5'>神經網絡</b>推薦<b class='flag-5'>模型</b>

    卷積神經網絡模型有哪些?卷積神經網絡包括哪幾層內容?

    、視頻等信號數據的處理和分析。卷積神經網絡就是一種處理具有類似網格結構的數據的神經網絡,其中每個單元只處理與直接相連的神經元的信息。本文將
    的頭像 發表于 08-21 16:41 ?2059次閱讀

    cnn卷積神經網絡模型 卷積神經網絡預測模型 生成卷積神經網絡模型

    cnn卷積神經網絡模型 卷積神經網絡預測模型 生成卷積神經網絡模型? 卷積
    的頭像 發表于 08-21 17:11 ?1370次閱讀

    卷積神經網絡模型搭建

    卷積神經網絡模型搭建 卷積神經網絡模型一種深度學習算法。它已經成為了計算機視覺和自然語言處理等各種領域的主流算法,具有很大的應用前景。本篇
    的頭像 發表于 08-21 17:11 ?1063次閱讀

    卷積神經網絡模型的優缺點

    卷積神經網絡模型的優缺點? 卷積神經網絡(Convolutional Neural Network,CNN)是一種從圖像、視頻、聲音和系列
    的頭像 發表于 08-21 17:15 ?5000次閱讀

    一種基于MCU神經網絡模型在線更新方案數據處理

    一種基于MCU神經網絡模型在線更新方案數據處理
    的頭像 發表于 10-17 18:06 ?633次閱讀
    <b class='flag-5'>一種</b>基于<b class='flag-5'>MCU</b>的<b class='flag-5'>神經網絡</b><b class='flag-5'>模型</b>在線<b class='flag-5'>更新方案</b><b class='flag-5'>之</b>數據處理<b class='flag-5'>篇</b>

    人工神經網絡模型一種什么模型

    人工神經網絡(Artificial Neural Networks,簡稱ANNs)是一種受生物神經網絡啟發而產生的數學模型,用于模擬人腦處理信息的方式。它由大量的節點(或稱為
    的頭像 發表于 07-04 16:57 ?1154次閱讀

    基于MCU神經網絡模型設計

    力不從心。神經網絡作為一種強大的機器學習模型,能夠提供高效的數據處理和分析能力,但其計算復雜度和資源需求往往超出了普通MCU的能力范圍。因此,設計
    的頭像 發表于 07-12 18:21 ?1319次閱讀
    主站蜘蛛池模板: 成人在免费观看视频国产 | 一本色道久久综合亚洲AV蜜桃 | 被爽到叫呻呤视频免费视频 | 国产人妻精品无码AV在线五十路 | 国产成人免费全部网站 | 伊人影院综合 | 拔萝卜电视剧高清免费 | 极品少妇高潮XXXXX | 国产在线精品亚洲观看不卡欧美 | 最新色导航 | 午夜国产精品免费观看 | 久久精品国产亚洲AV麻豆欧美玲 | 日本视频中文字幕一区二区 | 2020国产欧洲精品视频 | 国产精品久AAAAA片 | 韩国演艺圈qvod | 美女被黑人巨大进入 | 国产成人理在线观看视频 | 国产在线观看的 | 免费国产成人高清在线看软件 | 久久视频这里只精品99热在线观看 | 欧美性狂猛AAAAAA | 亚洲精品久久久久久久蜜臀老牛 | 九九黄色大片 | 欧美成人精品高清在线观看 | 成年人免费在线视频观看 | 久久re6热在线视频 久久er国产免费精品 | 窝窝色资源站 | 久久久无码精品无码国产人妻丝瓜 | 亚洲国产精品久久精品成人网站 | ca88亚洲城娱乐 | 国产成年网站v片在线观看 国产成年人在线观看 | XXX国产麻豆HD| 九色PORNY真实丨国产大胸 | www.精品视频 | 一本道综合久久免费 | 久久热在线视频精品 | 日本久久精品免视看国产成人 | 琪琪see色原网色原网站 | 国产亚洲精品线视频在线 | 一本道久在线综合色色 |