前言

上一篇博客給大家介紹了使用opencv加載YOLOv5的onnx模型，但我們發(fā)現(xiàn)使用CPU進(jìn)行推理檢測(cè)確實(shí)有些慢，那難道在CPU上就不能愉快地進(jìn)行物體識(shí)別了嗎？當(dāng)然可以啦，這不LabVIEW和OpenVINO就來了嘛！今天就和大家一起看一下如何在CPU上也能感受絲滑的實(shí)時(shí)物體識(shí)別。

一、OpenVINO是什么

OpenVINO是英特爾針對(duì)自家硬件平臺(tái)開發(fā)的一套深度學(xué)習(xí)工具庫，用于快速部署應(yīng)用和解決方案，包含推斷庫，模型優(yōu)化等等一系列與深度學(xué)習(xí)模型部署相關(guān)的功能。

特點(diǎn)：

1. 在邊緣啟用基于CNN的深度學(xué)習(xí)推理
2. 支持通過英特爾?Movidius?VPU在英特爾?CPU，英特爾?集成顯卡，英特爾?神經(jīng)計(jì)算棒2和英特爾?視覺加速器設(shè)計(jì)之間進(jìn)行異構(gòu)執(zhí)行
3. 通過易于使用的計(jì)算機(jī)視覺功能庫和預(yù)先優(yōu)化的內(nèi)核加快上市時(shí)間
4. *包括對(duì)計(jì)算機(jī)視覺標(biāo)準(zhǔn)（包括OpenCV 和OpenCL?）的優(yōu)化調(diào)用
5. 通俗易懂點(diǎn)說****想要在intel-cpu或者嵌入式上部署深度學(xué)習(xí)模型，可以考慮考慮openvino

二、LabVIEW視覺工具包下載與配置

1、視覺工具包的下載安裝

可在如下鏈接中下載OpenVINO版工具包： 基于LabVIEW可使用opencv DNN模塊調(diào)用的深度學(xué)習(xí)工具包

2、OpenVINO toolkit下載安裝

下載地址： 英特爾? Distribution of OpenVINO? 工具套件

1）點(diǎn)擊Dev Tools

2）選擇版本，選擇如下版本，并DownLoad：

3）下載后，運(yùn)行安裝即可！

4）可以選擇安裝路徑，具體安裝可以參考官方文檔： https://docs.openvino.ai/cn/latest/openvino_docs_install_guides_installing_openvino_windows.html

三、模型獲取

openvino工作流程，和其他的部署工具都差不多，訓(xùn)練好模型，解析成openvino專用的.xml和.bin，隨后傳入Inference Engine中進(jìn)行推理。這里和上一篇博客一樣可以使用export.py導(dǎo)出openvino模型：python export.py --weights yolov5s.pt --include openvino

當(dāng)然這里已經(jīng)為大家轉(zhuǎn)換好了模型，大家可以直接下載，下載鏈接：

四、LabVIEW+OpenVINO調(diào)用Yolov5進(jìn)行實(shí)時(shí)物體識(shí)別

1、實(shí)現(xiàn)過程

• dnn模塊調(diào)用IR模型（模型優(yōu)化器）
• 設(shè)置計(jì)算后臺(tái)與計(jì)算目標(biāo)設(shè)備（推理引擎加速）
• 獲取輸出端的LayerName
• 圖像預(yù)處理
• 推理
• 后處理
• 繪制檢測(cè)出的對(duì)象

2、程序源碼

如需源碼，請(qǐng)關(guān)注微信公眾號(hào)VIRobotics,回復(fù)關(guān)鍵詞：yolov5_openvino。

3、識(shí)別結(jié)果

CPU模式下，使用openvino進(jìn)行推理加速，實(shí)時(shí)檢測(cè)推理用時(shí)僅95ms/frame，是之前加載速度的三分之一

注意：

• readNetFromModelOptimizer.vi中IR模型****路徑不可以包含中文

附加說明：計(jì)算機(jī)環(huán)境

• 操作系統(tǒng)：Windows10
• python：3.6及以上
• LabVIEW：2018及以上 64位版本
• 視覺工具包：techforce_lib_opencv_cpu-1.0.0.73.vip
• OpenVINO：2021.4.2

總結(jié)

如果文章對(duì)你有幫助，歡迎?關(guān)注、

審核編輯 黃宇