引言
OpenVINO2022版本發(fā)布之后,對(duì)之前舊版本的功能做明確的劃分,其中仍然通過(guò)exe方式安裝程序的是runtime推理包,支持ONNX、IR、PADDLE等模型讀取與推理。但是模型優(yōu)化轉(zhuǎn)換、模型庫(kù)下載功能等其他功能被分在一個(gè)叫Dev Tool的部分。該部分可以通過(guò)pip方式直接安裝,然后通過(guò)命令行直接直線,完成模型的轉(zhuǎn)換,下載等操作,跟之前版本易用性有較大提升!做個(gè)對(duì)比如下:
Dev Tools安裝與使用
Dev Tools安裝非常方便,直接通過(guò)官方腳本命令行選擇安裝即可,唯一需要注意的是選擇模型框架支持,我選擇了ONNX/Pytorch格式轉(zhuǎn)換支持,安裝的命令行如下:
pip install openvino-dev[onnx,pytorch]==2022.1.0
執(zhí)行完這條命令行就算是安裝好了,只要網(wǎng)絡(luò)不掛就可以安裝成功!
安裝完成,轉(zhuǎn)換一個(gè)ONNX格式的模型為IR格式(xml/bin)文件,以Pytorch的ResNet18為例,先轉(zhuǎn)換為ONNX,代碼如下:model = models.resnet18(pretrained=True)
model.eval()
model.cpu()
dummy_input1 = torch.randn(1, 3, 224, 224)
torch.onnx.export(model, (dummy_input1), "resnet_model.onnx", verbose=True)
然后直接運(yùn)行命令行就可以轉(zhuǎn)換IR格式文件,截圖如下:
模型下載
安裝完成Dev Tools之后,下載模型,只要執(zhí)行命令行即可:舉例如下:
omz_downloader --name person-detection-0200
表示下載模型person-detection-0200是一個(gè)輕量化的人臉檢測(cè)模型。omz_downloader支持的參數(shù):--all表示下載全部模型,建議別這么干!
--name 下載一個(gè)或者多個(gè)指定名稱的模型,推薦這么干!
--precisions 表示下載的模型精度參數(shù),支持FP32/FP18/INT8
對(duì)比之前Python版本的SDK,好用了不少,最明顯的感受就是不用讀輸入輸出,然后一堆設(shè)置了,對(duì)單個(gè)輸入輸出的網(wǎng)絡(luò),調(diào)用就特別的簡(jiǎn)潔更方便!開(kāi)發(fā)者更加容易上手!上面我已經(jīng)成功轉(zhuǎn)換一個(gè)pytorch圖像分類模型為IR格式,現(xiàn)在就可以使用它,基于OpenVINO2022版本最新Python SDK部署調(diào)用,實(shí)現(xiàn)代碼如下:
#加載標(biāo)簽數(shù)據(jù)
withopen('imagenet_classes.txt')asf:
labels=[line.strip()forlineinf.readlines()]
defresnet_demo():
ie=Core()
#model=ie.read_model(model="resnet_model.onnx")
model=ie.read_model(model="resnet_model.xml")
compiled_model=ie.compile_model(model=model,device_name="CPU")
output_layer=compiled_model.output(0)
means=np.zeros((224,224,3),dtype=np.float32)
means[:,:]=(0.485,0.456,0.406)
dev=np.zeros((224,224,3),dtype=np.float32)
dev[:,:]=(0.229,0.224,0.225)
image=cv.imread("D:/images/space_shuttle.jpg")
rgb=cv.cvtColor(image,code=cv.COLOR_BGR2RGB)
#resizetoMobileNetimageshape
input_image=cv.resize(src=rgb,dsize=(224,224))
blob_img=np.float32(input_image)/255.0
input_x=(blob_img-means)/dev
input_x=input_x.transpose((2,0,1))
input_x=np.expand_dims(input_x,0)
print(input_x.shape)
result_infer=compiled_model([input_x])[output_layer]
result_index=np.argmax(result_infer)
cv.putText(image,labels[result_index],(20,50),cv.FONT_HERSHEY_SIMPLEX,1.0,(0,0,255),2)
cv.imshow("OpenVINO2022+PythorchResNet18",image)
cv.waitKey(0)
cv.destroyAllWindows()
if__name__=="__main__":
resnet_demo()
審核編輯 :李倩
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
模型
+關(guān)注
關(guān)注
1文章
3265瀏覽量
48916 -
腳本
+關(guān)注
關(guān)注
1文章
391瀏覽量
14890
原文標(biāo)題:OpenVINO2022 Dev Tools安裝與使用
文章出處:【微信號(hào):CVSCHOOL,微信公眾號(hào):OpenCV學(xué)堂】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
嵌入式學(xué)習(xí)-搭建自己的ubuntu系統(tǒng)之VMware Tools安裝
VMware Tools安裝上一節(jié)完成了ubuntu系統(tǒng)的安裝,接下來(lái)安裝VMware Tools,如果不
發(fā)表于 08-13 08:57
搭建自己的ubuntu系統(tǒng)之VMware Tools安裝
VMware Tools安裝上一節(jié)完成了ubuntu系統(tǒng)的安裝,接下來(lái)安裝VMware Tools,如果不
發(fā)表于 08-12 09:14
OpenVINO2024 C++推理使用技巧
很多人都使用OpenVINO新版的C++ 或者Python的SDK,都覺(jué)得非常好用,OpenVINO2022之后的版本C++ SDK做了大量的優(yōu)化與整理,已經(jīng)是非常貼近開(kāi)發(fā)的使用習(xí)慣與推理方式。與OpenCV的Mat對(duì)象對(duì)接方式更是幾乎無(wú)縫對(duì)接,非常的方便好用。
使用esp-idf-tools2.12不能搭建esp32s3開(kāi)發(fā)環(huán)境是什么原因?
下載了最新的esp-idf-tools2.12安裝工具,該工具安裝過(guò)程中,esp-idf版本只能選擇V4.3.1和V4.2.2,沒(méi)有V4.4版本選項(xiàng)(安裝指導(dǎo)文檔建議選擇該版本),如附
發(fā)表于 06-27 08:20
使用ESP-IDF工具安裝器esp-idf-tools-setup-2.2.exe進(jìn)行安裝卡住了是怎么回事?
我在使用ESP-IDF 工具安裝器esp-idf-tools-setup-2.2.exe進(jìn)行安裝的時(shí)候,執(zhí)行到下圖的位置,就一直停留在這里,沒(méi)有繼續(xù),只有Cancel。
我試著復(fù)制命令到cmd下執(zhí)行,出現(xiàn)如下提示:
麻煩大家?guī)?/div>
發(fā)表于 06-25 07:45
IDF 3.3.1 UBUNTU下安裝報(bào)錯(cuò)的原因?
操作系統(tǒng)為Ubuntu 18.04.4 LTS,64位
按照安裝指導(dǎo)成功安裝了準(zhǔn)備工作,
sudo apt-get install git wget flex bison gperf python
發(fā)表于 06-25 07:32
從官網(wǎng)下了esp-idf-tools-setup-2.3.exe安裝出現(xiàn)錯(cuò)誤的原因?
我
從官網(wǎng)下了esp-idf-tools-setup-2.3.exe安裝出現(xiàn)錯(cuò)誤
Traceback (most recent call last):
File \"D
發(fā)表于 06-24 07:30
esp-idf tools安裝時(shí)總是發(fā)生異常怎么處理?
請(qǐng)問(wèn),在ESP-IDF tools 安裝中,總是在提示發(fā)生exception, log框中顯示fatal python error: 見(jiàn)下圖:
請(qǐng)問(wèn)是什么問(wèn)題,怎么解決,多謝!
發(fā)表于 06-21 08:27
windows下idf-tools安裝進(jìn)行到 “Switching branch”時(shí)失敗了的原因?
windows下idf-tools安裝進(jìn)行到 “Switching branch”時(shí)失敗
安裝時(shí)選擇的版本為4.2
4.3版本可以正常安裝
發(fā)表于 06-21 07:19
linux系統(tǒng)已安裝esp-idf,無(wú)法安裝vscode插件要怎么處理?
deepin/linux系統(tǒng),使用第三種方式安裝
無(wú)法add openocd dev rules
EISDIR: illegal operation on a directory
發(fā)表于 06-20 07:39
用git還是用圖形界面安裝idf-tools總是失敗,這是什么問(wèn)題?
無(wú)論是用git還是用圖形界面安裝idf-tools總是失敗,這是什么問(wèn)題?
發(fā)表于 06-19 07:03
為OpenVINO添加對(duì)Paddle 2.5的支持
我是飛槳黑客馬拉松第五期 OpenVINO 賽題獲獎(jiǎng)?wù)摺獮?OpenVINO 添加了對(duì) Paddle 2.5 的支持。在此記錄下來(lái)貢獻(xiàn)的過(guò)程,希望有更多的同學(xué)可以參與到 OpenVINO 的社區(qū)
基于OpenVINO?和AIxBoard的智能安檢盒子設(shè)計(jì)
公共安全問(wèn)題日益凸顯,傳統(tǒng)安檢手段面臨挑戰(zhàn)。為提高安檢效率和保障公共安全,基于 OpenVINO? 和 AIxBoard 的智能安檢盒子應(yīng)運(yùn)而生。
如何在MacOS上編譯OpenVINO C++項(xiàng)目呢?
英特爾公司發(fā)行的模型部署工具 OpenVINO 模型部署套件,可以實(shí)現(xiàn)在不同系統(tǒng)環(huán)境下運(yùn)行,且發(fā)布的 OpenVINO 2023 最新版目前已經(jīng)支持 MacOS 系統(tǒng)并同時(shí)支持在蘋果 M 系列芯片上部署模型。
評(píng)論