千芯科技推出了針對芯來RISC-V平臺的AI部署工具包(tinyAI SDK),使用戶可以基于該先進技術快速部署基于芯來RISC-V內核的AIoT應用。在芯來UX600上,實測的AI應用實現11.01倍(相較原生AI算法)的顯著推斷性能提升。千芯科技的tinyAI SDK成為首個支持芯來UX600圖像AI計算部署與加速的工具包。
千芯科技tinyAI SDK
一直以來,端側RISC-V以其靈活可裁剪高性價比的優勢,不斷擴展其在各個領域的應用。隨著各類型科技巨頭逐漸入局RISC-V應用產品,RISC-V的AIoT應用成為業界關注的重點。以往基于端側RISC-V開發AI應用,要面對缺少開發包、部署復雜、AI性能不理想等痛點問題。這使得端側RISC-V在AIoT上的部署一度面臨困境。
千芯科技本次推出的tinyAI SDK,基于芯來科技的UX600開發板,成功搭載了基于端側RISC-V內核進行人臉檢測與人臉識別的AI應用,證明了端側RISC-V芯片在AIoT領域廣闊的應用前景。
演示中使用的人臉檢測算法基于UX600實現的人臉檢測,輸入兩張包含人臉的圖片,檢測并輸出人臉區域:
tinyAI SDK在芯來UX600上運行人臉檢測并輸出人臉區域
部署了tinyAI SDK的UX600,能夠高效的進行AI計算/人臉識別。在人臉檢測后,進行了人臉識別,并輸出人臉特征值的相似度。
tinyAI SDK在芯來UX600上運行人臉識別/比對的輸出結果如圖所示:
tinyAI SDK 在芯來UX600上運行人臉識別/比對的輸出結果
相較原生算法,tinyAI使得端側人臉識別的性能提到11.01倍。
千芯科技的tinyAI SDK將AI模型剪枝、量化等先進技術整合入工具包,并針對RISC-V內核的存儲、架構特點進行了針對性的特定優化。千芯科技的tinyAI,不僅方便了AI算法在端側RISC-V平臺的部署,更大大加速了AI算法的性能,使得端側AI應用實用化。
本次Demo實測使用的硬件平臺是芯來科技提供的加載UX600內核的 FPGA 板卡:
芯來UX600平臺
千芯科技與芯來科技的本次合作為RISC-V生態的發展注入了新的活力,為端側RISC-V生態拓展出更加廣闊的AI空間。
責任編輯:xj
原文標題:千芯科技助力芯來RISC-V平臺AIoT應用
文章出處:【微信公眾號:芯來科技】歡迎添加關注!文章轉載請注明出處。
-
AI
+關注
關注
87文章
30746瀏覽量
268897 -
AI算法
+關注
關注
0文章
249瀏覽量
12259 -
AIoT
+關注
關注
8文章
1406瀏覽量
30653
原文標題:千芯科技助力芯來RISC-V平臺AIoT應用
文章出處:【微信號:nucleisys,微信公眾號:芯來科技】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論