近兩個月來,由于國際局勢導致海思的芯片供應鏈出現問題,海思的安防芯片缺口逐漸擴大,從華南地區逐步擴散至其他城市,從高端型號延伸到中低端型號,價格一路飆漲,能否有持續穩定的貨源成為了從業者的心頭病。
算法模型迅速、高效化的工業化落地,是當前行業的面臨的一大問題。原本學術界與工業界就存在較大 GAP,加上 NPU 芯片的突然興起,說是為了提高工業界的效率,事實上很多常規的的學術界模型都較難快速部署到 NPU 芯片上。本質原因是芯片產品的迭代周期往往以年為計數單位,且NPU屬于低可編程性ASIC芯片,很多NPU沒有較完整的指令集,直接對寄存器進行操作;而學術界的各種 Operator 是以季度為單位在更新,因此模型算子不支持的問題在NPU部署場景預期會長期存在,現在業界對NPU部署很多基于較為傳統的模型或者基于NPU可支持的操作選型模型。
為了解決AI邊緣應用開發部署遇到的真實問題,OPEN AI LAB的邊緣AI推理框架Tengine團隊今年全力投入到賦能 AI 芯片的工作中,打通從算法到AI芯片部署的環節,助力解決開發者自行適配難、效率低、性能差的問題。
Tengine團隊也在今年八月開始了對RV1109/RV1126的適配支持,目前Tengine已經完美適配 RV1109/RV1126 芯片。Tengine 對RV1109/1126的適配做到了算子級的封裝調度,框架自動對底層算力資源進行調度,包括NPU、CPU用于神經網絡推理以及2D圖形加速用于神經網絡圖片前后處理。
責任編輯:YYX
-
神經網絡
+關注
關注
42文章
4789瀏覽量
101769 -
AI芯片
+關注
關注
17文章
1932瀏覽量
35493 -
Tengine
+關注
關注
1文章
47瀏覽量
2965
發布評論請先 登錄
相關推薦
NVIDIA 推出開放推理 AI 模型系列,助力開發者和企業構建代理式 AI 平臺

云端AI開發者工具的核心功能
涂鴉智能與火山引擎達成重磅合作,億元補貼全力構建AIoT開發者生態

Apex平臺:簡化AI API開發,賦能開發者
HarmonyOS 應用開發賦能套件:鴻蒙原生應用開發的 “神助攻”
華為推出HarmonyOS應用開發賦能套件
亞馬遜轉向Trainium芯片,全力投入AI模型訓練
蘋芯科技亮相2024中國AI芯片開發者論壇
云端AI開發者工具怎么用
香橙派與昇思MindSpore合作提速,軟硬結合助力開發者構建創新AI應用

Altera推出一系列FPGA軟、硬件和開發工具
領航AI時代,涂鴉智能2024 TUYA開發者大會(蘇州)即將震撼來襲

評論