阿里MNN支持華為NPU，優化MNN的性能和精度問題
今天上午據軟件綠色聯盟消息，阿里MNN已經接入華為 HiAI生態，正式支持華為NPU。
據了解，阿里MNN為Mobile Neural Network，是阿里巴巴淘系技術部開源的端側推理引擎，目前已覆蓋淘寶、天貓、優酷和UC等20多個手機應用，每天穩定運行超過500億次，已經接受了兩屆“雙11”的考驗。
官方表示，當App功能日益強大時，性能和精度的矛盾就逾顯尖銳；官方表示利用HiAI Foundation芯片能力開放，阿里MNN快速轉化和遷移已有模型，并借助異構調度和NPU加速，大幅提升應用算力和能效比，可以優化MNN的性能和精度問題。比如會加快以圖搜圖的搜索速度，耗電方面也會降低；此外，掃商家Logo也是運用了此功能。
責任編輯：gt
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。
舉報投訴
-
華為
+關注
關注
216文章
34417瀏覽量
251525 -
阿里
+關注
關注
6文章
438瀏覽量
32828
發布評論請先 登錄
相關推薦
NPU支持的編程語言有哪些
NPU（Neural Processing Unit）是一種專門為深度學習和人工智能應用設計的處理器。NPU支持的編程語言通常與它所集成的平臺或框架緊密相關。以下是一些常見的編程語言和框架，它們可以
NPU的工作原理解析
隨著人工智能技術的快速發展，深度學習算法在各個領域得到了廣泛應用。為了滿足日益增長的計算需求，NPU應運而生。 NPU的基本概念 NPU是一種專用硬件加速器，專門為深度學習算法設計。它通過優化
如何選擇合適的NPU型號
、智能家居等）來選擇NPU。不同場景對NPU的性能、功耗、靈活性等要求不同。 性能需求 ： 確定您需要的計算性能，包括TOPS（每秒萬億次浮
NPU在邊緣計算中的優勢
和GPU相比，NPU在處理神經網絡相關的計算任務時，能夠提供更高的能效比和更快的處理速度。NPU通過優化數據流和計算結構，使得神經網絡的前向傳播和反向傳播更加高效。 NPU在邊緣計算中
NPU技術如何提升AI性能
隨著人工智能技術的飛速發展，深度學習作為AI領域的核心驅動力，對計算能力的需求日益增長。NPU技術應運而生，為AI性能的提升提供了強大的硬件支持。 NPU技術概述
什么是NPU芯片及其功能
在人工智能（AI）技術迅猛發展的今天，NPU芯片已經成為推動這一領域進步的關鍵技術之一。NPU芯片，即神經網絡處理單元，是一種專門為深度學習算法設計的硬件加速器。 一、NPU芯片的概念 NPU
NPU與GPU的性能對比
NPU（Neural Processing Unit，神經網絡處理單元）與GPU（Graphics Processing Unit，圖形處理單元）在性能上各有千秋，它們各自的設計初衷和優化方向決定了
NPU在深度學習中的應用
設計的硬件加速器，它在深度學習中的應用日益廣泛。 1. NPU的基本概念 NPU是一種專門針對深度學習算法優化的處理器，它與傳統的CPU和GPU有所不同。NPU通常具有高度并行的處理能
什么是NPU？什么場景需要配置NPU？
在人工智能（AI）技術如火如荼的今天，NPU神經處理單元（Neural Processing Unit）作為一種新興的硬件加速器，正在成為ARM主板配置中的新寵。與傳統的CPU和GPU相比，NPU在
NXP推出集成NPU的MCU，支持AI邊緣設備！MCU實現AI功能的多種方式
旨在顯著節省功耗，可在邊緣端提供高達172倍的AI加速。 ? MCU 集成NPU 支持AI 功能 ? 恩智浦推出的這款i.MX RT700內部集成了恩智浦自研的eIQ Neutron NPU，這是一種
寶礫微25V雙口充電管理高性能MCU支持PD協議
12-bit高精度ADC
☆ 內置NTC檢測電路* 多重保護功能、高可靠性
☆ 輸出過壓、欠壓保護☆ 輸出過流、短路保護
☆ 過溫保護
☆ CC1、CC2、DP、DM支持30V耐壓* 工作范圍
☆ 工作電壓
發表于 09-24 10:33
名單公布！【書籍評測活動NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架構分析
和像素統一的G80到現在重金難求的H100；AMD的Zen系列CPU和RDNA系列GPU兩線作戰；中國的高性能計算芯片逐步獲得更多TOP500排名；華為Ascend 910 NPU芯片也成為AI時代
發表于 09-02 10:09
基于RK3588的NPU案例分享！6T是真的強！
設計能夠實現高效的神經網絡推理計算。這使得RK3588在圖像識別、語音識別、自然語言處理等人工智能領域有著極高的性能表現。此外，RK3588的NPU還支持多種學習框架，包括TensorFlow
發表于 07-17 10:55
芯品# 物聯網市場性能最高的 NPU
提高數據隱私和安全性。 Arm 的 Ethos NPU 如何增強邊緣和端點的 AI 性能？ 多年來，Arm 一直在開發邊緣 AI 加速器，以支持對邊緣和端點推理工作負載日益增長的需求。通過 Arm 的 Ethos-U55 和 E
微軟畫圖即將支持NPU，Windows內置應用AI功能持續優化
神經網絡處理單元（NPU），作為一款Win11筆記本上的專屬硬件組件，主要承擔AI及機器學習任務處置。相較于云服務或通CPU，NPU能有效提升本地設備的AI任務處理能力。
工商網監
評論