如何更好地調(diào)用麒麟芯片NPU算力
出色的AI應(yīng)用、AI體驗的誕生，
除了算子、數(shù)據(jù)的不斷升級，
離不開芯片底層算力的支持。
但開發(fā)者在開發(fā)過程中，
往往不清楚如何更好地調(diào)用麒麟芯片NPU算力，
導(dǎo)致芯片大算力被“擱置”。
HUAWEI HiAI Foundation創(chuàng)新推出Model Zoo，
為開發(fā)者提供NPU友好模型，
幫助其設(shè)計 NPU友好模型算法結(jié)構(gòu)，
更好地發(fā)揮麒麟芯片的NPU加速優(yōu)勢。
原文標題：快速調(diào)用，自主調(diào)優(yōu)！海量NPU友好模型盡在HUAWEI HiAI Foundation Model Zoo
文章出處：【微信公眾號：華為麒麟】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。
審核編輯：彭菁
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
數(shù)據(jù)
+關(guān)注
關(guān)注
8文章
7006瀏覽量
88955 -
AI
+關(guān)注
關(guān)注
87文章
30763瀏覽量
268912 -
麒麟芯片
+關(guān)注
關(guān)注
6文章
284瀏覽量
15544
原文標題：快速調(diào)用，自主調(diào)優(yōu)！海量NPU友好模型盡在HUAWEI HiAI Foundation Model Zoo
文章出處：【微信號：Huawei_Kirin，微信公眾號：華為麒麟】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
40+TOPS NPU，AI PC處理器開卷算力
的人工智能任務(wù)。同時，微軟還提出，這款全新電腦搭配擁有全新神經(jīng)處理單元NPU的芯片，可實現(xiàn)每秒超過40萬億次即40+TOPS的運算。那么也就是說，若要符合微軟給出的AI PC的定義，NPU的算
什么是NPU芯片及其功能
在人工智能（AI）技術(shù)迅猛發(fā)展的今天，NPU芯片已經(jīng)成為推動這一領(lǐng)域進步的關(guān)鍵技術(shù)之一。NPU芯片，即神經(jīng)網(wǎng)絡(luò)處理單元，是一種專門為深度學(xué)習(xí)算法設(shè)計的硬件加速器。 一、
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】--全書概覽
、GPU、NPU,給我們剖析了算力芯片的微架構(gòu)。書中有對芯片方案商處理器的講解，理論聯(lián)系實際，使讀者能更
發(fā)表于 10-15 22:08
名單公布！【書籍評測活動NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析
的強有力競爭者；蘋果、Cerebras、Ampere、特斯拉等企業(yè)的加入讓這場“算力芯片戰(zhàn)爭”更加熱鬧。
CPU、GPU、NPU等芯片是推動
發(fā)表于 09-02 10:09
迅為RK3588開發(fā)板運行openkylin麒麟系統(tǒng)
單元的利用率及帶寬的消耗上提升了30%。6TOPs的NPU算力，賦能各類AI場景。
強大的視頻編解碼--8K編碼+8K解碼，多路視頻源同時解碼。支持8K@60fpsH.265/H.264/VP9/AV1
發(fā)表于 08-19 10:38
安謀科技異構(gòu)算力組合，破局生成式AI算力挑戰(zhàn)
，“此芯P1”不僅異構(gòu)集成了Armv9 CPU核心與Arm Immortalis GPU，還搭載了安謀科技（中國）有限公司（以下簡稱“安謀科技”）“周易”NPU等自研業(yè)務(wù)產(chǎn)品。憑借高能效的異構(gòu)算力資源、系統(tǒng)級的安全保障以及強大的
刷新AI PC NPU算力，AMD銳龍AI 9 HX 375領(lǐng)銜55 TOPS
NPU性能第一梯隊。而此次推出的Ryzen AI 9 HX 375算力進一步提升至55 TOPS。在NPU算
實測NPU“空轉(zhuǎn)”，AI PC首個落地應(yīng)用只調(diào)用GPU？
AI PC的一大特征是在傳統(tǒng)PC的CPU+GPU基礎(chǔ)上，增加NPU加強AI 算力。不過有意思的是，最近某品牌PC機型上的AI助手率先落地，支持云端和本地運算兩種模式，確實能夠完成宣傳上的很多功能。然而在實測本地大模型時，卻沒有
揭秘芯片算力：為何它如此關(guān)鍵？
在數(shù)字化時代，芯片作為電子設(shè)備的核心組件，其性能直接關(guān)系到設(shè)備的運行速度和處理能力。而芯片的算力，即其計算能力，更是衡量芯片性能的重要指標。
NPU算力3倍，新一代酷睿Ultra Lunar Lake搶先看
在人工智能（AI）工作負載中可以提供100+ TOPS的算力，其中45 TOPS來自于NPU。 此前有報道稱，未來微軟的Copilot人工智能大模型可以在搭載英特爾處理器的PC上本地運行，至少需要40
AMD推出銳龍8000嵌入式處理器，AI算力高達39 T
此款CPU選用4納米制程、AMD基于“Zen 4”架構(gòu)的CPU核心以及使用RDNA 3架構(gòu)GPU和XDNA架構(gòu)NPU，實現(xiàn)高達39TOPS的AI算力，其中NPU
高算力芯片：未來科技的加速器？
在數(shù)字化時代，芯片作為電子設(shè)備的核心組件，其性能直接關(guān)系到設(shè)備的運行速度和處理能力。而芯片的算力，即其計算能力，更是衡量芯片性能的重要指標。
深度解析華為NPU/GPU技術(shù)演進與進階
CPU/GPU/NPU 等等都是硬件芯片，簡單來說，晶體管既可以用來實現(xiàn)邏輯控制單元， 也可以用來實現(xiàn)運算單元（算力）。在芯片總面積一定的情
發(fā)表于 02-19 16:52
?7977次閱讀
工商網(wǎng)監(jiān)
評論