什么是多IP深度協(xié)同能力?
在理解這個(gè)概念之前,
我們先來(lái)科普一下,
為什么AI計(jì)算需要多IP協(xié)同?
HUAWEI HiAI Foundation的起源,
是基于NPU計(jì)算能力的開(kāi)放,
但并非所有的AI業(yè)務(wù)都適合在NPU上運(yùn)行,
譬如計(jì)算量小的AI業(yè)務(wù),
通過(guò)NPU+CPU+GPU的異構(gòu)架構(gòu)處理,
性能更強(qiáng),功耗更低。
因此,根據(jù)不同的業(yè)務(wù)特點(diǎn),
靈活部署不同的計(jì)算核,
可以獲得兼容性和性能的全面提升。
但是在多IP協(xié)同計(jì)算過(guò)程中,
IP之間互相需拷貝數(shù)據(jù),
會(huì)帶來(lái)額外的流轉(zhuǎn)開(kāi)銷。
HUAWEI HiAI Foundation如何解決?
一起來(lái)看!
原文標(biāo)題:如何實(shí)現(xiàn)高性能低功耗的AI應(yīng)用開(kāi)發(fā)?圖解HUAWEI HiAI Foundation多IP深度協(xié)同能力
文章出處:【微信公眾號(hào):華為麒麟】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
-
cpu
+關(guān)注
關(guān)注
68文章
10855瀏覽量
211609 -
數(shù)據(jù)
+關(guān)注
關(guān)注
8文章
7006瀏覽量
88955 -
AI
+關(guān)注
關(guān)注
87文章
30763瀏覽量
268910
原文標(biāo)題:如何實(shí)現(xiàn)高性能低功耗的AI應(yīng)用開(kāi)發(fā)?圖解HUAWEI HiAI Foundation多IP深度協(xié)同能力
文章出處:【微信號(hào):Huawei_Kirin,微信公眾號(hào):華為麒麟】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論