色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

為啥軟件成了人工智能加速器致勝的法寶?

pmkA_arm_china ? 來源:YXQ ? 2019-03-27 08:41 ? 次閱讀

隨著Arm生態(tài)系統(tǒng)的發(fā)展壯大,各種各樣的應(yīng)用場(chǎng)景層出不窮。為了更好地在特定場(chǎng)景下得到更好的性能,能耗比等指標(biāo),針對(duì)特定應(yīng)用場(chǎng)景的加速器市場(chǎng)也在蓬勃發(fā)展,近年來火熱的人工智能加速器(Artificial Intelligence Accelerator)就是一個(gè)典型例子。

一個(gè)高效的加速器,需要精心設(shè)計(jì)的硬件以及與之搭配的軟件,兩者缺一不可,否則用戶體驗(yàn)會(huì)大打折扣,這也是為什么我們常常看到某些指標(biāo)非常驚艷的加速器,在實(shí)際使用中體驗(yàn)卻不盡如人意的原因。以人工智能加速器為例,其中基本的硬件加速單元就是乘加器的組合,但如何讓這些乘加器高效地進(jìn)行并行計(jì)算,涉及到上層數(shù)據(jù)的打包、調(diào)度,需要大量的驅(qū)動(dòng)軟件工作,而且大部分軟件開發(fā)者都是基于某種框架進(jìn)行應(yīng)用開發(fā),具體見圖 1,所以驅(qū)動(dòng)到框架的適配也很重要,甚至有一些框架不能滿足應(yīng)用的需求,需要專門開辟通道進(jìn)行優(yōu)化。

圖1:ArmNPU軟硬件框架

開發(fā)一款高性能加速器,需要投入大量人力物力,如果不能大規(guī)模使用,那么投入回報(bào)比會(huì)大大降低,甚至虧本。如果加速器能和不同Arm系統(tǒng)輕松組合,拓展Arm系統(tǒng)的應(yīng)用范圍,那么應(yīng)用場(chǎng)景將會(huì)大大增加,生命周期也會(huì)延長(zhǎng)。讓加速器適配不同的Arm系統(tǒng),這對(duì)軟硬件接口和驅(qū)動(dòng)提出了非常大的挑戰(zhàn),因?yàn)榻裉斓腁rm產(chǎn)品非常豐富,從低功耗的微處理器,主流的移動(dòng)平臺(tái),到高端的服務(wù)器,高性能計(jì)算處理器都有相應(yīng)產(chǎn)品。對(duì)于一個(gè)加速器團(tuán)隊(duì)來說,針對(duì)盡可能多的Arm配置組合進(jìn)行開發(fā)驗(yàn)證成本將非常高昂,這里面不單單涉及IP/EDA的采購(gòu),還有系統(tǒng)的搭建維護(hù),但如果沒有這些IP又無法將整個(gè)業(yè)務(wù)流程完整驗(yàn)證,甚至影響軟硬件接口的設(shè)計(jì)優(yōu)化。

有沒有方法高效地解決加速器配套驅(qū)動(dòng),框架,應(yīng)用軟件開發(fā)的問題呢?Fast Model!

圖2:使用DS-5調(diào)試運(yùn)行在Fast Model中的系統(tǒng)軟件

在Fast Model的例子系統(tǒng)中,Arm給出了一系列Arm核,相關(guān)IP組合的子系統(tǒng)模型,以及相應(yīng)OS,開發(fā)工具DS-5,方便客戶快速搭建軟件開發(fā)平臺(tái),調(diào)整軟硬件接口,進(jìn)行驅(qū)動(dòng)以及上層軟件的開發(fā),具體參考圖3。

整個(gè)開發(fā)流程如下:

1.在Fast Model的例子系統(tǒng)中找到你需要的平臺(tái),和對(duì)應(yīng)的Bootloader, Firmware,OS軟件,并將他們順利運(yùn)行

2. 將Fast Model的子系統(tǒng)導(dǎo)出生成SystemC的模型子系統(tǒng)模塊

3. 編寫加速器的功能模型,通過AMBA PV總線和Fast Model導(dǎo)出的子系統(tǒng)模塊進(jìn)行連接

4. 編寫驅(qū)動(dòng)在目標(biāo)OS中操作加速器

5. 在模型平臺(tái)上進(jìn)行軟件框架,應(yīng)用匹配移植

Arm提供了絕大部分市面可見設(shè)計(jì)的類似子系統(tǒng),無論是基于Arm v7/v8單核,多核,多cluster系統(tǒng),還是包含最新架構(gòu)特性的CPU系統(tǒng),加速器開發(fā)團(tuán)隊(duì)都可以在Fast Model的例子程序里面找對(duì)類似子系統(tǒng)范例進(jìn)行適配,在設(shè)計(jì)之初就可以解決不同系統(tǒng)的適配性問題。Fast Model也提供工具讓開發(fā)者對(duì)例子系統(tǒng)進(jìn)行修改,生成新的子系統(tǒng)以滿足需要。在加速器設(shè)計(jì)之初,軟件硬件人員就可以一起利用豐富多樣的例子系統(tǒng)進(jìn)行架構(gòu)的探索,對(duì)穩(wěn)定軟硬件接口非常有幫助,而穩(wěn)定的接口定義對(duì)長(zhǎng)期的產(chǎn)品演進(jìn)至關(guān)重要。

圖3:基于Fast Model的加速器軟件開發(fā)

至此開發(fā)者已經(jīng)完成了大部軟硬件接口,驅(qū)動(dòng)以及框架軟件開發(fā)工作,但驅(qū)動(dòng)中的時(shí)序問題還沒有完全解決,因?yàn)镕ast Model是一款功能型模型,它為了提高運(yùn)行速度(50-200MHz),犧牲了時(shí)序信息。對(duì)于時(shí)序信息,開發(fā)者可以最后去仿真平臺(tái)甚至最終芯片上去調(diào)節(jié),而此時(shí)軟件測(cè)試用例和框架都已經(jīng)完成,這將大大節(jié)省占用仿真平臺(tái)(MHz)進(jìn)行調(diào)試排錯(cuò)的時(shí)間,從而降低成本。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 軟件
    +關(guān)注

    關(guān)注

    69

    文章

    4969

    瀏覽量

    87702
  • 人工智能
    +關(guān)注

    關(guān)注

    1792

    文章

    47412

    瀏覽量

    238926

原文標(biāo)題:為何軟件是人工智能加速器致勝的秘密?

文章出處:【微信號(hào):arm_china,微信公眾號(hào):Arm芯聞】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    從版本控制到全流程支持:揭秘Helix Core如何成為您的創(chuàng)意加速器

    加速器
    龍智DevSecOps
    發(fā)布于 :2024年11月26日 13:42:47

    嵌入式和人工智能究竟是什么關(guān)系?

    人工智能的結(jié)合,無疑是科技發(fā)展中的一場(chǎng)革命。在人工智能硬件加速中,嵌入式系統(tǒng)以其獨(dú)特的優(yōu)勢(shì)和重要性,發(fā)揮著不可或缺的作用。通過深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)等算法,嵌入式系統(tǒng)能夠高效地處理大量數(shù)據(jù),從而實(shí)現(xiàn)
    發(fā)表于 11-14 16:39

    微軟攜手英偉達(dá)與GitHub推出生成式AI加速器

    近日,微軟宣布在英國(guó)推出一項(xiàng)重大合作項(xiàng)目——生成式人工智能加速器。這一項(xiàng)目由微軟、英偉達(dá)和GitHub三家科技巨頭強(qiáng)強(qiáng)聯(lián)手,旨在加速生成式人工智能技術(shù)的研發(fā)與應(yīng)用。 生成式
    的頭像 發(fā)表于 11-05 14:58 ?419次閱讀

    AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第4章-AI與生命科學(xué)讀后感

    閱讀這一章后,我深感人工智能與生命科學(xué)的結(jié)合正引領(lǐng)著一場(chǎng)前所未有的科學(xué)革命,以下是我個(gè)人的讀后感: 1. 技術(shù)革新與生命科學(xué)進(jìn)步 這一章詳細(xì)闡述了人工智能如何通過其強(qiáng)大的數(shù)據(jù)處理和分析能力,加速生命科學(xué)
    發(fā)表于 10-14 09:21

    《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第一章人工智能驅(qū)動(dòng)的科學(xué)創(chuàng)新學(xué)習(xí)心得

    人工智能:科學(xué)研究的加速器 第一章清晰地闡述了人工智能作為科學(xué)研究工具的強(qiáng)大功能。通過機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等先進(jìn)技術(shù),AI能夠處理和分析海量數(shù)據(jù),發(fā)現(xiàn)傳統(tǒng)方法難以捕捉的模式和規(guī)律。這不僅極大地提高了數(shù)據(jù)處理
    發(fā)表于 10-14 09:12

    Samtec AI 應(yīng)用詳述 | 人工智能加速器所需的連接

    數(shù)據(jù)挖掘、人工智能、機(jī)器學(xué)習(xí)、商業(yè)分析。 高性能互連是中央處理(CPU)和人工智能加速器之間的紐帶,在實(shí)現(xiàn)這些系統(tǒng)所需的可擴(kuò)展性和靈活性方面發(fā)揮著至關(guān)重要的作用。 今天,我們將在文章
    發(fā)表于 09-29 13:44 ?677次閱讀
    Samtec AI 應(yīng)用詳述 | <b class='flag-5'>人工智能</b><b class='flag-5'>加速器</b>所需的連接<b class='flag-5'>器</b>

    risc-v在人工智能圖像處理應(yīng)用前景分析

    長(zhǎng)時(shí)間運(yùn)行或電池供電的設(shè)備尤為重要。 高性能 : 盡管RISC-V架構(gòu)以低功耗著稱,但其高性能也不容忽視。通過優(yōu)化指令集和處理設(shè)計(jì),RISC-V可以在處理復(fù)雜的人工智能圖像處理任務(wù)時(shí)表現(xiàn)出色。 三
    發(fā)表于 09-28 11:00

    FPGA在人工智能中的應(yīng)用有哪些?

    FPGA(現(xiàn)場(chǎng)可編程門陣列)在人工智能領(lǐng)域的應(yīng)用非常廣泛,主要體現(xiàn)在以下幾個(gè)方面: 一、深度學(xué)習(xí)加速 訓(xùn)練和推理過程加速:FPGA可以用來加速深度學(xué)習(xí)的訓(xùn)練和推理過程。由于其高并行性和
    發(fā)表于 07-29 17:05

    KAIST開發(fā)出高性能人工智能加速器技術(shù)

    人工智能(AI)技術(shù)日新月異的今天,大規(guī)模AI模型的部署與應(yīng)用正以前所未有的速度推動(dòng)著科技進(jìn)步與產(chǎn)業(yè)升級(jí)。然而,隨著模型復(fù)雜度和數(shù)據(jù)量的爆炸式增長(zhǎng),對(duì)計(jì)算資源尤其是內(nèi)存容量的需求也急劇攀升,成為
    的頭像 發(fā)表于 07-12 09:59 ?555次閱讀

    Hailo獲1.2億美元新融資,首發(fā)AI加速器Hailo-10,助力邊緣設(shè)備實(shí)現(xiàn)生成式人工智能

    摘要:隨著Hailo推出最新的人工智能加速器,其融資總額現(xiàn)已突破3.4億美元。這款專為個(gè)人計(jì)算機(jī)和汽車行業(yè)打造的人工智能加速器,以出色的低功耗性能處理大型語言模型(LLM),成功將生成
    的頭像 發(fā)表于 04-03 11:57 ?350次閱讀

    5G智能物聯(lián)網(wǎng)課程之Aidlux下人工智能開發(fā)(SC171開發(fā)套件V1)

    .pdf 人工智能 軟件平臺(tái)使用指導(dǎo)A:AidLux平臺(tái)介紹 8分29秒 https://t.elecfans.com/v/25505.html *附件:AidLux平臺(tái)使用介紹.pdf 人工智能
    發(fā)表于 04-01 10:40

    瑞薩發(fā)布下一代動(dòng)態(tài)可重構(gòu)人工智能處理加速器

    瑞薩最新發(fā)布的動(dòng)態(tài)可重構(gòu)人工智能處理(DRP-AI)加速器,在業(yè)界引起了廣泛關(guān)注。這款加速器擁有卓越的10 TOPS/W高功率效率,相比傳統(tǒng)技術(shù),效率提升了驚人的10倍。其獨(dú)特之處在
    的頭像 發(fā)表于 03-08 13:45 ?788次閱讀

    Tenstorrent將為日本LSTC新型邊緣2納米AI加速器開發(fā)芯片

    加拿大AI芯片領(lǐng)域的初創(chuàng)公司Tenstorrent與日本尖端半導(dǎo)體技術(shù)中心(LSTC)達(dá)成了一項(xiàng)多層次合作協(xié)議。根據(jù)協(xié)議內(nèi)容,LSTC將采用Tenstorrent的世界級(jí)RISC-V架構(gòu)和芯片IP來開發(fā)其新型邊緣2納米人工智能加速器
    的頭像 發(fā)表于 02-28 10:49 ?708次閱讀

    嵌入式人工智能的就業(yè)方向有哪些?

    嵌入式人工智能的就業(yè)方向有哪些? 在新一輪科技革命與產(chǎn)業(yè)變革的時(shí)代背景下,嵌入式人工智能成為國(guó)家新型基礎(chǔ)建設(shè)與傳統(tǒng)產(chǎn)業(yè)升級(jí)的核心驅(qū)動(dòng)力。同時(shí)在此背景驅(qū)動(dòng)下,眾多名企也紛紛在嵌入式人工智能領(lǐng)域布局
    發(fā)表于 02-26 10:17

    家居智能化,推動(dòng)AI加速器的發(fā)展

    電子發(fā)燒友網(wǎng)報(bào)道(文/黃山明)AI加速芯片,也稱為人工智能加速器(AI Accelerator),是一種專為執(zhí)行機(jī)器學(xué)習(xí)和深度學(xué)習(xí)任務(wù)而設(shè)計(jì)的ASIC或定制化處理。在
    的頭像 發(fā)表于 02-23 00:18 ?4612次閱讀
    主站蜘蛛池模板: 夜色视频社区| xxxx69中国| 亚洲国产在线播放在线| 亚洲AV无码乱码在线观看浪潮| 无套内射CHINESEHD| 小荡娃奶真大| 亚洲中久无码永久在线| 在线免费视频a| A级超碰视频在线观看| 国产1000部成人免费视频| 国产亚洲精品久久77777| 久久成人免费观看全部免费| 免费果冻传媒2021视频| 日本片bbbxxx| 亚洲国产区中文在线观看| 中国成人在线视频| 饱满奶大30p| 国产学生在线播放精品视频| 久久欧洲视频| 日韩免费精品视频| 亚洲精品在线不卡| 91福利国产在线观看网站| 俄罗斯另类Z0Z0ZOZO| 狠很橹快播| 欧美成人momandson| 无码国产成人777爽死在线观看| 亚洲免费黄色片| 99re在线播放| 国产色精品VR一区二区| 看了n遍舍不得删的黄文| 日本理伦片午夜理伦片| 亚洲免费无l码中文在线视频| 99久久国产露脸国语对白| 国产成年网站v片在线观看| 久久合| 日本视频一区二区免费观看| 亚洲欧美日韩在线观看一区二区三区| 99久久精品久久久| 和尚扒开双腿蹂躏| 热九九99香蕉精品品| 亚洲三级黄色片|