色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀(guān)看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

麻省理工研發(fā)出專(zhuān)用芯片,手機(jī)也能運(yùn)行神經(jīng)網(wǎng)絡(luò)

dKBf_eetop_1 ? 來(lái)源:未知 ? 作者:李威 ? 2018-03-06 10:22 ? 次閱讀

近期,麻省理工學(xué)院的研究人員開(kāi)發(fā)了一種專(zhuān)用芯片,將神經(jīng)網(wǎng)絡(luò)計(jì)算的速度提高了 3 倍至 7 倍,同時(shí)將功耗降低了 95%。這將會(huì)使在智能手機(jī)上運(yùn)行神經(jīng)網(wǎng)絡(luò)變得切實(shí)可行。

不管是語(yǔ)音識(shí)別還是面部識(shí)別,目前大多數(shù)人工智能系統(tǒng)的進(jìn)步背后都來(lái)自于神經(jīng)網(wǎng)絡(luò)的功勞。人工神經(jīng)網(wǎng)絡(luò),也就是通過(guò)大量簡(jiǎn)易“神經(jīng)元”(信息處理器)連接而成的系統(tǒng),能夠通過(guò)分析大量訓(xùn)練數(shù)據(jù)學(xué)習(xí)如何完成不同的任務(wù)。

正是因?yàn)檫@樣的結(jié)構(gòu),神經(jīng)網(wǎng)絡(luò)占用空間大,其計(jì)算過(guò)程中的耗能也相應(yīng)非常大。因此,目前的神經(jīng)網(wǎng)絡(luò)很少能夠被便攜設(shè)備使用。目前所有使用神經(jīng)網(wǎng)絡(luò)的智能手機(jī)軟件只能向網(wǎng)絡(luò)服務(wù)器發(fā)送數(shù)據(jù),通過(guò)接收服務(wù)器返回的數(shù)據(jù)完成計(jì)算。

不過(guò),麻省理工學(xué)院(MIT)的研究人員開(kāi)發(fā)了一種能夠?qū)⑸窠?jīng)網(wǎng)絡(luò)計(jì)算速度提升 3-7 倍的專(zhuān)用芯片。除了提升計(jì)算性能,這類(lèi)芯片還能夠減少計(jì)算時(shí) 94-95% 的能耗。這種芯片使智能手機(jī)運(yùn)用神經(jīng)網(wǎng)絡(luò)進(jìn)行計(jì)算成為了可能,甚至能夠擴(kuò)展到在各式智能家居中的應(yīng)用。

負(fù)責(zé)芯片開(kāi)發(fā)的 Avishek Biswas 是這樣解釋的:“目前大部分的處理器芯片都有這樣的模型:芯片的一部分是內(nèi)存,另一部分是處理器。在計(jì)算的同時(shí),數(shù)據(jù)相當(dāng)于是在這兩部分之間來(lái)回移位。”Biswas 是 MIT 電氣工程和計(jì)算機(jī)學(xué)的一名研究生。

“由于這類(lèi)機(jī)器學(xué)習(xí)算法需要非常多的計(jì)算量,數(shù)據(jù)的移位消耗了總能量中的絕大部分;但是算法中的計(jì)算本身其實(shí)能夠被簡(jiǎn)化為‘點(diǎn)乘’這一種運(yùn)算。我們因此產(chǎn)生了這種想法:能不能將這種‘點(diǎn)乘’運(yùn)算直接在內(nèi)存中執(zhí)行,從而不需要將數(shù)據(jù)來(lái)回移動(dòng)呢?”

Biswas 和他的指導(dǎo)教授,MIT 工程學(xué)院院長(zhǎng)、Vannevar Bush 榮譽(yù)教授 Anantha Chandrakasan 在他們最新發(fā)表的論文中詳細(xì)地描述了這種新型芯片。Biswas 在上周的國(guó)際固態(tài)電路會(huì)議(International Solid State Circuits Conference)中介紹了這篇論文。

重回抽象

人工神經(jīng)網(wǎng)絡(luò)一般被分成很多層,某一層中的一個(gè)處理器節(jié)點(diǎn)會(huì)從數(shù)個(gè)下層節(jié)點(diǎn)中獲得數(shù)據(jù),在計(jì)算后又將結(jié)果傳送給上層中的數(shù)個(gè)節(jié)點(diǎn)。任意兩個(gè)節(jié)點(diǎn)的連接都擁有不同的權(quán)重(weight),標(biāo)志著下層節(jié)點(diǎn)傳送的數(shù)據(jù)對(duì)于上層節(jié)點(diǎn)的計(jì)算有多大的影響。“訓(xùn)練”神經(jīng)網(wǎng)絡(luò)的過(guò)程其實(shí)就是調(diào)試并改進(jìn)這些權(quán)重?cái)?shù)據(jù)。

當(dāng)某個(gè)節(jié)點(diǎn)獲得下層節(jié)點(diǎn)傳送的數(shù)據(jù)后,它會(huì)將每個(gè)數(shù)據(jù)乘以它的權(quán)重,然后將這些結(jié)果相加。這一運(yùn)算過(guò)程——將相乘后的所有結(jié)果相加——就叫作“點(diǎn)乘”。如果點(diǎn)乘的結(jié)果超過(guò)了某個(gè)定值,這一結(jié)果將被傳送給更上層的節(jié)點(diǎn)。上層節(jié)點(diǎn)也將會(huì)這一結(jié)果乘以連接權(quán)重,然后再和別的數(shù)據(jù)相加。

“神經(jīng)網(wǎng)絡(luò)”本身其實(shí)是對(duì)這一算法的一種“抽象化”:在計(jì)算機(jī)中,“節(jié)點(diǎn)”其實(shí)只是內(nèi)存中的一系列權(quán)重?cái)?shù)據(jù)。計(jì)算點(diǎn)乘的過(guò)程一般是從內(nèi)存中讀取一個(gè)權(quán)重和相關(guān)的計(jì)算數(shù)據(jù),將這兩個(gè)數(shù)據(jù)相乘并將結(jié)果存在內(nèi)存的某個(gè)位置,然后重復(fù)這一過(guò)程,直到這一個(gè)節(jié)點(diǎn)的所有數(shù)據(jù)都被計(jì)算完畢。由于一個(gè)神經(jīng)網(wǎng)絡(luò)可能有上萬(wàn)(甚至上百萬(wàn))的節(jié)點(diǎn),在計(jì)算過(guò)程中其實(shí)要進(jìn)行非常多的數(shù)據(jù)移動(dòng)。

人工神經(jīng)網(wǎng)絡(luò)的計(jì)算過(guò)程其實(shí)是對(duì)大腦活動(dòng)的一種電子化詮釋。在大腦中,信號(hào)沿著多個(gè)神經(jīng)元行進(jìn),在“突觸”或者一束神經(jīng)元之間的間隙中相遇。神經(jīng)元的放電速率和穿過(guò)突觸的電化學(xué)信號(hào)對(duì)應(yīng)著人工神經(jīng)網(wǎng)絡(luò)中的數(shù)據(jù)值和權(quán)重。這樣說(shuō)來(lái),MIT 研究人員此次研發(fā)的新型芯片通過(guò)對(duì)大腦活動(dòng)的進(jìn)一步復(fù)制、模仿,從而提升了人工神經(jīng)網(wǎng)絡(luò)的效率。

在這種新型芯片中,一個(gè)節(jié)點(diǎn)的輸入數(shù)據(jù)被轉(zhuǎn)化為不同的電壓,并且這些電壓將乘以權(quán)重大小進(jìn)行放大或縮小。將相乘后的結(jié)果相加的過(guò)程能夠通過(guò)組合這些電壓得到實(shí)現(xiàn)。只有組合后的電壓會(huì)被重新轉(zhuǎn)換成數(shù)據(jù),并在內(nèi)存中進(jìn)行存儲(chǔ),以進(jìn)行下一步計(jì)算。

因此,這種芯片原型不需要將數(shù)據(jù)在處理器和內(nèi)存中移動(dòng)——它能同時(shí)計(jì)算 16 個(gè)節(jié)點(diǎn)的點(diǎn)乘結(jié)果。

不是“開(kāi)”就是“關(guān)”

這個(gè)系統(tǒng)的一大特點(diǎn)是權(quán)重?cái)?shù)值不是 1 就是-1。這就意味著它們能被實(shí)現(xiàn)為內(nèi)存中的“電路開(kāi)關(guān)”,也就是“關(guān)閉電路”與“打開(kāi)電路”的區(qū)別。最新的理論研究表明,僅有兩個(gè)權(quán)重值的人工神經(jīng)網(wǎng)絡(luò)與其它神經(jīng)網(wǎng)絡(luò)相比,其準(zhǔn)確性?xún)H會(huì)下降 1%-2%。

Biswas 與 Chandrakasan 教授的研究與這一理論結(jié)果相差不遠(yuǎn)。在實(shí)驗(yàn)中,他們?cè)趥鹘y(tǒng)計(jì)算機(jī)中運(yùn)行了一個(gè)全面的神經(jīng)網(wǎng)絡(luò),同時(shí)在他們研發(fā)的芯片上運(yùn)行了二元權(quán)重的神經(jīng)網(wǎng)絡(luò)。芯片提供的計(jì)算結(jié)果與計(jì)算機(jī)提供的結(jié)果一般僅相差 2%-3%。

“這項(xiàng)研究是針對(duì)深度學(xué)習(xí)應(yīng)用中基于靜態(tài)存儲(chǔ)器(SRAM)內(nèi)存模擬計(jì)算的一次非常有前景的實(shí)際演示。”IBM 人工智能研究院副總裁 Dario Gil 是這樣評(píng)價(jià)的,“這項(xiàng)研究的結(jié)果對(duì)于在存儲(chǔ)陣列中實(shí)現(xiàn)卷積網(wǎng)絡(luò)提供了一種節(jié)能的實(shí)現(xiàn)方案。它一定能夠?yàn)閷?lái)在物聯(lián)網(wǎng)(Internet of Things, IoT)中采用更復(fù)雜的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像和視頻分類(lèi)開(kāi)辟可能性。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀(guān)點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴

原文標(biāo)題:MIT跨越性專(zhuān)用芯片:功耗降低95%,手機(jī)也能運(yùn)行神經(jīng)網(wǎng)絡(luò)

文章出處:【微信號(hào):eetop-1,微信公眾號(hào):EETOP】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    卷積神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的比較

    神經(jīng)網(wǎng)絡(luò)稱(chēng)為全連接神經(jīng)網(wǎng)絡(luò)(Fully Connected Neural Networks,F(xiàn)CNs),其特點(diǎn)是每一層的每個(gè)神經(jīng)元都與下一層的所有
    的頭像 發(fā)表于 11-15 14:53 ?382次閱讀

    神經(jīng)網(wǎng)絡(luò)專(zhuān)用硬件實(shí)現(xiàn)的方法和技術(shù)

    神經(jīng)網(wǎng)絡(luò)專(zhuān)用硬件實(shí)現(xiàn)是人工智能領(lǐng)域的一個(gè)重要研究方向,旨在通過(guò)設(shè)計(jì)專(zhuān)門(mén)的硬件來(lái)加速神經(jīng)網(wǎng)絡(luò)的訓(xùn)練和推理過(guò)程,提高計(jì)算效率和效比。以下將詳細(xì)介紹神經(jīng)
    的頭像 發(fā)表于 07-15 10:47 ?1082次閱讀

    BP神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的關(guān)系

    BP神經(jīng)網(wǎng)絡(luò)(Backpropagation Neural Network)和卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,簡(jiǎn)稱(chēng)CNN)是兩種在人工智能和機(jī)器學(xué)習(xí)領(lǐng)域
    的頭像 發(fā)表于 07-10 15:24 ?1442次閱讀

    BP神經(jīng)網(wǎng)絡(luò)和人工神經(jīng)網(wǎng)絡(luò)的區(qū)別

    BP神經(jīng)網(wǎng)絡(luò)和人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Networks,簡(jiǎn)稱(chēng)ANNs)之間的關(guān)系與區(qū)別,是神經(jīng)網(wǎng)絡(luò)領(lǐng)域中一個(gè)基礎(chǔ)且重要的話(huà)題。本文將從定義、結(jié)構(gòu)、算法、應(yīng)用及未來(lái)發(fā)展等多個(gè)方面,詳細(xì)闡述BP
    的頭像 發(fā)表于 07-10 15:20 ?1025次閱讀

    rnn是遞歸神經(jīng)網(wǎng)絡(luò)還是循環(huán)神經(jīng)網(wǎng)絡(luò)

    RNN(Recurrent Neural Network)是循環(huán)神經(jīng)網(wǎng)絡(luò),而非遞歸神經(jīng)網(wǎng)絡(luò)。循環(huán)神經(jīng)網(wǎng)絡(luò)是一種具有時(shí)間序列特性的神經(jīng)網(wǎng)絡(luò),能夠處理序列數(shù)據(jù),具有記憶功能。以下是關(guān)于循環(huán)
    的頭像 發(fā)表于 07-05 09:52 ?559次閱讀

    遞歸神經(jīng)網(wǎng)絡(luò)是循環(huán)神經(jīng)網(wǎng)絡(luò)

    遞歸神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network,簡(jiǎn)稱(chēng)RNN)和循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network,簡(jiǎn)稱(chēng)RNN)實(shí)際上是同一個(gè)概念,只是不同的翻譯方式
    的頭像 發(fā)表于 07-04 14:54 ?733次閱讀

    循環(huán)神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的區(qū)別

    循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network,RNN)和卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,CNN)是深度學(xué)習(xí)領(lǐng)域中兩種非常重要的神經(jīng)網(wǎng)絡(luò)
    的頭像 發(fā)表于 07-04 14:24 ?1267次閱讀

    深度神經(jīng)網(wǎng)絡(luò)與基本神經(jīng)網(wǎng)絡(luò)的區(qū)別

    在探討深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Networks, DNNs)與基本神經(jīng)網(wǎng)絡(luò)(通常指?jìng)鹘y(tǒng)神經(jīng)網(wǎng)絡(luò)或前向神經(jīng)網(wǎng)絡(luò))的區(qū)別時(shí),我們需要從多個(gè)維度進(jìn)行深入分析。這些維度包括
    的頭像 發(fā)表于 07-04 13:20 ?841次閱讀

    人工智能神經(jīng)網(wǎng)絡(luò)芯片的介紹

    人工智能神經(jīng)網(wǎng)絡(luò)芯片是一類(lèi)專(zhuān)門(mén)為深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)算法設(shè)計(jì)的處理器。它們具有高性能、低功耗、可擴(kuò)展等特點(diǎn),廣泛應(yīng)用于圖像識(shí)別、語(yǔ)音識(shí)別、自然語(yǔ)言處理等領(lǐng)域。以下是關(guān)于人工智能神經(jīng)網(wǎng)絡(luò)
    的頭像 發(fā)表于 07-04 09:33 ?727次閱讀

    神經(jīng)網(wǎng)絡(luò)芯片與傳統(tǒng)芯片的區(qū)別和聯(lián)系

    引言 隨著人工智能技術(shù)的快速發(fā)展,深度學(xué)習(xí)算法在圖像識(shí)別、自然語(yǔ)言處理、語(yǔ)音識(shí)別等領(lǐng)域取得了顯著的成果。然而,深度學(xué)習(xí)算法對(duì)計(jì)算資源的需求非常高,傳統(tǒng)的計(jì)算芯片已經(jīng)無(wú)法滿(mǎn)足其需求。因此,神經(jīng)網(wǎng)絡(luò)芯片
    的頭像 發(fā)表于 07-04 09:31 ?895次閱讀

    神經(jīng)網(wǎng)絡(luò)芯片和普通芯片區(qū)別

    神經(jīng)網(wǎng)絡(luò)芯片和普通芯片的區(qū)別是一個(gè)復(fù)雜而深入的話(huà)題,涉及到計(jì)算機(jī)科學(xué)、電子工程、人工智能等多個(gè)領(lǐng)域。 定義 神經(jīng)網(wǎng)絡(luò)芯片(Neural Ne
    的頭像 發(fā)表于 07-04 09:30 ?1131次閱讀

    反向傳播神經(jīng)網(wǎng)絡(luò)和bp神經(jīng)網(wǎng)絡(luò)的區(qū)別

    神經(jīng)網(wǎng)絡(luò)在許多領(lǐng)域都有廣泛的應(yīng)用,如語(yǔ)音識(shí)別、圖像識(shí)別、自然語(yǔ)言處理等。然而,BP神經(jīng)網(wǎng)絡(luò)存在一些問(wèn)題,如容易陷入局部最優(yōu)解、訓(xùn)練時(shí)間長(zhǎng)、對(duì)初始權(quán)重敏感等。為了解決這些問(wèn)題,研究者們提出了一些改進(jìn)的BP
    的頭像 發(fā)表于 07-03 11:00 ?790次閱讀

    bp神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)區(qū)別是什么

    BP神經(jīng)網(wǎng)絡(luò)(Backpropagation Neural Network)和卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,簡(jiǎn)稱(chēng)CNN)是兩種不同類(lèi)型的人工神經(jīng)網(wǎng)絡(luò),它們?cè)?/div>
    的頭像 發(fā)表于 07-03 10:12 ?1155次閱讀

    卷積神經(jīng)網(wǎng)絡(luò)和bp神經(jīng)網(wǎng)絡(luò)的區(qū)別

    卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks,簡(jiǎn)稱(chēng)CNN)和BP神經(jīng)網(wǎng)絡(luò)(Backpropagation Neural Networks,簡(jiǎn)稱(chēng)BPNN)是兩種
    的頭像 發(fā)表于 07-02 14:24 ?3651次閱讀

    麻省理工學(xué)院開(kāi)發(fā)出新的RFID標(biāo)簽防篡改技術(shù)

    雖然RFID標(biāo)簽廣泛應(yīng)用于各種場(chǎng)景,但安全性一直是其難以回避的問(wèn)題。不法分子可以輕松復(fù)制或剝離這些電子標(biāo)簽,將贗品偽裝成正品,欺騙消費(fèi)者和認(rèn)證系統(tǒng)。然而,麻省理工的新發(fā)明為這一問(wèn)題提供了有效
    的頭像 發(fā)表于 02-22 11:30 ?615次閱讀
    <b class='flag-5'>麻省理工</b>學(xué)院開(kāi)<b class='flag-5'>發(fā)出</b>新的RFID標(biāo)簽防篡改技術(shù)
    主站蜘蛛池模板: 丝袜美女被啪啪不带套漫画| 成人无码在线视频区| 果冻传媒我的女老板| 四虎影视国产精品亚洲精品| JK白丝校花爽到娇喘视频| 久久亚洲精品成人综合| 亚洲人成伊人成综合网久久久| 国产精品1卡二卡三卡四卡乱码| 秋霞电影在线观看午夜伦| 99re热视频这里只有精品| 快播av种子| 曰批视频免费40分钟不要钱| 火影小南被爆羞羞网站| 亚洲AV成人无码999WWW| 国产精品热久久高潮AV袁孑怡| 乳色吐息在线观看全集免费观看 | 99久久国产露脸精品国产麻豆| 久久精品观看影院2828| 亚洲性夜夜色综合网站| 回复术士人生重启在线观看| 亚洲欧美中文字幕5发布| 荷兰少归BVBV| 亚洲午夜性春猛交XXXX| 娇妻中日久久持久久| 一本道亚洲区免费观看| 久久草这在线观看免费| 一区二区三区无码高清视频| 九九精品视频在线播放| 艺术片 快播| 久久婷五月综合色啪首页| 最新国自产拍天天更新| 麻豆国产人妻精品无码AV| 91看片淫黄大片.在线天堂| 女人高潮时一吸一夹| jizzhd中国| 日韩欧美精品有码在线播放免费| 电影日本妻子| 甜性涩爱dvd| 狠狠撸亚洲视频| 伊人久久青青草| 美女撒尿无遮挡免费中国|