色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

聚焦 | 什么是AI芯片“存儲(chǔ)墻”的解決方案?

SSDFans ? 來(lái)源:YXQ ? 2019-06-18 15:12 ? 次閱讀

在2016年威海參加中國(guó)體系結(jié)構(gòu)年會(huì)的時(shí)候,孫所也說(shuō)了一句調(diào)侃的話:“現(xiàn)在的AI很火,大家都往那邊去,沒(méi)有人太關(guān)心體系結(jié)構(gòu)了,我要告訴那些追AI熱點(diǎn)的,它都死了三回了!” 的確,作為從小學(xué)馬列的中國(guó)人,我們最熟悉螺旋式上升的概念。對(duì)于計(jì)算和I/O來(lái)講,和中國(guó)經(jīng)濟(jì)調(diào)控一樣,都是“ 水多了加面,面多了加水”螺旋式上升。

Google在2017年發(fā)布了TPU V1之后,現(xiàn)在已經(jīng)有越來(lái)越多的AI startup的芯片出現(xiàn),大家基本上都是用標(biāo)準(zhǔn)的Resnet50,Googlenetv3 等網(wǎng)絡(luò)為benchmark, 一次一次地刷新性能和功耗比,個(gè)人覺(jué)得很有可能在一天,AI芯片的性能和功耗比在特定的imagenet的任務(wù)上超過(guò)人腦,現(xiàn)在AI在準(zhǔn)確率和性能上都超過(guò)了。對(duì)于AI的芯片來(lái)講,有一個(gè)指標(biāo)也是大家討論比較多的。Roofline model

Y軸是P,代表算力,用來(lái)FLOP/s來(lái)表示,現(xiàn)在新出的AI ASIC往往在FLOP/s并不發(fā)力,因?yàn)閺墓谋鹊慕嵌壬希懔隙ú皇窃礁咴胶茫掖蠹叶己茈y高過(guò)老黃的核彈。

代表了一個(gè)特定的計(jì)算平臺(tái)的peak performance,就是最大算力。

就是特定的計(jì)算平臺(tái)的I內(nèi)存/O帶寬,這個(gè)和該計(jì)算平臺(tái)使用的DDR類型有關(guān)。

X軸是I,代表計(jì)算強(qiáng)度,就是在一個(gè)Byte上的計(jì)算量。因?yàn)閷?duì)于一個(gè)特定的平臺(tái),我可以知道它的最大算力和帶寬,我們就可以知道它的最大的計(jì)算強(qiáng)度。

因此,和圖上顯示的一樣,在點(diǎn)(Imax,),這個(gè)計(jì)算平臺(tái)達(dá)到了完美。在它的左邊,說(shuō)明memory受限,在它的右邊說(shuō)明計(jì)算受限。

因此,對(duì)于我們之前分析的Alexnet這個(gè)網(wǎng)絡(luò),我們就知道了它的總的計(jì)算量就是:

內(nèi)存訪問(wèn)量 計(jì)算量
Conv1 770235 105415200
Maxpool1 430368
Conv2 1057632 223948800
Maxpool2 273152
Conv3 1057792 149520384
Conv4 1521792 112140288
Conv5 1036160 74760192
Maxpool3 61696
FC1 37766144 37748736
FC2 16789504 16777216
FC3 4102096 4096000
SUM 65021158 724406816

因?yàn)閷?duì)于每一次訪存都是32位的Float Point,因此整個(gè)內(nèi)存的占用就是 260MB左右,而計(jì)算量是724MFLOPs,因此Alexnet的計(jì)算強(qiáng)度就是724/260=2.7 operation/byte。

對(duì)于一個(gè)特定的平臺(tái),比如老黃家的新的GTX2080Ti 系列來(lái)講:

對(duì)于計(jì)算性能,先不管老黃加各種Tensor Core,RTcore,從CUDA Core本身來(lái)講,他是100TLOP/s,

它的內(nèi)存帶寬如下:

因此,作為2080Ti, 它的Imax就是166Operation/Byte.

可能到這個(gè),就可以看出,對(duì)于Alex的2.7 來(lái)講,遠(yuǎn)遠(yuǎn)沒(méi)有達(dá)到2080ti的計(jì)算強(qiáng)度,主要是受限于內(nèi)存帶寬了。

在Google的TPU中,有一個(gè)圖經(jīng)常被大家引用。

大家基本上可以看到,google的Imax差不多在1000左右,基本上沒(méi)有什么網(wǎng)絡(luò)可以完全用滿TPU的peak performance。

怎么辦,內(nèi)存帶寬的解決方案就是HBM,HBM2, HBM3不斷加大帶寬。記得在2017年的CNCC上,謝源教授講,他在2010年左右提出了HBM的概念,他很快就看到了AMD,Nvidia以及Xilinx和Intel都在芯片上使用了HBM,證明了這條道路的正確性。他認(rèn)為目前應(yīng)該在AI芯片上擺脫這種”水多了加面,面多了加水“,in-memory 計(jì)算應(yīng)該是下一個(gè)方向。

這個(gè)就引出了在Memory+會(huì)議上來(lái)自平頭哥的段立德博士的topic,”P(pán)rocessing Near or In memory for deep learning".

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 芯片
    +關(guān)注

    關(guān)注

    455

    文章

    50731

    瀏覽量

    423197
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30761

    瀏覽量

    268905

原文標(biāo)題:什么是AI芯片“存儲(chǔ)墻”的解決方案?

文章出處:【微信號(hào):SSDFans,微信公眾號(hào):SSDFans】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    AI時(shí)代的存儲(chǔ),哪種存算方案才能打破?

    回顧計(jì)算行業(yè)幾十年的歷史,芯片算力提升在幾年前,還在遵循摩爾定律。可隨著如今摩爾定律顯著放緩,算力發(fā)展已經(jīng)陷入瓶頸。而且禍不單行,陷入同樣困境的還有存儲(chǔ)。從新標(biāo)準(zhǔn)推進(jìn)的角度來(lái)看,存儲(chǔ)市場(chǎng)依然在朝
    的頭像 發(fā)表于 04-21 01:36 ?3547次閱讀
    <b class='flag-5'>AI</b>時(shí)代的<b class='flag-5'>存儲(chǔ)</b><b class='flag-5'>墻</b>,哪種存算<b class='flag-5'>方案</b>才能打破?

    中興通訊推出AI FWA全棧解決方案

    近日,在土耳其伊斯坦布爾舉辦的終端用戶大會(huì)上,作為全球領(lǐng)先的綜合信息與通信技術(shù)解決方案提供商中興通訊,首次聚焦固定無(wú)線接入(FWA)與移動(dòng)寬帶(MBB)業(yè)務(wù)領(lǐng)域,并隆重推出了業(yè)界首創(chuàng)的AI FWA全
    的頭像 發(fā)表于 11-18 17:10 ?581次閱讀

    emc存儲(chǔ)解決方案的優(yōu)勢(shì)

    在當(dāng)今這個(gè)數(shù)據(jù)驅(qū)動(dòng)的時(shí)代,企業(yè)對(duì)于數(shù)據(jù)存儲(chǔ)的需求日益增長(zhǎng)。EMC,作為全球領(lǐng)先的數(shù)據(jù)存儲(chǔ)解決方案提供商,以其創(chuàng)新的技術(shù)、高性能的產(chǎn)品和全面的服務(wù),幫助企業(yè)實(shí)現(xiàn)數(shù)據(jù)的高效管理和利用。 1. 高性能和可
    的頭像 發(fā)表于 11-01 15:16 ?343次閱讀

    基于分布式存儲(chǔ)系統(tǒng)醫(yī)療影像數(shù)據(jù)存儲(chǔ)解決方案

    基于分布式存儲(chǔ)系統(tǒng)醫(yī)療影像數(shù)據(jù)存儲(chǔ)解決方案
    的頭像 發(fā)表于 09-14 09:53 ?305次閱讀
    基于分布式<b class='flag-5'>存儲(chǔ)</b>系統(tǒng)醫(yī)療影像數(shù)據(jù)<b class='flag-5'>存儲(chǔ)</b><b class='flag-5'>解決方案</b>

    基于CSS融合存儲(chǔ)系統(tǒng)的自動(dòng)化制造服務(wù)平臺(tái)存儲(chǔ)解決方案

    基于CSS融合存儲(chǔ)系統(tǒng)的自動(dòng)化制造服務(wù)平臺(tái)存儲(chǔ)解決方案
    的頭像 發(fā)表于 09-10 10:15 ?339次閱讀
    基于CSS融合<b class='flag-5'>存儲(chǔ)</b>系統(tǒng)的自動(dòng)化制造服務(wù)平臺(tái)<b class='flag-5'>存儲(chǔ)</b><b class='flag-5'>解決方案</b>

    憶聯(lián)SSD存儲(chǔ)解決方案亮相2024中國(guó)國(guó)際金融展

    數(shù)智化時(shí)代的存儲(chǔ)解決方案”為主題發(fā)表演講,分享憶聯(lián)如何以高效能SSD存儲(chǔ)解決方案助力AI時(shí)代下的金融科技產(chǎn)業(yè)實(shí)現(xiàn)存力飛躍。
    的頭像 發(fā)表于 07-22 10:52 ?672次閱讀
    憶聯(lián)SSD<b class='flag-5'>存儲(chǔ)</b><b class='flag-5'>解決方案</b>亮相2024中國(guó)國(guó)際金融展

    瑞薩電子推出Reality AI Explorer Tier,用于開(kāi)發(fā)AI與TinyML解決方案

    全球半導(dǎo)體解決方案供應(yīng)商瑞薩電子(TSE:6723)宣布推出Reality AI Explorer Tier——作為Reality AI Tools軟件的免費(fèi)版本,可用于開(kāi)發(fā)工業(yè)、汽車和商業(yè)應(yīng)用中的
    的頭像 發(fā)表于 07-19 10:03 ?425次閱讀

    EVASH Ultra EEPROM:助力ChatGPT等AI應(yīng)用的嵌入式存儲(chǔ)解決方案

    EVASH Ultra EEPROM:助力ChatGPT等AI應(yīng)用的嵌入式存儲(chǔ)解決方案
    的頭像 發(fā)表于 06-26 18:13 ?903次閱讀

    AI芯片哪里買?

    AI芯片
    芯廣場(chǎng)
    發(fā)布于 :2024年05月31日 16:58:19

    宜鼎全面擴(kuò)充邊緣AI智能應(yīng)用與智能存儲(chǔ)

    解決方案,全面加速產(chǎn)業(yè)應(yīng)用邊緣AI落地 旗下首款工控級(jí)CXL內(nèi)存、16TB大容量系列SSD,強(qiáng)化智能邊緣端及數(shù)據(jù)中心建設(shè) 深圳2024年5月31日?/美通社/ -- 全球AI解決方案
    的頭像 發(fā)表于 05-31 15:04 ?290次閱讀
    宜鼎全面擴(kuò)充邊緣<b class='flag-5'>AI</b>智能應(yīng)用與智能<b class='flag-5'>存儲(chǔ)</b>

    MK米客方德的AI智能存儲(chǔ)解決方案

    隨著人工智能(AI)技術(shù)的飛速發(fā)展,我們正步入一個(gè)前所未有的智能時(shí)代。AI不僅在改變著我們的生活方式,也在深刻影響著各行各業(yè)的發(fā)展。在眾多領(lǐng)域中,存儲(chǔ)行業(yè)作為數(shù)據(jù)的承載者,其重要性不言而喻。那么,
    的頭像 發(fā)表于 05-27 10:04 ?432次閱讀
    MK米客方德的<b class='flag-5'>AI</b>智能<b class='flag-5'>存儲(chǔ)</b><b class='flag-5'>解決方案</b>

    risc-v多核芯片AI方面的應(yīng)用

    應(yīng)用中的成本。 最后,RISC-V多核芯片不僅可以應(yīng)用于AI邊緣計(jì)算領(lǐng)域,還可以擴(kuò)展到其他領(lǐng)域,如數(shù)據(jù)中心、云計(jì)算、自動(dòng)駕駛、機(jī)器人等,為這些領(lǐng)域提供高效、靈活和安全的解決方案。 總的來(lái)說(shuō),RISC-V
    發(fā)表于 04-28 09:20

    得一微電子:AI時(shí)代重新定義存儲(chǔ)主控芯片

    布局,其PCIe Gen4 YS9303主控新品蓄勢(shì)待發(fā)。作為國(guó)內(nèi)領(lǐng)先的存儲(chǔ)控制芯片解決方案提供商,得一微正積極擁抱生成式AI帶來(lái)的智能終端設(shè)備的創(chuàng)新浪潮。 ?
    的頭像 發(fā)表于 03-29 00:15 ?3607次閱讀
    得一微電子:<b class='flag-5'>AI</b>時(shí)代重新定義<b class='flag-5'>存儲(chǔ)</b>主控<b class='flag-5'>芯片</b>

    聚焦AI、汽車和PC應(yīng)用新需求,西部數(shù)據(jù)攜旗艦存儲(chǔ)產(chǎn)品亮相CFMS峰會(huì)

    作為領(lǐng)先的數(shù)據(jù)存儲(chǔ)解決方案提供商,西部數(shù)據(jù)公司參加了CFMS 2024峰會(huì),現(xiàn)場(chǎng)以“為存儲(chǔ)加速:從數(shù)據(jù)中心到邊緣”為核心主題的展臺(tái)吸引了眾多參會(huì)者,西部數(shù)據(jù)在峰會(huì)上為來(lái)賓展示了多款尖端Flash產(chǎn)品,為現(xiàn)場(chǎng)的觀眾展示了各領(lǐng)域多元
    的頭像 發(fā)表于 03-25 14:34 ?2285次閱讀
    <b class='flag-5'>聚焦</b><b class='flag-5'>AI</b>、汽車和PC應(yīng)用新需求,西部數(shù)據(jù)攜旗艦<b class='flag-5'>存儲(chǔ)</b>產(chǎn)品亮相CFMS峰會(huì)

    Supermicro推出適用于AI存儲(chǔ)的機(jī)柜級(jí)全方位解決方案 加速高性能AI訓(xùn)練和推理的數(shù)據(jù)存取

    【2024年2月1日,美國(guó)圣何塞訊】Supermicro, Inc.(納斯達(dá)克股票代碼:SMCI)作為AI、云端、存儲(chǔ)和5G/邊緣領(lǐng)域的全方位IT解決方案制造商,推出適用于人工智能(AI
    的頭像 發(fā)表于 02-01 17:56 ?643次閱讀
    主站蜘蛛池模板: 在线看片av以及毛片| 日本在线免费| xxxxxx视频| 三级黄色在线| 国产婷婷午夜精品无码A片| 亚洲一区免费看| 麻豆成人久久精品二区三区网站 | 国产精彩视频在线| 亚洲h视频在线观看| 久久精品国产男包| 98国产精品人妻无码免费| 日本国产精品无码一区免费看| 各种场合肉H校园1V1| 新影音先锋男人色资源网| 國産麻豆AVMDMD0179| 最近中文字幕2019国语4| 青草久久久| 国产伦精品一区二区三区| 一个人在线观看免费高清视频在线观看 | 在线观看免费亚洲| 欧美18精品久久久无码午夜福利 | 在线播放真实国产乱子伦| 女教师の诱惑| 国产成人小视频在线观看| 亚洲欧美日韩国产手机在线| 理论片午午伦夜理片I| xxxxx俄罗斯| 亚洲成熟人网站| 麻豆精品人妻一区二区三区蜜桃| WWW国产亚洲精品久久| 先锋资源久久| 久久性综合亚洲精品电影网| JLZZJLZZJLZ老师好多的水| 无码人妻精品一区二区蜜桃在线看| 精品国产乱码久久久久久免费流畅| 51vv视频社区| 天美传媒 免费观看| 久久亚洲伊人| 国产av在线看的| 在线自拍亚洲视频欧美| 色多多污网站在线观看|