色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

GPU竟比CPU有更大的內存帶寬

B4Pb_gh_6fde77c ? 來源:GPU and Computing ? 作者:GPU and Computing ? 2021-08-04 16:19 ? 次閱讀

在先前的文章中《近距離看GPU計算(2)》,我們談到GPU相比CPU有更大的內存帶寬,此言不虛,這也是眾核GPU有源源不斷數據彈藥供給,能夠發揮強大算力的主要原因。基本上GPU的內存帶寬要比CPU多一個數量級。

但是考慮到GPU運算核心的數量,平均下來顯存帶寬真的足夠富裕嗎?參考資料1的《Memory bandwidth》文章提供了很有趣的視角,我們在這里介紹下。MOS 6502發布于1975年,是微型計算機發展史上非常重要的一塊芯片

6502一般運行在1M時鐘頻率,每個時鐘可以訪問1Byte內存數據,6502的一條指令需要花費3~5個時鐘,所以平均下來每條指令大概可以獲得4B內存數據。

與此相對照,Intel的Corei7-7700K是一款目前比較主流的桌面CPU,運行頻率4.2G,內存帶寬大概50GB/s。i7-7700K一共有4個處理核心,所以每個核心大概可以均攤到12.5GB/s的內存帶寬,也就是每個時鐘可以訪問約3B的內存數據。

該CPU的IPC(Instruction Per Clock)為1,極優化的代碼可以達到的IPC為3,按此計,每條指令可得1B的內存數據,跟老前輩6502相比,已經落后不少。

更進一步,現代CPU支持256位長度的SIMD指令,每個時鐘最多執行3條指令,類比GPU,我們以32位為一個通道作為單獨執行線程,這樣每個時鐘我們一共有24條指令執行,所以每條指令可以訪問0.125B內存數據或者說每8條指令得到1B內存數據。

我們再回過頭來看看GPU的情形。以NVidiaGeForce GTX 1080Ti為例,內存帶寬484GB/s,處理單元工作頻率為1.48G,所以對整個GPU來說,每個時鐘大概可以訪問327B內存數據。這個GPU一共有28個SM(類似CPU的處理核心),每個SM有128個SP,所以總共有3584個SP(類似先前SIMD32位通道)。

這樣每個SM一個時鐘大概可以訪問11.7B的內存數據,平均到128個SP,一個SP一個時鐘得到0.09B數據,換個好聽的說法就是每11條指令可以得到1B內存數據,比CPU的指標還惡劣。需要再次重申的是,因為設計目標的問題,CPU其實更關注訪存延遲指標,所以相形之下,內存帶寬的壓力對GPU更為顯著。

這也是為什么我們先前說過的GPU也開始配置多級Cache的原因,除了改善訪存延遲,也可以降低內存帶寬壓力。另外我們在《GPU歷史之二三事》里也提到Nvidia和AMD都開始擁抱移動GPU常用的TBR(Tile Based Rendering)的繪制技術,內存帶寬的壓力也應該是重要的驅動因素。

而作為軟件人員,在設計算法的時候,我們要重視算法的運算強度(見《Roofline模型初步》),要充分利用片上內存包括硬件Cache和軟件Cache(Shared Memory),以及注意內存的合并訪問(Memory Coalescing)等等來優化內存帶寬。

主要參考資料:

https://fgiesen.wordpress.com/2017/04/11/memory-bandwidth/

編輯:jq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4752

    瀏覽量

    129057

原文標題:再談GPU的內存帶寬

文章出處:【微信號:gh_6fde77c41971,微信公眾號:FPGA干貨】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    南亞科技與補丁科技攜手開發定制超高帶寬內存

    近日,臺灣地區知名的DRAM內存制造商南亞科技宣布,已與專業DRAM設計公司補丁科技達成戰略合作,共同致力于定制超高帶寬內存(Customized Ultra-High-Bandwidth
    的頭像 發表于 12-20 14:28 ?168次閱讀

    北橋芯片負責與cpu的聯系并控制內存

    北橋芯片,也被稱為內存控制器或系統控制器,是計算機主板上的一個重要組成部分。它負責管理CPU內存、以及其他系統組件之間的數據傳輸和通信。 1. 北橋芯片的定義和功能 北橋芯片是主板上負責高速
    的頭像 發表于 10-14 10:37 ?656次閱讀

    蘋果 A18 芯片發布:CPU 提升 30%、GPU 提升 40%

    CPU 包括 2 個性能核心和 4 個效率核心, iPhone 15 的 A16 Bionic 快 30%,能耗降低 30% 。 GPU 方面,A18 芯片的 5 核 GPU
    的頭像 發表于 09-11 12:19 ?690次閱讀
    蘋果 A18 芯片發布:<b class='flag-5'>CPU</b> 提升 30%、<b class='flag-5'>GPU</b> 提升 40%

    主板內存故障燈亮會是cpu的問題嗎

    主板內存故障燈亮并不一定是CPU的問題,但CPU內存之間的交互確實可能影響這一故障現象。以下是對主板內存故障燈亮可能原因的分析: 一、
    的頭像 發表于 09-02 14:42 ?2984次閱讀

    主板自檢cpu內存燈一直來回閃

    當你遇到主板自檢時CPU內存燈一直來回閃爍的情況,這通常意味著硬件檢測過程中存在問題。這個問題可能涉及到多個方面,包括硬件故障、BIOS設置錯誤、兼容性問題等。 1. 硬件故障 1.1 CPU故障
    的頭像 發表于 09-02 14:38 ?1.1w次閱讀

    CPU渲染和GPU渲染優劣分析

    使用計算機進行渲染時,兩種流行的系統:基于中央處理單元(CPU)或基于圖形處理單元(GPU)。CPU渲染利用計算機的CPU來執行場景并將其
    的頭像 發表于 05-23 08:27 ?631次閱讀
    <b class='flag-5'>CPU</b>渲染和<b class='flag-5'>GPU</b>渲染優劣分析

    聊聊GPU背后的大贏家-HBM

    HBM全稱為High Bandwidth Memory,直接翻譯即是高帶寬內存,是一款新型的CPU/GPU內存芯片。
    的頭像 發表于 04-20 15:27 ?1573次閱讀
    聊聊<b class='flag-5'>GPU</b>背后的大贏家-HBM

    X-Silicon發布RISC-V新架構 實現CPU/GPU一體化

    X-Silicon 的芯片與其他架構不同,其設計將 CPUGPU 的功能整合到單核架構中。這與英特爾和 AMD 的典型設計不同,前者獨立的 CPU 內核和
    發表于 04-08 11:34 ?611次閱讀
    X-Silicon發布RISC-V新架構 實現<b class='flag-5'>CPU</b>/<b class='flag-5'>GPU</b>一體化

    RISC-V芯片新突破:CPUGPU一體化核心設計

    X-Silicon 的芯片與其他架構不同,其設計將 CPUGPU 的功能結合到單核架構中。這與 Intel 和 AMD 的典型設計不同,后者獨立的 CPU 核心和
    發表于 04-07 10:41 ?744次閱讀
    RISC-V芯片新突破:<b class='flag-5'>CPU</b>與<b class='flag-5'>GPU</b>一體化核心設計

    gpu是什么和cpu的區別

    GPUCPU是兩種常見的計算機處理器,它們在結構和功能上有很大的區別。在這篇文章中,我們將探討GPUCPU的區別,并詳細介紹它們的原理、應用領域和性能特點。 一、概述 1.1
    的頭像 發表于 02-20 11:24 ?1.9w次閱讀

    gpu服務器是干什么的 gpu服務器與cpu服務器的區別有哪些

    gpu服務器是干什么的 gpu服務器與cpu服務器的區別 GPU服務器是一種專門用于處理圖形運算的服務器,而CPU服務器則是一種處理通用計算
    的頭像 發表于 01-30 15:31 ?895次閱讀

    詳解GPU硬件架構及運行機制

    為什么我們總說GPUCPU要強大,既然GPU強大,為什么不能取代CPU呢?
    的頭像 發表于 01-26 09:23 ?2409次閱讀
    詳解<b class='flag-5'>GPU</b>硬件架構及運行機制

    為什么GPUCPU更快?

    大規模數據集時CPU更快的根本原因。內存帶寬GPU內存
    的頭像 發表于 01-26 08:30 ?2465次閱讀
    為什么<b class='flag-5'>GPU</b><b class='flag-5'>比</b><b class='flag-5'>CPU</b>更快?

    DDR6和DDR5內存的區別有多大?怎么選擇更好?

    的型號。 首先,我們來看一下DDR6內存。DDR6是目前市場上最新的內存技術,它在DDR5的基礎上進行了一些改進。DDR6內存的關鍵特點如下: 1. 帶寬
    的頭像 發表于 01-12 16:43 ?8860次閱讀

    GPU是顯卡嗎 cpugpu哪個算力強

    GPU(圖形處理器)是顯卡(顯像處理器)的一種,它是一種專門用于圖形計算的處理器。顯卡是計算機中的一個重要組件,負責處理和渲染圖形,使它們能夠在顯示屏上顯示出來。GPUCPU在計算原理和結構上有
    的頭像 發表于 01-10 15:45 ?5369次閱讀
    主站蜘蛛池模板: 国产精品日本欧美一区二区| 日韩hd高清xxxⅹ| 久久6699精品国产人妻| 老熟人老女人国产老太| 全免费午夜一级毛片| 无码成A毛片免费| 中文无码不卡的岛国片国产片| jiapanese50欧美熟妇| 国产欧美日韩亚洲第一页| 琉璃美人煞在线观看| 日韩男明星| 英国video性精品高清最新| 超碰98人人插| 精品AV综合导航| 青青草偷拍国产亚洲欧洲| 亚洲人成人77777在线播放| av在线观看网站免费| 国产亚洲福利在线视频| 免费人成在线观看网站视频| 偷窥国产亚洲免费视频| 纵欲(高H)| 国产精品久久久久久久久齐齐| 久久综合狠狠综合狠狠| 污污又黄又爽免费的网站 | 毛片基地看看成人免费| 我们中文在线观看免费完整版| 中文人妻熟妇精品乱又伦| 国产激情视频在线播放| 暖暖视频在线观看高清...| 亚洲AV无码国产精品午夜久久| MD传媒MD0021在线观看| 精品久久久亚洲精品中文字幕| 日日啪在线影院百度| 91av欧美| 黄小飞二人转| 色欲狠狠躁天天躁无码中文字幕 | 伊人色综合久久天天| 国产精品久久高潮呻吟无码| 男助理憋尿PLAY灌尿BL出去| 亚洲视频成人| 国产精品av免费观看|