異構(gòu)環(huán)境中HDFS數(shù)據(jù)塊并行傳輸調(diào)度算法
資料介紹
近年來(lái),隨著網(wǎng)絡(luò)和云計(jì)算技術(shù)的飛速發(fā)展,網(wǎng)絡(luò)數(shù)據(jù)以幾何級(jí)數(shù)的方式迅速增長(zhǎng)。數(shù)據(jù)的爆炸性增長(zhǎng)對(duì)存儲(chǔ)系統(tǒng)的容量、可擴(kuò)展性以及I/O性能等方面提出了越來(lái)越高的要求。如今雖然計(jì)算、傳輸和存儲(chǔ)三大IT基礎(chǔ)設(shè)施都得到了飛速的發(fā)展,但是相對(duì)于計(jì)算和傳輸而言,存儲(chǔ)技術(shù)相對(duì)發(fā)展緩慢。分布式文件系統(tǒng)是指網(wǎng)絡(luò)中的多個(gè)存儲(chǔ)節(jié)點(diǎn)通過(guò)網(wǎng)絡(luò)組織起來(lái),并通過(guò)網(wǎng)絡(luò)來(lái)完成各存儲(chǔ)節(jié)點(diǎn)的通信和控制的文件系統(tǒng)。由于其能有效解決分布式存儲(chǔ)系統(tǒng)的海量數(shù)據(jù)存儲(chǔ)和I/O瓶頸問(wèn)題,在容量和可擴(kuò)展性等方面有很大優(yōu)勢(shì),越來(lái)越受到企業(yè)界、學(xué)術(shù)界的青睞。
針對(duì)Hadoop分布式文件系統(tǒng)(HDFS)的寫(xiě)性能在執(zhí)行效率上的不足,提出一種在節(jié)點(diǎn)性能異構(gòu)環(huán)境中對(duì)HDFS數(shù)據(jù)塊進(jìn)行并發(fā)傳輸?shù)恼{(diào)度算法。該算法實(shí)時(shí)監(jiān)控HDFS集群中每個(gè)節(jié)點(diǎn)的資源狀態(tài)和內(nèi)存緩存隊(duì)列,動(dòng)態(tài)地將接收節(jié)點(diǎn)與轉(zhuǎn)發(fā)節(jié)點(diǎn)進(jìn)行配對(duì)傳輸,使全系統(tǒng)節(jié)點(diǎn)的網(wǎng)卡和磁盤(pán)并發(fā)工作,縮短了所有副本寫(xiě)入分布式文件系統(tǒng)的時(shí)間。將數(shù)據(jù)寫(xiě)入磁盤(pán)后請(qǐng)求下一個(gè)數(shù)據(jù)塊,保證數(shù)據(jù)安全性,同時(shí)也使得各個(gè)節(jié)點(diǎn)獲得與自身性能相匹配的副本數(shù),使性能異構(gòu)的系統(tǒng)能達(dá)到較高的寫(xiě)入速度。性能測(cè)試結(jié)果表明,使用該算法的分布式文件系統(tǒng)的寫(xiě)入性能較原始的HDFS提高了l倍。
?
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
- 异构环境下的多DAG任务调度算法综述13次下载
- 基于SVC与多网络接口的视频块联合调度算法4次下载
- 异构云环境中二级实时密码服务调度策略9次下载
- 申威.太湖之光深度学习库中的并行卷积算法1次下载
- 带传输时限的跨数据中心数据传输调度算法11次下载
- 基于异构云计算的工作预算等级调度算法15次下载
- 拟态通用运行环境的资源管理调度及框架6次下载
- 一种自适应多路传输数据调度算法GMM-S5次下载
- 如何在实现工业物联网应用中实现多时隙帧调度算法4次下载
- DS1302的时钟电路并行传输显示方式程序和工程文件免费下载12次下载
- 异构系统多副本容错调度算法0次下载
- 基于MIMO异构Ad Hoc网络节点调度优化算法0次下载
- 云计算环境中任务调度应用3次下载
- 数据网格环境中传输性能的改进17次下载
- 网格环境中多连接传输机制研究7次下载
- wdm主要应用在传输网络的什么层1138次阅读
- FreeRTOS任务调度器的三种调度算法讲解(下)3872次阅读
- 块调用环境对话框操作799次阅读
- 调度算法评测与仿真系统 调度算法仿真系统介绍2073次阅读
- 多种处理器调度过程及调度算法1429次阅读
- SD卡的三种传输模式及功能解析21848次阅读
- 如何使用CRC算法检查数据传输的正确性9450次阅读
- 什么是串行总线和并行总线区别是什么31108次阅读
- DMA数据传输(源代码分享)9464次阅读
- 基于异构并行计算的两个子概念异构和并行的简单分析6762次阅读
- Mapreduce和Hive中map reduce个数设定6215次阅读
- 成为一名并行异构并行计算工程师需要掌握的技能详解6814次阅读
- 串行传输方式都比并行传输方式更胜一筹7359次阅读
- HDFS优化面临新挑战,如何按照数据冷热程度进行分层存储3143次阅读
- CPU+FPGA的图片压缩异构加速方案效率提升14倍2282次阅读
下載排行
本周
- 1DC電源插座圖紙
- 0.67 MB | 2次下載 | 免費(fèi)
- 2AN158 GD32VW553 Wi-Fi開(kāi)發(fā)指南
- 1.51MB | 2次下載 | 免費(fèi)
- 3AN148 GD32VW553射頻硬件開(kāi)發(fā)指南
- 2.07MB | 1次下載 | 免費(fèi)
- 4AN111-LTC3219用戶指南
- 84.32KB | 次下載 | 免費(fèi)
- 5AN153-用于電源系統(tǒng)管理的Linduino
- 1.38MB | 次下載 | 免費(fèi)
- 6AN-283: Σ-Δ型ADC和DAC[中文版]
- 677.86KB | 次下載 | 免費(fèi)
- 7SM2018E 支持可控硅調(diào)光線性恒流控制芯片
- 402.24 KB | 次下載 | 免費(fèi)
- 8AN-1308: 電流檢測(cè)放大器共模階躍響應(yīng)
- 545.42KB | 次下載 | 免費(fèi)
本月
- 1ADI高性能電源管理解決方案
- 2.43 MB | 450次下載 | 免費(fèi)
- 2免費(fèi)開(kāi)源CC3D飛控資料(電路圖&PCB源文件、BOM、
- 5.67 MB | 138次下載 | 1 積分
- 3基于STM32單片機(jī)智能手環(huán)心率計(jì)步器體溫顯示設(shè)計(jì)
- 0.10 MB | 130次下載 | 免費(fèi)
- 4使用單片機(jī)實(shí)現(xiàn)七人表決器的程序和仿真資料免費(fèi)下載
- 2.96 MB | 44次下載 | 免費(fèi)
- 53314A函數(shù)發(fā)生器維修手冊(cè)
- 16.30 MB | 31次下載 | 免費(fèi)
- 6美的電磁爐維修手冊(cè)大全
- 1.56 MB | 24次下載 | 5 積分
- 7如何正確測(cè)試電源的紋波
- 0.36 MB | 17次下載 | 免費(fèi)
- 8感應(yīng)筆電路圖
- 0.06 MB | 10次下載 | 免費(fèi)
總榜
- 1matlab軟件下載入口
- 未知 | 935121次下載 | 10 積分
- 2開(kāi)源硬件-PMP21529.1-4 開(kāi)關(guān)降壓/升壓雙向直流/直流轉(zhuǎn)換器 PCB layout 設(shè)計(jì)
- 1.48MB | 420062次下載 | 10 積分
- 3Altium DXP2002下載入口
- 未知 | 233088次下載 | 10 積分
- 4電路仿真軟件multisim 10.0免費(fèi)下載
- 340992 | 191367次下載 | 10 積分
- 5十天學(xué)會(huì)AVR單片機(jī)與C語(yǔ)言視頻教程 下載
- 158M | 183335次下載 | 10 積分
- 6labview8.5下載
- 未知 | 81581次下載 | 10 積分
- 7Keil工具M(jìn)DK-Arm免費(fèi)下載
- 0.02 MB | 73810次下載 | 10 積分
- 8LabVIEW 8.6下載
- 未知 | 65988次下載 | 10 積分
評(píng)論