寻址时间为传输时间的1%时,则为最佳状态。
一个大文件会被分为多个block存在hdfs中,而每个block对于磁盘来说就是一个文件。
该hdfs的大文件寻址时间是等于磁盘寻找每个block文件的总和。
我们知道,hdfs存储大文件会把该文件分为多个块。
在mapreduce中,一个mapreduce程序要处理该文件,每个map都是一个客户端,但每个map都只分别下载一个block,对于整个mapreduce程序来说,下载该文件的时间就是下载一个块的时间。当block size比较小时,那么对于整个mapreduce来说,下载这个文件的时间就会很小。
再比如,本来存储空间只有8T,但是要把10T的数据存进去,就会导致存不进去,就会一直在寻找合适的位置来存储这10T数据。
HDFS块的大小设置主要取决于磁盘传输速度
Original: https://www.cnblogs.com/chelseafan/p/15037397.html
Author: 想睡觉的人
Title: 为什么HDFS的block不能设置太大或太小
原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/710926/
转载文章受原作者版权保护。转载请注明原作者出处!