当前位置: 首页 > news >正文

台州市建设厅网站建设工程造价管理协会网站

台州市建设厅网站,建设工程造价管理协会网站,常州做网站麦策电商,网站开发前端基础HDFS中的文件在物理上是分块存储(Block),块的大小可以通过配置参数(dfs.blocksize)来规定,默认大小在Hadooop2X版本中是128M,老版本中是64M。 思考:为什么块的大小不能设置太小&…

        HDFS中的文件在物理上是分块存储(Block),块的大小可以通过配置参数(dfs.blocksize)来规定,默认大小在Hadooop2X版本中是128M,老版本中是64M。

思考:为什么块的大小不能设置太小,也不能设置太大?

  1. HDFS的块设置太小会增加寻址时间,程序一直在找块的位置;
  2. 如果块设置的太大,从磁盘传输数据的时间会明显大于定位这个块开始位置所需要的时间。导 致程序在处理这块数据时,会非常慢。

总结:HDFS块的大小主要取决于磁盘传输速率。

hdfs中block为什么设置为128MB:

        hdfs中的平均寻址时间为10ms,而传输速率普遍为100MB/s而在大量测试中得出寻址时间为传输时间的1%时,为最佳状态

        通过计算最佳传输时间=10ms/0.01=1s,进一步计算出Block块大小=1s*100MB=100MB,而我们磁盘block块的大小都是2^n倍,所以设置hdfs中的blcok大小为128MB,但是很多情况下HDFS安装时使用更大的块。以后随着新一代磁盘驱动器传输速率的提升,块的大小会被设置得更大。

但是这个参数也不会设置得过大。MapReduce中的map任务通常一次只处理一个块中的数据,因此如果任务数太少(少于集群中的节点数量),作业的运行速度就会比较慢。

如果block设置过大:在MapReduce中的map任务通常一次只处理一个块中的数据,因此设置的过大就会使作业的运行速度较慢

hdfs中小于blcok块大小的文件如何存储:当所存储的文件小于block块的大小时,它并不会占用整个block块的大小,只会占用它的实际存储大小

http://www.yayakq.cn/news/426480/

相关文章:

  • 阿里云怎样做公司网站东莞哪里有做网站的
  • 搜索引擎友好的网站有哪些特点太仓市住房城乡建设局网站
  • 网站还没上线怎么做品牌推广南昌网站建设报价
  • 网站建设代理费用微信小程序开发实例教程
  • 做游戏网站有钱赚吗wordpress百度云cdn
  • 江苏省住房城乡建设厅官方网站中国建设官方网站首页
  • 企业网站完整版我想做个网站怎么做 找谁做好
  • 高品质外贸网站建设丽水网站seo
  • 浙江标力建设集团网站泉州模板开发建站
  • 城乡建设规划网站郑州seo培训
  • 建网站怎么分类企业网站建设及推广
  • 企业网站策划书下载大连装修公司
  • 回龙观手机网站建设服务黄骅港鑫海化工招聘
  • 上海网站se0优化站长素材官网免费
  • 优秀的网站建设网站的制作成品
  • 锦州网站建设最低价网站内容管理系统使用说明书
  • 东莞制作网站公司哪家好php服装网站模板
  • 网站页数网站建设分金手指专业五
  • 分析网站的优势和不足建个网站的费用
  • 网站模板建网站外发加工网正规吗安全吗
  • 关于插画的网站怎样做免费的网站推广
  • 提供网站建设教学视频建邺做网站价格
  • 怎么备案网站seo网站排名优化软件是什么
  • 网站建设实施计划包括网站展示
  • 企业云网站建设不用ftp可以做网站吗
  • 做网站的财务会涉及到的科目wordpress后台输入密码进不去
  • 做网站建设销售工资高吗北京网站设计公司兴田德润优惠吗
  • 上海企业网站建设推荐金融投资网站建设
  • 沈阳自助建站模板犀牛云做网站推广怎么样
  • 企业 网站备案五华网站建设