源码网商城,靠谱的源码在线交易网站 我的订单 购物车 帮助

源码网商城

hadoop动态增加和删除节点方法介绍

  • 时间:2021-06-04 03:31 编辑: 来源: 阅读:
  • 扫一扫,手机访问
摘要:hadoop动态增加和删除节点方法介绍
上一篇文章中我们介绍了[url=http://www.1sucai.cn/article/126373.htm]Hadoop编程基于MR程序实现倒排索引示例[/url]的有关内容,这里我们看看如何在Hadoop中动态地增加和删除节点(DataNode)。 [b]假设集群操作系统均为:CentOS 6.7 x64 [/b] [b]Hadoop版本为:2.6.3[/b] [b]一、动态增加DataNode[/b] 1、准备新的DataNode节点机器,配置SSH互信,可以直接复制已有DataNode中.ssh目录中的authorized_keys和id_rsa 2、复制Hadoop运行目录、hdfs目录及tmp目录至新的DataNode 3、在新DataNode上启动hadoop
..sbin/hadoop-daemon.sh start datanode 
..sbin/yarn-daemon.sh start datanode 
4、在NameNode上刷新节点
..bin/hdfs dfsadmin -refreshNodes 
..sbin/start-balancer.sh 
5、为方便下次启动,可以将新DataNode的域名和ip加入/etc/hosts中 [b]二、动态删除DataNode[/b] 1、配置NameNode的hdfs-site.xml,适当减小dfs.replication副本数,增加dfs.hosts.exclude配置
<property> 
  <name>dfs.hosts.exclude</name> 
  <value>/usr/local/hadoop2/etc/hadoop/excludes</value> 
 </property> 
2、在对应路径(/etc/hadoop/)下新建excludes文件,并写入待删除DataNode的ip或域名 3、在NameNode上刷新所有DataNode
..bin/hdfs dfsadmin -refreshNodes 
..sbin/start-balancer.sh 
4、此时,可以在web检测界面(ip:50070)上可以观测到DataNode逐渐变为Dead。 [b]总结[/b] 以上就是本文关于hadoop动态增加和删除节点方法介绍的全部内容,希望对大家有所帮助。感兴趣的朋友可以继续参阅本站:[url=http://www.1sucai.cn/article/125098.htm]浅谈七种常见的Hadoop和Spark项目案例[/url]、[url=http://www.1sucai.cn/article/126010.htm]hadoop重新格式化HDFS步骤解析[/url]等,有什么问题可以直接留言,小编会及时回复大家的。感谢朋友们对本站的支持!
  • 全部评论(0)
联系客服
客服电话:
400-000-3129
微信版

扫一扫进微信版
返回顶部