Hadoop安全模式Safe mode

bingo

Hadoop的安全模式

Error

The number of live datanodes 0 has reached the minimum number 0. Safe mode will be turned off automatically once the thresholds have been reached. NamenodeHostName:XXX

原因

Hadoop的安全模式下,不能写hdfs的文件,只能查看。如果在此时启动了hive或者别的可能造成写hdfs的程序,会导致 SafeModeException 错误。

解决方法:

判断是否处于安全模式 - hadoop dfsadmin -safemode get
退出安全模式 - hadoop dfsadmin -safemode leave
强制退出安全模式 hadoop dfsadmin -safemode forceExit

为什么会有安全模式

当 Hadoop的NameNode节点启动时,会进入安全模式阶段。在此阶段,DataNode会向NameNode上传它们数据块的列表,让 NameNode得到块的位置信息,并对每个文件对应的数据块副本进行统计。当最小副本条件满足时,即一定比例的数据块都达到最小副本数,系统就会退出安全模式,而这需要一定的延迟时间。当最小副本条件未达到要求时,就会对副本数不足的数据块安排DataNode进行复制,直至达到最小副本数。而在安全模式下,系统会处于只读状态,NameNode不会处理任何块的复制和删除命令。

在安全模式期间,Hadoop主要做这些事情。

  1. NameNode从磁盘读取FsImage和EditLog的xinxi,将EditLog中的所有事务应用到FsImage的内存中,并将这新版本的数据刷新到磁盘上的新FsImage中。
  2. 接收集群中的DataNode块报告。

安全模式结束的条件

NameNode完成一部分比例(可配置)的数据检查再过30s(可配置),NameNode会自动退出Safemode状态。在 hdfs-site.xml 文件中配置。

配置项 注释
dfs.safemode.threshold.pct 指定退出条件,需要达到最小副本数的数据块比例,默认是0.999
dfs.safemode.extension 指定系统退出安全模式时需要的延迟时间,默认为30s

可能的事故原因

如果namenode长时间处于安全模式,那么多半是因为hdfs的数据损坏的太多。
此时可以用命令 hadoop fsck / 检查 hdfs文件的情况。
具体细节参考这篇博客https://www.cnblogs.com/lz3018/p/4974416.html

参考

Hadoop的配置项可以查看这份文档,选择自己对应的版本:
https://hadoop.apache.org/docs/r3.2.0/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml

也可以参考这篇国外博客:
https://netjs.blogspot.com/2018/02/what-is-safemode-in-hadoop-hdfs.html

阅读 5.4k

bingo
梦想养猪的coder
16 声望
5 粉丝
0 条评论
16 声望
5 粉丝
文章目录
宣传栏