在 CentOS 上查看 HDFS 日志,通常取决于你用的是 Hadoop 发行版(Apache / CDH / HDP) 以及你是查 哪个组件 的日志(NameNode / DataNode / JournalNode 等)。
下面按最常见场景给你说明。
$HADOOP_HOME/logs/
或
/var/log/hadoop-hdfs/
常见日志文件:
hadoop-hdfs-namenode-<hostname>.log
hadoop-hdfs-datanode-<hostname>.log
hadoop-hdfs-secondarynamenode-<hostname>.log
hadoop-hdfs-journalnode-<hostname>.log
示例:
tail -f /var/log/hadoop-hdfs/hadoop-hdfs-namenode-node1.log
日志路径:
/var/log/hadoop-hdfs/
例如:
/var/log/hadoop-hdfs/hadoop-cmf-hdfs-NAMENODE-*.log.out
也可通过 Cloudera Manager → 日志 → 对应角色 查看。
/var/log/hadoop/
tail -f <日志文件>
grep ERROR <日志文件>
less <日志文件>
然后 /2024-01-01 10:
http://<namenode-ip>:9870
(Hadoop 3.x)
或
http://<namenode-ip>:50070
(Hadoop 2.x)
可查看:
journalctl -u hadoop-hdfs-namenode
journalctl -u hadoop-hdfs-datanode
如果你指的是谁删了文件、谁提交了作业:
/var/log/hadoop-hdfs/hadoop-hdfs-audit.log
NameNode 起不来
tail -100 /var/log/hadoop-hdfs/hadoop-hdfs-namenode-*.log
DataNode 未注册
tail -100 /var/log/hadoop-hdfs/hadoop-hdfs-datanode-*.log
权限问题
grep -i "permission" <日志>
如果你能告诉我:
我可以给你更精确的命令。