在 CentOS 上查看 HDFS 日志,通常取决于你的 Hadoop 安装方式(如 Apache Hadoop、CDH、HDP)以及 日志配置。下面按常见情况说明。
一般位于:
$HADOOP_HOME/logs/
常见文件:
hadoop-<user>-namenode-<hostname>.loghadoop-<user>-datanode-<hostname>.loghadoop-<user>-secondarynamenode-<hostname>.log示例:
cd /usr/local/hadoop/logs
ls -lh
tail -f hadoop-root-namenode-centos.log
tail -f hadoop-root-datanode-centos.log
日志通常在:
/var/log/hadoop-hdfs/
示例:
ls /var/log/hadoop-hdfs/
查看:
tail -f /var/log/hadoop-hdfs/hadoop-cmf-hdfs-NAMENODE-*.log.out
如果 HDFS 是通过 systemd 启动的:
journalctl -u hadoop-namenode
journalctl -u hadoop-datanode
实时查看:
journalctl -u hadoop-namenode -f
http://<namenode-ip>:9870hdfs dfsadmin -report
# 查看最近 100 行错误
grep ERROR hadoop-root-namenode-*.log | tail -100
# 实时跟踪日志
tail -f $HADOOP_HOME/logs/hadoop-root-*.log
检查 Hadoop 配置:
grep -R "hadoop.log.dir" $HADOOP_HOME/etc/hadoop/
默认配置项:
<property>
<name>hadoop.log.dir</name>
<value>/var/log/hadoop</value>
</property>
如果你能告诉我:
我可以给你更精确的日志路径和排查方法。