温馨提示×

centos怎样查hdfs日志

小樊
52
2026-09-21 16:29:57
栏目: 智能运维

在 CentOS 上查看 HDFS 日志,通常取决于你是 Hadoop 管理员还是普通用户,以及 HDFS 是如何安装的(CDH / HDP / 原生 Apache Hadoop)。下面按常见场景说明。


一、HDFS 日志文件位置(最常见)

1️⃣ Apache Hadoop(原生安装)

默认日志目录:

$HADOOP_HOME/logs

常见日志文件:

$HADOOP_HOME/logs/
├── hadoop-root-namenode-<hostname>.log
├── hadoop-root-datanode-<hostname>.log
├── hadoop-root-secondarynamenode-<hostname>.log
├── yarn-root-resourcemanager-<hostname>.log
└── userlogs/

示例:

tail -f $HADOOP_HOME/logs/hadoop-root-namenode-node1.log

2️⃣ CDH(Cloudera)

日志目录一般在:

/var/log/hadoop-hdfs/

例如:

/var/log/hadoop-hdfs/hadoop-cmf-hdfs-NAMENODE-*.log.out

查看 NameNode 日志:

tail -100f /var/log/hadoop-hdfs/hadoop-cmf-hdfs-NAMENODE-*.log.out

3️⃣ HDP(Ambari / Hortonworks)

/var/log/hadoop/

二、通过系统服务查看(systemd)

如果 HDFS 是用 systemd 管理的:

journalctl -u hadoop-hdfs-namenode
journalctl -u hadoop-hdfs-datanode

实时查看:

journalctl -u hadoop-hdfs-namenode -f

三、通过 HDFS Web UI 查看日志

  • NameNode Web UI:
http://<namenode-ip>:9870

(Hadoop 3.x)

  • 旧版本端口:
50070

在页面中点击:

Utilities → Logs

四、查看 HDFS 操作审计日志(很重要)

NameNode 审计日志

记录所有 HDFS 操作(读、写、删):

$HADOOP_HOME/logs/hadoop-root-namenode-*.log

搜索示例:

grep "mkdir" $HADOOP_HOME/logs/hadoop-root-namenode-*.log

五、查看 YARN / MapReduce 任务日志(HDFS 相关)

如果是 HDFS 上的作业:

yarn logs -applicationId application_xxxx

六、常用排查命令

# 查看 NameNode 是否异常
tail -200 $HADOOP_HOME/logs/hadoop-root-namenode-*.log | grep ERROR

# 查看 DataNode 是否失联
tail -200 $HADOOP_HOME/logs/hadoop-root-datanode-*.log | grep WARN

七、如果你不确定 Hadoop 装在哪

which hdfs
echo $HADOOP_HOME
ps -ef | grep namenode

如果你能告诉我:

  • Hadoop 版本(2.x / 3.x)
  • 安装方式(原生 / CDH / HDP)
  • 想查 NameNode / DataNode / 某个报错

我可以给你更精确的命令。

0 踩