在 Linux 上查看 Hadoop 日志,通常分几种情况:Hadoop 自身组件日志、YARN 任务日志、HDFS 相关日志。下面按常见场景说明。
一般在:
$HADOOP_HOME/logs
或
/var/log/hadoop
(取决于安装方式)
常见日志文件:
hadoop-<user>-namenode-<hostname>.log
hadoop-<user>-datanode-<hostname>.log
yarn-<user>-resourcemanager-<hostname>.log
yarn-<user>-nodemanager-<hostname>.log
查看示例:
tail -f $HADOOP_HOME/logs/hadoop-root-namenode-master.log
yarn logs -applicationId application_123456_0001
查看实时:
yarn logs -applicationId application_123456_0001 -log_files stdout
http://<resourcemanager>:8088
→ 点 Application → Logs
任务运行时的本地日志:
$HADOOP_HOME/logs/userlogs/application_xxxx/
结构示例:
application_123_0001/
├── container_123_0001_01_000001/
│ ├── stdout
│ ├── stderr
│ └── syslog
如果开启:
$HADOOP_HOME/logs/hdfs-audit.log
# 实时查看
tail -f xxx.log
# 查找错误
grep ERROR xxx.log
# 查找异常栈
grep -A 20 Exception xxx.log
yarn app -updateLogLevels <appId> root=DEBUG
如果你能告诉我:
我可以给你更精确的日志路径和排查思路。