首先需要澄清一个常见误区:Hadoop 本身不是数据库,而是一套分布式计算与存储框架(核心包括 HDFS、MapReduce、YARN 等)。我们常说的“Hadoop 数据库”往往指:
下面从 Hadoop 生态各组件的状态监控方式 系统说明。
NameNode Web UI
http://namenode-host:9870
可查看:
DataNode
http://datanode-host:9864
http://resourcemanager-host:8088
可查看:
hdfs dfsadmin -report
查看:
hdfs haadmin -getServiceState nn1
查看 NameNode 是否是 Active / Standby
yarn node -list
yarn application -list
Hadoop 组件都暴露 JMX 指标,可用于专业监控。
示例:
http://namenode:9870/jmx
常见指标:
Hadoop:service=NameNode,name=FSNamesystemHadoop:service=DataNode,name=DataNodeInfo常用于:
http://hbasemaster:16010
hbase shell
status
| 组件 | 关键指标 |
|---|---|
| HDFS | 容量使用率、副本缺失、DN 掉线 |
| YARN | 队列资源、失败任务、Container |
| HBase | Region 热点的、GC、读写延迟 |
| 主机 | CPU、内存、磁盘 IO、网络 |
如果你具体指的是 HDFS / HBase / Hive / 某个发行版(CDH、HDP),可以告诉我,我可以给你更针对性的监控方案。
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。