Hadoop监控系统

193次阅读

没有评论

共计 2824 个字符，预计需要花费 8 分钟才能阅读完成。

一、ELLA 监控需求

XMonitor 监控系统 (svn 目录 svn.d.xiaonei.com/Hadoop/Xmonitor)

1 监控展示

NameNode : gc_heap/load/performance/cluster/operation
JobTracker : gc_heap/rpc/job_status/queue_status
HMaster:
Monitor: big_job/dead DN,dead TT/clear Log/check Point

2 监控查询

DataNode disk：磁盘情况，block 情况
Region server load：负载，请求数量
User space 增量：集群二级目录的 HDFS 使用量

2 Auto Operation 自动化运维 (svn 目录 svn.d.xiaonei.com/hadoop/Operations)*

ping :
nnCheck
jtCheck
checkHDFS
kill_job
job_check

Ella 主要分为两部分，一部分负责信息的抓取, 一部分负责可视化展示

二、ELLA 安装部署

1. 源码地址

稍后上传到 github

2. 数据库准备

手动创建一个数据库，然后使用 sql/sql.txt 中的 ddl 创建 Ella 所需要的表

3. 配置文件

信息抓取程序和可视化展示的 web 程序都依赖 conf/ella.properties 配置文件

#Prod
hbase.master=10.4.18.xx:60000
hbase.zookeeper.quorum=10.4.18.22,10.4.18.23,10.4.18.24,10.4.18.32,10.4.18.33,10.4.18.34
hbase.zookeeper.property.clientPort=2222

JMX_NN_Heap=java.lang:type=MemoryPool,name=*
JMX_NN_GC=java.lang:type=GarbageCollector,name=*
JMX_NN_Cluster=Hadoop:service=NameNode,name=FSNamesystemMetrics
JMX_NN_FSOpeation=Hadoop:service=NameNode,name=NameNode
JMX_NN_Rpc=Hadoop:service=NameNode,name=RpcDetailedActivityForPort8020
JMX_NN_Interval=600000
JMX_NN_Port=50070

JMX_JT_Heap=java.lang:type=MemoryPool,name=*
JMX_JT_GC=java.lang:type=GarbageCollector,name=*
JMX_JT_Rpc=Hadoop:service=JobTracker,name=RpcDetailedActivityForPort8021
JMX_JT_Status=Hadoop:service=JobTracker,name=JobTrackerMetrics
JMX_JT_Interval=600000
JMX_JT_Port=50030

JMX_RS_Heap=java.lang:type=MemoryPool,name=*
JMX_RS_GC=java.lang:type=GarbageCollector,name=*
JMX_RS_Load_Performance=hadoop:service=RegionServer,name=RegionServerStatistics
JMX_RS_Rpc=hadoop:service=HBase,name=RPCStatistics-60020
JMX_RS_Interval=600000
JMX_RS_Port=60030

#mysql
mysql.db.driver=com.mysql.jdbc.Driver
mysql.db.url=jdbc:mysql://10.3.18.30:4410/xmonitor
mysql.db.user=ad
mysql.db.pwd=******

#interval
ella.hdfs.namenode.interval=600000
ella.hdfs.datanode.interval=14400000
ella.mr.jobtracker.interval=600000
ella.mr.job.interval=21600000
ella.hbase.master.interval=600000