共计 2815 个字符,预计需要花费 8 分钟才能阅读完成。
Storm 是什么?
Storm 是 Twitter 开源的一个分布式的实时计算系统
使用场景 :
数据的实时分析, 持续计算, 分布式 RPC 等等.
Storm 特点:(Storm 类似手扶电梯, 不出故障就会一直运行,Hadoop 类似升降电梯, 到达一定程度会停止)。
- 分布式
- 可扩展
- 高可靠性
- 编程模型简单
- 高效实时
常用的类 :
- BaseRichSpout(消息生产者)
- BaseBasicBolt(消息处理者)
- TopologyBuilder(拓扑的构建器)
- Config(配置)
- StormSubmitter/LocalCluster(拓扑提交器)
Storm 集群部署
Storm 集群架构:
如图:
在 Storm 的集群里面有两种节点:控制节点和工作节点。
控制节点上面运行一个叫 Nimbus 进程,Nimbus 负责在集群里面分发代码,分配计算任务,并且监控状态。
每一个工作节点上面运行一个叫做 Supervisor 进程。
Supervisor 负责监听从 Nimbus 分配给它执行的任务,据此启动或停止执行任务的工作进程
Nimbus 和 Supervisor 之间的所有协调工作都是通过 Zookeeper 集群完成。
集群规划:(根据具体需求规划)
linux 主机名 Storm 角色 Zookeeper
master Nimubus 单节点 zk
slave01 Supervisor
slave02 Supervisor
准备工作 :
环境:CentOS 6.4
软件:
jzmq-master
storm-0.8.2
zeromq-2.1.7
zookeeper-3.4.5
环境配置 :
linux 基本配置:
修改主机名
修改 IP
修改主机和 IP 的映射关系
关闭防火墙
安装步骤:
1. 安装 jdk
2. 搭建 Zookeeper 集群 (这里我们只安装一个 zk 在主节点上)
解压
进入 zk 的 conf 目录下,cp zoo_sample.cfg zoo.cfg(修改一下名字)
其它的暂时都不变
3. 安装 Storm 依赖(zeromq、jzmq、python)
3.1 安装 zeromq, 然后进入到 zeromq-2.1.7/ 目录下
检测环境:./configure
cd zeromq-2.1.7
./configure
# 编译可能会出错:
configure: error: Unable to find a working C++ compiler
# 安装一下依赖的 rpm 包:libstdc++-devel gcc-c++
虚拟机可以上网的情况下:(建议使用此方法)
yum install gcc-c++
虚拟机不能上网情况:
首先到
http://mirrors.163.com/centos/6.4/os/x86_64/Packages/
(下载的版本一定要和系统对应)
rpm -i libstdc++-devel-4.4.7-3.el6.x86_64.rpm
rpm -i gcc-c++-4.4.7-3.el6.x86_64.rpm
rpm -i libuuid-devel-2.17.2-12.9.el6.x86_64.rpm
然后运行./configure
make(编译)
make install(这个才彻底安装)
3.2. 编译安装 JZMQ:
cd jzmq
执行./autogen.sh
(是为了让它产生配置文件, 默认没有配置文件的)
# 报错:autogen.sh: error: could not find libtool.
libtool is required to run autogen.sh.
缺少 libtool
同样,可上网情况下
yum install libtool(readhat 企业版不会出现这些报错)
或者手动安装
rpm -i autoconf-2.63-5.1.el6.noarch.rpm
rpm -i automake-1.11.1-4.el6.noarch.rpm
rpm -i libtool-2.2.6-15.5.el6.x86_64.rpm
./configure
make
make install
3.33. 编译安装 Python
(先确定你系统自带的版本,如果是 2.6.6 或者之上的不需要安装)
tar –zxvf Python-2.6.6.tgz
cd Python-2.6.6
./configure
make
make install
3.4 安装 storm
修改 storm.yaml 配置文件(子节点上也得修改)
修改 zk 对应的主机名
修改主节点对应的主机名
PS:
3.41.Storm 发行版本解压目录下有一个
conf/storm.yaml 文件:
用于配置 Storm。默认配置在这里可以查看
conf/storm.yaml 中的
配置选项将覆盖 defaults.yaml 中的默认配置。
以下配置选项是必须在
conf/storm.yaml 中进行配置的:
storm.zookeeper.servers:
Storm 集群使用的 Zookeeper 集群地址,
其格式如下:
storm.zookeeper.servers:
– “111.222.333.444”
– “555.666.777.888”
如果 Zookeeper 集群使用的不是默认端口,
那么还需要 storm.zookeeper.port 选项。
3.42storm.local.dir: Nimbus 和 Supervisor 进程
用于存储少量状态,
如 jars、confs 等的本地磁盘目录,
需要提前创建该目录并给以足够的访问权限。
然后在 storm.yaml 中配置该目录,如:
storm.local.dir: “/usr/storm/workdir”
分别启动三台机器
master: 到 storm 的 bin 目录下
./storm nimbus > /dev/null 2>&1 &
slave01: 到 storm 的 bin 目录下
./storm supervisor > ../logs/su.log 2>&1 &
slave02: 到 storm 的 bin 目录下
./storm supervisor > ../logs/su.log 2>&1 &
(启动后台进程, 并把正确和错误的信息输出到该文件中)
在 master 上启动 UI 管理界面
./storm ui > /dev/null 2>&1 &
通过浏览器观察:(主节点的 ip:8080)
观察集群的 worker 资源使用情况、
Topologies 的运行状态等信息。
至此,Storm 集群已经部署、配置完毕,可以向集群提交拓扑运行了
推荐阅读:
Twitter Storm 安装配置(集群)笔记 http://www.linuxidc.com/Linux/2013-05/84307.htm
安装 Twitter Storm 集群 http://www.linuxidc.com/Linux/2012-07/66336.htm
Twitter Storm 安装配置(单机版)笔记 http://www.linuxidc.com/Linux/2013-05/84306.htm
Storm 实战及实例讲解一 http://www.linuxidc.com/Linux/2012-08/69146.htm