双主模式rocketmq搭建

简介

RocketMQ是一款分布式,队列模型的消息中间件,具有以下的特点:
能够保证严格的消息顺序;提供丰富的消息拉取模式;高效的订阅者水平扩展能力
实时的消息订阅机制;亿级消息堆积能力

选用理由

强调集群无单点,可扩展,任意一点高可用.水平可扩展
消息堆积能力,消息堆积后,写入低延迟
支持上万个队列
消息失败重试机制
消息可查询
开源社区活跃
成熟度,已经经历过了双十一的考验

RocketMQ集群方式

单个Master

一旦broker重启或者宕机,整个服务不可用,一般线上就不会用

多Master模式

一个集群无slave,全是Master
优点:配置简单,单个Master宕机或者重启对应用没有影响,在磁盘配置为RAID10时,及时宕机也不会消息丢失
缺点:单台机器宕机期间,这台机器上未被消费的消息在机器回复之前不可订阅,消息实时性受到影响

启动过程:
所有master都启动NameServer
在机器A上启动第一个master
在机器B上启动第二个master

多Master多Slave模式,异步复制

每个Master配置一个slave,有多对Master-Slave,HA采用异步复制方式,主备有短暂消息延迟,毫秒级.
优点:磁盘损坏,消息丢失的非常少,且消息的实时性不会受到影响,过程透明,不需要人工干预
缺点:还是会丢失少量信息,在磁盘损坏的情况下

启动过程:
先启动NameServer
在机器A上启动第一个Master
在机器B上启动第二个master
在机器C上启动第一个slave
在机器D上启动第二个slave

多Master多slave模式,同步双写

和异步复制的区别是这个是主备都成功,向应用返回成功

优点:数据域服务都无单点,master宕机情况下,消息无延迟,服务可用性与数据可用性都非常高
缺点:性能上会比异步复制低10%左右

先启动NameServer
在机器A上启动第一个Master
在机器B上启动第二个master
在机器C上启动第一个slave
在机器D上启动第二个slave

双主模式的安装

环境
jdk1.8;tomcat8;maven(yum安装即可)两台服务器,都要有这些环境

上传解压[两台机器都需要]

# 上传alibaba-rocketmq-3.2.6.tar.gz文件至/usr/local
# tar -zxvf alibaba-rocketmq-3.2.6.tar.gz -C /usr/local
# mv alibaba-rocketmq alibaba-rocketmq-3.2.6
# ln -s alibaba-rocketmq-3.2.6 rocketmq

创建路径,为配置文件做准备[两台机器都需要]

# mkdir /usr/local/rocketmq/store
# mkdir /usr/local/rocketmq/store/commitlog
# mkdir /usr/local/rocketmq/store/consumequeue
# mkdir /usr/local/rocketmq/store/index
# mkdir /usr/local/rocketmq/store/store

RockerMQ配置文件[两台机器都需要]

# vi /usr/local/rocketmq/conf/2m-noslave/broker-a.properties
# vi /usr/local/rocketmq/conf/2m-noslave/broker-b.properties
下面的内容分别放到上面的文件里面
#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字，注意此处不同的配置文件填写的不一样
brokerName=broker-a|broker-b
#0 表示 Master， >0 表示 Slave
brokerId=0
#nameServer地址，分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
#在发送消息时，自动创建服务器不存在的topic，默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic，建议线下开启，线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点，默认凌晨 4点
deleteWhen=04
#文件保留时间，默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条，根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=ASYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128

需要注意的是第四个配置节点namesrvAddr,在这里我并没有用具体的ip而是用映射的方式陪在了hosts文件里面,这样ip地址更改后不必再来这进行更改了

添加hosts映射

#vi /etc/hosts

192.168.100.24     rocketmq-nameserver1
192.168.100.24     rocketmq-master1
192.168.100.25     rocketmq-nameServer2
192.168.100.25     rocketmq-master2

修改日志配置文件[两台机器都做]

# mkdir -p /usr/local/rocketmq/logs
# cd /usr/local/rocketmq/conf && sed -i 's#${user.home}#/usr/local/rocketmq#g' *.xml

g’和*之间有空格

启动 NameServer[两台机器]

# cd /usr/local/rocketmq/bin
# nohup sh mqnamesrv &

启动brokerserver,这个要单启
启动192.168.100.24的brokerA

# cd /usr/local/rocketmq/bin
# nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-noslave/broker-a.properties >/dev/null 2>&1 &

启动192.168.100.25的brokerB

# cd /usr/local/rocketmq/bin
# nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-noslave/broker-b.properties >/dev/null 2>&1 &

RocketMQ控制台

在tomcat的webapps下面部署rocketmq-console.war,解压后(tomcat一运行就解压了)这个文件进行修改

# vi /usr/local/tomcat/webapps/rocketmq-console/WEB-INF/classes/config.properties


rocketmq.namesrv.addr=192.168.22.72:9876;192.168.22.59:9876
throwDone=true

在地址栏输入任意master的ip+tomcat端口号/rocketmq-console即可访问,如192.168.100.24:8080/rocketmq-console

数据清理:

# cd /usr/local/rocketmq/bin
# sh mqshutdown broker
# sh mqshutdown namesrv
# --等待停止
# rm -rf /usr/local/rocketmq/store
# mkdir /usr/local/rocketmq/store
# mkdir /usr/local/rocketmq/store/commitlog
# mkdir /usr/local/rocketmq/store/consumequeue
# mkdir /usr/local/rocketmq/store/index
# --按照上面步骤重启NameServer与BrokerServer

最后,搭建启动一小时,然后就不会用了,o(╯□╰)o