群集——使用Haproxy搭建

一.常见的 Web集群调度器

 目前常见的 Web 集群调度器分为软件和硬件，软件通常使用开源的LVS、Haproxy、Nginx，硬件一般使用比较多的是 F5，也有很多人使用国内的一些产品，如梭子鱼、绿盟等。

二.Haproxy应用分析

1.LVS在企业应用中抗负载能力很强，但存在不足

LVS不支持正则处理，不能实现动静分离、
 对于大型网站，LVS的实施配置复杂，维护成本相对较高

2.Haproxy是一款可提供高可用性、负载均衡、及基于TCP和HTTP应用的代理的软件

特别适用于负载特别大的Web站点
运行在当前的硬件上可支持数以万计的并发连接的链接请求

三.Haproxy 调度算法原理

Haproxy 支持多种调度算法，最常用的有三种:

1.RR (Round Robin)

RR算法是最简单最常用的一-种算法，即轮询调度

理解举例
  有三个节点A、B、C,第一个用户访问会被指派到节点A,第二个用户访问会被指派到节点B，第三个用户访问会被指派到节点
  第四个用户访问继续指派到节点A，轮询分配访问请求实现负载均衡效果

2.LC (Least Connections)

LC算法即最小连接数算法，根据后端的节点连接数大小动态分配前端请求

理解举例
   有三个节点A、B、C,各节点的连接数分别为A:4、B:5、 C:6, 此时如果有第一个用户连接请求，会被指派到A上，连接数变为A:5、B:5、 C:6
   第二个用户请求会继续分配到A上，连接数变为A:6、B:5、 C:6; 再有新的请求会分配给B，每次将新的请求指派给连接数最小的客户端
   由于实际情况下A、B、C的连接数会动态释放，很难会出现-样连接数的情况，因此此算法相比较rr算法有很大改进，是目前用到比较多的-种算法

3.SH (Source Hashing)

SH即基于来源访问调度算法，此算法用于一些有Session会话记录在服务器端的场景，可以基于来源的IP、Cookie等做集群调度

理解举例
  有三个节点A、B、C,第一个用户第一次访问被指派到了A,第二个用户第一次访问被指派到了B
  当第一个用户第二次访问时会被继续指派到A,第二个用户第二次访问时依旧会被指派到B，只要负载均衡调度器不重启，第一个用户访问都会被指派到A,第二个用户访向都会被指派到B，实现集群的调度
  此调度算法好处是实现会话保持，但某些IP访问量非常大时会引起负载不均衡，部分节点访问量超大，影响业务使用

四.Haproxy 配置文件详解

1.Haproxy配置文件通常分为三个部分

global:为全局配置
defaults:为默认配置
listen:为应用组件配置

2.global配置参数

log 127.0.0.1 local0:配置日志记录，配置日志记录,ocal0为日志设备,默认存放到系统日志
log 127.0.0.1 local0 notice: notice为 日志级别通常有24个级别
maxconn4096:最大连接数
uid 99:用户uid
gid 99:用户gid

3.defaults配置项配置默认参数，-般会被应用组件继承，如果在应用组件中没有特别声明，将安装默认配置参数设置

log global:定义日志为global配置中的日志定义
mode http:模式为http
option httplog:采用http日志格式记录日志
retries 3:检查节点服务器失败连续达到三次则认为节点不可用
maxconn 2000:最大连接数
contimeout 5000:连接超时时间
clitimeout 50000:客户端超时时间
srtimeout 50000:服务器超时时间

4.listen配置项目一 般为配置应用模块参数

listen appli4-backup 0.0.0.0:10004: 定义一-个appli4-backup的应用
option httpchk /index.html: 检查服务器的index.html文件, option persist :强制将请求发送到已经down掉的服务器) Balance roundrobin: 负载均衡调度算法使用轮询算法
server inst1 192.168.114 .56:80 check inter 2000 fall3: 定义在线节点
 server inst2 192. 168.114.56:81 check inter 2000 fall 3 backup:定义备份节点

5.Haproxy 日志管理

Haproxy的日志默认是输出到系统的syslog中,在生产环境中一般单独定义出来

修改Haproxy配置文件中关于日志配置的选项，加入配置:
vi /etc/haproxy/haproxy.cfg
 log 127.0.0.1 local0和log 127.0.0.1 local0 notice  //需要注释掉
 log /dev/log local0 info
 log /dev/log local0 notice
 修改rsyslog配置,将Haproxy相关的配置独立定义到 haproxy.conf,并放到etclrsyslog.d下，保存配置文件并重启rsyslog服务，完成rsyslog配置

6.Haproxy优化参数

随着企业网站负载增加，haproxy参数优化相当重要

maxconn:最大连接数，根据应用实际情况进行调整,推荐使用10 240
daemon:守护进程模式, Haproxy可以使用非守护进程模式启动，建议使用守护进程模式启动
nbproc:负载均衡的并发进程数，建议与当前服务器CPU核数相等或为其2倍
oretries:重试次数,主要用于对集群节点的检查，如果节点多,且并发量大，设置为2次或3次
option http-server-close:主动关闭http请求选项，建议在生产环境中使用此选项
timeout http-keep-alive:长连接超时时间，设置长连接超时时间可以设置为10s
timeout http-request: http请求超时时间，建议将此时间设置为5~ 10s,增加http连接释放速度
timeout client:客户端超时时间，如果访问量过大,节点响应慢可以将此时间设置短一些，建议设置为1min左右就可以了

五.示例演示

一.环境要求
1.一台 Haproxy调度服务器，两台 Nginx 服务器，一台客户端；
2.三台服务器为CentOS 7.3的64位系统;
3.所有主机网卡都设置成仅主机模式，绑定静态地址;
4.客户端可以通过访问调度服务器，访问到两台节点服务器，不需要访问真实服务器地址。
二.地址规划
Haproxy服务器：192.168.100.210
Nginx服务器1：192.168.100.201
Nginx服务器2：192.168.100.202
nfs服务器：192.168.100.200
客户端：192.168.100.50

1.搭建 Haproxy调度服务器

使用yum安装编译工具

yum install bzip2-devel pcre-devel gcc gcc-c++ make -y

解压haproxy源码包并编译

 yum -y install gcc gcc-c++ make pcre-devel bzip2-devel
 cd /opt/
 tar zxf haproxy-1.4.24.tar.gz
 cd haproxy-1.4.24/
 make TARGET=linux26
 make install

修改haproxy.cfg配置文件,并开启服务

mkdir /etc/haproxy
cp examples/haproxy.cfg /etc/haproxy/
vi /etc/haproxy/haproxy.cfg
注释下面,防止启动失败
#chroot /usr/share/haproxy
#redispatch

删除所有listen条目，添加一下条目
listen webcluster 0.0.0.0:80
    option httpchk GET /index.html
    balance roundrobin
    server web1 192.168.100.201:80 check inter 2000 fall 3
    server web2 192.168.100.202:80 check inter 2000 fall 3

复制haproxy启动脚本到系统启动进程中

cp examples/haproxy.init /etc/init.d/haproxy       #复制haproxy启动脚本到系统启动进程中
vi /etc/init.d/haproxy
# chkconfig:35 80 83(将-换成35)

chmod 755 /etc/init.d/haproxy
chkconfig --add /etc/init.d/haproxy
ln -s /usr/local/sbin/haproxy /usr/sbin/haproxy     #建立脚本命令软链接
$syslogseverity-text
systemctl start haproxy

2.NFS服务器配置

yum -y install nfs-utils rpcbind
mkdir /opt/web1
mkdir /opt/web2
echo "this is kgc web" > /opt/web1/index.html
echo "this is accp web" > /opt/web2/index.html

vi /etc/exports
/opt/web1 192.168.100.201/32(ro)
/opt/web2 192.168.100.202/32(ro)
systemctl start nfs
systemctl start rpcbind
showmount -e	#查看本机共享存储发布情况

3.搭建Nginx服务器

两台Nginx服务器都要使用yum安装编译工具

yum install zlib-devel pcre-devel gcc gcc-c++ make -y

解压源码包并创建管理用户

#解压Nginx源码包到/opt目录
root@nginx1 mnt]# tar zxvf nginx-1.12.2.tar.gz -C /opt

#创建Nginx管理用户
 root@nginx1 mnt]# cd /opt
[root@nginx1 opt]# useradd -M -s /sbin/nologin nginx

配置Nginx1

cd nginx-1.12.2/
./configure --prefix=/usr/local/nginx --user=nginx --group=nginx
.编译安装
 make && make install
 ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin/
 nginx
 nginx -t
 mount 192.168.100.200:/opt/web1 /usr/local/nginx/html/index.html

配置Nginx2

cd nginx-1.12.2/
./configure --prefix=/usr/local/nginx --user=nginx --group=nginx
.编译安装
 make && make install
 ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin/
 nginx
 nginx -t
 mount 192.168.100.200:/opt/web2 /usr/local/nginx/html/index.html

4.测试

5.配置日志

#重启haproxy 服务
 service haproxy restart 
Restarting haproxy (via systemctl):                        [  确定  ]

#创建
 touch /etc/rsyslog.d/haproxy.conf
 vim /etc/rsyslog.d/haproxy.conf

#定义haproxy信息日志
if ($programname  =='haproxy' and $syslogseverity-text'== 'info')
then -/var/log/haproxy/haproxy-info.log
&~

#定义haproxy通知日志
if ($programname == 'haproxy' and $syslogseverity-text == 'notice')
 then -/var/log/haproxy/haproxy-notice.log
&~

#重启日志服务
systemctl restart rsyslog.service

#切换到日志目录下查看haproxy日志文件
 cd /var/log/haproxy/
 ls
 haproxy-info.log

#查看日志文件
 cat haproxy-info.log