文章目录

Hyproxy搭建web群集
- 前言
一、Haproxy调度算法
二: Haproxy群集配置
四、Haproxy日志管理
- 4.1: 日志配置
- 4.2 操作
五、Haproxy 参数优化

Hyproxy搭建web群集

前言

常见的Web集群调度器
Web集群调度器分为软件和硬件，软件通常使用开源的LVS、 Haproxy、 Nginx，硬件一般使用比较多的是F5，也有很多人使用国内的一些产品，如梭子鱼、绿盟等
LVS虽然在企业应用中抗负载能力很强，但存在不足

LVS不支持正则处理，不能实现动静分离
对于大型网站，LVS的实施配置复杂，维护成本相对较高

Haproxy是一款可提供高可用性、负载均衡、及基于TCP和HTTP应用的代理的软件,特别适用于负载特别大的Web站点
运行在当前的硬件上可支持数以万计的并发连接连接请求

一、Haproxy调度算法

Haproxy支持多种调度算法，最常用的有三种：RR（Round Robin），LC（Least Connections）, SH（Source Hashing）

1.1 RR（Round Robin）轮询调度

RR算法是最简单最常用的一种算法，即轮询调度

如有三个节点A、B、C，第一个用户访问会被指派到节点A，第二个用户访问会被指派到节点B，第三个用户访问会被指派到C节点
第四个用户访问继续指派到节点A，轮询分配访问请求实现负载均衡效果

1.2 LC（Least Connections）最小连接数算法

LC算法即最小连接数算法，根据后端的节点连接数大小动态分配前端请求

如有三个节点A、B、C，各节点的连接数分别为A:4、B:5、C:6，此时如果有第一个用户连接请求，会被指派到A上，连接数变为A：5、B：5、C：6
第二个用户请求会继续分配到A上，连接数变为A6、B：5、C：6；再有新的请求会分配给B，每次将新的请求指派给连接数最小的客户端。
但实际情况下A、B、C的连接数会动态释放，很难会出现一样连接数的情况，因此此算法相比较rr算法有很大改进，是目前用到比较多的一种算法。

1.3：SH（Source Hashing）来源访问调度算法

SH即基于来源访问调度算法，此算法用于一些有 Session会话记录在服务器端的场景，可以基于来源的IP、Cookie等做集群调度

如有三个节点A、B、C，第一个用户第一次访问被指派到了A，第二个用户第次访问被指派到了B
当第一个用户第二次访问时会被继续指派到A，第二个用户第二次访问时依旧会被指派到B，只要负载均衡调度器不重启，第一个用户访问都会被指派到A，第二个用户访问都会被指派到B，实现集群的调度
此调度算法好处是实现会话保持，但某些IP访问量非常大时会引起负载不均衡，部分节点访问量超大，影响业务使用。

二: Haproxy群集配置

2.1 环境组成

Haproxy服务器 CentoS 7.4 x86_64 192.168.100.10 haproxy-1.5.19.tar.gz
Nginx服务器1 CentOs 7.4 x86_64 192.168.100.11 nginx-1.12.0.tar.gz
Nginx服务器2 CentOs 7.4 x86_64 192.168.100.12 nginx-1.12.0.tar.gz
nfs服务器 CentOS 7.4 x86_64 192.168.100.13 nsf-utils rpcbind
客户端 CentOS 7.4 x86_64 192.168.100.15 Chrome

2.2：Nginx的安装与启动

在两台网站服务器上安装Nginx，并启动服务

使用源码编译的方式进行安装
关闭 Firewalld防火墙
安装编译安装所需环境包
增加系统用户账号 nginx
编译安装 Nginx并启动
在两台Nginx上配置测试网站，测试网页的内容应该不同，以便进行测试

2.3: Haproxy安装与启动

在负载均衡调度器上安装Haproxy

安装步骤

安装环境包
编译安装haproxy
建立Haproxy的配置文件
创建配置文件目录/etc/haproxy
将源码包提供的配置文件样例haproxy.cfg复制到配置文件目录中

2.4：Haproxy配置文件

Haproxy配置文件通常分为三个部分

global：为全局配置
defaults：为默认配置
listen：为应用组件配置

global配置参数

log 127.0.0.1 lcal0：配置日志记录，local0为日志设备，默认存放到系统日志
log 127.0.0.1 loca1 notice:notice为日志级别，通常有24个级别
maxconn 4096：最大连接数
uid 99：用户uid
gid 99：用户gid

defaults配置项配置默认参数
一般会被应用组件继承，如果在应用组件中没有特别声明，将安装默认配置参数设置

log global：定义日志为global配置中的日志
mode http：模式为http
option httplog：采用http日志格式记录日志
retries 3：检查节点服务器失败连续达到三次则认为节点不可用
maxconn 2000       最大连接数
contimeout 5000      连接超时时间
clitimeout 50000     客户端超时时间
srvtimeout 50000     服务器超时时间

listen配置项目一般为配置应用模块参数

listen appli4- backup 0.0.0.0:10004：定义一个appli4- backup的应用
option httpchk /index.html       检查服务器的index.html文件
option persist          强制将请求发送到已经down掉的服务器
balance roundrobin        负载均衡调度算法使用轮询算法
server inst1 192.168.114.56:80 check inter 2000 fall 3   定义在线节点
server inst2 192.168 114.56:81 check inter 2000 fall 3 backup：定义备份节点

查看配置文件

global
        log 127.0.0.1   local0   //日志输出配置，所有日志都记录在本机，通过local0输出
        log 127.0.0.1   local1 notice  //notice为日志级别
        #log loghost    local0 info
        maxconn 4096        //最大连接数
        chroot /usr/share/haproxy     //锁定家目录
        uid 99   //用户uid
        gid 99   //用户gid
        daemon
        #debug
        #quiet
        
defaults
        log     global   		//定义日志为global配置中的日志
        mode    http     		//模式为http
        option  httplog  		//采用http日志格式记录日志
        option  dontlognull 
        retries 3    			//检查节点服务器失败次数，连续达到三次失败，则节点不可用
        redispatch      		//请求继续发个DOWN的节点
        maxconn 2000    		//最大连接数
        contimeout      5000    //连接超时时间
        clitimeout      50000   //客户端超时时间
        srvtimeout      50000   //服务器超时时间
 
listen  appli1-rewrite 0.0.0.0:10001   //定义一个appli1-rewrite的应用
        cookie  SERVERID rewrite
        balance roundrobin           //负载均衡算法使用轮询算法
        server  app1_1 192.168.34.23:8080 cookie app1inst1 check inter 2000 rise 2 fall 5
        server  app1_2 192.168.34.32:8080 cookie app1inst2 check inter 2000 rise 2 fall 5
        server  app1_3 192.168.34.27:8080 cookie app1inst3 check inter 2000 rise 2 fall 5
        server  app1_4 192.168.34.42:8080 cookie app1inst4 check inter 2000 rise 2 fall 5
 
listen  appli2-insert 0.0.0.0:10002
        option  httpchk              //检查服务器的文件
        balance roundrobin
        cookie  SERVERID insert indirect nocache
        server  inst1 192.168.114.56:80 cookie server01 check inter 2000 fall 3
        server  inst2 192.168.114.56:81 cookie server02 check inter 2000 fall 3
        capture cookie vgnvisitor= len 32
 
        option  httpclose               # disable keep-alive
        rspidel ^Set-cookie:\ IP=       # do not let this cookie tell our internal IP address
 
listen  appli3-relais 0.0.0.0:10003
        dispatch 192.168.135.17:80

注：日志的级别，0（EMERG，紧急），1（ALERT，警告），2（CRIT，严重），3（ERR，错误），4（WARNING，提醒），5（NOTICE，注意），6（INFO，信息），7（DEBUG，调试）

三、实际操作

为了简单操作，只验证haproxy的调度作用，我们不使用nfs共享服务器。
只有4台设备：

hyproxy调度器 IP 192.168.100.10
nginx1服务器 IP 192.168.100.11
nginx2服务器 IP 192.168.100.12
验证Linux客户端 IP 192.168.100.15

3.1 配置web节点服务器Nginx

1. 配置环境
yum -y install \
pcre-devel zlib-devel \
gcc gcc-c++ make

2. 创建nginx的账户
useradd -M -s /sbin/nologin nginx

3. 解压软件包
tar zxvf nginx-1.12.0.tar.gz -C /opt/   // -C：指定解压的目录

4. 编译且安装
cd nginx-1.12.0/

./configure \
--prefix=/usr/local/nginx \
--user=nginx \
--group=nginx
make && make install

5. 编辑测试主页面
cd /usr/local/nginx/html
echo "this is nginx1" > test.html

6. 链接nginx执行程序
ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin/

7. 验证语法错误
nginx -t

8. 开启nginx服务，关闭防火墙
nginx
netstat -ntap |grep nginx

[root@nginx1 logs]# netstat -anpt | grep nginx
tcp        0      0 0.0.0.0:80              0.0.0.0:*               LISTEN      57802/nginx: master 

systemctl stop firewalld
setenforce 0
自己浏览器查看nginx

在这里插入图片描述

3.2 配置haproxy服务器

1. 编译环境
yum -y install \
pcre-devel \
bzip2-devel \
gcc \
gcc-c++ \
make

2. 解压haproxy软件包
tar zxvf haproxy-1.4.24.tar.gz -C /opt/     //-C 指定目标目录

3.编译安装haproxy
cd /opt/haproxy-1.4.24/
make TARGET=linux26					//编译成指定内核版本
make install

4. 创建配置文件的目录，且复制模板
mkdir /etc/haproxy
cp examples/haproxy.cfg /etc/haproxy/

5. 编辑配置文件
cd /etc/haproxy/
vim haproxy.cfg

删除以下语句
#chroot /usr/share/haproxy			//关闭固定家目录
#redispatch							//关闭对于失败服务器发送请求

#删除所有listen项目并添加
listen webcluster 0.0.0.0:80		//监听任意网段的80端口,webcluster自定义名称
	option httpchk GET /test.html
	balance roundrobin
	server inst1 192.168.100.11:80 check inter 2000 fall 3
	server inst2 192.168.100.12:80 check inter 2000 fall 3

6. 配置服务控制方式	
cp /opt/haproxy-1.4.24/examples/haproxy.init /etc/init.d/haproxy
cd /etc/init.d
chmod +x haproxy
vim haproxy
#chkconfig 35 81 25
:wq
chkconfig --add /etc/init.d/haproxy
ln -s /usr/local/sbin/haproxy /usr/sbin/haproxy
7. 关闭安全性功能，开启服务
systemctl stop firewalld
setenforce 0
systemctl start haproxy
netstat -ntap |grep haproxy   '检查80端口'

测试: 访问代理服务器地址192.168.100.10刷新,检查是否调度切换
使用192.168.100.15客户端curl 192.168.100.10/test.html,结果如下：
在这里插入图片描述
浏览器查看：

调度服务器已经开始调度

四、Haproxy日志管理

4.1: 日志配置

Haproxy的日志默认是输出到系统的 syslog中，我们一般将它单独定义出来

操作步骤：

1.修改 Haproxy配置文件中关于日志配置的选项，加入配置
vim /etc/haproxy/haproxy.cfg
log /dev/log local0 info
log /dev/log local0 notice

修改 rsyslog配置，将 Haproxy相关的配置独立定义到haproxy.conf，并放到/etc/rsyslog.d/下

保存配置文件并重启 rsyslog服务，完成 rsyslog配置

访问Haproxy群集测试网页并查看日志信息

4.2 操作

//接上面操作

配置日志记录,添加脚本

vim /etc/haproxy/haproxy.cfg
	log /dev/log local0 info
	log /dev/log local0 notice
:wq
systemctl restart haproxy

touch /etc/rsyslog.d/haproxy.conf
vim  /etc/rsyslog.d/haproxy.conf
//添加下面代码
if ($programname == 'haproxy' and $syslogseverity-text == 'info')
then -/var/log/haproxy/haproxy-info.log
&~
//当程序名匹配到haproxy 和 日志级别是info时,输出到/var/log/haproxy/haproxy-info.log里
if ($programname == 'haproxy' and $syslogseverity-text == 'notice')
then -/var/log/haproxy/haproxy-notice.log
&~
//当程序名匹配到haproxy 和 日志级别是notice时,输出到/var/log/haproxy/haproxy-notice.log里

重启服务
systemctl restart rsyslog.service //重启系统日志
systemctl restart haproxy //重启服务才能有日志文件
查看效果：

五、Haproxy 参数优化

随着企业网站负载增加，对 haproxy参数进行优化十分必要

maxconn：最大连接数，根据应用实际情况进行调整，推荐使用10 240
daemon：守护进程模式， Haproxy可以使用非守护进程模式启动，建议使用守护进程模式启动
nbproc：负载均衡的并发进程数，建议与当前服务器CPU核数相等或为其2倍
retries：重试次数，主要用于对集群节点的检查，如果节点多，且并发量大，设置为2次或3次
option http-server-close：主动关闭http请求选项，建议在生产环境中使用此选项
timeout http-keep-alive：长连接超时时间，设置长连接超时时间，可以设置为10s
timeout http-request：http请求超时时间，建议将此时间设置为5~10s，增加http连接释放速度
timeout client：客户端超时时间，如果访问量过大，节点响应慢，可以将此时间设置短一些，建议设置为1min左右就可以了