一、LVS基本信息
1、集群
(1)什么是集群呢?
集群就是一组独立的计算机,通过网络连接组合成一个组合来共同完一个任务。
计算机集群简称集群是一种计算机系统,它通过一组松散集成的计算机软件和/或硬件连接起来高度紧密地协作完成计算工作。在某种意义上,他们可以被看作是一台计算机。集群系统中的单个计算机通常称为节点,通常通过局域网连接,但也有其它的可能连接方式。集群计算机通常用来改进单个计算机的计算速度或可靠性。
通俗来讲:就是一组相互独立的计算机,通过高速的网络组成一个计算机系统,每个集群节点都是运行其自己进程的一个独立服务器。对网络用户来讲,网站后端就是一个单一的系统,协同起来向用户提供系统资源,系统服务。
我们来看看 LVS在企业架构中的位置:
client —> LVS负载均衡服务器 —> apache服务器 ----> mysql服务器 | 共享存储器
(2)集群架构
负载均衡和高可用集群是我们互联网行业常用的集群架构
什么是负载均衡集群?
负载均衡集群为企业提供了更为实用,性价比更高的系统架构解决方案。负载均衡集群把很多客户集中访问的请求负载压力可能尽可能平均的分摊到计算机集群中处理。客户请求负载通常包括应用程度处理负载和网络流量负载。这样的系统非常适合向使用同一组应用程序为大量用户提供服务。每个节点都可以承担一定的访问请求负载压力,并且可以实现访问请求在各节点之间动态分配,以实现负载均衡。
负载均衡集群的作用
1)分担访问流量(负载均衡)
2)保持业务的连续性(高可用)
什么是高可用集群?
一般是指当集群中的任意一个节点失效的情况下,节点上的所有任务自动转移到其他正常的节点上,并且此过程不影响整个集群的运行,不影响业务的提供。
高可用集群的作用:当一个机器宕机另一台进行接管。比较常用的高可用集群开源软件有:keepalive,heardbeat
2、LVS
什么是LVS呢?
LVS是linux virtual server的简写linux虚拟服务器,是一个虚拟的服务器集群系统,可以在unix/linux平台下实现负载均衡集群功能。
ipvs是工作在内核层,我们不能够直接操作ipvs,vs负载均衡调度技术是在linux内核中实现的。因此,被称之为linux虚拟服务器。我们使用该软件配置lvs的时候,不能直接配置内核中的ipvs,而需要使用ipvs的管理工具ipvsadm进行管理。通过keepalived也可以管理LVS。
LVS体系结构与工作原理简单描述
简单来说 LVS集群负载均衡器接受服务的所有客户端的请求,然后根据调度算法决定哪个集群节点来处理回复客户端的请求。
一组服务器通过高速的局域网或者地理分布的广域网相互连接,在这组服务器之前有一个负载调度器(load balance)。负载调度器负责将客户的请求调度到真实服务器上。这样这组服务器集群的结构对用户来说就是透明的。客户访问集群系统就如只是访问一台高性能,高可用的服务器一样。客户程序不受服务器集群的影响,不做任何修改。
LVS 的工作原理
客户请发送向负载均衡服务器发送请求。负载均衡器接受客户的请求,然后先是根据LVS的调度算法(8种)来决定要将这个请求发送给哪个节点服务器。然后依据自己的工作模式(3种)来看应该如何把这些客户的请求如何发送给节点服务器,节点服务器又应该如何来把响应数据包发回给客户端。
LVS 的三种模式:
[1]. VS/NAT模式(Network address translation)
[2].VS/TUN模式(tunneling)
[3].DR模式(Direct routing)
LVS 的八种调度算法:
[1].轮叫调度(Round Robin)
调度器通过“轮叫”调度算法将外部请求按顺序轮流分配到集群中的真实服务器上,它均等地对待每一台服务器,而不管服务器上实际的连接数和系统负载。
[2].加权轮叫(Weighted Round Robin)
调度器通过”加权轮叫”调度算法根据真实服务器的不同处理能力来调度访问请求。这样可以保证处理能力强的服务器处理更多的访问流量。调度器可以自动问询真实服务器的负载情况,并动态地调整其权值。
[3].最少链接(Least Connections)
调度器通过”最少连接”调度算法动态地将网络请求调度到已建立的链接数最少的服务器上。如果集群系统的真实服务器具有相近的系统性能,采用”最小连接”调度算法可以较好地均衡负载。
[4].加权最少链接(Weighted Least Connections)
在集群系统中的服务器性能差异较大的情况下,调度器采用”加权最少链接”调度算法优化负载均衡性能,具有较高权值的服务器将承受较大比例的活动连接负载。调度器可以自动问询真实服务器的负载情况,并动态地调整其权值。
[5]基于局部性的最少链接(Locality-Based Least Connections)
“基于局部性的最少链接”调度算法是针对目标IP地址的负载均衡,目前主要用于Cache集群系统。该算法根据请求的目标IP地址找出该目标IP地址最近使用的服务器,若该服务器 是可用的且没有超载,将请求发送到该服务器;若服务器不存在,或者该服务器超载且有服务器处于一半的工作负载,则用”最少链接”的原则选出一个可用的服务 器,将请求发送到该服务器。
[6]带复制的基于局部性最少链接(Locality-Based Least Connections with Replication)
“带复制的基于局部性最少链接”调度算法也是针对目标IP地址的负载均衡,目前主要用于Cache集群系统。它与LBLC算法的不同之处是它要维护从一个 目标IP地址到一组服务器的映射,而LBLC算法维护从一个目标IP地址到一台服务器的映射。该算法根据请求的目标IP地址找出该目标IP地址对应的服务 器组,按”最小连接”原则从服务器组中选出一台服务器,若服务器没有超载,将请求发送到该服务器,若服务器超载;则按”最小连接”原则从这个集群中选出一 台服务器,将该服务器加入到服务器组中,将请求发送到该服务器。同时,当该服务器组有一段时间没有被修改,将最忙的服务器从服务器组中删除,以降低复制的 程度。
[7].目标地址散列(Destination Hashing)
“目标地址散列”调度算法根据请求的目标IP地址,作为散列键(Hash Key)从静态分配的散列表找出对应的服务器,若该服务器是可用的且未超载,将请求发送到该服务器,否则返回空。
[8]源地址散列(Source Hashing)
“源地址散列”调度算法根据请求的源IP地址,作为散列键(Hash Key)从静态分配的散列表找出对应的服务器,若该服务器是可用的且未超载,将请求发送到该服务器,否则返回空。
二、LVS负载均衡 (DR)
理解什么是 DR模式 :
先来看一张DR模式请求示意图 :
这种方式需要所有的DIR和RIP都在同一广播域
CIP:192.168.1.13
VIP:192.168.1.100
DIR: 192.168.1.2
RS :192.168.1.10、192.168.1.11和192.168.1.12(提供http服务)
这里呢,每个Real Server都有两个IP,一个是VIP ,一个是RIP,VIP用来做请求回复源IP。Director上只需要一个网卡,然后利用别名来配置两个IP:VIP和DIP,在DIR接收到客户端的请求后,DIR根据负载算法选择一台rs sever的网卡mac作为客户端请求包中的目标mac,通过arp转交给后端rs serve处理,后端再通过自己的路由网关回复给客户端。
client发送请求到接受到报文做了哪些事情?
client -------vip-------> DR接收 -----调度算法-----> RS --------> client
1、LVS负载均衡
实验环境:
server1:172.25.254.1
server2:172.25.254.2
server3:172.25.254.3
Client:172.25.254.96
server1: 调度器:
[1] 配置高可用yum源
查看完整yum源:
配置yum源:
[root@server1 ~]# vim /etc/yum.repos.d/rhel-source.repo
[rhel-source]
name=Red Hat Enterprise Linux $releasever - $basearch - Source
baseurl=http://172.25.7.250/source6.5
enabled=1
gpgcheck=1
gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-redhat-release
[HighAvailability]
name=HighAvailability
baseurl=http://172.25.7.250/source6.5/HighAvailability
gpgcheck=0
[LoadBalancer]
name=LoadBalancer
baseurl=http://172.25.7.250/source6.5/LoadBalancer
gpgcheck=0
[ResilientStorage]
name=ResilientStorage
baseurl=http://172.25.7.250/source6.5/ResilientStorage
gpgcheck=0
配置ok,yum repolist 之后repolist会比原来多一部分
[2] 安装管理集群服务ipvsadm
yum install ipvsadm -y
[3]添加IP
ip addr add 172.25.254.100/24 dev eth0
[4]设置LVS的vip,vip添加RS地址,并设置为DR模式
ipvsadm -A -t 172.25.254.100:80 -s rr
-t : TCP -s : sheduler rr : 轮询算法
ipvsadm -a -t 172.25.254.100:80 -r 172.25.254.2:80 -g
ipvsadm -a -t 172.25.254.100:80 -r 172.25.254.3:80 -g
-r :RS地址 -g:DR模式
查看ipvsadm状态:
[5]保存策略
/etc/init.d/ipvsadm save
server2:服务机:
[1]RealServer 也添加vip,与调度器vip相同
ip addr add 172.25.254.100/24 dev eth0
[2]安装arp防火墙
virtual server与real server的地址一致,所以进入real server时需要把虚拟ip DROP掉,即拦截real server的虚拟ip(防止client访问vip时跳过调度器直接访问到RealServer)
[root@server2 ~]# yum install arptables_jf -y
[3]设置arp
##对input进行拒绝
[root@server2 ~]# arptables -A IN -d 172.25.254.100 -j DROP
##对output进行伪装
[root@server2 ~]# arptables -A OUT -s 172.25.254.100 -j mangle --mangle-ip-s 172.25.254.2
[root@server2 ~]# /etc/init.d/arptables_jf save
查看arptables状态时,172.25.254.100的IN的状态是DROP ,OUT的状态是mangle
[4]开启httpd,修改发布页面
[root@server2 ~]# vim /var/www/html/index.html
root@server2 ~]# /etc/init.d/httpd start
server3:服务机:
[1]Realserver同样添加虚拟ip地址,与调度器虚拟ip地址一致
[root@server3 ~]# ip addr add 172.25.7.100/24 dev eth0
[2]安装arp防火墙
[root@server3 ~]# yum install -y arptables_jf
[3]设置arp抑制
[root@server3 ~]# arptables -A IN -d 172.25.7.100 -j DROP
[root@server3 ~]# arptables -A OUT -s 172.25.7.100 -j mangle --mangle-ip-s 172.25.7.3
[root@server3 ~]# /etc/init.d/arptables_jf save
[4]开启httpd,修改发布页面
[root@server3 ~]# vim /var/www/html/index.html
[root@server3 html]# /etc/init.d/httpd start
负载均衡测试:
[1] 在client端访问172.25.254.100 vip:
轮询ok,调度器查看ipvs的状态:
[2]查看mac地址:
不出我们意料的发现:client的arp缓冲区的mac地址和server1调度器的mac地址一样
又一次验证了DR模式:client —> VS ----> RS -----> client
2、LVS的健康检查
server1:
[1]安装监控软件
[root@server1 ~]# yum install ldirectord-3.9.5-3.1.x86_64.rpm -y
[2]修改配置文件
当server2和server3down之后,访问本机
[root@server1 ~]# cp /usr/share/doc/ldirectord-3.9.5/ldirectord.cf /etc/ha.d/
[root@server1 ~]# cd /etc/ha.d/
[root@server1 ha.d]# ls
ldirectord.cf resource.d shellfuncs
[root@server1 ha.d]# vim ldirectord.cf
[root@server1 ha.d]# /etc/init.d/ldirectord start
[3]修改默认发布页
[root@server1 ha.d]# vim /var/www/html/index.html
[4]不支持端口转发,修改为默认端口80
[root@server1 ha.d]# vim /etc/httpd/conf/httpd.conf ##Listen 80
[5]server2和server3down掉之后,查看ipvs
测试:
开始访问server2和server3,最后down访问server1调度器
3、高可用集群High-Avaliability
server1:
[1]停止 ldirectord 服务
[root@server1~]# /etc/init.d/ldirectord stop
[root@server1~]# chkconfig ldirectord off
[2]下载并安装keepalived
[root@server1 ~]# yum install libnfnetlink-devel-1.0.0-1.el6.x86_64.rpm -y
[root@server1 ~]# tar zxf keepalived-2.0.6.tar.gz
[root@server1 ~]# cd keepalived-2.0.6
[root@server1 keepalived-2.0.6]# vim INSTALL
[root@server1 keepalived-2.0.6]# yum install openssl-devel libnl3-devel ipset-devel iptables-devel libnfnetlink-devel
[3]源码编译三部曲
[root@server1 keepalived-2.0.6]# ./configure --prefix=/usr/local/keepalived --with-init=SYSV
[root@server1 keepalived-2.0.6]# make
[root@server1 keepalived-2.0.6]# make install
[4]生成软连接:
[root@server1 ~]# cd /usr/local/keepalived/etc/rc.d/init.d/
[root@server1 init.d]# chmod +x keepalived
[root@server1 local]# ln -s /usr/local/keepalived/etc/keepalived/ /etc
[root@server1 local]# ln -s /usr/local/keepalived/etc/sysconfig/keepalived /etc/sysconfig/
[root@server1 local]# ln -s /usr/local/keepalived/etc/rc.d/init.d/keepalived /etc/init.d/
[root@server1 local]# ln -s /usr/local/keepalived/sbin/keepalived /sbin/
[5]修改keepalived配置文件:
[root@server1 keepalived-2.0.6]# cd /etc/keepalived/
[root@server1 keepalived]# vim keepalived.conf
! Configuration File for keepalived
global_defs {
notification_email {
root@localhost
}
notification_email_from keepalived@localhost
smtp_server 127.0.0.1
smtp_connect_timeout 30
router_id LVS_DEVEL
vrrp_skip_check_adv_addr
# vrrp_strict ##必须注释
vrrp_garp_interval 0
vrrp_gna_interval 0
}
vrrp_instance VI_1 {
state MASTER
interface eth0
virtual_router_id 7
priority 100 ## 权重
advert_int 1
authentication {
auth_type PASS
auth_pass 1111
}
virtual_ipaddress {
172.25.7.100
}
}
virtual_server 172.25.7.100 80 { #VS
delay_loop 3
lb_algo rr
lb_kind DR
#persistence_timeout 50
protocol TCP
real_server 172.25.7.2 80 { #RS
weight 1
TCP_CHECK {
connect_timeout 3
retry 3
delay_before_retry 3
}
}
real_server 172.25.7.3 80 { #RS
weight 1
TCP_CHECK {
connect_timeout 3
retry 3
delay_before_retry 3
}
}
}
给server4发送此文件:
[root@server1 ~]# scp -r /usr/local/keepalived/ server4:/usr/local/
[root@server1 ~]# scp -r /etc/keepalived/keepalived.conf server4:/etc/keepalived/
server4:
生成同样的软连接:
[root@server4 ~]# ln -s /usr/local/keepalived/etc/keepalived/ /etc/
[root@server4 ~]# ln -s /usr/local/keepalived/etc/sysconfig/keepalived /etc/sysconfig/
[root@server4 ~]# ln -s /usr/local/keepalived/etc/rc.d/init.d/keepalived /etc/init.d/
[root@server4 ~]# ln -s /usr/local/keepalived/sbin/keepalived /sbin/
修改keepalived配置文件:
[root@server1 keepalived]# vim keepalived.conf
vrrp_instance VI_1 {
state BACKUP ##状态为备用
interface eth0
virtual_router_id 7
priority 50 ##修改优先级50
advert_int 1
authentication {
auth_type PASS
auth_pass 1111
}
virtual_ipaddress {
172.25.7.100
}
}
开服务:
[root@server4 keepalived]# /etc/init.d/keepalived start
查看日志:
server1:MASTER
server4:BACKUP
server1:/etc/init.d/keepalived stop ## 当server1的keepalived服务关闭
server4:MASTER
4、互为主备
server2:服务机:
[1]下载vsftpd服务,在/var/ftp中新建文件server2
yum insatll vsftpd -y
touch /var/ftp/server2
[2]添加 vip
ip addr add 172.25.254.200/32 dev eth0
[3]编写arptables文件
[0:0] -A IN -d 172.25.254.100 -j DROP
[0:0] -A IN -d 172.25.254.200 -j DROP
[0:0] -A OUT -s 172.25.254.100 -j mangle --mangle-ip-s 172.25.254.2
[0:0] -A OUT -s 172.25.254.200 -j mangle --mangle-ip-s 172.25.254.2
/etc/init.d/arptables_jf restart
server3:服务机:
[1]下载vsftpd服务,在/var/ftp中新建文件server3
yum insatll vsftpd -y
touch /var/ftp/server3
[2]添加 vip
ip addr add 172.25.254.200/32 dev eth0
[3]编写arptables文件
[0:0] -A IN -d 172.25.254.100 -j DROP
[0:0] -A IN -d 172.25.254.200 -j DROP
[0:0] -A OUT -s 172.25.254.100 -j mangle --mangle-ip-s 172.25.254.3
[0:0] -A OUT -s 172.25.254.200 -j mangle --mangle-ip-s 172.25.254.3
/etc/init.d/arptables_jf restart
server1:
[1]更改配置文件
vim /etc/keepalived//keepalived.conf
! Configuration File for keepalived
global_defs {
notification_email {
root@localhost
}
notification_email_from [email protected]
smtp_server 127.0.0.1
smtp_connect_timeout 30
router_id LVS_DEVEL
vrrp_skip_check_adv_addr
#vrrp_strict
vrrp_garp_interval 0
vrrp_gna_interval 0
}
vrrp_instance VI_1 {
state MASTER
interface eth0
virtual_router_id 254
priority 100
advert_int 1
authentication {
auth_type PASS
auth_pass 1111
}
virtual_ipaddress {
172.25.254.100
}
}
virtual_server 172.25.254.100 80 {
delay_loop 6
lb_algo rr
lb_kind DR
#persistence_timeout 50
protocol TCP
real_server 172.25.254.2 80 {
weight 1
TCP_CHECK {
connect_timeout 3
retry 3
delay_before_retry 3
}
}
real_server 172.25.254.3 80 {
weight 1
TCP_CHECK {
connect_timeout 3
retry 3
delay_before_retry 3
}
}
}
virtual_server 172.25.254.200 21 {
delay_loop 6
lb_algo rr
lb_kind DR
persistence_timeout 50
protocol TCP
real_server 172.25.254.2 21 {
weight 1
TCP_CHECK{
connect_timeout 3
retry 3
delay_before_retry 3
}
}
real_server 172.25.254.3 21{
weight 1
TCP_CHECK{
connect_timeout 3
retry 3
delay_before_retry 3
}
}
}
vrrp_instance VI_2 { ##修改之处
state BACKUP ##修改之处
interface eth0
virtual_router_id 254 ##修改之处
priority 50 ##修改之处
advert_int 1
authentication {
auth_type PASS
auth_pass 1111
}
virtual_ipaddress {
172.25.254.200
}
}
virtual_server 172.25.254.100 80 {
delay_loop 6
lb_algo rr
lb_kind DR
#persistence_timeout 50
protocol TCP
real_server 172.25.254.2 80 {
weight 1
TCP_CHECK{
connect_timeout 3
retry 3
delay_before_retry 3
}
}
real_server 172.25.254.3 80 {
weight 1
TCP_CHECK{
connect_timeout 3
retry 3
delay_before_retry 3
}
}
}
virtual_server 172.25.254.200 21 {
delay_loop 6
lb_algo rr
lb_kind DR
persistence_timeout 50 ##lftp可以持续发送,不需要注释
protocol TCP
real_server 172.25.254.2 21 {
weight 1
TCP_CHECK{
connect_timeout 3
retry 3
delay_before_retry 3
}
}
real_server 172.25.254.3 21{
weight 1
TCP_CHECK{
connect_timeout 3
retry 3
delay_before_retry 3
}
}
}
重启服务:
/etc/init.d/keepalived start
[2]把此文件传给server4
scp keepalived.conf [email protected]:/etc/keepalived/
server4:
[1]开启keepalived
/etc/init.d/keepalived start
[2]配置yum源,下载ipvsadm
yum install ipvsadm -y
[3]查看ipvs
ipvsadm -ln
[4]查看ip
测试:
物理主机: