通过LVS + Keepalived 部署MySQL高可用

LVS是Linux Virtual Server的简称，也就是Linux虚拟服务器, 是一个由章文嵩博士发起的自由软件项目，它的官方站点是www.linuxvirtualserver.org。现在LVS已经是 Linux标准内核的一部分，在Linux2.4内核以前，使用LVS时必须要重新编译内核以支持LVS功能模块，但是从Linux2.4内核以后，已经完全内置了LVS的各个功能模块，无需给内核打任何补丁，可以直接使用LVS提供的各种功能。

keepalived简单来讲就是,Keepalived是一个专门为lvs提供高可用功能的机制，它可以实现当有两个主从lvs，而且主lvs损坏的时候，将其IP地址以及lvs转移至备份lvs上。其高可用主要基于VRRP协议实现,VRRP是一个“选举”协议，它能够动态地将一个虚拟路由器的责任指定至同一个VRRP组中的其它路由器上，从而消除了静态路由配置的单点故障。如果一个VRRP设备将虚拟路由器IP地址作为真实的接口地址，则该设备被称为IP地址拥有者。如果IP地址拥有者是可用的，通常它将成为Master。

1.架构图

注意

(一) MySQL需要把bind-address的配置去掉，否则无法实现虚拟ip访问

(二) 关闭所有linux防火墙：/sbin/iptables –F(可能没用)

(三) 重启networking：sudo /etc/init.d/networking restart(可能没用)

2. 架构

Mysql:

master

10.24.6.5:3306(system !System)

LB

10.24.6.4 Master

10.24.6.7 BACKUP

VIP:

10.24.6.2

3.LVS负载均衡配置

3.1. Lvs模块检测

Ipvs 具体实现是由ipvsadm 这个程序来完成，因此判断一个系统是否具备ipvs 功能，只需要察看ipvsadm 程序是否被安装。察看ipvsadm 程序最简单的办法就是在任意路径执行命令ipvsadm。表6-1 为安装ipvsadm 及未安装ipvsadm 的输出对比。

显示详细信息

表6-1 ipvsadm 输出对比

a) 通过系统命令比较简单：apt-get install ipvsadm

b) 检验ipvsadm 是否被正确安装

​ i. 执行ipvsadm，看是否有表6-1 第2 栏的输出。

​ ii. 检查当前加载的内核模块，看是否存在ip_vs 模块。

modprobe -l |grep ipvs

或lsmod | grep ip_vs

img

Ubuntu9.10已经用了2.6的内核，所以不需要再编译内核了

3.2.配置

LVS默认不需要配置

4.KeepAlived高可用配置

4.1. 安装

4.2. MASTER配置(/etc/keepalived/keepalived.conf)

global_defs {

router_id HaMySQL_1

}

vrrp_instance VI_MYSQL {

state MASTER

interface eth0

virtual_router_id 51

priority 100

advert_int 1

authentication {

auth_type PASS

auth_pass 1111

}

virtual_ipaddress {

10.24.6.2

}

}

virtual_server 10.24.6.2 3306 {

delay_loop 6

lb_algo wrr

lb_kind DR

persistence_timeout 60

protocol TCP

real_server 10.24.6.5 3306 {

weight 3

TCP_CHECK {

connect_timeout 3

nb_get_retry 3

delay_before_retry 3

connect_port 3306

}

}

real_server 10.24.6.6 3306 {

weight 3

TCP_CHECK {

connect_timeout 3

nb_get_retry 3

delay_before_retry 3

connect_port 3306

}

}

}

4.3. SLAVE配置(/etc/keepalived/keepalived.conf)

global_defs {

router_id HaMySQL_1

}

vrrp_instance VI_MYSQL {

state BACKUP

interface eth0

virtual_router_id 51

priority 50

advert_int 1

authentication {

auth_type PASS

auth_pass 1111

}

virtual_ipaddress {

10.24.6.2

}

}

virtual_server 10.24.6.2 3306 {

delay_loop 6

lb_algo wrr

lb_kind DR

persistence_timeout 60

protocol TCP

real_server 10.24.6.5 3306 {

weight 3

TCP_CHECK {

connect_timeout 3

nb_get_retry 3

delay_before_retry 3

connect_port 3306

}

}

real_server 10.24.6.6 3306 {

weight 3

TCP_CHECK {

connect_timeout 3

nb_get_retry 3

delay_before_retry 3

connect_port 3306

}

}

}

4.4. 日志

Ubuntu下面是/var/log/syslog

All daemon messages are logged through the Linux syslog. If you start Keepalived with the “dump

configuration data” option, you should see in your /var/log/messages (on Debian this may be

/var/log/daemon.log depending on your syslog configuration) something like this :

4.5. 负载均衡服务的启用和验证

Lvs 客户端的启用和验证在前面的有过详细的说明，此处略过。前面我们也提过，keepalived 启动过程不会检查配置文件的语法，因此在启动keepalived 以前，需要人工对/etc/keepalived/keepalived.conf 文件做全面的语法检查。一个比较容易犯的错误就是把花括号“}”写漏了，不成对！当lvs 客户端都正常启动并且配置文件经检查无误后（当然有错误也无妨，随时可以修改嘛！），执行命令 /usr/local/keepalived/sbin/keepalived –D ,然后我们查看系统进程，看是否是3 个keepalived 进程。如果配置文件的路径不是/etc/keepalived/keepalived.conf 则需要在启动时用选项-f 指定。

最能反映keepalived 启动情况的地方当属系统日志。手动执行启动操作后，使用命令 tail –f /var/log/syslog 滚动查看输出，就能详细了解其运行情况。图6-3 为某个lvs 环境的keepalived 启动输出：

另外一个反映keepalived 正常运行状态的地方是网络接口vip 的启用。通过执行ip add 即可看见vip 已经被绑定在制定的网络接口（注意：ifconfig 不能显示 vip）。需要注意的是，BACKUP 的vip 暂时不绑定。如下图所示：

4.6. Vip验证

Master

Slave

4.7. IPVSADM验证

Master

Clave

4.8. 测试验证

实体mysql

img

Vip mysql

4.9. 高可用测试结果

LB:

10.24.6.4 Master关闭以后，10.24.6.7 BACKUP启用接管

MYSQL:

10.24.6.5:3306

10.24.6.6:3306

任意一个mysql异常之后，可连接到其他mysql

5. 遇到问题

5.1. Mysql连接不上(错误码111)分析

1.Mysql连接vip

2.Mysql连接vip的抓包情况

通过抓包可知，10.24.6.2:3306是可以连上的，它有回包，只不过回包的状态为R

3.TCP连接出现RST的情况分析：

 @1端口未打开

 @2请求超时

 @3提前关闭

 @4在一个已关闭的socket上收到数据

4.在结合mysql返回值为111可以知道应该是mysql服务提前关闭了，

Google了下mysql111的解决办法：

QT链接Mysql的时候出现QSqlError(2003, “QMYSQL: Unable to connect”, “Can’t connect to MySQL server on ‘172.18.186.244’ (111)”)错误，google之后发现是mysql为了安全，对hostname进行了绑定。

解决办法：修改/etc/mysql/my.cnf（不同Linux发行版位置可能不同，我用的是Ubuntu 11.04，windows是my.ini文件），里面有一句:bind-address = 127.0.0.1用#注释掉，重启mysql服务就OK了。

原文地址：http://stackoverflow.com/questions/1420839/cant-connect-to-mysql-server-error-111

\5. 解决方案(去掉bind-address)：

修改在10.24.6.5的mysql配置：

修改在10.24.6.6的mysql配置：

****

6. 总结