今天闲来无事，打算搭建一个MySQL的高可用架构，采用的是MySQL的主主结构，再外加Keepalived，对外统一提供虚IP。先来说说背景吧，现在的项目为了高可用性，都是避免单节点的存在的，比如，我们的应用程序，都是部署多个节点，通过Nginx做负载均衡，某个节点出现问题，并不会影响整体应用。那么数据库层如何搭建高可用的架构呢？今天我们就来看看。
整体架构
MySQL采用主主结构，我们使用两台机器就够了，然后再这两台机器上再安装Keepalived，使用vrrp技术，虚拟出一个IP。两台机器如下：
- 192.168.73.141：MySQL（主1）、Keepalived（MASTER）
- 192.168.73.142：MySQL（主2）、Keepalived（BACKUP）
- 192.168.73.150：虚IP
整体架构图如下：
MySQL主主搭建
我们分别在两台机器上安装MySQL，使用yum方式安装，首先从MySQL官网下载rpm包，选择对应的系统，在这里，我们选择CentOS7的prm包，mysql80-community-release-el7-3.noarch.rpm。然后将rpm文件分别上传到两台机器上，接下来我们就是用yum来安装MySQL。
在192.168.73.141（主1）执行如下命令，
# 使用yum安装rpm包
yum install mysql80-community-release-el7-3.noarch.rpm
# 安装MySQL社区版 时间较长 耐心等待
yum install mysql-community-server
#启动MySQL服务
service mysqld start
到这里，MySQL就安装完成，并且正常启动了。然后，我们用root账号登录MySQL，并创建一个可用的账号。
# 从MySQL的日志中 找到root账号的临时密码
grep 'temporary password' /var/log/mysqld.log
# 使用root账号登录 输入临时密码 登录成功
mysql -uroot -p
# 修改root账号的密码 使用MYSQL_NATIVE_PASSWORD的加密方式 这种方式大多数客户端都可以连接
ALTER USER 'root'@'localhost' IDENTIFIED WITH MYSQL_NATIVE_PASSWORD BY 'MyNewPass4!';
# 创建MySQL账号
CREATE USER 'USER'@'%' IDENTIFIED WITH MYSQL_NATIVE_PASSWORD BY 'USER_PWD';
# 对USER账号授权
GRANT ALL ON *.* TO 'USER'@'%';
# 刷新权限
FLUSH PRIVILEGES;
好了，到这里，在192.168.73.141上安装MySQL成功，并且创建了USER账户，我们可以使用NAVICAT等客户端连接。
在192.168.73.142（主2）上也执行上面的命令，这样我们在两台机器上都安装了MySQL。接下来，我们就要配置MySQL的主主结构了。
首先，我们修改192.168.73.141（主1）上的my.cnf文件。
vim /etc/my.cnf
datadir=/var/lib/mysql
socket=/var/lib/mysql/mysql.sock
log-error=/var/log/mysqld.log
pid-file=/var/run/mysqld/mysqld.pid
# 配置server-id 每个MySQL实例的server-id都不能相同
server-id=1
# MySQL的日志文件的名字
log-bin=mysql_master
# 作为从库时 更新操作是否写入日志 on：写入 其他数据库以此数据库做主库时才能进行同步
log-slave-updates=on
# MySQL系统库的数据不需要同步 我们这里写了3个 更加保险
# 同步数据时忽略一下数据库 但是必须在使用use db的情况下才会忽略；如果没有使用use db 比如create user 数据还是会同步的
replicate-ignore-db=information_schema
replicate-ignore-db=mysql
replicate-ignore-db=performance_schema
replicate-ignore-db=sys
# 使用通配符忽略MySQL系统库的表 这样在create user时也不会进行同步了
replicate_wild_ignore_table=information_schema.%
replicate_wild_ignore_table=mysql.%
replicate_wild_ignore_table=performance_schema.%
replicate_wild_ignore_table=sys.%
# MySQL系统库的日志不计入binlog 这样更加保险了
binlog-ignore-db=information_schema
binlog-ignore-db=mysql
binlog-ignore-db=performance_schema
binlog-ignore-db=sys
在192.168.73.142（主2）上也修改my.cnf文件，我们直接复制过去，只需要修改其中的两个地方，如下：
# 配置server-id=2
server-id=2
# MySQL的日志文件的名字 不改名字也可以 这里主要为了区分
log-bin=mysql_slave
配置文件都已经修改好了，我们分别在192.168.73.141（主1）和192.168.73.142（主2）上重启MySQL服务，
service mysqld restart
下面我们就要配置主从了，其实主主模式就是配置两个主从，先配置192.168.73.141（主1）->192.168.73.142（主2）的主从，然后再反过来配置192.168.73.142（主2）->192.168.73.141（主1）的主从，这样主主的模式就配置好了。
我们先来配置192.168.73.141（主1）->192.168.73.142（主2）的主从
先登录192.168.73.141（主1）的数据库，并执行如下命令：
# 创建备份的账号 使用MYSQL_NATIVE_PASSWORD的方式加密
mysql> CREATE USER 'repl_master'@'%' IDENTIFIED WITH MYSQL_NATIVE_PASSWORD BY 'password';
# 对repl_master授予备份的权限
mysql> GRANT REPLICATION SLAVE ON *.* TO 'repl_master'@'%';
# 刷新权限
mysql> FLUSH PRIVILEGES;
# 查看MySQL主节点的状态
mysql> SHOW MASTER STATUS;
+-------------------+---------+--------------+---------------------------------------------+------------------+
| File | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+-------------------+---------+--------------+---------------------------------------------+------------------+
| mysql_master.000001 | 516 | | information_schema,mysql,performance_schema,sys | |
+-------------------+---------+--------------+---------------------------------------------+------------------+
1 row in set
我们要记住binlog文件的名字，也就是mysql_master.000001，和位置，也就是516。
然后，我们再登录到192.168.73.142（主2）的数据库，执行如下命令：
mysql> CHANGE MASTER TO
# MySQL主的IP
-> MASTER_HOST='192.168.73.141',
# MySQL主的端口
-> MASTER_PORT=3306
# MySQL主的备份账号
-> MASTER_USER='repl_master',
# MySQL主的备份账号密码
-> MASTER_PASSWORD='password',
# 日志文件 通过show master status得到的
-> MASTER_LOG_FILE='mysql_master.000001',
# 日志文件位置 通过show master status得到的
-> MASTER_LOG_POS=516;
# 开启从库
mysql> START SLAVE;
# 查看从库的状态
mysql> SHOW SLAVE STATUS;
这样，192.168.73.141（主1）->192.168.73.142（主2）的主从就搭建好了。然后，我们再反过来，搭建192.168.73.142（主2）->192.168.73.141（主1）的主从。
先登录192.168.73.142（主2）的数据库，执行如下命令：
# 创建备份的账号 使用MYSQL_NATIVE_PASSWORD的方式加密
mysql> CREATE USER 'repl_slave'@'%' IDENTIFIED WITH MYSQL_NATIVE_PASSWORD BY 'password';
# 对repl_slave授予备份的权限
mysql> GRANT REPLICATION SLAVE ON *.* TO 'repl_slave'@'%';
# 刷新权限
mysql> FLUSH PRIVILEGES;
# 查看MySQL主节点的状态
mysql> SHOW MASTER STATUS;
+-------------------+---------+--------------+---------------------------------------------+------------------+
| File | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+-------------------+---------+--------------+---------------------------------------------+------------------+
| mysql_slave.000001 | 379 | | information_schema,mysql,performance_schema,sys | |
+-------------------+---------+--------------+---------------------------------------------+------------------+
1 row in set
再登录到192.168.73.141（主1）的数据库，执行如下命令：
mysql> CHANGE MASTER TO
# MySQL主的IP
-> MASTER_HOST='192.168.73.142',
# MySQL主的端口
-> MASTER_PORT=3306
# MySQL主的备份账号
-> MASTER_USER='repl_slave',
# MySQL主的备份账号密码
-> MASTER_PASSWORD='password',
# 日志文件 通过show master status得到的
-> MASTER_LOG_FILE='mysql_slave.000001',
# 日志文件位置 通过show master status得到的
-> MASTER_LOG_POS=379;
# 开启从库
mysql> START SLAVE;
# 查看从库的状态
mysql> SHOW SLAVE STATUS;
这样，192.168.73.142（主2）->192.168.73.141（主1）的主从也搭建好了。我们可以使用navicat分别连接192.168.73.141（主1）和192.168.73.142（主2），并执行建表、插入语句，验证一下主主同步是否成功，这里就不给大家演示了。
Keepalived高可用
MySQL主主结构已经搭建好了，无论从哪个MySQL插入数据，都会同步到另外一个MySQL。虽然有了MySQL主主结构，但是不能保证高可用，比如，我们的应用程序连接的是192.168.73.141（主1），倘若192.168.73.141（主1）的MySQL挂掉了，我们的应用程序并不能自动的切换到192.168.73.142（主2），我们的应用程序也是不可用的状态。要做到这一点，就要借助于Keepalived。
Keepalived有两个主要的功能：
- 提供虚IP，实现双机热备
- 通过LVS，实现负载均衡
我们这里使用Keepalived，只需要使用其中的一个功能，提供虚IP，实现双机热备。我们需要在192.168.73.141（主1）和192.168.73.142（主2）上都安装Keepalived，执行命令如下：
yum install keepalived
我们直接使用yum进行安装。安装完之后，编辑keepalived的配置文件，首先编辑192.168.73.141（主1）上的配置文件，如下：
vim /etc/keepalived/keepalived.conf
# 全局配置 不用动 只需注释掉vrrp_strict
global_defs {
notification_email {
acassen@firewall.loc
failover@firewall.loc
sysadmin@firewall.loc
}
notification_email_from Alexandre.Cassen@firewall.loc
smtp_server 192.168.200.1
smtp_connect_timeout 30
router_id LVS_DEVEL
vrrp_skip_check_adv_addr
#必须注释掉 否则报错
#vrrp_strict
vrrp_garp_interval 0
vrrp_gna_interval 0
}
# 检查mysql服务是否存活的脚本
vrrp_script chk_mysql {
script "/usr/bin/killall -0 mysqld"
}
# vrrp配置虚IP
vrrp_instance VI_1 {
# 状态：MASTER 另外一台机器为BACKUP
state MASTER
# 绑定的网卡
interface ens33
# 虚拟路由id 两台机器需保持一致
virtual_router_id 51
# 优先级 MASTER的值要大于BACKUP
priority 100
advert_int 1
authentication {
auth_type PASS
auth_pass 1111
}
# 虚拟IP地址 两台keepalived需要一致
virtual_ipaddress {
192.168.73.150
}
# 检查脚本 vrrp_script的名字
track_script {
chk_mysql
}
}
###后边的virtual_server全部注释掉 它是和LVS做负载均衡用的 这里用不到
###
再编辑192.168.73.142（主2）上的配置文件，只需要将state MASTER改为state BACKUP，如下：
state BACKUP
通过keepalived的配置，我们对外提供192.168.73.150的IP，这个IP实际指向是192.168.73.141（主1），因为它的state是MASTER。当keepalived检测到192.168.73.141（主1）上的MySQL不可用时，会自动切换到192.168.73.142（主2）。对于外部用户是无感知的，因为外部统一使用的是192.168.73.150。
我们再来看看检测的脚本/usr/bin/killall -0 mysqld，killall命令不是系统自带的，需要安装，我们还是使用yum来安装，如下：
# 先查询一下killall
yum search killall
#找到了psmisc.x86_64
Loading mirror speeds from cached hostfile
===============Matched: killall ================================
psmisc.x86_64 : Utilities for managing processes on your system
# 安装psmisc
yum install psmisc
这样我们就可以使用killall命令了。killall -0并不是杀掉进程，而是检查进程是否存在，如果存在则返回0，如果不存在则返回1。当返回1时，keepalived就会切换主备状态。
好了，killall也介绍完了，我们在两台机器上启动keepalived，如下：
# 启动keepalived
service keepalived start
然后，我们在192.168.73.141（主1）上查看一下IP是否有192.168.73.150，如下：
ip addr
1: lo: mtu 65536 qdisc noqueue state UNKNOWN group default qlen 1000
link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
inet 127.0.0.1/8 scope host lo
valid_lft forever preferred_lft forever
inet6 ::1/128 scope host
valid_lft forever preferred_lft forever
2: ens33: mtu 1500 qdisc pfifo_fast state UP group default qlen 1000
link/ether 00:0c:29:57:8c:cd brd ff:ff:ff:ff:ff:ff
inet 192.168.73.141/24 brd 192.168.73.255 scope global noprefixroute ens33
valid_lft forever preferred_lft forever
inet 192.168.73.150/32 scope global ens33 # 我们看到了192.168.73.150
valid_lft forever preferred_lft forever
inet6 fe80::720b:92b0:7f78:57ed/64 scope link noprefixroute
valid_lft forever preferred_lft forever
到这里，keepalived的配置就完成了，我们通过navicat连接192.168.73.150，可以正常的连接数据库，实际上它连接的是192.168.73.141的数据库，我们操作数据库也是正常的。
然后，我们停掉192.168.73.141（主1）上的MySQL服务，
service mysqld stop
# 再用 ip addr查看一下
ip addr
1: lo: mtu 65536 qdisc noqueue state UNKNOWN group default qlen 1000
link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
inet 127.0.0.1/8 scope host lo
valid_lft forever preferred_lft forever
inet6 ::1/128 scope host
valid_lft forever preferred_lft forever
2: ens33: mtu 1500 qdisc pfifo_fast state UP group default qlen 1000
link/ether 00:0c:29:57:8c:cd brd ff:ff:ff:ff:ff:ff
inet 192.168.73.141/24 brd 192.168.73.255 scope global noprefixroute ens33
valid_lft forever preferred_lft forever
inet6 fe80::720b:92b0:7f78:57ed/64 scope link noprefixroute
valid_lft forever preferred_lft forever
192.168.73.150的IP找不到了，我们再去192.168.73.142（主2）上去查看，可以发现192.168.73.150的IP。我们在navicat上操作数据库，是可以正常使用的。但这时实际连接的是192.168.73.142（主2）的数据库。我们是没有感知的。如果我们把192.168.73.141（主1）上的mysql服务再启动起来，192.168.73.150还会切换到192.168.73.141（主1）。
总结
我们通过MySQL主主结构+keepalived双机热备实现了MySQL的高可用，我们应用程序可以连接虚IP，具体连接的实际MySQL，不需要我们关心。如果我们再做读写分离的话，可以将MySQL（主2）作为主，配置数据库的主从关系。这时，虚IP连接的是MySQL（主1），MySQL（主1）将数据同步到MySQL（主2），然后MySQL（主2）再将数据同步到其他从库。如果MySQL（主1）挂掉，虚IP指向MySQL（主2）,MySQL（主2）再将数据同步到其他从库。