MySQL高可用集群架構——MHA架構

MHA 簡介：

（1）簡介

目前在MySQL高可用方面是一個相對成熟的解決方案，它由日本DeNA公司youshimaton（現就職于Facebook公司）開發，是一套優秀的作為MySQL高可用性環境下故障切換和主從提升的高可用軟件。在MySQL故障切換過程中，MHA能做到在0~30秒之內自動完成數據庫的故障切換操作，并且在進行故障切換的過程中，MHA能在最大程度上保證數據的一致性，以達到真正意義上的高可用。

（2）該軟件由兩部分組成：

MHA Manager（管理節點）和MHA Node（數據節點）。MHA Manager可以單獨部署在一個獨立的機器上管理多個master-slave集群，也可以部署在一臺slave節點上。MHA Node運行在每臺MySQL服務器上，MHA Manager會定時探測集群中的master節點，當master出現故障時，它可以自動將最新數據的slave提升為新的master，然后將所有其他的slave重新指向新的master。整個故障轉移過程對應用程序完全透明。

（3）工作原理：

1、在MHA自動故障切換過程中，MHA試圖從宕機的主服務器上保存二進制日志，最大程度的保證數據的不丟失，但這并不總是可行的。例如，如果主服務器硬件故障或無法通過ssh訪問，MHA沒法保存二進制日志，只進行故障轉移而丟失了最新的數據。使用MySQL 5.5的半同步復制，可以大大降低數據丟失的風險。MHA可以與半同步復制結合起來。如果只有一個slave已經收到了最新的二進制日志，MHA可以將最新的二進制日志應用于其他所有的slave服務器上，因此可以保證所有節點的數據一致性。

2、順序：

① 從宕機崩潰的master保存二進制日志事件（binlog events）;
② 識別含有最新更新的slave；
③ 應用差異的中繼日志（relay log）到其他的slave；
④ 應用從master保存的二進制日志事件（binlog events）；
⑤ 提升一個slave為新的master；
⑥ 使其他的slave連接新的master進行復制

實驗環境

master(192.168.13.129)   mha4mysql-node| 
slave1(192.168.13.130)  mha4mysql-node |
slave2(192.168.13.131)   mha4mysql-node |
manager(192.168.13.128)    mha4mysql-manager、 mha4mysql-node|

1，在三臺主從服務器上安裝mysql數據庫

#安裝編譯依懶環境
[root@localhost ~] yum -y install gcc gcc-c++ ncurses ncurses-devel bison perl-Module-Install cmake
[root@localhost ~] mount.cifs //192.168.100.3/mha /mnt     ##掛載軟件包
Password for root@//192.168.100.3/mha:    
[root@localhost ~] cd /mnt
[root@localhost mnt] tar zxvf cmake-2.8.6.tar.gz -C /opt   ##安裝cmake編譯軟件
[root@localhost mnt] cd /opt/cmake-2.8.6/
[root@localhost cmake-2.8.6] ./configure   ##配置
[root@localhost cmake-2.8.6] gmake && gmake install   ##編譯安裝
#安裝mysql數據庫
[root@localhost cmake-2.8.6]# cd /mnt
[root@localhost mnt]# tar zxvf mysql-5.6.36.tar.gz -C /opt ##解壓MySQL
#編譯mysql
[root@localhost mnt]# cd /opt/mysql-5.6.36/
[root@localhost mysql-5.6.36]# cmake -DCMAKE_INSTALL_PREFIX=/usr/local/mysql \
-DDEFAULT_CHARSET=utf8 \     ##指定字符集
-DDEFAULT_COLLATION=utf8_general_ci \     ##指定字符集默認
-DWITH_EXTRA_CHARSETS=all \  ##關聯額外的所有字符集
-DSYSCONFDIR=/etc    ##配置文件目錄
#安裝
[root@localhost mysql-5.6.36]# make && make install  ##編譯安裝
#設置環境變量
[root@localhost mysql-5.6.36]# cp support-files/my-default.cnf /etc/my.cnf  ##復制配置文件
[root@localhost mysql-5.6.36]# cp support-files/mysql.server /etc/rc.d/init.d/mysqld 
##復制啟動腳本
[root@localhost mysql-5.6.36]# chmod +x /etc/rc.d/init.d/mysqld  ##給執行權限
[root@localhost mysql-5.6.36]# chkconfig --add mysqld  ##添加到service管理中
[root@localhost mysql-5.6.36]# echo "PATH=$PATH:/usr/local/mysql/bin" >> /etc/profile
##修改環境變量
[root@localhost mysql-5.6.36]# source /etc/profile   ##刷新華寧變量
#創建mysql數據庫，并授權
[root@localhost mysql-5.6.36]# groupadd mysql   ##創建組
[root@localhost mysql-5.6.36]# useradd -M -s /sbin/nologin mysql -g mysql  
##創建系統用戶
[root@localhost mysql-5.6.36]# chown -R mysql.mysql /usr/local/mysql  ##修改屬組屬主
[root@localhost mysql-5.6.36]# mkdir -p /data/mysql  ##創建數據目錄
#初始化數據庫
[root@localhost mysql-5.6.36]# /usr/local/mysql/scripts/mysql_install_db \
--basedir=/usr/local/mysql \  ##文件目錄
--datadir=/usr/local/mysql/data \  ##數據目錄
--user=mysql   ##用戶

2，修改 mysql 的主配置文件：/etc/my.cnf ，注意三臺服務器的 server-id 不能一樣

---配置主服務器：
[root@master mysql-5.6.36]# vim /etc/my.cnf
[mysql]
server-id = 1
#開啟二進制日志
log_bin = master-bin
#允許從服務器進行同步
log-slave-updates = true

---配置從服務器1：

[root@slave1 mysql-5.6.36]# vim /etc/my.cnf
[mysql]
server-id = 2
#開啟二進制日志
log_bin = master-bin
 #使用中繼日志進行同步
relay-log = relay-log-bin
relay-log-index = slave-relay-bin.index

---配置從服務器2：
[root@slave2 mysql-5.6.36]# vim /etc/my.cnf
[mysql]
server-id = 3
log_bin = master-bin
relay-log = relay-log-bin
relay-log-index = slave-relay-bin.index

3，三臺服務器啟動 mysql 服務

#在三臺服務器上分別創建這兩個個軟鏈接
[root@master mysql-5.6.36]# ln -s /usr/local/mysql/bin/mysql /usr/sbin/
[root@master mysql-5.6.36]# ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/

#啟動mysql
[root@master mysql-5.6.36]# /usr/local/mysql/bin/mysqld_safe --user=mysql &
#關閉防火墻和安全功能
[root@master mysql-5.6.36]# systemctl stop firewalld.service
[root@master mysql-5.6.36]# setenforce 0

4，配置 Mysql 主從同步（一主兩從）在所有數據庫節點上授權兩個用戶

[root@master mysql-5.6.36]# mysql -u root -p             //進入數據庫
mysql> grant replication slave on *.* to 'myslave'@'192.168.13.%' identified by '123';
##從數據庫同步使用用戶myslave
mysql> grant all privileges on *.* to 'mha'@'192.168.13.%' identified by 'manager';
##manager使用監控用戶
mysql> flush privileges;  //刷新數據庫
#在數據庫上添加下列授權（理論上不需要）以主機名授權（MHA檢查時是通過主機名的形式）
mysql> grant all privileges on *.* to 'mha'@'master' identified by 'manager';
mysql> grant all privileges on *.* to 'mha'@'slave1' identified by 'manager';
mysql> grant all privileges on *.* to 'mha'@'slave2' identified by 'manager';

5，在master服務器上查看二進制文件和同步點

mysql> show master status;
+-------------------+----------+--------------+------------------+-------------------+
| File              | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+-------------------+----------+--------------+------------------+-------------------+
| master-bin.000001 |     1213 |              |                  |                   |
+-------------------+----------+--------------+------------------+-------------------+
1 row in set (0.00 sec)

6，在兩臺從服務器上設置同步

#在兩臺從服務器上都執行下列的命令，同步主服務器的日志
mysql>  change master to master_host='192.168.13.129',master_user='myslave',master_password='123',master_log_file='master-bin.000001',master_log_pos=1213;
mysql>  start slave;    //開啟slave
mysql> show slave status\G;  //查看slave
             Slave_IO_Running: Yes
            Slave_SQL_Running: Yes
mysql> set global read_only=1;
mysql> flush privileges;   //刷新數據庫

7，在所有服務器上安裝MHA依懶的環境，首先安裝epel源

[root@master mysql-5.6.36]# yum install epel-release --nogpgcheck -y  ##安裝源
[root@master mysql-5.6.36]# yum install -y perl-DBD-MySQL \  ##針對MySQL
perl-Config-Tiny \  ##配置文件
perl-Log-Dispatch \   ##日志
perl-Parallel-ForkManager \  ##多線程管理
perl-ExtUtils-CBuilder \    ##擴展工具
perl-ExtUtils-MakeMaker \  
perl-CPAN  ##程序庫

8，在所有服務器上安裝 node

#解壓安裝node
[root@manager ~]# cd ~
[root@manager ~]# tar zxvf /mnt/mha4mysql-node-0.57.tar.gz
[root@manager ~]# cd mha4mysql-node-0.57/
[root@manager mha4mysql-node-0.57]# perl Makefile.PL  ##perl進行編譯
[root@manager mha4mysql-node-0.57]# make && make install  ##編譯安裝

9，在manger服務器上安裝manager（注意：一定要安裝node組件才能安裝manager組件）

#關閉防火墻
[root@manager ~]# systemctl stop firewalld.service 
[root@manager ~]# setenforce 0
#解壓并安裝manager
[root@manager ~]# cd ~
[root@manager ~]# tar zxvf /mnt/mha4mysql-manager-0.57.tar.gz
[root@manager ~]# cd mha4mysql-manager-0.57/
[root@manager mha4mysql-manager-0.57]# perl Makefile.PL   ##perl編譯
[root@manager mha4mysql-manager-0.57]# make && make install   ##編譯安裝

manager服務器安裝后在 usr/local/bin 目錄下面會生成幾個工具：

 - masterha_check_repl      檢查mysql復制狀況
 - masterha_master_monitor       檢查master是否宕機
 - masterha_check_ssh   檢查MHA的SSH配置情況  
 - masterha_master_switch     控制故障轉移
 - masterha_check_status         檢查當前MHA運行狀態
 -  masterha_conf_host        添加或刪除配置的server信息
 - masterha_stop                關閉manager
 - masterha_manager                     啟動manager的腳本

node安裝后在/usr/local/bin下面會生成的幾個腳本（通常由MHA Manager的腳本觸發，無需人為操作）

 - apply_diff_relay_logs ：識別差異的中繼日志事件并將其差異的事件應用于其他的 slave；
 - save_binary_logs：保存和復制 master 的二進制日志；
 - filter_mysqlbinlog ：去除不必要的 ROLLBACK 事件 （MHA 已不再使用這個工具）；
 - purge_relay_logs：清除中繼日志（不會阻塞 SQL 線程）；

10，配置無密碼訪問

##在manager配置所有數據庫節點的無密碼認證
[root@manager ~]# ssh-keygen -t rsa  ##生成秘鑰
Enter file in which to save the key (/root/.ssh/id_rsa):   ##回車
Enter passphrase (empty for no passphrase):   ##回車
Enter same passphrase again:    ##回車
[root@manager ~]# ssh-copy-id 192.168.13.129  ##上傳到其他服務器
Are you sure you want to continue connecting (yes/no)? yes
root@192.168.13.129's password:    ##輸入129服務器的密碼
[root@manager ~]# ssh-copy-id 192.168.13.130
[root@manager ~]# ssh-copy-id 192.168.13.131
##在master上配置到數據庫節點slave1和slave2的無密碼認證
[root@master ~]# ssh-keygen -t rsa
[root@master ~]# ssh-copy-id 192.168.13.130
[root@master ~]# ssh-copy-id 192.168.13.131
##在slave1上配置到數據庫節點master'和slave2的無密碼認證
[root@slave1 ~]# ssh-keygen -t rsa
[root@slave1 ~]# ssh-copy-id 192.168.13.129
[root@slave1 ~]# ssh-copy-id 192.168.13.131
##在slave2上配置到數據庫節點slave1和master的無密碼認證
[root@slave2 ~]# ssh-keygen -t rsa
[root@slave2 ~]# ssh-copy-id 192.168.13.129
[root@slave2 ~]# ssh-copy-id 192.168.13.130

11，配置MHA，在manager節點上復制相關腳本到/usr/local目錄，并進行配置

[root@manager ~]# cp -ra /root/mha4mysql-manager-0.57/samples/scripts/ /usr/local/bin/
##復制腳本到/usr/local
[root@manager ~]# ls mha4mysql-manager-0.57/samples/scripts/
 ##生成四個可執行腳本
 master_ip_failover：自動切換時 VIP 管理的腳本；
 master_ip_online_change：在線切換時 VIP 的管理；
 power_manager：故障發生后關閉主機的腳本；
 send_report：因故障切換后發送報警的腳本；
##將自動切換時 VIP 管理的腳本復制到 /usr/local/bin/目錄下：
[root@manager ~]# cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin/
[root@manager ~]# vim /usr/local/bin/master_ip_failover   
##刪除所有內容，重新編寫 master_ip_failover 腳本
#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';

use Getopt::Long;

my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
my $vip = '192.168.13.100';
my $brdc = '192.168.13.255';
my $ifdev = 'ens33';
my $key = '1';
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";
my $exit_code = 0;
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);

exit &main();

sub main {

print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";

if ( $command eq "stop" || $command eq "stopssh" ) {

my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {

my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
# A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}

sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}

12，在manager節點上創建MHA軟件目錄并拷貝配置文件

[root@manager ~]# mkdir /etc/masterha
[root@manager ~]# cp /root/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha/
#編輯配置文件
[root@manager ~]# vim /etc/masterha/app1.cnf
[server default]
#manager配置文件
manager_log=/var/log/masterha/app1/manager.log     
#manager日志
manager_workdir=/var/log/masterha/app1
#master保存binlog的位置，這里的路徑要與master里配置的bilog的相同
master_binlog_dir=/usr/local/mysql/data
#設置自動failover時候的切換腳本。也就是上邊的那個腳本
master_ip_failover_script=/usr/local/bin/master_ip_failover
#設置手動切換時候的切換腳本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
#這個密碼是前文中創建監控用戶的那個密碼
password=manager
remote_workdir=/tmp
#設置復制用戶密碼
repl_password=123
#設置復制用戶的用戶
repl_user=myslave
#設置發生切換后發生報警的腳本
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.13.130 -s 192.168.13.131
#設置故障發生關閉故障腳本主機
shutdown_script=""
#設置ssh的登錄用戶名
ssh_user=root
#設置監控用戶
user=mha

[server1]
hostname=192.168.13.129
port=3306

[server2]
candidate_master=1
#設置為候選master，如果設置該參數以后，發送主從切換以后將會從此從庫升級為主庫
hostname=192.168.13.130
check_repl_delay=0
port=3306

[server3]
hostname=192.168.13.131
port=3306

13，測試 ssh 無密碼認證，如果正常最后都會輸出 successful，檢查建健康狀態

[root@manager ~]# masterha_check_ssh -conf=/etc/masterha/app1.cnf
....
[root@manager ~]# masterha_check_repl -conf=/etc/masterha/app1.cnf

14，在master上配置虛擬ip

[root@master mha4mysql-node-0.57]# /sbin/ifconfig ens33:1 192.168.13.100/24

15，在manager服務器上啟動mha

[root@manager scripts]# nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
##查看MHA狀態，可以看到當前的master是mysql節點
[root@manager scripts]# masterha_check_status --conf=/etc/masterha/app1.cnf
app1 (pid:43036) is running(0:PING_OK), master:192.168.13.129

16，故障模擬

[root@manager scripts]# tailf /var/log/masterha/app1/manager.log   
##啟動監控觀察日志記錄

##關掉master服務器
[root@master mha4mysql-node-0.57]# pkill -9 mysql

可以看到從庫的狀態，vip會切換到其中之一的從庫上：

[root@slave1 mha4mysql-node-0.57]# ifconfig 
ens33: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
                inet 192.168.13.130  netmask 255.255.255.0  broadcast 192.168.13.255

ens33:1: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
                inet 192.168.13.100  netmask 255.255.255.0  broadcast 192.168.13.255
                ether 00:0c:29:af:94:06  txqueuelen 1000  (Ethernet)

此時，在manager上安裝mysql，客戶機也可以通過虛擬ip，連接上數據庫：

##在vip的數據庫服務器上提權
mysql> grant all on *.* to 'root'@'%' identified by 'abc123';
Query OK, 0 rows affected (0.00 sec)
##在客戶機上用虛擬ip進行登錄
[root@manager ~]# mysql -uroot -h 192.168.13.100 -p  ##指定虛擬ip
Enter password:   ##輸入密碼

MySQL [(none)]> 

謝謝閱讀！