搭建MHA高可用

配置关键程序软连接

#db01,db02,db03
#设置软连接是因为故障切换时需要
ln -s /application/mysql/bin/mysqlbinlog /usr/bin/mysqlbinlog
ln -s /application/mysql/bin/mysql /usr/bin/mysql

配置互信

可以参考之前ssh-copy-id命令发放公钥链接,也可以使用以下方式

#db01

rm -rf /root/.ssh
ssh-keygen
cd /root/.ssh 
mv id_rsa.pub authorized_keys
scp -r /root/.ssh 10.0.0.52:/root
scp -r /root/.ssh 10.0.0.53:/root

#配置完成后进行各节点互信验证
#db01,db02,db03
ssh 10.0.0.51 date
ssh 10.0.0.52 date
ssh 10.0.0.53 date

安装软件包

#db01,db02,db03
yum install perl-DBD-MySQL -y
rpm -ivh mha4mysql-node-0.56-0.el6.noarch.rpm

创建用户

#在db01主库中创建mha需要的用户
grant all privileges on *.* to mha@'10.0.0.%' identified by 'mha';

Manager软件安装

#db03
yum install -y perl-Config-Tiny epel-release perl-Log-Dispatch perl-Parallel-ForkManager perl-Time-HiRes
rpm -ivh mha4mysql-manager-0.56-0.el6.noarch.rpm

配置文件准备

#db03

#创建配置文件目录
mkdir -p /etc/mha

#创建日志目录
mkdir -p /var/log/mha/app1

#编辑mha配置文件
cat > /etc/mha/app1.cnf <<EOF
[server default]
manager_log=/var/log/mha/app1/manager
manager_workdir=/var/log/mha/app1
master_binlog_dir=/data/binlog
user=mha
password=mha
ping_interval=2
repl_password=123456
repl_user=repl
ssh_user=root
[server1]
hostname=10.0.0.51
port=3306
[server2]
hostname=10.0.0.52
port=3306
[server3]
hostname=10.0.0.53
port=3306
EOF

状态检查并开启MHA

#db03

#状态检查
masterha_check_ssh --conf=/etc/mha/app1.cnf
masterha_check_repl --conf=/etc/mha/app1.cnf

#开启MHA
nohup masterha_manager --conf=/etc/mha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/mha/app1/manager.log 2>&1 &

#查看MHA状态
masterha_check_status --conf=/etc/mha/app1.cnf

MHA架构软件结构说明

节点规划

1主2从,独立数据库实例

  • node端: db01,db02,db03
  • manager端: db03

MHA软件的构成(perl语言)

Manager工具包主要包括以下几个工具

  • masterha_manger : 启动MHA
  • masterha_check_ssh : 检查MHA的SSH配置状况
  • masterha_check_repl : 检查MySQL复制状况
  • masterha_master_monitor : 检测master是否宕机
  • masterha_check_status : 检测当前MHA运行状态
  • masterha_master_switch : 控制故障转移(自动或者手动)
  • masterha_conf_host : 添加或删除配置的server信息

Node工具包主要包括以下几个工具,这些工具通常由MHA Manager的脚本触发,无需人为操作

  • save_binary_logs : 保存和复制master的二进制日志
  • apply_diff_relay_logs : 识别差异的中继日志事件并将其差异的事件应用于其他的
  • purge_relay_logs : 清除中继日志(不会阻塞SQL线程)

MHA FailOver

Failover就是故障转移 主库宕机一直到业务恢复正常的处理过程(自动)

  • Failover让你实现怎么做
  1. 快速监控到主库宕机
  2. 选择新主
  3. 数据补偿
  4. 解除从库身份
  5. 剩余从库和新主库构建主从关系
  6. 应用透明
  7. 故障节点自愈(待开发...)
  8. 故障提醒
  • MHA的Failover如何实现

从启动--->故障--->转移--->业务恢复

  1. MHA通过masterha_manger脚本启动MHA的功能.
  2. 在manager启动之前,会自动检查ssh互信(masterha_check_ssh)和主从状态(masterha_check_repl)
  3. MHA-manager 通过 masterha_master_monitor脚本(每隔ping_interval秒)
  4. masterha_master_monitor探测主库3次无心跳之后,就认为主库宕机了
  5. 根据算法进行选主过程.读取配置文件中是否有强制选主的参数candidate_master=1,check_repl_delay=0;自动判断所有从库的日志量.将最接近主库数据的从库作为新主;按照配置文件先后顺序的进行选新主;

  • candidate_master=1参数应用场景
  1. MHA+KeepAlived VIP(早期MHA架构)
  2. 多地多中心

  1. 数据补偿

  • 如果宕机主库SSH可以连接,调用save_binary_logs脚本,立即保存缺失部分的binlog到各个从节点进行恢复
  • 如果宕机主库SSH无法连接,调用apply_diff_relay_logs脚本,计算从库的relaylog的差异,恢复到其他从库

  1. 解除从库身份
  2. 剩余从库和新主库构建主从关系

MHA 应用透明

#db03

vi /usr/local/bin/master_ip_failover

#以下内容需要注意
#生成的地址,需要一个不存在的地址作为切换的地址
my $vip = '10.0.0.55/24';
#网卡的ip地址号,例如eth0:0 eth0:1
my $key = '1';
#生成这个地址 网卡名需要根据环境调整
my $ssh_start_vip = "/sbin/ifconfig eth0:$key $vip";
#取消这个地址 网卡名需要根据环境调整
my $ssh_stop_vip = "/sbin/ifconfig eth0:$key down";

实现ip切换脚本

#!/usr/bin/env perl

use strict;
use warnings FATAL => 'all';

use Getopt::Long;

my (
    $command,          $ssh_user,        $orig_master_host, $orig_master_ip,
    $orig_master_port, $new_master_host, $new_master_ip,    $new_master_port
);

my $vip = '10.0.0.55/24';
my $key = '1';
my $ssh_start_vip = "/sbin/ifconfig eth0:$key $vip";
my $ssh_stop_vip = "/sbin/ifconfig eth0:$key down";

GetOptions(
    'command=s'          => \$command,
    'ssh_user=s'         => \$ssh_user,
    'orig_master_host=s' => \$orig_master_host,
    'orig_master_ip=s'   => \$orig_master_ip,
    'orig_master_port=i' => \$orig_master_port,
    'new_master_host=s'  => \$new_master_host,
    'new_master_ip=s'    => \$new_master_ip,
    'new_master_port=i'  => \$new_master_port,
);

exit &main();

sub main {

    print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";

    if ( $command eq "stop" || $command eq "stopssh" ) {

        my $exit_code = 1;
        eval {
            print "Disabling the VIP on old master: $orig_master_host \n";
            &stop_vip();
            $exit_code = 0;
        };
        if ($@) {
            warn "Got Error: $@\n";
            exit $exit_code;
        }
        exit $exit_code;
    }
    elsif ( $command eq "start" ) {

        my $exit_code = 10;
        eval {
            print "Enabling the VIP - $vip on the new master - $new_master_host \n";
            &start_vip();
            $exit_code = 0;
        };
        if ($@) {
            warn $@;
            exit $exit_code;
        }
        exit $exit_code;
    }
    elsif ( $command eq "status" ) {
        print "Checking the Status of the script.. OK \n";
        exit 0;
    }
    else {
        &usage();
        exit 1;
    }
}

sub start_vip() {
    `ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
sub stop_vip() {
     return 0  unless  ($ssh_user);
    `ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}

sub usage {
    print
    "Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}

如果脚本中有中文字符(空格,逗号)可以使用该命令进行转换,并赋予脚本执行权限

#db03
#转换字符
yum install -y dos2unix
dos2unix /usr/local/bin/master_ip_failover
#赋予执行权限
chmod +x /usr/local/bin/master_ip_failover

将该脚本添加到MHA的配置文件中

#db03
vim /etc/mha/app1.cnf

[server default]
#该标签下添加以下内容
master_ip_failover_script=/usr/local/bin/master_ip_failover

配置完成后,需要手动在当前的主库下添加该vip

#db01
ifconfig eth0:1 10.0.0.55/24

做完以上操作后重启MHA

#db03

#停止MHA
masterha_stop --conf=/etc/mha/app1.cnf
#启动MHA
nohup masterha_manager --conf=/etc/mha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/mha/app1/manager.log 2>&1 &
#查看状态
masterha_check_status --conf=/etc/mha/app1.cnf

MHA 故障邮件提醒

当故障发生时,通过邮件发送提醒,告知运维人员出现故障,尽快修复

  • 需要将以下文件解压后放到/usr/local/bin目录下,并赋予执行权限
  • email.rar

创建/usr/local/bin/testpl文件,内容如下

#db03
vi /usr/local/bin/testpl

#!/bin/bash
/usr/local/bin/sendEmail -o tls=no -f no-reply@1997sty.com -t admin@1997sty.com -s smtp.qq.com:25 -xu no-reply@1997sty.com -xp password -u "MHA Waring" -m "YOUR MHA MAY BE FAILOVER" &>/tmp/sendmail.log

#-f 发件邮箱
#-t 收件邮箱
#-s 邮件服务器
#-xu 登录帐号
#-xp 登录密码
#-u 邮件主题
#-m 邮件内容

将该脚本添加到MHA的配置文件中

#db03
vim /etc/mha/app1.cnf

[server default]
#该标签下添加以下内容
report_script=/usr/local/bin/send

做完以上操作后重启MHA

#db03

#停止MHA
masterha_stop --conf=/etc/mha/app1.cnf
#启动MHA
nohup masterha_manager --conf=/etc/mha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/mha/app1/manager.log 2>&1 &
#查看状态
masterha_check_status --conf=/etc/mha/app1.cnf

额外的数据补偿(binlog_server)

找一台额外的机器,实时获取主库的binlog日志,防止在主库宕机转移时丢失部分数据,必须要有5.6以上的版本,支持gtid并开启,我们直接用的第二个slave(db03)

将该以下配置信息添加到MHA的配置文件中

#db03
vim /etc/mha/app1.cnf

[binlog1]
#拉取日志的主机不能作为主库,所以配置该参数,使该主机不成为主库
no_master=1
hostname=10.0.0.53
#拉取的地址不能和当前数据库的binlog日志路径重复
master_binlog_dir=/data/mysql/binlog

创建必要目录

#db03
mkdir -p /data/mysql/binlog
chown -R mysql.mysql /data/*

拉取主库binlog日志

#db03

#进入到自己创建好的目录
cd /data/mysql/binlog
#生产环境中,通过主库的show master status;命令查看当前运行的日志,并且拉取日志的起点,需要按照目前主库正在使用的binlog为起点
mysqlbinlog -R --host=10.0.0.51 --user=mha --password=mha --raw --stop-never mysql-bin.000001 &

做完以上操作后重启MHA

#db03

#停止MHA
masterha_stop --conf=/etc/mha/app1.cnf
#启动MHA
nohup masterha_manager --conf=/etc/mha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/mha/app1/manager.log 2>&1 &
#查看状态
masterha_check_status --conf=/etc/mha/app1.cnf

故障模拟及故障处理

宕掉db01数据库

#db01
systemctl stop mysqld.service

恢复故障节点

#db01
systemctl start mysqld.service

登录db01上的mysql执行该语句,并启动slave,可以通过grep "CHANGE MASTER TO" /var/log/mha/app1/manager查看从库的配置语句

change master to 
master_host='10.0.0.52',
master_user='repl',
master_password='123456',
MASTER_AUTO_POSITION=1;
#启动从库
start slave;
#查看状态
show slave status\G

恢复配置文件

#db03

vi /etc/mha/app1.cnf

[binlog1]
hostname=10.0.0.53
master_binlog_dir=/data/mysql/binlog
no_master=1

[server default]
manager_log=/var/log/mha/app1/manager
manager_workdir=/var/log/mha/app1
master_binlog_dir=/data/binlog
master_ip_failover_script=/usr/local/bin/master_ip_failover
password=mha
ping_interval=2
repl_password=123456
repl_user=repl
report_script=/usr/local/bin/send
ssh_user=root
user=mha

[server1]
hostname=10.0.0.51
port=3306

[server2]
hostname=10.0.0.52
port=3306

[server3]
hostname=10.0.0.53
port=3306

恢复binlogserver

#db03

cd /data/mysql/binlog
#清除原有日志,为重新记录日志做准备
rm -rf /data/mysql/binlog/*
#现在10.0.0.52是主库所以二进制日志需要从10.0.0.52去获取
#生产环境中,通过主库的show master status;命令查看当前运行的日志,并且拉取日志的起点,需要按照目前主库正在使用的binlog为起点
mysqlbinlog -R --host=10.0.0.52 --user=mha --password=mha --raw --stop-never mysql-bin.000001 &

启动MHA,完成1主2从恢复

#db03

#启动MHA
nohup masterha_manager --conf=/etc/mha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/mha/app1/manager.log 2>&1 &
#查看状态
masterha_check_status --conf=/etc/mha/app1.cnf