MHA实现MySQL高可用集群架构
转转连接
MHA(Master HighAvailability)目前在MySQL高可用方面是一个相对成熟的解决方案,它由日本DeNA公司youshimaton(现就职于Facebook公司)开发,是一套优秀的作为MySQL高可用性环境下故障切换和主从提升的高可用软件。在MySQL故障切换过程中,MHA能做到在0~30秒之内自动完成数据库的故障切换操作,并且在进行故障切换的过程中,MHA能在最大程度上保证数据的一致性,以达到真正意义上的高可用。
MHA里有两个角色一个是MHA Node(数据节点)另一个是MHA Manager(管理节点)。
MHA Manager可以单独部署在一机器立的机器上管理多个master-slave集群,也可以部署在一台slave节点上。MHA Node运行在每台MySQL服务器上,MHA Manager会定时探测集群中的master节点,当master出现故障时,它可以自动将最新数据的slave提升为新的master,然后将所有其他的slave重新指向新的master。整个故障转移过程对应用程序完全透明
在MHA自动故障切换过程中,MHA试图从宕机的主服务器上保存二进制日志,最大程度的保证数据的不丢失,但这并不总是可行的。例如,如果主服务器硬件故障或无法通过ssh访问,MHA没法保存二进制日志,只进行故障转移而丢失了最新的数据。使用MySQL 5.5的半同步复制,可以大大降低数据丢失的风险。MHA可以与半同步复制结合起来。如果只有一个slave已经收到了最新的二进制日志,MHA可以将最新的二进制日志应用于其他所有的slave服务器上,因此可以保证所有节点的数据一致性
异步复制(Asynchronous replication)
MySQL默认的复制即是异步的,主库在执行完客户端提交的事务后会立即将结果返给给客户端,并不关心从库是否已经接收并处理,这样就会有一个问题,主如果crash掉了,此时主上已经提交的事务可能并没有传到从上,如果此时,强行将从提升为主,可能导致新主上的数据不完整。
全同步复制(Fully synchronousreplication)
指当主库执行完一个事务,所有的从库都执行了该事务才返回给客户端。因为需要等待所有从库执行完该事务才能返回,所以全同步复制的性能必然会收到严重的影响。
半同步复制(Semisynchronous replication)
介于异步复制和全同步复制之间,主库在执行完客户端提交的事务后不是立刻返回给客户端,而是等待至少一个从库接收到并写到relay log中才返回给客户端。相对于异步复制,半同步复制提高了数据的安全性,同时它也造成了一定程度的延迟,这个延迟最少是一个TCP/IP往返的时间。所以,半同步复制最好在低延时的网络中使用。
下面来看看半同步复制的原理图:
总结:异步与半同步异同
默认情况下MySQL的复制是异步的,Master上所有的更新操作写入Binlog之后并不确保所有的更新都被复制到Slave之上。异步操作虽然效率高,但是在Master/Slave出现问题的时候,存在很高数据不同步的风险,甚至可能丢失数据。
MySQL5.5引入半同步复制功能的目的是为了保证在master出问题的时候,至少有一台Slave的数据是完整的。在超时的情况下也可以临时转入异步复制,保障业务的正常使用,直到一台salve追赶上之后,继续切换到半同步模式。
工作原理
相较于其它HA软件,MHA的目的在于维持MySQL Replication中Master库的高可用性,其最大特点是可以修复多个Slave之间的差异日志,最终使所有Slave保持数据一致,然后从中选择一个充当新的Master,并将其它Slave指向它。
-从宕机崩溃的master保存二进制日志事件(binlogevents)。-识别含有最新更新的slave。-应用差异的中继日志(relaylog)到其它slave。-应用从master保存的二进制日志事件(binlogevents)。-提升一个slave为新master。-使其它的slave连接新的master进行复制。
目前MHA主要支持一主多从的架构,要搭建MHA,要求一个复制集群中必须最少有三台数据库服务器,一主二从,即一台充当master,一台充当备用master,另外一台充当从库,因为至少需要三台服务器。
相关软件包
MHA软件包官网地址:https://code.google.com/archive/p/mysql-master-ha/
使用到如下包:
mha4mysql-manager-0.55-1.el5.noarchmha4mysql-node-0.54-1.el5.noarch二、构建集群架构基础环境
实现环境:
管理节点Centos7.2x86_64master192.168.64.7master11主mysqlCentos7.2x86_64Candidate master192.168.64.17master22从mysqlCentos7.2x86_64slave192.168.64.27slave3从mysqlCentos7.2x86_64
其中master对外提供写服务,备选master(实际的slave,主机名master2)提供读服务,slave也提供相关的读服务,一旦master宕机,将会把备选master提升为新的master,slave指向新的master,manager作为管理服务器。
1、 在配置好所有主机IP地址后检查selinux,firewalld设置,关闭所有主机selinux ,firewalld 服务以方便后期主从同步不出错
vim/etc/sysconfig/selinuxSELINUX=disabled本行替换为systemctlstopfirewalld关闭防火墙
2.同步服务器时间
vim/etc/chrony.confserver192.168.64.7iburstmaster2slave配置与master1时间同步
3、
在四台主机上都配置epel源
官网下载地址:点击打开链接 wgethttps://mirrors.ustc.edu.cn/epel/7/x86_64/Packages/e/epel-release-7-11.noarch.rpm
4.在四台主机上建立ssh无交互登录环境
[root@manager~]#ssh-keygen-trsa[root@manager~]#ssh-copy-id-iid_rsa.pub192.168.64.37[root@manager~]#scpauthorized_keysid_rsa192.168.64.17:/root/.ssh/[root@manager~]#scpauthorized_keysid_rsa192.168.64.27:/root/.ssh/[root@manager~]#scpauthorized_keysid_rsa192.168.64.7:/root/.ssh/测试ssh登录面密钥[root@master~]#sshroot@192.168.64.37其它主机可以分别测试下三、 配置MySQL的主从复制
1、在主从节点安装node节点包(master1 master2,slave)
[root@master~]#lsanaconda-ks.cfgDownloadsoriginal-ks.cfgreset.shVideosDesktopmha4mysql-node-0.54-0.el6.noarch.rpmPicturesreset.sqlDocumentsMusicPublicTemplate[root@master~]#lyuminstallmha*
2、修改my.cnf文件,配置主从同步
注意:若主MYSQL服务器已经存在,只是后期才搭建从MYSQL服务器,在置配数据同步前应先将主MYSQL服务器的要同步的数据库拷贝到从MYSQL服务器上(如先在主MYSQL上备份数据库,再用备份在从MYSQL服务器上恢复)
(1.)master1的主机配置:
innodb_file_per_tablelog_binread_onlyserver_id=0skip_name_resolve=1
(2.)master2的主机配置:
innodb_file_per_tableserver_id=2skip_name_resolve=1read_onlyrelay_log_purge=0log_bin
(3)slave的主机配置:
innodb_file_per_tableserver_id=3skip_name_resolve=1read_onlyrelay_log_purge=0log_bin
注意:重启所有主机的mariadb服务!!!
(3.)创建用于主从复制的账号“mharep”,在(master1、master2)主机上创建即可,创建MHA管理账号“manager”在所有mysql服务器上都要创建。
master1、master2主机上的配置:
mysql>GRANTREPLICATIONSLAVEON*.*TO'repluser'@'192.168.64.%'IDENTIFIEDBY'centos';mysql>GRANTALLON*.*TO'mhauser'@'192.168.64.%'IDENTIFIEDBY'centos';
slave主机上的配置:
mysql>GRANTALLON*.*TO'mhauser'@'192.168.64.%'IDENTIFIEDBY'centos';
开始创建主从复制:
查看master1的节点:
MariaDB[(none)]>showmasterlogs;+--------------------+-----------+|Log_name|File_size|+--------------------+-----------+|mariadb-bin.000001|502||mariadb-bin.000002|487||mariadb-bin.000003|504||mariadb-bin.000004|245|+--------------------+-----------+4rowsinset(0.04sec)
master2主机上的配置:
创建主从复制,并开启slave功能
mysql>CHANGEMASTERTOMASTER_HOST='192.168.64.7',MASTER_USER='repluser',MASTER_PASSWORD='centos',MASTER_LOG_FILE='mariadb-bin.000004',MASTER_LOG_POS=245;mysql>startslave;
查看master2主机从的状态,以下两个值必须为yes,代表从服务器能正常连接主服务器
Slave_IO_Running:YesSlave_SQL_Running:Yes
slave主机上的配置:
创建主从复制,并开启salve功能
mysql>CHANGEMASTERTOMASTER_HOST='192.168.64.7',MASTER_USER='repluser',MASTER_PASSWORD='centos',MASTER_LOG_FILE='mariadb-bin.000004',MASTER_LOG_POS=245;mysql>startslave;
查看slave主机从的状态,以下两个值必须为yes,代表从服务器能正常连接主服务器
Slave_IO_Running:YesSlave_SQL_Running:Yes
MariaDB[(none)]>showslavestatus\G;***************************1.row***************************Slave_IO_State:WaitingformastertosendeventMaster_Host:192.168.64.7Master_User:repluserMaster_Port:3306Connect_Retry:60Master_Log_File:mariadb-bin.000004Read_Master_Log_Pos:245Relay_Log_File:mariadb-relay-bin.000002Relay_Log_Pos:531Relay_Master_Log_File:mariadb-bin.000004Slave_IO_Running:YesSlave_SQL_Running:YesReplicate_Do_DB:Replicate_Ignore_DB:Replicate_Do_Table:Replicate_Ignore_Table:Replicate_Wild_Do_Table:Replicate_Wild_Ignore_Table:Last_Errno:0Last_Error:Skip_Counter:0Exec_Master_Log_Pos:245Relay_Log_Space:827Until_Condition:NoneUntil_Log_File:Until_Log_Pos:0Master_SSL_Allowed:NoMaster_SSL_CA_File:Master_SSL_CA_Path:Master_SSL_Cert:Master_SSL_Cipher:Master_SSL_Key:Seconds_Behind_Master:0Master_SSL_Verify_Server_Cert:NoLast_IO_Errno:0Last_IO_Error:Last_SQL_Errno:0Last_SQL_Error:Replicate_Ignore_Server_Ids:Master_Server_Id:11rowinset(0.00sec)ERROR:Noqueryspecified
注意:
第一条grant命令是创建一个用于主从复制的帐号repluser,在master1和master2的主机上创建即可。
第二条grant命令是创建MHA管理账号manager,所有mysql服务器上都需要创建。MHA会在配置文件里要求能远程登录到数据库,所以要进行必要的赋权。
四、安装配置mysql-MHAmha包括manager节点和data节点,data节点包括原有的MySQL复制结构中的主机,至少3台,即1主2从,当masterfailover后,还能保证主从结构;主从复制集群只需安装node包。
manager server:运行监控脚本,负责monitoring和 auto-failover;mha manager节点需要安装node包和manager包。
1、在manager主机上需要安装( mha4mysql-manager-0.55-0.el6.noarch.rpm和 mha4mysql-node-0.54-0.el6.noarch.rpm)两个操作管理节点, 在3台数据库主机上只需要安装MHA的node节点即可。
[root@manager~]#ls192.168.64.17cobbler.ksmha4mysql-manager-0.55-0.el6.noarch.rpm192.168.64.27ks-post.logmha4mysql-node-0.54-0.el6.noarch.rpm192.168.64.7ks-post-nochroot.logoriginal-ks.cfganaconda-ks.cfgks-pre.log[root@manager~]#yuminstallmha*
其他三台数据库节点需要安装MHA的node节点(过程略)!!!
配置MHA与绝大多数Linux应用程序类似,MHA的正确使用依赖于合理的配置文件。MHA的配置文件与mysql的my.cnf文件配置相似,采取的是param=value的方式来配置,配置文件位于管理节点,通常包括每一个mysql server的主机名,mysql用户名,密码,工作目录等等。
(1.)编辑/etc/masterha/app1.conf,内容如下:
[root@manager~]#vim/etc/mastermha/app1.cnf[serverdefault]user=mhauserpassword=centosmanager_workdir=/data/mastermha/app1/manager_log=/data/mastermha/app1/manager.logremote_workdir=/data/mastermha/app1/ssh_user=rootrepl_user=repluserrepl_password=centosping_interval=1[server1]hostname=192.168.64.7candidate_master=1[server2]hostname=192.168.64.17candidate_master=1[server3]hostname=192.168.64.27candidate_master=1
配置项的解释:
manager_workdir=/masterha/app1//设置manager的工作目录manager_log=/masterha/app1/manager.log//设置manager的日志user=manager//设置监控用户managerpassword=123456//监控用户manager的密码ssh_user=root//ssh连接用户repl_user=mharep//主从复制用户repl_password=123.abc//主从复制用户密码ping_interval=1//设置监控主库,发送ping包的时间间隔,默认是3秒,尝试三次没有回应的时候自动进行railovermaster_binlog_dir=/usr/local/mysql/data//设置master保存binlog的位置,以便MHA可以找到master的日志,我这里的也就是mysql的数据目录candidate_master=1//设置为候选master,如果设置该参数以后,发生主从切换以后将会将此从库提升为主库。
SSH 有效性验证:
[root@manager~]#masterha_check_ssh--conf=/etc/mastermha/app1.cnfSunApr2206:36:332018-[warning]Globalconfigurationfile/etc/masterha_default.cnfnotfound.Skipping./etc/masterha/app1.cnf:Nosuchfileordirectoryat/usr/share/perl5/vendor_perl/MHA/SSHCheck.pmline148.[root@manager~]#masterha_check_sshmasterha_check_ssh[root@manager~]#masterha_check_ssh--conf=/etc/mastermha/app1.cnfSunApr2206:37:132018-[warning]Globalconfigurationfile/etc/masterha_default.cnfnotfound.Skipping.SunApr2206:37:132018-[info]Readingapplicationdefaultconfigurationsfrom/etc/mastermha/app1.cnf..SunApr2206:37:132018-[info]Readingserverconfigurationsfrom/etc/mastermha/app1.cnf..SunApr2206:37:132018-[info]StartingSSHconnectiontests..SunApr2206:37:182018-[debug]SunApr2206:37:142018-[debug]ConnectingviaSSHfromroot@192.168.64.27(192.168.64.27:22)toroot@192.168.64.7(192.168.64.7:22)..SunApr2206:37:162018-[debug]ok.SunApr2206:37:162018-[debug]ConnectingviaSSHfromroot@192.168.64.27(192.168.64.27:22)toroot@192.168.64.17(192.168.64.17:22)..SunApr2206:37:172018-[debug]ok.SunApr2206:37:182018-[debug]SunApr2206:37:142018-[debug]ConnectingviaSSHfromroot@192.168.64.17(192.168.64.17:22)toroot@192.168.64.7(192.168.64.7:22)..SunApr2206:37:162018-[debug]ok.SunApr2206:37:162018-[debug]ConnectingviaSSHfromroot@192.168.64.17(192.168.64.17:22)toroot@192.168.64.27(192.168.64.27:22)..SunApr2206:37:172018-[debug]ok.SunApr2206:37:182018-[debug]SunApr2206:37:132018-[debug]ConnectingviaSSHfromroot@192.168.64.7(192.168.64.7:22)toroot@192.168.64.17(192.168.64.17:22)..SunApr2206:37:172018-[debug]ok.SunApr2206:37:172018-[debug]ConnectingviaSSHfromroot@192.168.64.7(192.168.64.7:22)toroot@192.168.64.27(192.168.64.27:22)..@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@WARNING:REMOTEHOSTIDENTIFICATIONHASCHANGED!@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@ITISPOSSIBLETHATSOMEONEISDOINGSOMETHINGNASTY!Someonecouldbeeavesdroppingonyourightnow(man-in-the-middleattack)!Itisalsopossiblethatahostkeyhasjustbeenchanged.ThefingerprintfortheECDSAkeysentbytheremotehostisSHA256:080GPU/VjQmyb/Ije4lASHgZDXJv5E/QOqAcAv0wfV0.Pleasecontactyoursystemadministrator.Addcorrecthostkeyin/root/.ssh/known_hoststogetridofthismessage.OffendingECDSAkeyin/root/.ssh/known_hosts:1Keyboard-interactiveauthenticationisdisabledtoavoidman-in-the-middleattacks.SunApr2206:37:182018-[debug]ok.SunApr2206:37:182018-[info]AllSSHconnectiontestspassedsuccessfully.
集群复制的有效性验证:
注意:mysql数据库必须都启动
[root@manager~]#masterha_check_repl--conf=/etc/mastermha/app1.cnf
注意:验证成功的话会自动识别出所有服务器和主从状况!!!
在验证时,若遇到这个错误:Can't exec "mysqlbinlog" ......
解决方法是在所有服务器上执行:
[css]viewplaincopyln-s/usr/local/mysql/bin/*/usr/local/bin/
启动 manager:
[root@manager~]#masterha_manager--conf=/etc/mastermha/app1.cnfSunApr2206:39:352018-[warning]Globalconfigurationfile/etc/masterha_default.cnfnotfound.Skipping.SunApr2206:39:352018-[info]Readingapplicationdefaultconfigurationsfrom/etc/mastermha/app1.cnf..SunApr2206:39:352018-[info]Readingserverconfigurationsfrom/etc/mastermha/app1.cnf..
注意:在应用Unix/Linux时,我们一般想让某个程序在后台运行,于是我们将常会用&在程序结尾来让程序自动运行。比如我们要运行mysql在后台: /usr/local/mysql/bin/mysqld_safe –user=mysql&。可是有很多程序并不想mysqld一样,这样我们就需要nohup命令,
五、模拟故障,检测状态转移1、停掉master1 的mariadb服务
[root@master~]#systemctlstopmariadb
(2.)查看 MHA 日志
上面的配置文件中指定了日志位置为/data /masterha/app1/manager.log
[root@manager~]#cat/masterha/app1/manager.log
从日志信息中可以看到master failover 已经成功了,并可以看出故障转移的大体流程
(3)检查 slave 的复制
登录 slave(192.168.64.27)的Mysql,查看 slave 状态
mysql>showslavestatus\G;
可以看到master 的 IP 现在为 192.168.64.17,已经切换到和192.168.64.27同步了,本来是和192.168.64.7同步的,说明 MHA 已经把Candicatemaster(master2)提升为了新的master,IO线程和SQL线程也正确运行,MHA 搭建成功!!!
声明:本站所有文章资源内容,如无特殊说明或标注,均为采集网络资源。如若本站内容侵犯了原著者的合法权益,可联系本站删除。