MySQL MHA 运行状态监控

一 项目描述

1.1 背景

MHA(Master HA)是一款开源的 MySQL 的高可用程序,它为 MySQL 主从复制架构提供了 automating master failover 功能。MHA 在监控到 master 节点故障时,会提升其中拥有最新数据的 slave 节点成为新的master 节点。自动FailOver的前置条件一定是MHA是启动运行的状态。在生产环境中,有时会因为没有及时开启或者运行异常停止而不知,导致MySQL主节点异常时,没有自动FailOver,影响了生产,或延长了处理时间,使故障升级。

此外,MHA发生FailOver后,MHA的运行状态会由 is running(0:PING_OK) 变更为stopped(2:NOT_RUNNING),从运行反馈结果变化上,可以判断是否可能发生了主从切换。可以作为一个Warning处理。

综上,对MHA的运行状态的监控很有必要。

1.2 实现设计

MHA是运行在Manager 节点上的,一个Manager 节点可以管理数十个集群。目前,我们的监控体系是Telegraf + InfluxDB + Grafana,所以,需要在Manager 节点部署Telegraf,去收集MHA的运行状态,保存到 InfluxDB。在既有的Grafana MySQL Dashboard中,添加一个关于 masterha_check_status 的panel 即可。

1.2.1 之前的方法

在 《以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署》 一文中的第七部分,我们有介绍一种方法实现MySQL MHA的监控,但这种方法是每一个集群都需要手动维护,自动发现的功能不够好,增加维护成本,特别是集团的MHA集群比较多时。

1.2.2 优化后的方法

Manager 节点为每个监控的MHA集群提供一个专用的配置文件,优化后的监控方法,根据配置文件自动发现、自动调整监控,不再需要逐一配置和维护。

部署的步骤如下:

MySQL MHA 运行状态监控

二.实现详情

2.1 编辑Python可执行文件

可执行文件为telegraf_checkmhastatus.py

#!/usr/bin/python
-*- coding: UTF-8 -*-

import os
import io
import re
import ConfigParser

Path='/cnf/mhacnf'
#fout=open('输出文件名','w')
for Name in os.listdir(Path) :
  Pathname= os.path.join(Path,Name)
 ## print(Pathname)
 ## print(Name)
  config =ConfigParser.ConfigParser()
  try:
    config.read(Pathname)
    server_item = config.sections()
    server1_host = ''  ##MHA cnf 配置文件中的节点1
    server2_host = ''  ##MHA cnf 配置文件中的节点2
    server3_host = ''  ##MHA cnf 配置文件中的节点3
    mha_cnf_remark = ''
    if 'server1' in server_item:
      server1_host = config.get('server1','hostname')
    else:
       server1_host = ''
       mha_cnf_remark = mha_cnf_remark + 'Server1未配置;'
    if 'server2' in server_item:
      server2_host = config.get('server2','hostname')
    else:
      server2_host = ''
      mha_cnf_remark = mha_cnf_remark + 'Server2未配置;'
    if 'server3' in server_item:
      server3_host = config.get('server3','hostname')

      ##print(mha_cnf_remark)
  except Exception as e:
    print(e)

  mha_status_result =''
  if server1_host <> '' and server2_host <> '':
    cmd_mha_status ='/usr/local/bin/masterha_check_status --conf='+Pathname
    with os.popen(cmd_mha_status) as mha_status:
      mha_status_result = mha_status.read()
      if 'running(0:PING_OK)' in mha_status_result:
        print('masterha_check_status,server='+server1_host+' Status=1i')
        print('masterha_check_status,server='+server2_host+' Status=1i')
      if 'stopped(2:NOT_RUNNING)' in mha_status_result:
      ##else:
        print('masterha_check_status,server='+server1_host+' Status=0i')
        print('masterha_check_status,server='+server2_host+' Status=0i')

说明:

(1)遍历 /cnf/mhacnf目录下的文件(假设MHA配置文件的配置文件在此目录下);

(2)对每个文件执行masterha_check_status –cong = XXXX,XXXX为具体的配置文件;判断运行结果;

(3)获取MHA集群节点;

(4)因为我们MHA集群都是一主一从,所以,只 if server1_host <> ” and server2_host <> ”:一种情况,大家可根据需要,根据具体的场景,变更。

(5)数据保存到名叫masterha_check_status的measurement中,Tag Key 有 host 和 server;当运行OK时,Status=1,否则,Status=0。

(6)Server对应的数据为Server IP(注意,会在grafana配置时以此关联)。

调整说明

运行一段时间,我们发现一个场景没有覆盖,即当MHA FailOver 后,配置文件中 Server 信息就会不全,例如 Server1 切换到 Server中,配置文件中就会把server1 信息移除掉。

此时,如果继续运行上面的代码,此时就识别不出的server1的配置,就会被赋值为 server =”, 就不能向监控数据库insert数据了。

所以,我么建议,当识别不出时,将server赋值为mha manger 的server IP,这样就会把上面的问题解决了。

同时,还可以通过告警信息,快速定位到 mha manger 所在的节点,这在 公司解决众多,manger 节点多个的时候,特别有用。

#!/usr/bin/python
-*- coding: UTF-8 -*-

import os
import io
import re
import ConfigParser

Path='/cnf/mhacnf'
#fout=open('输出文件名','w')
for Name in os.listdir(Path) :
  Pathname= os.path.join(Path,Name)
 ## print(Pathname)
 ## print(Name)
  config =ConfigParser.ConfigParser()
  try:
    config.read(Pathname)
    server_item = config.sections()
    server1_host = ''  ##MHA cnf 配置文件中的节点1
    server2_host = ''  ##MHA cnf 配置文件中的节点2
    server3_host = ''  ##MHA cnf 配置文件中的节点3
    mha_cnf_remark = ''
    if 'server1' in server_item:
      server1_host = config.get('server1','hostname')
    else:
       server1_host = 'XXX.XXX.XXX.XXX' ### mha manger  节点所在server ip
       mha_cnf_remark = mha_cnf_remark + 'Server1未配置;'
    if 'server2' in server_item:
      server2_host = config.get('server2','hostname')
    else:
      server2_host = 'XXX.XXX.XXX.XXX'  ### mha manger 节点所在server ip
      mha_cnf_remark = mha_cnf_remark + 'Server2未配置;'
    if 'server3' in server_item:
      server3_host = config.get('server3','hostname')

      ##print(mha_cnf_remark)
  except Exception as e:
    print(e)

  mha_status_result =''
  if server1_host <> '' and server2_host <> '':
    cmd_mha_status ='/usr/local/bin/masterha_check_status --conf='+Pathname
    with os.popen(cmd_mha_status) as mha_status:
      mha_status_result = mha_status.read()
      if 'running(0:PING_OK)' in mha_status_result:
        print('masterha_check_status,server='+server1_host+' Status=1i')
        print('masterha_check_status,server='+server2_host+' Status=1i')
      if 'stopped(2:NOT_RUNNING)' in mha_status_result:
      ##else:
        print('masterha_check_status,server='+server1_host+' Status=0i')
        print('masterha_check_status,server='+server2_host+' Status=0i')

2.2 修改 telegraf 文件

文件默认目录为/etc/telegraf/,默认文件为telegraf.conf。

将执行文件嵌入到telegraf.conf中,由python驱动。

代码如下:

[[inputs.exec]]
  ##Commands array
  commands = ["python /data/check_mha_status/check_mha_status.py",]
  timeout='60s'
  data_format="influx"

MySQL MHA 运行状态监控

2.3 修改telegraf service的运行账号

telegraf服务的启动账号默认为telegraf,但是,其中调用了Python和python的可执行文件,需要修改权限。为了简便,升级telegraf service的运行账号,修改成root。🙂

修改telegraf.service,默认路径为/usr/lib/systemd/system/telegraf.service。

修改后的代码如下:

[Unit]
Description=The plugin-driven server agent for reporting metrics into InfluxDB
Documentation=https://github.com/influxdata/telegraf
After=network.target

[Service]
EnvironmentFile=-/etc/default/telegraf
##User=telegraf
User=root
ExecStart=/usr/bin/telegraf -config /etc/telegraf/telegraf.conf -config-directory /etc/telegraf/telegraf.d $TELEGRAF_OPTS
ExecReload=/bin/kill -HUP $MAINPID
Restart=on-failure
RestartForceExitStatus=SIGPIPE
KillMode=control-group

[Install]
WantedBy=multi-user.target

2.4 启动Telegraf 服务

service telegraf start     ####启动服务
service telegraf status   ####服务状态查看
service telegraf stop     ####关闭服务

2.5 配置Grafana,增加Panel

因为MySQL实例节点的telegraf也会汇报各自的数据,例如MySQL连接数、TPS、QPS、主从状态、延迟、资源(CPU、内存、磁盘、IOWait)等等,这些指标在一个Dashboard上,而新收集的MHA运行状态是新增的的一个MySQL指标,所以,应该将MHA运行状态作为既有MySQL Dashboard的一个Panel。

在MySQL实例节点上汇报的数据是各个节点的host 和 instance(Server IP:端口);而MHA 运行状态汇报的数据是manager节点的host 和 各个实例Server IP。所以,依据Host 关联,整合到一个Dashboard是实现不了的(因为没有关联性)。只能通过 instance(Server IP:端口) 和 Server IP 进行关联了。

首先,将instance(Server IP:端口) 正则下,去除端口数据,实现方式,增加一个grafana变量–server_ip,如下:

MySQL MHA 运行状态监控

注意上面的数据源来自measurement为mysql。

然后,再增加一个grafana变量–mha_server,注意,会依赖上面的变量server_ip。

这样 mysql 和 masterha_check_status 两个measurement就关联起来了,可以联动了。

MySQL MHA 运行状态监控

最后,增加 panel设置下,就可以了,如下。

MySQL MHA 运行状态监控

SQL 语句如下:

SELECT mean("Status") FROM "masterha_check_status" WHERE ("server" =~ /^$mha_server$/) AND $timeFilter GROUP BY time(1m) fill(null)

三 .实现

MySQL MHA 运行状态监控

运行状态为1,异常或关闭为0.

还可以增加Alarm告警,例如邮箱、微信、钉钉等,在此就不展开了。

补充点

(1) 因为优化后的监控方法,根据配置文件自动发现、自动调整监控。所以,如果新增一个MHA,而这个过程又比较长,比如10分钟,这个时候,既有的MHA监控可能会报错或报警。

为了避免这种情况发生,建议新增的MHA的配置文件,最后再放至到MHA配置文件的目录上。或者,先将配置文件放到其他的目录上,MHA配置OK后,最后一步再移到/cnf/mhacnf目录下。

(2) 是否可以将MHA日志 通过ELK收集,甚至收集到MySQL中。

应该说部分是可以的。manger.log 这种failover的log 可以收集,但是 .health 文件不可以。因为.healthy 的内容不是换行符结尾,而filebeat是以换行符来判断的(https://www.elastic.co/guide/en/beats/filebeat/7.4/newline-character-required-eof.html 有详细说明)。

如果需要filebeat + logstash + mysql ,需要 离线安装logstash-output-jdbc,可参考 https://blog.csdn.net/sxw1065430201/article/details/123663108。

Original: https://www.cnblogs.com/xuliuzai/p/15387089.html
Author: 东山絮柳仔
Title: MySQL MHA 运行状态监控

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/620948/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

  • Mysql 一主一从

    1. 主从原理 1.1 主从介绍 所谓 mysql 主从就是建立两个完全一样的数据库,其中一个为主要使用的数据库,另一个为次要的数据库,一般在企业中,存放比较重要的数据的数据库服务…

    数据库 2023年5月24日
    076
  • LeetCode 14. 最长公共前缀

    编写一个函数来查找字符串数组中的最长公共前缀。 如果不存在公共前缀,返回空字符串 “”。 示例 1: 输入:strs = [“flower&#8…

    数据库 2023年6月11日
    063
  • python中的cls和self区别

    self:Always use self for the first argument to instance methods self是作为类进行实例化传递的第一个参数,也就是我…

    数据库 2023年6月6日
    067
  • [mybatis]快速搭建一个mybatis程序,实现对数据的增删改查

    MyBatis 是一款优秀的持久层框架,它支持自定义 SQL、存储过程以及高级映射。 MyBatis 免除了几乎所有的 JDBC 代码以及设置参数和获取结果集的工作。 MyBati…

    数据库 2023年5月24日
    085
  • 平均工资:部门与公司比较

    力扣(LeetCode)615. 平均工资:部门与公司比较 困难难度数据库题目 一. 题目 给如下两个表,写一个查询语句,求出在每一个工资发放日,每个部门的平均工资与公司的平均工资…

    数据库 2023年6月11日
    075
  • 设计模式之(8)——代理模式

    定义:为某个对象提供一个代理,以达到对这个对象的访问控制,代理类和委托类有共同的父类或者父接口,这样可以在使用委托类的地方都可以使用代理对象来替换(这符合程序设计中的”…

    数据库 2023年6月14日
    079
  • [Unity]如何解决带刚体的物体在墙角会穿墙的问题

    问题背景 当一个物体在两个带碰撞体的方块组成的墙角时,只要”挤一挤”就可以从墙角穿墙而过: 原因分析 根据【Unity】Rigidbody.velocity…

    数据库 2023年6月16日
    0168
  • Linux–>常用指令

    Linux的选项可以组合使用比如说ls -al这种 pwd 指令 作用:查看当前所在目录的 绝对路径 语法: pwd ls 指令 作用:显示当前目录下所有文件 语法: ls &am…

    数据库 2023年6月14日
    0170
  • VMware下的centOS安装与异常记录

    VMware下的centOS安装与异常记录 随笔 记录在使用虚拟机安装centOs的过程中遇到的一些坑,记录一下,之前发在C**N上的,现在决定在这里重新整理一下,加上一些细节的补…

    数据库 2023年6月6日
    0112
  • 入门Python,看完这篇就行了!

    转载请注明出处❤️ 作者:测试蔡坨坨 原文链接:caituotuo.top/3bbc3146.html 你好,我是测试蔡坨坨。 众所周知,Python语法简洁、功能强大,通过简单的…

    数据库 2023年6月11日
    099
  • HTML&CSS-盒模型运用居中方式合集

    { margin: 0; padding: 0; list-style: none; 清除浏览器默认样式 .father1 { width: 400px; height: 400p…

    数据库 2023年6月11日
    099
  • 23种设计模式之迭代器模式

    文章目录 概述 迭代器模式的优缺点 迭代器模式的结构和实现 * 模式结构 模式实现 总结 ; 概述 迭代器模式就是顺序访问聚集中的对象,一般来说,集合中非常常见,如果对集合类比较熟…

    数据库 2023年6月6日
    067
  • 折腾 2 年多!我们终于见面了!

    2018年3月,我与张老师就这么在微信上聊了起来,起初我并没有写书的打算,我们之间只是通过讨论、交流的形式聊聊关于出书的方方面面。最终,敌不过张老师超强的专业能力、细致的解说与盛情…

    数据库 2023年6月9日
    0167
  • 由delete引起的锁扩大

    由delete引起的锁扩大 阿里云月报中的一句话,出处:http://mysql.taobao.org/monthly/2022/01/01/ 但是Ghost Record是可以跟…

    数据库 2023年5月24日
    096
  • 分布式锁的几种实现方式

    转自于:https://www.cnblogs.com/austinspark-jessylu/p/8043726.html分布式锁的几种实现方式 目前几乎很多大型网站及应用都是分…

    数据库 2023年6月16日
    0114
  • Mysql数据库基础_复习思维导图

    Mysql复习的一个小总结,用xmind写的。(字数没有都不给我发博客😹) 下面是一些备注 子查询 MySQL子查询称为内部查询,而包含子查询的查询称为外部查询。 子查询可以在使用…

    数据库 2023年5月24日
    073
亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球