MySQL中binlog备份脚本分享

张哥说话

关于MySQL的二进制日志（binlog），我们都知道二进制日志（binlog）非常重要，尤其当你需要point to point灾难恢复的时侯，所以我们要对其进行备份。关于二进制日志（binlog)的备份,可以基于flush logs方式先切换binlog，然后拷贝&压缩到到远程服务器或本地服务器的其他存储上，例如挂载的NAS存储，也可以使用mysqlbinlog实现binlog的备份，可以实现MySQL二进制日志（binlog)的本地备份或远程备份。最后将MySQL二进制日志（binlog)的备份文件收到磁带。各个公司的备份策略或备份工具有所不同，这里不做展开，我们主要考虑MySQL二进制日志（binlog)备份方案/策略尽可能尽善尽美，在一些极端情况下少丢失数据。例如，第一种方式，这种备份方式都是周期性的，如果在某个周期中，遇到一些极端情况，例如服务器宕机了，硬盘损坏了，就可能导致这段时间的binlog丢失了。而且这个周期时间太长，二进制日志（binlog）丢失的风险就越大，如果这个周期太短，频繁切换binlog也不好。所以还是使用mysqlbinlog来备份二进制日志（binlog)，这里主要介绍一下我写的MySQL二进制日志的备份脚本，这个脚本参考了如何远程备份MySQL binlog[1]中的脚本，但是在其基础上做了很多改进和完善：

• 参考资料中的脚本由于使用了循环操作，不适合在作业中调用。一般需要手工执行脚本，让其在后台运行。遇到服务器重启或其他异常情况，此脚本可能出现未能执行的情况。
  
• 增加了mysql_binlog_backup_job.sh脚本，作业会定期调用此脚本，此脚本会判断mysqlbinlog是否还在执行二进制日志备份。如果遇到了数据库服务器重启等情况，也不会担心MySQL的二进制日志（binlog）的备份停掉的问题。
  
• 不用手工指定第一个binlog文件参数，采用从数据库读取binlog的值.如果是在本地服务器执行binlog的备份，还可以从二进制日志索引文件中获取(参考脚本注释部分)
  
• 使用mysql_config_editor配置账号密码，避免在脚本中使用数据库用户的明文密码。
  
• 邮件告警处理。
  

在使用脚本前，必须配置mailx，创建数据库连接账号

1. create user bkuser@'xxx.xxx.xxx.xxx' identified by "******";
   
2. grant  replication client on *.* to bkuser@'%';
   
3. grant  replication slave on *.* to bkuser@'%';

复制代码

这个根据实际情况调整，例如我就是使用Xtrabackup的账号来备份MySQL的binlog。另外，如果在MySQL数据库服务器本机备份binlog，那么就在本机安全加密登录，如果是在远程服务器备份binlog的话，就在远程服务器配置

1. $ mysql_config_editor set  --login-path=server1_dbbackup -h xxx.xxx.xxx.xxx -ubkuser -p -P 3306
   
2. Enter password:

复制代码

mysql_binlog_backup_job.sh脚本

1. #!/bin/sh
   
2. 
   
3. #########################################################################################
   
4. #                                                                                       #
   
5. # This script is used for mysql binlog backup.                                          #
   
6. #                                                                                       #
   
7. # #######################################################################################
   
8. #                                                                                       #
   
9. # ScriptName            :    mysql_binlog_backup_job.sh                                 #
   
10. # Author                :    潇湘隐者                                                     #
    
11. # CerateDate            :    2017-04-14                                                 #
    
12. # Description           :                                                               #
    
13. #---------------------------------------------------------------------------------------#
    
14. #                         作业中调用此脚本，然后此脚本去调用mysql_binlog_backup.sh执行      #
    
15. #                         MySQL的二进制日志备份(将MySQL的二进制日志备份到NAS存储或备份存#
    
16. #                         储上)，此脚本还会判断mysqlbinlog是否在一直在备份二进制日志，  #
    
17. #                         如果是的话，则退出当前脚本。如果mysqlbinlog已经由于服务器重   #
    
18. #                         启等原因退出了，则会重新调用mysql_binlog_backup.sh            #
    
19. #***************************************************************************************#
    
20. # Version        Modified Date            Description                                   #
    
21. #***************************************************************************************#
    
22. # V.1.0          2016-06-20     create the script for mysql binlog backp                #
    
23. # V.1.1          2016-07-26     fix some bug                                            #
    
24. # V.1.2          2023-04-14     $FIRST_BINLOG从MySQL中获取，即使远程备份也不用手工      #
    
25. #                               设定,本地备份也可以这种方式，本地备份默认从             #
    
26. #                                mysql binlog index file读取                            #
    
27. #########################################################################################
    
28. 
    
29. 
    
30. #mysql binlog备份文件的保留天数
    
31. KEEPY_DAYS=7
    
32. FIRST_BINLOG=''
    
33. LOG_DATE=$(date +%Y_%m_%d_%H_%M_%S)
    
34. BACKUP_DATE=$(date +%Y_%m_%d_%H_%M_%S)
    
35. LOCAL_BACKUP_DIR=/dbbackup/mysql_backup/db_backup/binlog_backup
    
36. #MYSQL_BINLOG_INDEX=/data/bin_logs/mysql_binlog.index
    
37. MYSQL_CMD=/opt/mysql/mysql8.0/bin/mysql
    
38. BACKUP_LOG_PATH=/dbbackup/mysql_backup/logs
    
39. ERROR_LOG=${BACKUP_LOG_PATH}/binlog_backup_error_${BACKUP_DATE}.log
    
40. FILE_TYPE="mysql_binlog.*"
    
41. SQL_TEXT='show binary logs'
    
42. MAIL_TO="xxxx@xxx.com.cn"
    
43. MAIL_FROM="xxxx@xxx.com.cn"
    
44. MYSQL_LOGIN_PATH=server1_dbbackup
    
45. 
    
46. 
    
47. 
    
48. error()
    
49. {
    
50.  echo "$1" 1>&2
    
51.  echo "$1" >> ${ERROR_LOG}
    
52.  echo "$1" | mailx -s "The binlog backup on the server `hostname` failed ,please check the log!" -r ${MAIL_FROM} ${MAIL_TO}
    
53.  exit 1
    
54. }
    
55. 
    
56. ##目录不存在则创建目录
    
57. if [ ! -d $BACKUP_LOG_PATH ];then
    
58.        mkdir -p $BACKUP_LOG_PATH
    
59. fi
    
60. 
    
61. if [ ! -x /bin/mailx ];then
    
62.     error "{LOG_DATE}:mailx did not exists!" 
    
63. fi
    
64. 
    
65. if [ ! -x $MYSQL_CMD ];then
    
66.    error "{LOG_DATE}: mysql client did not exists!" 
    
67. fi
    
68. 
    
69. 
    
70. #SQL_RESULT=`mysql -h${REMOTE_HOST} -P${PORT} -u${USER_NAME} -p${PASSWORD} ${DATABASE_NAME} -Bse "${SQL_TEXT}"`
    
71. SQL_RESULT=`$MYSQL_CMD --login-path=${MYSQL_LOGIN_PATH} -Bse "${SQL_TEXT}"`
    
72. FIRST_BINLOG=`echo ${SQL_RESULT} | awk '{print $1}'`
    
73. echo $FIRST_BINLOG
    
74. 
    
75. if [ ! $FIRST_BINLOG ];then
    
76.    error "${LOG_DATE}: please check the mysql binlog"  
    
77. fi
    
78. 
    
79. ##create local_backup_dir if this folder is not exists
    
80. if [ ! -d ${LOCAL_BACKUP_DIR} ];then
    
81.   mkdir -p ${LOCAL_BACKUP_DIR}
    
82. fi
    
83. 
    
84. 
    
85. if [ ! -e ${MYSQL_BINLOG_INDEX} ];then
    
86.   error "${LOG_DATE}:mysql binlog index file did not exists, please check it!" 
    
87. fi
    
88. 
    
89. #删除KEEPY_DAYS天之前的binlog备份文件
    
90. find ${LOCAL_BACKUP_DIR} -name "${FILE_TYPE}" -type f -mtime +$KEEPY_DAYS -delete
    
91. #删除30天前的错误日志
    
92. find ${BACKUP_LOG_PATH} -name "binlog_backup_error*.log"   -mtime 30 -delete
    
93. 
    
94. 
    
95. process_num=$(ps -ef | grep -w mysqlbinlog | grep -v grep |wc -l)
    
96. 
    
97. if [ ${process_num} -ge 1 ];then
    
98.        exit 1 
    
99. else
    
100. 
     
101.   #如果是在本机备份binlog到NAS存储或备份存储上，从二进制文件的索引获取当前MySQL数据库最小的binlog文件
     
102.   #如果是远程备份二进制日志(binlog)的话，则使用下面注释的脚本获取
     
103.   #FIRST_BINLOG=$(head -1 ${MYSQL_BINLOG_INDEX})
     
104.   #FIRST_BINLOG=$(find ${LOCAL_BACKUP_DIR} -name "mysql_binlog.*"  -printf "%p\t%C@\n" | sort -k2 -g |head -1 | awk '{print $1}' | awk -F "/" '{print $NF}') 
     
105.   echo ${FIRST_BINLOG}
     
106.   nohup sh /dbbackup/mysql_backup/scripts/mysql_binlog_backup.sh ${FIRST_BINLOG} ${LOCAL_BACKUP_DIR} ${FILE_TYPE} &
     
107. fi

复制代码

mysql_binlog_backup.sh脚本

1. #!/bin/sh
   
2. 
   
3. #########################################################################################
   
4. #                                                                                       #
   
5. # This script is used for mysql binlog local or remote backup.                          #
   
6. #                                                                                       #
   
7. # #######################################################################################
   
8. #                                                                                       #
   
9. # ScriptName            :    mysql_binlog_backup.sh                                     #
   
10. # Author                :    Kerry                                                      #
    
11. # CerateDate            :    2017-04-14                                                 #
    
12. # Description           :                                                               #
    
13. #---------------------------------------------------------------------------------------#
    
14. #                         此脚本参考了https://www.cnblogs.com/ivictor/p/5502240.html    #
    
15. #                         的脚本，在它的基础上做了一些改进，例如,ivitcor中脚本备份binlog#
    
16. #                         如果服务器重启了，则必须手动执行脚本.......                   #
    
17. #***************************************************************************************#
    
18. # Version        Modified Date            Description                                   #
    
19. #***************************************************************************************#
    
20. # V.1.0          2016-06-20     create the script for mysql binlog backp                #
    
21. # V.1.1          2016-07-26     fix some bug                                            #
    
22. #########################################################################################
    
23. 
    
24. BACKUP_BIN=/opt/mysql/mysql8.0/bin/mysqlbinlog
    
25. BACKUP_LOG_PATH=/dbbackup/mysql_backup/logs
    
26. LOG_DATE=$(date +%Y_%m_%d_%H_%M_%S)
    
27. BACKUP_LOG=${BACKUP_LOG_PATH}/binlog_backup.log
    
28. ERROR_LOG=${BACKUP_LOG_PATH}/binlog_backup_error_${LOG_DATE}.log
    
29. #复制二进制日志的主机，可以远程MySQL数据库也可以是本机
    
30. MYSQL_LOGIN_PATH=server1_dbbackup
    
31. #time to wait before reconnecting after failure
    
32. SLEEP_SECONDS=10
    
33. MAIL_TO="xxx@xxx.com.cn"
    
34. MAIL_FROM="xxx@xxx.com.cn"
    
35. 
    
36. error()
    
37. {
    
38.  echo "$1" 1>&2
    
39.  echo "$1" >> ${ERROR_LOG}
    
40.  echo "$1" | mailx -s "The binlog backup on the server `hostname` failed ,please check the log!" -r ${MAIL_FROM} ${MAIL_TO}
    
41.  exit 1
    
42. }
    
43. 
    
44. 
    
45. ##目录不存在则创建目录
    
46. if [ ! -d $BACKUP_LOG_PATH ];then
    
47.        mkdir -p $BACKUP_LOG_PATH
    
48. fi
    
49. 
    
50. 
    
51. if [ "$#" -ne 3];then   
    
52.     error "${LOG_DATE}:you must input 3 arguments" 
    
53. fi
    
54. 
    
55. if [ ! $1 ];then
    
56.     error "${LOG_DATE}:first_binlog arguments is null" 
    
57. else
    
58.     FIRST_BINLOG=$1
    
59. fi
    
60. 
    
61. if [ ! $2 ];then
    
62.     error "${LOG_DATE}:local_backup_dir arguments is null" 
    
63. else
    
64.     LOCAL_BACKUP_DIR=$2
    
65. fi
    
66. 
    
67. if [ ! $3 ];then
    
68.     error "${LOG_DATE}:file_type arguments is null" 
    
69. else
    
70.     FILE_TYPE=$3
    
71. fi
    
72. 
    
73. ##检查mysqlbinlog二进制文件是否存在
    
74. if [ ! -x ${BACKUP_BIN} ];then
    
75.        error "${LOG_DATE}:mysqlbinlog did not exists, please check it!" 
    
76. fi
    
77. 
    
78. 
    
79.        
    
80. cd ${LOCAL_BACKUP_DIR}
    
81. 
    
82. ## 运行while循环，连接断开后等待指定时间，重新连接
    
83. while :
    
84. do
    
85.   #如果当前备份二进制日志目录为空，则使用MySQL实例最小的二进制日志文件名
    
86.   if [ `ls -A "${LOCAL_BACKUP_DIR}" |wc -l` -eq 0 ];then
    
87.      LAST_BINLOG_FILE=${FIRST_BINLOG}
    
88.   else
    
89.      #LAST_FILE=`ls -l ${LOCAL_BACKUP_DIR} | grep -v backuplog |tail -n 1 |awk '{print $9}'`
    
90.      #echo ${LOCAL_BACKUP_DIR}
    
91.      #echo ${FILE_TYPE}
    
92.      #取mysqlbinlog备份的最后一个binlog文件名
    
93.      LAST_BINLOG_FILE=`find ${LOCAL_BACKUP_DIR} -name "${FILE_TYPE}"  -printf "%p\t%C@\n" | sort -k2 -g |tail -1 | awk '{print $1}' | awk -F "/" '{print $NF}'`
    
94.   fi
    
95.   #${BACKUP_BIN} --login-path=${MYSQL_LOGIN_PATH} --read-from-remote-server --raw --stop-never --host=${REMOTE_HOST} --port=${REMOTE_PORT}  ${LAST_BINLOG_FILE}
    
96.   ${BACKUP_BIN} --login-path=${MYSQL_LOGIN_PATH} --read-from-remote-server --raw --stop-never   ${LAST_BINLOG_FILE}
    
97.   echo "`date +"%Y/%m/%d %H:%M:%S"` mysqlbinlog停止，返回代码：$?" | tee -a ${BACKUP_LOG}
    
98.   echo "${SLEEP_SECONDS}秒后再次连接并继续备份" | tee -a ${BACKUP_LOG}  
    
99.   
    
100.   
     
101.   sleep ${SLEEP_SECONDS}
     
102. done

复制代码

配置作业

1. */10 * * * * /dbbackup/mysql_backup/scripts/mysql_binlog_backup_job.sh >> /dbbackup/mysql_backup/logs/mysql_binlog_back.log 2>&1

复制代码

参考资料

[1]  : https://www.cnblogs.com/ivictor/p/5502240.html
扫描上面二维码关注我如果你真心觉得文章写得不错，而且对你有所帮助，那就不妨帮忙“推荐"一下，您的“推荐”和”打赏“将是我最大的写作动力！本文版权归作者所有，欢迎转载，但未经作者同意必须保留此段声明，且在文章页面明显位置给出原文连接.
来源:https://www.cnblogs.com/kerrycode/p/17334793.html
免责声明：由于采集信息均来自互联网，如果侵犯了您的权益，请联系我们【E-Mail:cb@itdo.tech】 我们会及时删除侵权内容，谢谢合作！