翼度科技»论坛 编程开发 mysql 查看内容

Percona Toolkit 神器全攻略(复制类)

4

主题

4

帖子

12

积分

新手上路

Rank: 1

积分
12
Percona Toolkit 神器全攻略(复制类)


Percona Toolkit 神器全攻略系列共八篇,前文回顾:
前文回顾Percona Toolkit 神器全攻略Percona Toolkit 神器全攻略(实用类)Percona Toolkit 神器全攻略(配置类)Percona Toolkit 神器全攻略(监控类)Percona Toolkit 神器全攻略(系统类)Percona Toolkit 神器全攻略(开发类)
全文约定:$为命令提示符、greatsql>为GreatSQL数据库提示符。在后续阅读中,依据此约定进行理解与操作
复制类

在Percona Toolkit中复制类共有以下工具

  • pt-heartbeat:监控MySQL/GreatSQL复制延迟
  • pt-slave-delay:设定从落后主的时间
  • pt-slave-find:查找和打印所有MySQL/GreatSQL复制层级关系
  • pt-slave-restart:监控Salve错误,并尝试重启Salve
  • pt-table-checksum:校验主从复制一致性
  • pt-table-sync:高效同步表数据
  • pt-galera-log-explainer:对多个 Galera 日志进行过滤、聚合和汇总
pt-heartbeat

概要

用来监测主从延迟的情况,此工具的设计为向 Master 中插入一条带有当前时间(GreatSQL中的now()函数)的记录到心跳表中,然后,该记录会复制到 Slave 中。Slave 根据当前的系统时间戳(Perl中的time函数)减去heartbeat表中的记录值来判断主从的延迟情况。
用法

  • pt-heartbeat [OPTIONS] [DSN] --update|--monitor|--check|--stop
选项

至少指定 --stop 、 --update 、 --monitor 或 --check 之一
互斥关系
--update 、 --monitor 和 --check 是互斥的
--daemonize 和 --check 是互斥的
该工具所有选项如下
参数含义--ask-pass连接MySQL/GreatSQL提示输入密码--charset默认字符集--check检查一次从机延迟并退出--check-read-only检查服务器是否启用了read_only--config读取这个逗号分隔的配置文件列表,如果指定,这必须是命令行上的第一个选项--create-table如果heartbeat表--table不存在,则创建它--create-table-engine设置用于heartbeat表的引擎--daemonize后台运行--database用于连接的数据库--dbi-driver指定连接的驱动程序--defaults-file只从给定文件中读取 GreatSQL 选项--file将最新的--monitor输出打印到此文件--frames平均值的时间范围,默认为1m,5m,15m--help显示帮助--host连接到主机--[no]insert-heartbeat-row如果--table中不存在心跳行,则插入该行--interval更新或检查heartbeat表的频率,默认1秒--log后台运行时将所有输出打印到此文件--master-server-id根据此主服务器 ID 计算--monitor或--check的延迟--monitor连续监控从机延迟--fail-successive-errors如果指定,将在给定数量的连续 DBI 错误(无法连接到服务器或发出查询)后失败--password连接时使用的密码--pid创建给定的 PID 文件--port用于连接的端口号--print-master-server-id打印自动检测到的或给定的--master-server-id--read-only-interval当指定--check-read-only 时,发现服务器处于只读状态时休眠的时间间隔--recurse在--check模式下递归检查从站到此深度--recursion-method用于查找从站的首选递归方法--replace使用REPLACE而不是UPDATE进行 –update--run-time运行时间--sentinel如果该文件存在则退出--slave-user设置用于连接从站的用户--slave-password设置用于连接从站的密码--set-vars在这个以逗号分隔的variable=value对列表中设置 MySQL/GreatSQL 变量--skew延迟检查多久,默认值:0.5--socket用于连接的套接字文件--stop通过创建哨兵文件来停止运行实例--table用于心跳的表--update更新主机的心跳--user登录的用户--utc忽略系统时区并仅使用 UTC--version显示版本--[no]version-check版本检查最佳实践

为演示该工具,在主机上部署单机多实例并搭建一主一从模式,环境如下:
数据库IP端口号角色GreatSQL-8.0.32-25192.168.6.553306MasterGreatSQL-8.0.32-25192.168.6.553307Slave首先需要在Master上添加表
  1. $ pt-heartbeat --user=root --ask-pass -S /data/GreatSQL/mysql.sock -D test_db --master-server-id=103306 --create-table --update
复制代码
-D:选择一个数据库中有的库
--master-server-id:设置主机的server_id
--create-table:用于创建表
--update:会每秒更新一次heartbeat表的记录
现在进入Master上可以看到在test_db库下有一张heartbeat表,这里有一条记录的数据。在Slave节点上也应该出现这张表
  1. greatsql> SELECT * FROM test_db.heartbeat;
  2. +----------------------------+-----------+---------------+----------+-----------------------+---------------------+
  3. | ts                         | server_id | file          | position | relay_master_log_file | exec_master_log_pos |
  4. +----------------------------+-----------+---------------+----------+-----------------------+---------------------+
  5. | 2024-04-22T15:57:44.001900 |    103306 | binlog.000032 |    41464 | NULL                  |                NULL |
  6. +----------------------------+-----------+---------------+----------+-----------------------+---------------------+
  7. 1 row in set (0.00 sec)
复制代码
接下来我们更新主库上这张表,并让他在后台运行
  1. $ pt-heartbeat --user=root --ask-pass -S /data/GreatSQL/mysql.sock -D test_db --master-server-id=103306 --update --daemonize
复制代码
进入从机,开始监控主从延迟
  1. $ pt-heartbeat --user=root --ask-pass -S /data/GreatSQL02/mysql.sock -D test_db --master-server-id=103306 --monitor --print-master-server-id
  2. Enter password:
  3. 0.00s [  0.00s,  0.00s,  0.00s ] 103306
  4. 0.00s [  0.00s,  0.00s,  0.00s ] 103306
  5. 0.00s [  0.00s,  0.00s,  0.00s ] 103306
  6. 0.00s [  0.00s,  0.00s,  0.00s ] 103306
复制代码
输出的结果为:实时延迟,[1分钟延迟,5分钟延迟,15分钟延迟] 主节点的Server_id

  • 当然也可以使用--interval参数控制主库上的更新间隔,默认是1秒
  • 如果使用守护进程的方式,要关闭的话可以采用pt-heartbeat --stop
  • 单次查看Slave库上的延迟情况可以把monitor换成--check
pt-slave-delay

概要

可能在日常工作中会存在误删除数据的可能,所以可以用该工具设置Slave服务器落后于Master服务器,达到构建一个延迟从库
原理
通过启动和停止复制SQL线程来设置Slave库落后于Master库的指定时间
用法

  • pt-slave-delay [OPTIONS] SLAVE_DSN [MASTER_DSN]
选项

该工具所有选项如下
参数含义--ask-pass连接时提示输入密码--charset默认字符集--config读取这个逗号分隔的配置文件列表,如果指定,这必须是命令行上的第一个选项--[no]continue退出后继续正常复制--daemonize后台运行--database用于连接的数据库--defaults-file只从给定文件中读取MySQL/GreatSQL选项--delay从库延迟于主库的时间,默认1小时--help显示帮助--host连接到主机的IP地址--interval启动或停止的频率。默认1分钟--log后台运行时日志输出的位置--password连接时使用的密码--pid创建给定的 PID 文件--port用于连接的端口号--quiet不要打印有关操作的信息性消息--run-time运行时间,默认是一直运行--set-vars在这个以逗号分隔的variable=value对列表中设置 MySQL/GreatSQL 变量--socket用于连接的套接字文件--use-master从Master库获取二进制日志位置,而不从Slave库获取--user用于登录的用户--version显示版本--[no]version-check版本检查最佳实践

此工具只需在Slave库运行即可,无需在Master节点运行
  1. $ pt-slave-delay --user=root --ask-pass -S /data/GreatSQL02/mysql.sock --delay=1m --interval=15s --run-time=10m
复制代码
将主从延迟设定为1分钟,每15秒进行一次检测,持续运行10分钟
输出结果如下
  1. 2024-04-23T09:29:00 slave running 0 seconds behind
  2. 2024-04-23T09:29:00 STOP SLAVE until 2024-04-23T09:30:00 at master position binlog.000032/500611
  3. 2024-04-23T09:29:15 slave stopped at master position binlog.000032/500611
  4. 2024-04-23T09:29:30 slave stopped at master position binlog.000032/500611
  5. ......中间省略
  6. 2024-04-23T09:30:30 Setting slave to run normally
复制代码
如果在运行的过程中进入Slave节点查看SHOW SLAVE STATUS\G
  1. Slave_IO_Running: Yes
  2. Slave_SQL_Running: No
复制代码
可以看到SQL线程已关闭,证明此工具精准控制SQL线程的启停,有效实现主从延迟
也可使用CHANGE REPLICATION SOURCE TO SOURCE_DELAY=3600;该命令来控制主从延迟的时间
pt-slave-find

概要

查找和打印主从架构中主库的从库个数,类似于拓扑图的意思
用法

  • pt-slave-find [OPTIONS] [DSN]
选项

参数含义--ask-pass连接MySQL/GreatSQL提示输入密码--charset默认字符集--config读取这个逗号分隔的配置文件列表,如果指定,这必须是命令行上的第一个选项--databases仅检查此逗号分隔的数据库列表--defaults-file只从给定文件中读取 MySQL/GreatSQL 选项--help显示帮助--host连接到主机--password连接时使用的密码--pid创建给定的 PID 文件--port用于连接的端口号--recurse层次结构中要递归的级别数,默认为无限--recursion-method用于查找从库的首选递归方法,有三种 (processlist、hosts、none)--report-format设置打印有关从库的哪些信息--resolve-address将 IP 地址解析为主机名--slave-user设置用于连接从库的用户--slave-password设置用于连接从库的密码--set-vars以逗号分隔的variable=value对列表中设置 MySQL/GreatSQL 变量--socket用于连接的套接字文件--user登录的用户--version显示版本最佳实践

连接到主从集群的Master节点,查看该集群的复制层次数
  1. $ pt-slave-find h=192.168.6.55,u=root --ask-pass
  2. 192.168.6.55
  3. Version         8.0.32-25
  4. Server ID       103306
  5. Uptime          20:38:01 (started 2024-04-22T14:09:23)
  6. Replication     Is not a slave, has 1 slaves connected, is not read_only
  7. Filters
  8. Binary logging  ROW
  9. Slave status
  10. Slave mode      STRICT
  11. Auto-increment  increment 1, offset 1
  12. InnoDB version  8.0.32-8.0.32
  13. +- 192.168.6.55:3307
  14.    Version         8.0.32-25
  15.    Server ID       103307
  16.    Uptime          20:35:59 (started 2024-04-22T14:12:02)
  17.    Replication     Is a slave, has 0 slaves connected, is not read_only
  18.    Filters
  19.    Binary logging  ROW
  20.    Slave status    0 seconds behind, running, no errors
  21.    Slave mode      STRICT
  22.    Auto-increment  increment 1, o
  23.    InnoDB version  8.0.32-8.0.32
复制代码
可以看到该主节点下只有一个从节点,且输出也显示了主节点和总结点的信息
pt-slave-restart

概要

监视一个或多个 GreatSQL 复制从库是否有错误,并在复制停止时尝试重新启动复制
用法

  • pt-slave-restart [OPTIONS] [DSN]
选项

参数含义--always永不停止Slave线程--ask-pass连接MySQL/GreatSQL提示输入密码--charset默认字符集--[no]check-relay-log在检查从库错误之前检查最后一个中继日志文件和位置--config读取这个逗号分隔的配置文件列表,如果指定,这必须是命令行上的第一个选项--daemonize后台运行--databases数据库列表--defaults-file只从给定文件中读取 MySQL/GreatSQL 选项--error-length要打印的错误消息的最大长度--error-numbers指定跳过哪些错误,可用,进行分隔--error-text根据错误的信息进行匹配跳过--help显示帮助--host连接到主机--log后台运行时,将输出打印到此文件--max-sleep再次轮询从库之前休眠的最长时间--min-sleep再次轮询从库之前休眠眠的最短时间--monitor是否监控从机(默认)--password连接时使用的密码--pid创建给定的 PID 文件--port用于连接的端口号--quiet抑制正常输出(禁用--verbose)--recurse在主库执行,监控从库,默认深度 0 表示“仅监视指定的从库”--recursion-method用于查找从库的首选递归方法--run-time运行时间--sentinel如果该文件存在则退出,默认值:/tmp/pt-slave-restart-sentinel--slave-user设置用于连接从库的用户--slave-password设置用于连接从库的密码--set-vars以逗号分隔的variable=value 对列表中设置 MySQL/GreatSQL 变量--skip-count重新启动从库时要跳过的语句数,默认1--master-uuid使用 GTID 时,应创建一个空事务以便跳过它--sleep检查从库之间的初始睡眠秒数--socket用于连接的套接字文件--stop停止运行实例--until-master运行到指定的master_log_pos,file位置后停止--until-relay运行到指定的中继日志文件和位置后停止--user用于登录的用户--verbose向输出添加更多信息--version显示版本--[no]version-check版本检查最佳实践

在主库创建一张t1表,并插入5条数据
  1. greatsql> CREATE TABLE t1 (id INT PRIMARY KEY AUTO_INCREMENT,name VARCHAR(255) NOT NULL);
  2. greatsql> INSERT INTO t1 (name) VALUES ('张三');  
  3. greatsql> INSERT INTO t1 (name) VALUES ('李四');  
  4. greatsql> INSERT INTO t1 (name) VALUES ('王五');  
  5. greatsql> INSERT INTO t1 (name) VALUES ('赵六');  
  6. greatsql> INSERT INTO t1 (name) VALUES ('孙七');
复制代码
主库查看数据
  1. greatsql> SELECT * FROM test_db.t1;
  2. +----+--------+
  3. | id | name   |
  4. +----+--------+
  5. |  1 | 张三   |
  6. |  2 | 李四   |
  7. |  3 | 王五   |
  8. |  4 | 赵六   |
  9. |  5 | 孙七   |
  10. +----+--------+
  11. 5 rows in set (0.00 sec)
复制代码
从库查看数据
  1. greatsql> SELECT * FROM test_db.t1;
  2. +----+--------+
  3. | id | name   |
  4. +----+--------+
  5. |  1 | 张三   |
  6. |  2 | 李四   |
  7. |  3 | 王五   |
  8. |  4 | 赵六   |
  9. |  5 | 孙七   |
  10. +----+--------+
  11. 5 rows in set (0.00 sec)
复制代码
主动处理错误

在从库执行pt-slave-restart工具监控从库
  1. $ pt-slave-restart h=192.168.6.55,P=3307,u=root --ask-pass
复制代码
注意,若使用该工具,参数slave_parallel_workers必须设置为0,否则会报错”Cannot skip transactions properly because GTID is enabled and slave_parallel_workers > 0.  See 'GLOBAL TRANSACTION IDS' in the tool's documentation.“ 如果不关闭多线程复制,工具会分不清到底哪个线程复制出了问题
此时已经开启了从库监控,我们在主库上人为造成一个主从复制错误
  1. greatsql> SET sql_log_bin=0;
  2. greatsql> INSERT INTO t1 VALUES(6,'周八');
  3. greatsql> SET sql_log_bin=1;
  4. greatsql> DELETE FROM t1 WHERE id=6;
复制代码
此时工具检测到了主从复制异常,并且马上修复了该错误,使主从复制正常运行
  1. $ pt-slave-restart h=192.168.6.55,P=3307,u=root --ask-pass
  2. # 时间戳 + 从库端信息 + relay log + relat log 位置 + 主从复制报错码
  3. 2024-04-24T10:33:54 P=3307,h=192.168.6.55,u=root myarch-relay-bin.000003   36702 1032
复制代码
手动处理错误

如果一直运行工具,检测到错误会直接修复。如果是已经有错误了要如何使用该工具修复?还是同样的错误,再次主库手动执行
  1. greatsql> SET sql_log_bin=0;
  2. greatsql> INSERT INTO t1 VALUES(6,'周八');
  3. greatsql> SET sql_log_bin=1;
  4. greatsql> DELETE FROM t1 WHERE id=6;
复制代码
此时查看从库报错
  1. greatsql> SHOW SLAVE STATUS\GSlave_IO_Running: Yes
  2. Slave_SQL_Running: NoLast_SQL_Error: Could not execute Delete_rows event on table test_db.t1; Can't find record in 't1', Error_code: 1032; handler error HA_ERR_KEY_NOT_FOUND; the event's master log binlog.000032, end_log_pos 504208
复制代码
记住报错的错误码1032,接着在从库机器上使用该工具
  1. $ pt-slave-restart h=192.168.6.55,P=3307,u=root --ask-pass --error-numbers=1032
复制代码
使用--error-numbers=指定错误码
此时就会输出对应的信息
  1. $ pt-slave-restart h=192.168.6.55,P=3307,u=root --ask-pass --error-numbers=1032
  2. 2024-04-24T10:49:26 P=3307,h=192.168.6.55,u=root myarch-relay-bin.000003     37046 1032
复制代码
接着在从库上查看主从状态,就可以看到主从复制已经是正常的了
  1. greatsql> SHOW SLAVE STATUS\G
  2. Slave_IO_Running: Yes
  3. Slave_SQL_Running: Yes
  4. Last_SQL_Error:
复制代码
pt-table-checksum

这款数据校验与修复工具虽广受欢迎,却存在不容忽视的短板:不支持MySQL/GreatSQL的MGR场景、国内普遍的上云下云业务,以及MySQL/GreatSQL与Oracle间的异构数据库等多元化场景。为了攻克这些难题,GreatSQL推出了名为gt-checksum的校验&修复工具,旨在全面满足各类业务需求!
概要

检查 MySQL/GreatSQL 的主从数据是否一致
用法

  • pt-table-checksum [OPTIONS] [DSN]
选项

参数含义--ask-pass连接MySQL/GreatSQL提示输入密码--channel指定复制通道--[no]check-binlog-format检查所有服务器上的binlog_format系统参数是否相同--binary-index修改--create-replicate-table的行为,使复制表的上下边界列以 BLOB 数据类型创建--check-interval指定因选项--max-lag检查之间休眠时间--[no]check-plan检查查询执行计划的安全性--[no]check-replication-filters指定检测主从复制是否有设置复制过滤器--check-slave-lag指定复制延迟大于选项--max-lag指定的值之后暂停检查校验操作--[no]check-slave-tables检查从库上的表是否存在并具有所有校验和--columns--chunk-index指定使用哪个索引对表进行chunk分块操作--chunk-index-columns指定使用选项--chunk-index的索引使用最左前缀几个索引字段,只适用于复合索引--chunk-size为每个校验和查询选择的行数,允许的后缀单位为k、M、G--chunk-size-limit指定chunk的行数最多可以超过选项--chunk-size指定的行数的多少倍--chunk-time动态调整每个chunk的大小使相应的表行数都在指定的时间内完成校验操作--columns指定只需要校验的字段,如有多个则用逗号隔开--config读取这个逗号分隔的配置文件列表,如果指定,这必须是命令行上的第一个选项--[no]create-replicate-table创建选项--replicate指定的数据库和表--databases仅对逗号分隔的数据库列表进行校验--databases-regex仅名称与此正则表达式匹配和数据库进行校验--defaults-file只从给定文件中读取 MySQL/GreatSQL 选项--disable-qrt-plugin如果启用了 QRT(查询响应时间)插件,请将其禁用--[no]empty-replicate-table在对表进行校验和之前,删除每个表之前的校验和--engines仅校验使用这些存储引擎的表--explain显示但不执行校验和查询(禁用--[no]empty-replicate-table)--fail-on-stopped-replication若复制停止,则会失败并显示错误(退出状态 128),而不是等到复制重新启动--float-precisionFLOAT 和 DOUBLE 数字到字符串转换的精度--function指定校验操作使用的哈希函数。可选函数有SHA1、MD5等--help显示帮助--host连接到主机--ignore-columns指定需要忽略校验的字段--ignore-databases指定需要忽略校验的数据库--ignore-databases-regex指定采用正则表达式匹配忽略校验的数据库--ignore-engines指定需要忽略校验的存储引擎列表--ignore-tables指定需要忽略校验的表--ignore-tables-regex指定采用正则表达式匹配忽略校验的表--max-lag指定允许主从复制延迟时长的最大值,单位秒--max-load在每个块之后检查`SHOW GLOBAL STATUS,如果任何状态变量高于阈值则暂停--password连接时使用的密码--pause-file当此参数指定的文件存在时,执行将暂停--pid创建给定的 PID 文件--plugin定义pt_table_checksum_plugin类的 Perl 模块文件--port用于连接的端口号--progress将进度报告打印到 STDERR--quiet仅打印最重要的信息(禁用 --progress )--recurse指定搜寻从库的层级,默认无限--recursion-method指定获取从库的方式--replicate将校验和结果写入此表--[no]replicate-check指定在校验完每张表后检查主从当前表是否出现不一致--replicate-check-only检查副本的一致性,而无需执行校验和查询--replicate-check-retries指定当校验出主从数据不一致重试校验的次数--replicate-database指定工具在执行校验操作时在哪个数据库下进行--resume指定从最后完成校验的chunk开始恢复校验--retries指定当出现非严重性错误时重复校验一个块的次数--run-time指定校验操作运行的时间--separator用于 CONCAT_WS() 的分隔符--skip-check-slave-lag指定DSN连接从库时跳过主从延迟检查,可以指定多个从库检查--slave-user设置用于连接从库的用户--slave-password设置用于连接从库的密码--set-vars运行检查时指定参数值,如有多个用逗号分隔--socket用于连接的套接字文件--slave-skip-tolerance当主表被标记为仅在一个块中进行校验和,但从表超过了可接受的最大大小时,该表将被跳过--tables仅对这个以逗号分隔的表列表进行校验和--tables-regex仅对名称与此 Perl 正则表达式匹配的表进行校验--trim将 TRIM() 添加到 VARCHAR 列(在比较 4.1 和 >= 5.0 时有帮助)--truncate-replicate-table在开始校验和之前截断复制表--user登录的用户--version显示版本--[no]version-check版本检查--where仅执行与此 WHERE 子句匹配的行最佳实践

校验主从数据是否一致(主从端口一致)

主从机器端口一致时,可以使用此方法
检测差异,并写入差异到checksums表中,主库上执行如下命令
  1. pt-table-checksum --create-replicate-table --replicate=test_db.checksums --nocheck-replication-filters --nocheck-binlog-format --recursion-method=processlist --databases=test_db --user=root --ask-pass --host=192.168.6.55 --port=3306
复制代码

  • --nocheck-replication-filters:不检查复制过滤器,建议启用
  • --no-check-binlog-format:不检查复制的binlog模式,要是binlog模式是ROW,则会报错
结果如下
  1. Checking if all tables can be checksummed ...
  2. Starting checksum ...
  3.             TS ERRORS  DIFFS     ROWS  DIFF_ROWS  CHUNKS SKIPPED    TIME TABLE
  4. 04-24T15:57:13      0      0        9          0       1       0   0.008 test_db.test_t1
复制代码

  • TS:完成检查的时间
  • ERRORS:检查时候发生错误和警告的数量
  • DIFFS:0表示一致,非0表示不一致
  • DIFF_ROWS:主库和从库差异的数据行数
  • CHUNKS:被划分到表中的块的数目
  • SKIPPED:由于错误或警告或过大,则跳过块的数目
  • TIME:执行的时间
  • TABLE:被检查的表名
同时结果也保存到了表中
  1. greatsql> select * from checksums;
  2. +---------+--------------------+-------+------------+-------------+----------------+----------------+----------+----------+------------+------------+---------------------+
  3. | db      | tbl                | chunk | chunk_time | chunk_index | lower_boundary | upper_boundary | this_crc | this_cnt | master_crc | master_cnt | ts                  |
  4. +---------+--------------------+-------+------------+-------------+----------------+----------------+----------+----------+------------+------------+---------------------+
  5. | test_db | t1                 |     1 |   0.001848 | NULL        | NULL           | NULL           | 6d60e23f |        5 | 6d60e23f   |          5 | 2024-04-24 16:29:30 |
  6. +---------+--------------------+-------+------------+-------------+----------------+----------------+----------+----------+------------+------------+---------------------+
  7. 1 rows in set (0.01 sec)
复制代码
校验主从数据是否一致(主从端口不一致)

主从机器端口不一致时,可以使用此方法
在主库创建一张DSN表
  1. greatsql> CREATE TABLE test_db.dsns ( id int(11) NOT NULL AUTO_INCREMENT, parent_id int(11) DEFAULT NULL,dsn varchar(255) NOT NULL, PRIMARY KEY (id) );
  2. greatsql> INSERT INTO test_db.dsns(dsn) VALUES ('h=192.168.6.55,P=3307,u=root,p=');
复制代码
使用工具校验,注意此时--recursion-method就要改为DSN模式
  1. $ pt-table-checksum --replicate=test_db.checksums --nocheck-replication-filters --no-check-binlog-format --host=192.168.6.55 --port=3306 --user=root --ask-pass --databases=test_db --recursion-method dsn=h=192.168.6.55,D=test_db,t=dsns
复制代码
结果如下
  1. Checking if all tables can be checksummed ...
  2. Starting checksum ...
  3.             TS ERRORS  DIFFS     ROWS  DIFF_ROWS  CHUNKS SKIPPED    TIME TABLE
  4. 04-24T17:04:42      0      0        1          0       1       0   0.035 test_db.dsns
  5. 04-24T17:04:42      0      0        1          0       1       0   0.022 test_db.heartbeat
  6. 04-24T17:04:42      0      0        0          0       1       0   0.036 test_db.my_table
  7. 04-24T17:04:42      0      2    10000       9823       4       0   0.097 test_db.ptosc
  8. 04-24T17:04:42      0      0        5          0       1       0   0.021 test_db.t1
  9. 04-24T17:04:42      0      1       15         15       1       0   0.026 test_db.tc10011_ta4
  10. 04-24T17:04:42      0      1        9          9       1       0   0.078 test_db.test_t1
  11. 04-24T17:04:42      0      0        0          0       1       0   0.066 test_db.test_table
复制代码
可以看到有三张表被检测出来不一致。如果连表都不存在则会报错Table 'XXXX' doesn't exist
出现了主从数据不一致,就要使用pt-table-sync工具进行修复
pt-table-sync

概要

高效同步 MySQL/GreatSQL 表数据
用法

  • pt-table-sync [OPTIONS] DSN [DSN]
选项

至少指定 --print 、 --execute 或 --dry-run 之一。--where 和 --replicate 是互斥的
参数含义--algorithms比较表时使用的算法(按优先顺序),默认值:Chunk、Nibble、GroupBy、Stream--ask-pass连接 MySQL/GreatSQL 提示输入密码--bidirectional启用第一个和后续主机之间的双向同步--[no]bin-log指定同步操作记录二进制日志,相当于执行SET SQL_LOG_BIN=1--buffer-in-mysql指定 MySQL/GreatSQL 在其内存中缓冲查询--[no]buffer-to-client比较时从 MySQL/GreatSQL 中逐一获取行--channel指定复制通道--charset默认字符集--[no]check-child-tables检查--execute是否会对子表产生不利影响--[no]check-master指定当选项--sync-to-master时,尝试验证工具连接到的主库是否是真正的主库--[no]check-slave检查目标服务器是否为从服务器--[no]check-triggers检查目标表上是否未定义触发器--chunk-column指定根据表中字段对表进行chunk操作--chunk-index指定使用哪个索引对表进行chunk分块操作--chunk-size每个块的行数或数据大小--columns比较以逗号分隔的列列表--config读取这个逗号分隔的配置文件列表,如果指定,这必须是命令行上的第一个选项--conflict-column当--bidirectional同步期间发生行冲突时比较此列--conflict-comparison选择具有此属性的--conflict-column作为源--conflict-error如何报告无法解决的冲突和冲突错误,默认为:warn(警告)--conflict-threshold一个--conflict-column必须超过另一个的数量--conflict-value将此值用于某些--conflict-comparison--databases仅同步的数据库列表,如有多个用逗号分隔--defaults-file只从给定文件中读取 GreatSQL 选项--dry-run分析、决定要使用的同步算法、打印并退出--engines仅同步的存储引擎列,如有多个用逗号分隔--execute执行查询以使表具有相同的数据--explain-hosts打印连接信息并退出--float-precisionFLOAT 和 DOUBLE 数字到字符串转换的精度--[no]foreign-key-checks启用外键检查 (SET FOREIGN_KEY_CHECKS=1)--function选择使用哪个哈希函数作为校验和,默认为 CRC32--help显示帮助--[no]hex-blobHEX() BLOB、TEXT和 BINARY列--host连接到主机--ignore-columns要忽略的列,如有多个用逗号分隔--ignore-databases要忽略的数据库,如有多个用逗号分隔--ignore-engines要忽略的引擎,如有多个用逗号分隔--ignore-tables要忽略的表,如有多个用逗号分隔--ignore-tables-regex要忽略的表正则表达式,如有多个用逗号分隔--[no]index-hint将 FORCE/USE INDEX 提示添加到块和行查询中--lock锁定表:0=永不锁表,1=每个同步周期锁表,2=表操作时锁表,3=每个DSN连接的服务器锁表--lock-and-rename指定锁定源表和目标表,执行同步操作,然后进行表名交换--password连接时使用的密码--pid创建给定的 PID 文件--port用于连接的端口号--print打印将解决差异的查询--recursion-method用于查找从站的首选递归方法--replace将所有INSERT和UPDATE语句写为REPLACE--replicate同步此表中列为不同的表--slave-user设置用于连接从库的用户--slave-password设置用于连接从库的密码--set-vars以逗号分隔的variable=value对列表中设置 MySQL/GreatSQL 变量--socket用于连接的套接字文件--sync-to-master指定将DSN连接信息确认为从库,并同步信息到主库--tables要同步的表,如有多个用逗号分隔--timeout-ok指定当选项--wait导致工具执行失败时跳过失败继续执行--[no]transaction指定工具操作使用事务代替LOCK TABLES语句进行锁表--trimBIT_XOR 和 ACCUM 模式下的 TRIM() VARCHAR 列--[no]unique-checks启用唯一键检查 ( SET UNIQUE_CHECKS=1 )--user用于连接的用户--verbose打印同步操作的结果--version显示版本--[no]version-check版本检查--wait指定存在主从复制延迟时从库可以等待多长时间追上主库,如果超过时间依然存在延迟就中止退出--whereWHERE 子句用于限制同步到表的一部分--[no]zero-chunk为具有零或零等值的行添加块最佳实践

同步单个表

注意,同步时候两台机器不能是主从关系。第一DSN为源库,第二个DSN为被同步库
将192.168.6.55机器上的test_db.test_t1表同步至192.168.6.129机器
  1. $ pt-table-sync --execute h=192.168.6.55,u=root,p=,P=3306,D=test_db,t=test_t1 h=192.168.6.129,p=test,u=test,P=3306
复制代码
同步单个库

注意,同步时候两台机器不能是主从关系。第一DSN为源库,第二个DSN为被同步库
  1. $ pt-table-sync --execute h=192.168.6.55,u=root,p=,P=3306 h=192.168.6.129,u=test,p=test --databases test_db
复制代码
此时如果有表不存在,则会报错
  1. Table test_db.checksums does not exist on P=3306,h=192.168.6.129,p=...,u=test  while doing test_db.checksums on 192.168.6.129
复制代码
此时只需手动建表即可
同步所有库表

注意,同步时候两台机器不能是主从关系。第一DSN为源库,第二个DSN为被同步库
  1. $ pt-table-sync --execute h=192.168.6.55,u=root,p=,P=3306 h=192.168.6.129,u=test,p=test
复制代码
主从复制同步从库

同步test_db.checksums中记录的数据不一致的表。该表中的数据是由pt-table-checksum工具检测出来的
  1. $ pt-table-sync --execute --replicate 'test_db.checksums' --sync-to-master h=192.168.6.55,P=3307,u=root,p=
复制代码
本文完
来源:https://www.cnblogs.com/greatsql/p/18399647
免责声明:由于采集信息均来自互联网,如果侵犯了您的权益,请联系我们【E-Mail:cb@itdo.tech】 我们会及时删除侵权内容,谢谢合作!

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x

举报 回复 使用道具