网络延迟对事务的影响

我心左右

1.背景概述

最近在做数据同步测试，需要通过DTS将kafka中的数据同步到数据库中，4G的数据量同步到数据库用了大约4个多小时，这看起来并不合理；此时查看数据库所在主机的CPU，IO的使用率都不高，没有瓶颈；最后通过排查发现由于kafka，DTS，数据库不再同一个机房，网络延迟较大，导致同步速率缓慢；
将kafka，DTS，数据库部署到同一个机房后，同步速度明显提升，只需要15分钟就能同步完。
2.问题复现

本次测试通过sysbench在不同网络延迟的情况下，进行数据写入及性能压测，对比网络延迟对数据库事务的影响。
2.1 查看当前网络延迟

1. $ ping 192.168.137.162
3. PING 192.168.137.162 (192.168.137.162) 56(84) bytes of data.
4. 64 bytes from 192.168.137.162: icmp_seq=1 ttl=64 time=0.299 ms
5. 64 bytes from 192.168.137.162: icmp_seq=2 ttl=64 time=0.180 ms
6. 64 bytes from 192.168.137.162: icmp_seq=3 ttl=64 time=0.297 ms
7. 64 bytes from 192.168.137.162: icmp_seq=4 ttl=64 time=0.329 ms
8. 64 bytes from 192.168.137.162: icmp_seq=5 ttl=64 time=0.263 ms
9. 64 bytes from 192.168.137.162: icmp_seq=6 ttl=64 time=0.367 ms
10. 64 bytes from 192.168.137.162: icmp_seq=7 ttl=64 time=0.237 ms
11. 64 bytes from 192.168.137.162: icmp_seq=8 ttl=64 time=0.160 ms
12. 64 bytes from 192.168.137.162: icmp_seq=9 ttl=64 time=0.180 ms
13. 64 bytes from 192.168.137.162: icmp_seq=10 ttl=64 time=0.257 ms

复制代码

当前2台主机在同一个机房，网络延迟大约在 0.3ms 左右
2.2 （正常延迟）通过sysbench写入数据

2.2.1 创建一张表写入500W条数据

1. $ time sysbench lua/oltp_read_write.lua --mysql-db=sysbench --mysql-host=192.168.137.162 --mysql-port=3307 --mysql-user=root --mysql-password=greatdb --tables=1 --table_size=5000000 --report-interval=2 --threads=10 --time=600 --mysql-ignore-errors=all prepare
3. sysbench 1.1.0-df89d34 (using bundled LuaJIT 2.1.0-beta3)
4. Initializing worker threads...
6. Creating table 'sbtest1'...
7. Inserting 5000000 records into 'sbtest1'
9. Creating a secondary index on 'sbtest1'...
11. real1m56.459s
12. user0m7.187s
13. sys0m0.400s

复制代码

写入 500w 数据量耗时 1m56s
2.2.2 sysbench 压测3分钟

1. SQL statistics:
2.   queries performed:
3. ​    read:               1711374
4. ​    write:              488964
5. ​    other:              244482
6. ​    total:              2444820
7.   transactions:             122241 (407.37 per sec.)
8.   queries:               2444820 (8147.45 per sec.)
9.   ignored errors:            0    (0.00 per sec.)
10.   reconnects:              0    (0.00 per sec.)
12. Throughput:
13.   events/s (eps):            407.3725
14.   time elapsed:             300.0718s
15.   total number of events:        122241
17. Latency (ms):
18. ​     min:                  10.68
19. ​     avg:                  122.72
20. ​     max:                 1267.88
21. ​     95th percentile:            502.20
22. ​     sum:               15000894.94
24. Threads fairness:
25.   events (avg/stddev):      2444.8200/14.99
26.   execution time (avg/stddev):  300.0179/0.02

复制代码

可以看到 TPS：407.37 QPS：8147.45
2.3通过tc命令模拟网络延迟

tc命令是Linux系统中的一个网络管理工具，用于配置和管理网络流量控制。它可以用来限制网络带宽、延迟、丢包等，以及实现QoS（Quality of Service）等功能。

1. # 对ens3网卡进行延迟设置，设置延迟为10ms
2. tc qdisc add dev ens3 root netem delay 10ms

复制代码

如果在使用tc命令时报错如下错误，可以升级一下内核模块

1. # 报错
2. tc qdisc add dev ens3 root netem delay   10ms
3. Error: Specified qdisc not found.
5. # 升级
6. $ yum install kernel-modules-extra*
8. # 重启主机
9. $ reboot

复制代码

2.4查看当前网络延迟

1. $ ping 192.168.137.162
3. PING 192.168.137.162 (192.168.137.162) 56(84) bytes of data.
4. 64 bytes from 192.168.137.162: icmp_seq=1 ttl=64 time=10.5 ms
5. 64 bytes from 192.168.137.162: icmp_seq=2 ttl=64 time=10.4 ms
6. 64 bytes from 192.168.137.162: icmp_seq=3 ttl=64 time=10.5 ms
7. 64 bytes from 192.168.137.162: icmp_seq=4 ttl=64 time=10.4 ms
8. 64 bytes from 192.168.137.162: icmp_seq=5 ttl=64 time=10.4 ms
9. 64 bytes from 192.168.137.162: icmp_seq=6 ttl=64 time=10.4 ms
10. 64 bytes from 192.168.137.162: icmp_seq=7 ttl=64 time=10.4 ms
11. 64 bytes from 192.168.137.162: icmp_seq=8 ttl=64 time=10.5 ms
12. 64 bytes from 192.168.137.162: icmp_seq=9 ttl=64 time=10.5 ms
13. 64 bytes from 192.168.137.162: icmp_seq=10 ttl=64 time=10.2 ms

复制代码

网络延迟大约为 10ms
2.3 （延迟10ms）通过sysbench写入数据

2.3.1 创建一张表写入500W条数据

1. $ time sysbench lua/oltp_read_write.lua --mysql-db=sysbench --mysql-host=192.168.137.162 --mysql-port=3307 --mysql-user=root --mysql-password=greatdb --tables=1 --table_size=5000000 --report-interval=2 --threads=10 --time=600 --mysql-ignore-errors=all prepare
3. sysbench 1.1.0-df89d34 (using bundled LuaJIT 2.1.0-beta3)
4. Initializing worker threads...
6. Creating table 'sbtest1'...
7. Inserting 5000000 records into 'sbtest1'
9. Creating a secondary index on 'sbtest1'...
11. real2m11.656s
12. user0m7.314s
13. sys0m0.470s

复制代码

写入 500w 数据量耗时 2m11s
2.3.2 sysbench 压测3分钟

1. SQL statistics:
2.     queries performed:
3.         read:                            788214
4.         write:                           225204
5.         other:                           112602
6.         total:                           1126020
7.     transactions:                        56301  (187.41 per sec.)
8.     queries:                             1126020 (3748.16 per sec.)
9.     ignored errors:                      0      (0.00 per sec.)
10.     reconnects:                          0      (0.00 per sec.)
12. Throughput:
13.     events/s (eps):                      187.4079
14.     time elapsed:                        300.4196s
15.     total number of events:              56301
17. Latency (ms):
18.          min:                                  210.14
19.          avg:                                  266.68
20.          max:                                  493.91
21.          95th percentile:                      419.45
22.          sum:                             15014235.80
24. Threads fairness:
25.     events (avg/stddev):           1126.0200/1.16
26.     execution time (avg/stddev):   300.2847/0.16

复制代码

可以看到 TPS：187.41  QPS：3748.16
3.总结

通过上面的测试可以看出网络延迟较大时，对数据的写入及每秒执行的事务数都有较大影响；如果需要做性能测试及数据同步，尽量将压测工具或同步工具部署在同一个机房，避免网络延迟较大，对测试结果有影响。

Enjoy GreatSQL
来源:https://www.cnblogs.com/greatsql/p/18098189
免责声明：由于采集信息均来自互联网，如果侵犯了您的权益，请联系我们【E-Mail:cb@itdo.tech】 我们会及时删除侵权内容，谢谢合作！