mysql 誤刪除數據-數據回滾

mysql 誤刪除

本次使用的原美團開源Mysql 數據閃回工具

傳送門：https://github.com/Meituan-Dianping/MyFlash

一，簡介

MyFlash的前身是binlong2，后續是由美團點評公司技術工程部開發維護的一個回滾DML操作的工具。該工具通過解析V4版本的二進制日志，完成回滾操作。相對已有的回滾工具，其增加了更多的過濾選項，讓回滾更加容易。 該工具已經在美團點評內部使用

二，限制

1. 二進制日志格式必須為【row】行級模式 ，且binlog_row_image =full
2. 僅支持5.6與5.7 （如果是低版本的mysql 二種方案 1，升級mysql 2，使用binlog2）
   binlog2sql工具的下載地址：
3. 只能回滾DML（增，刪，改）

   三，詳細說明

   3.1 安裝部署

   git clone https://github.com/Meituan-Dianping/MyFlash.git
   cd MyFlash/
   [root@gitlab MyFlash]# yum install glib2*
   [root@gitlab MyFlash]# gcc -w  `pkg-config --cflags --libs glib-2.0` source/binlogParseGlib.c  -o binary/flashback
   #動態編譯

   

3.2 開啟mysql-binlog

[root@gitlab mysql]# cat /etc/my.cnf|grep "log_bin*"
# log_bin
log-bin=mysql-bin  #名字前綴
log_bin=/var/lib/mysql/mysql-bin  #路徑
log_bin_index=/var/lib/mysql/mysql-bin.index  #索引
binlog_format=row   #binlog模式 （行、混合、sql語句）
max_binlog_size = 512M #單個文件大小
expire_logs_day = 30 #保留最近30天
server-id = 1 #ID編號

[root@gitlab mysql]# /etc/init.d/mysqld restart
Restarting mysqld (via systemctl):                         [  OK  ]
登陸mysql 查看binlog開啟情況
mysql> show variables like '%log_bin%'

注意：此工具必須使用row 行級模式

show variables like  'binlog%'; 
##行級模式缺點，binlog日志會增大 原來的3倍  優點：相對安全

3.3 使用方法

cd binary
./flashback --help

Usage:
  flashback [OPTION...]

Help Options:
  -?, --help                  Show help options

Application Options:
  --databaseNames            指定需要回滾的數據庫名。多個數據庫可以用“,”隔開。如果不指定該參數，相當于指定了所有數據庫。
  --tableNames                指定需要回滾的表名。多個表可以用“,”隔開。如果不指定該參數，相當于指定了所有表。
  --start-position            指定回滾開始的位置。如不指定，從文件的開始處回滾。請指定正確的有效的位置，否則無法回滾

  --stop-position          指定回滾結束的位置。如不指定，回滾到文件結尾。請指定正確的有效的位置，否則無法回滾
  --start-datetime           指定回滾的開始時間。注意格式必須是 “2016-11-17 14:40:00。 如不指定，則不限定時間
  --stop-datetime          指定回滾的結束時間。注意格式必須是 %Y-%m-%d %H:%M:%S。 如不指定，則不限定時間
  --sqlTypes                 指定需要回滾的sql類型。目前支持的過濾類型是INSERT, UPDATE ,DELETE。多個類型可以用“,”隔開。
  --maxSplitSize              一旦指定該參數，對文件進行固定尺寸的分割（單位為M），過濾條件有效，但不進行回滾操作。該參數主要用來將大的binlog文件切割，防止單次應用的binlog尺寸過大，對線上造成壓力
  --binlogFileNames          指定需要回滾的binlog文件，目前只支持單個文件，后續會增加多個文件支持
  --outBinlogFileNameBase   指定輸出的binlog文件前綴，如不指定，則默認為binlog_output_base.flashback
  --logLevel                  僅供開發者使用，默認級別為error級別。在生產環境中不要修改這個級別，否則輸出過多
  --include-gtids            指定需要回滾的gtid,支持gtid的單個和范圍兩種形式。
  --exclude-gtids            指定不需要回滾的gtid，用法同include-gtids（跳過）

3.4 測試用例

1） 測試環境介紹：

[root@gitlab binary]# cat /etc/redhat-release   #系統版本7.4
CentOS Linux release 7.4.1708 (Core) 
[root@gitlab binary]# uname -a   #系統內核3.10 64位
Linux gitlab.example.com 3.10.0-693.el7.x86_64 #1 SMP Tue Aug 22 21:09:27 UTC 2017 x86_64 x86_64 x86_64 GNU/Linux
[root@gitlab binary]# mysql -V      #mysql 版本
mysql  Ver 14.14 Distrib 5.6.39, for Linux (x86_64) using  EditLine wrapper

2）模擬數據
我這里把測試庫的一些數據拿啦，直接導入sql作為案例使用

 SELECT * FROM `sys_member_msg` WHERE id <=666

3） 模擬誤刪除

    delete from `sys_member_msg` where id<=666  #在查看id小于666的就顯示空了

4）回滾指定文件中的所有【插入、刪除、修改】語句
row行級模式 查看binlong，需要添加參數（--base64-output=decode-rows -v）對輸出結果解碼。

4.1 查看開啟binlong

mysql> show variables like 'log_%'; 
+----------------------------------------+--------------------------------+
| Variable_name                          | Value                          |
+----------------------------------------+--------------------------------+
| log_bin                                | ON                             |
| log_bin_basename                       | /var/lib/mysql/mysql_bin       |
| log_bin_index                          | /var/lib/mysql/mysql-bin.index |

13 rows in set (0.00 sec)

4.2 查看最新binlog位置

mysql> show master status;  #查看最新binlog位置
+------------------+----------+--------------+------------------+-------------------+
| File             | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+------------------+----------+--------------+------------------+-------------------+
| mysql_bin.000007 | 16696881 |              |                  |                   |
+------------------+----------+--------------+------------------+-------------------+
1 row in set (0.00 sec)

4.3 生成回滾數據文件

[root@gitlab binary]# time ./flashback  --sqlTypes='DELETE' --binlogFileNames=/var/lib/mysql/mysql_bin.000007

real    0m0.053s
user    0m0.015s
sys 0m0.035s
#參數意思 看上面用法介紹
#比如：開始時間  -結束時間 --DML語句類型（增刪改）、post點、大數據要拆分
#默認產生一個binlog_output_base.flashback文件

4.4 恢復到數據庫

[root@gitlab binary]# mysqlbinlog binlog_output_base.flashback |mysql -uroot -p
Enter password:  #輸入mysql密碼
#沒有反饋，應該OK了

3.5查看數據回滾情況

SELECT * FROM `sys_member_msg` WHERE id <=666

四 總結：

1，myflash 只支持 row 模式，如果你現在的binlog是其它模式，切換的時候，會影響主從同步
2，row模式很安全，但是binlog數據量會增加 3-5倍
3，查看row模式下的binlog 需要添加參數（--base64-output=decode-rows -v）對輸出結果解碼
4，必要給開發生產數據庫開放權限，讓他們select去吧
5，篩選恢復數據有很多比如：開始時間 -結束時間 --DML語句類型（增刪改）、post點、大數據要拆分后逐去恢復 等等

最后希望所有運維的同志們，不在背鍋，遠離背鍋。。。。