Data Migration 简介

Data Migration 简介

DM 主要包括三个组件：DM-master，DM-worker 和 dmctl。

DM-master 负责管理和调度数据同步任务的各项操作。

  • 保存 DM 集群的拓扑信息
  • 监控数据同步任务的运行状态
  • 提供数据同步任务管理的统一入口
  • 协调分库分表场景下各个实例分表的 DDL 同步

DM-worker

DM-worker 负责执行具体的数据同步任务。

  • 将 binlog 数据持久化保存在本地
  • 保存数据同步子任务的配置信息
  • 编排数据同步子任务的运行
  • 监控数据同步子任务的运行状态

DM-worker 启动后，会自动同步上游 binlog 至本地配置目录（如果使用 DM-Ansible 部署 DM 集群，默认的同步目录为 ）。关于 DM-worker，详见 。关于 relay log，详见 DM Relay Log。

  • 创建、更新或删除数据同步任务
  • 查看数据同步任务状态
  • 处理数据同步任务错误
  • 校验数据同步任务配置的正确性

下面简单介绍 DM 数据同步功能的核心特性。

Table routing

Table routing 是指将上游 MySQL 或 MariaDB 实例的某些表同步到下游指定表的路由功能，可以用于分库分表的合并同步。

是指上游数据库实例表的黑白名单过滤规则。其过滤规则类似于 MySQL replication-rules-db/，可以用来过滤或只同步某些数据库或某些表的所有操作。

Binlog event filter

是比库表同步黑白名单更加细粒度的过滤规则，可以指定只同步或者过滤掉某些 schema/ 的指定类型的 binlog events，比如 INSERT，。

DM 支持对原分库分表进行合库合表操作，但需要满足一些使用限制。

在使用 DM 工具之前，需了解以下限制：

  • 数据库版本

    • 注意：

      如果上游 MySQL/MariaDB server 间构成主从复制结构，则需要 5.7.1 < MySQL 版本 < 8.0 或者 MariaDB 版本 >= 10.1.3。

      在使用 dmctl 启动任务时，DM 会自动对任务上下游数据库的配置、权限等进行。

  • DDL 语法

    • 目前，TiDB 部分兼容 MySQL 支持的 DDL 语句。因为 DM 使用 TiDB parser 来解析处理 DDL 语句，所以目前仅支持 TiDB parser 支持的 DDL 语法。详见 TiDB DDL 语法支持。

    • DM 遇到不兼容的 DDL 语句时会报错。要解决此报错，需要使用 dmctl 手动处理，要么跳过该 DDL 语句，要么用指定的 DDL 语句来替换它。详见。

  • 分库分表

    • 如果业务分库分表之间存在数据冲突，可以参考自增主键冲突处理来解决；否则不推荐使用 DM 进行同步，如果进行同步则有冲突的数据会相互覆盖造成数据丢失。
    • 关于分库分表合并场景的其它限制，参见。
    • DM-worker 重启后不能自动恢复数据同步任务，需要使用 dmctl 手动执行 start-task。详见管理数据同步任务。
    • 在一些情况下，DM-worker 重启后不能自动恢复 DDL lock 同步，需要手动处理。详见。

  • DM-worker 切换 MySQL

    • 当 DM-worker 通过虚拟 IP（VIP）连接到 MySQL 且要切换 VIP 指向的 MySQL 实例时，DM 内部不同的 connection 可能会同时连接到切换前后不同的 MySQL 实例，造成 DM 拉取的 binlog 与从上游获取到的其他状态不一致，从而导致难以预期的异常行为甚至数据损坏。如需切换 VIP 指向的 MySQL 实例，请参考虚拟 IP 环境下的上游主从切换对 DM 手动执行变更。