TiDB Lightning 后端

    以上几种后端导入数据的区别如下：

    • Importer-backend：tidb-lightning 先将 SQL 或 CSV 数据编码成键值对，由 tikv-importer 对写入的键值对进行排序，然后把这些键值对 Ingest 到 TiKV 节点中。

    • Local-backend：tidb-lightning 先将数据编码成键值对并排序存储在本地临时目录，然后批量将这些键值对写到各个 TiKV 节点，然后由 TiKV 将它们 Ingest 到集群中。和 Importer-backend 原理相同，不过不依赖额外的 tikv-importer 组件。

    • TiDB-backend：tidb-lightning 先将数据编码成 INSERT 语句，然后直接在 TiDB 节点上运行这些 SQL 语句进行数据导入。

    • 如果导入的目标集群为 v4.0 或以上版本，请优先考虑使用 Local-backend 模式。Local-backend 部署更简单并且性能也较其他两个模式更高
    • 如果目标集群为 v3.x 或以下，则建议使用 Importer-backend 模式
    • 如果需要导入的集群为生产环境线上集群，或需要导入的表中已包含有数据，则最好使用 TiDB-backend 模式

    自 TiDB 4.0.3 版本起，TiDB Lightning 引入了 Local-backend 特性。该特性支持导入数据到 v4.0.0 以上的 TiDB 集群。

    TiDB Lightning Local-backend 模式的部署方法见 。

    使用 TiDB-backend 时，你无需部署 tikv-importer。与标准部署过程相比，部署 TiDB-backend 时有如下不同：

    • 可以跳过所有涉及 tikv-importer 的步骤。
    • 必须更改相应配置申明使用的是 TiDB-backend。

    硬件需求

    使用 TiDB-backend 时， TiDB Lightning 的速度仅受限于 TiDB 执行 SQL 语句的速度。因此，即使是低配的机器也足够发挥出最佳性能。推荐的硬件配置如下：

    • 16 逻辑核 CPU
    • 足够储存整个数据源的 SSD 硬盘，读取速度越快越好
    • 千兆网卡

    使用 TiDB Ansible 部署

    1. inventory.ini 文件中，[importer_server] 部分可以留空。

    2. 忽略 group_vars/all.yml 文件中 tikv_importer_port 部分的设置，group_vars/importer_server.yml 文件也不需要修改。但是你需要在 conf/tidb-lightning.yml 文件中将 backend 设置更改为 tidb。

      1.  ...
      2.  tikv_importer:
      3.      backend: "tidb"   # <-- 改成 “tidb”
      4.  ...

    3. 启动、部署集群。

    4. 为 TiDB Lightning 挂载数据源。

    5. 启动 tidb-lightning。

    手动部署

    手动部署时，你无需下载和配置 tikv-importer，TiDB Lightning 可在此下载。

    1. [tikv-importer]
    2. backend = "tidb"

    或者在用命令行启动 tidb-lightning 时，传入参数 --backend tidb。

    TiDB-backend 支持导入到已填充的表（非空表）。但是，新数据可能会与旧数据的唯一键冲突。你可以通过使用如下任务配置来控制遇到冲突时的默认行为：

    1. [tikv-importer]
    2. backend = "tidb"
    3. on-duplicate = "replace" # 或者 “error”、“ignore”

    当需要将数据导入到 TiDB 集群时，TiDB Lightning TiDB-backend 可以完全取代 。下表说明了如何将 Loader 的配置迁移到 中：

    本节介绍 TiDB Lightning 使用 Importer 模式的两种部署方式：使用 TiDB Ansible 部署和。

    硬件需求

    tidb-lightning 和 tikv-importer 这两个组件皆为资源密集程序，建议各自单独部署。

    为了优化效能，建议硬件配置如下：

    • tidb-lightning

      • 32+ 逻辑核 CPU
      • 足够储存整个数据源的 SSD 硬盘，读取速度越快越好
      • 使用万兆网卡，带宽需 300 MB/s 以上

    • tikv-importer

      • 32+ 逻辑核 CPU
      • 40 GB+ 内存
      • 1 TB+ SSD 硬盘，IOPS 越高越好（要求 ≥8000）
        • 硬盘必须大于最大的 N 个表的大小总和，其中 N = max(index-concurrency, table-concurrency)。
      • 使用万兆网卡，带宽需 300 MB/s 以上
      • 运行过程中 CPU、I/O 和网络带宽资源都可能占满，建议单独部署。

    如果机器充裕的话，可以部署多套 tidb-lightning + tikv-importer，然后将源数据以表为粒度进行切分，并发导入。

    使用 TiDB Ansible 部署 TiDB Lightning

    TiDB Lightning 可随 TiDB 集群一起用 TiDB Ansible 部署。

    1. 编辑 inventory.ini，分别配置一个 IP 来部署 tidb-lightning 和 tikv-importer。

      1.  ...
      3.  [importer_server]
      4.  192.168.20.9
      6.  [lightning_server]
      7.  192.168.20.10
      9.  ...

    2. 修改 group_vars/*.yml 的变量配置这两个工具。

      • group_vars/all.yml

      • group_vars/lightning_server.yml

        1.   ---
        2.   dummy:
        4.   # 提供监控告警的端口。需对监控服务器 (monitoring_server) 开放。
        5.   tidb_lightning_pprof_port: 8289
        7.   # 获取数据源（Mydumper SQL dump 或 CSV）的路径。
        8.   data_source_dir: "{{ deploy_dir }}/mydumper"
        1.   ---
        2.   dummy:
        4.   # 储存引擎文件的路径。需存放在空间足够大的分区。
        5.   import_dir: "{{ deploy_dir }}/data.import"

    3. 开始部署。

      1.  ansible-playbook bootstrap.yml &&
      2.  ansible-playbook deploy.yml

    4. 将数据源写入 data_source_dir 指定的路径。

    5. 登录 tikv-importer 的服务器，并执行以下命令来启动 Importer。

      1.  scripts/start_importer.sh

    6. 登录 tidb-lightning 的服务器，并执行以下命令来启动 Lightning，开始导入过程。

    7. 完成后，在 tikv-importer 的服务器执行 scripts/stop_importer.sh 来关闭 Importer。

    手动部署 TiDB Lightning

    第 1 步：部署 TiDB 集群

    在开始数据导入之前，需先部署一套要进行导入的 TiDB 集群 (版本要求 2.0.9 以上)，建议使用最新版。部署方法可参考 。

    第 2 步：下载 TiDB Lightning 安装包

    在页面下载 TiDB Lightning 安装包（需选择与 TiDB 集群相同的版本）。

    第 3 步：启动 tikv-importer

    1. 从安装包上传 bin/tikv-importer。

    2. 配置 tikv-importer.toml。

      1.  # TiKV Importer 配置文件模版
      3.  # 日志文件。
      4.  log-file = "tikv-importer.log"
      5.  # 日志等级：trace、debug、info、warn、error、off。
      6.  log-level = "info"
      8.  status-server-address = "0.0.0.0:8286"
      11.  # tikv-importer 监听的地址，tidb-lightning 需要连到这个地址进行数据写入。
      12.  addr = "0.0.0.0:8287"
      14.  [metric]
      15.  # 给 Prometheus 客户端的推送任务名称。
      16.  job = "tikv-importer"
      17.  # 给 Prometheus 客户端的推送间隔。
      18.  interval = "15s"
      19.  # Prometheus Pushgateway 地址。
      20.  address = ""
      22.  [import]
      23.  # 存储引擎文档 (engine file) 的文件夹路径。
      24.  import-dir = "/mnt/ssd/data.import/"

      上面仅列出了 tikv-importer 的基本配置。完整配置请参考。

    3. 运行 tikv-importer。

      1.  nohup ./tikv-importer -C tikv-importer.toml > nohup.out &
    第 4 步：启动 tidb-lightning

    1. 从安装包上传 bin/tidb-lightning 及 bin/tidb-lightning-ctl。

    2. 将数据源写入到同样的机器。

    3. 配置 tidb-lightning.toml。对于没有出现在下述模版中的配置，TiDB Lightning 给出配置错误的提醒并退出。

      1.  [lightning]
      3.  # 转换数据的并发数，默认为逻辑 CPU 数量，不需要配置。
      4.  # 混合部署的情况下可以配置为逻辑 CPU 的 75% 大小。
      5.  # region-concurrency =
      7.  # 日志
      8.  level = "info"
      9.  file = "tidb-lightning.log"
      11.  [tikv-importer]
      12.  # tikv-importer 的监听地址，需改成 tikv-importer 服务器的实际地址。
      13.  addr = "172.16.31.10:8287"
      15.  [mydumper]
      16.  # Mydumper 源数据目录。
      17.  data-source-dir = "/data/my_database"
      19.  [tidb]
      20.  # 目标集群的信息。tidb-server 的监听地址，填一个即可。
      21.  host = "172.16.31.1"
      22.  port = 4000
      23.  user = "root"
      24.  password = ""
      25.  # 表架构信息在从 TiDB 的“状态端口”获取。
      26.  status-port = 10080

    4. 运行 tidb-lightning。如果直接在命令行中用 nohup 启动程序，可能会因为 SIGHUP 信号而退出，建议把 nohup 放到脚本里面，如：

      1.  #!/bin/bash
      2.  nohup ./tidb-lightning -config tidb-lightning.toml > nohup.out &