我们知道并行扫描是支持外部数据源的。在云上，有很多存储存储产品可以以外部数据源的形式做数据库的外部存储。例如，阿里云的 OSS 和 AWS 的 S3 都是绝佳的外部数据源。云上的 PostgreSQL 和他们的结合可以给用户提供既廉价又高性能数存储的方案。

另人欣喜的是，PostgreSQL 的外部表对外提供了可编程接口，并且支持并行扫描框架。利用它可以使 PostgreSQL 的外部数据源访问效率得到质的提升。

并行查询是 PostgreSQL 引入的一个大特性，它可以优化 SQL 语句的执行方式，从传统的单一进程，最多使用单个 CPU 运算的模式，提升到多进程，协同完成工作的模式。

并行查询消耗更多的硬件资源，大大提高了任务的执行效率。 在 PostgreSQL 中，一个 SQL 任务是否可以被并行化，可以通过查看 SQL 的执行计划（Plan）的方式看到。

例如：

可以看到，上面的 SQL 采用了并行的方式执行，它使用了2个额外的并行工作进程（共3个进程）完成工作。

  1. 并行 worker 主要完成顺序扫描数据的和过滤数据的工作，符合条件的数据被发送给主进程。
  2. 主进程的 Gather 节点接受来自子进程的数据，再发给客户端。

并行查询的参数配置

合理的配置下列参数能让 PostgreSQL 成功开启并行查询特性。

  1. max_parallel_workers_per_gather 单个 Gather 节点的并行度，让单个 SQL 更快的执行，可以增大该参数的设置。
  2. force_parallel_mode 是否让查询优化器尽可能的选择并行的执行方式。

详细的参数描述在这

外部表是 PostgreSQL 引入外部数据的入口，任何的外部数据源都可以使用该接口把数据引入到数据库中。用户可以像访问表一样读写外部数据源上的数据。 目前 PostgreSQL 支持的常见外部数据源有 MySQL Oracle PostgreSQL OSS S3 等。 PostgreSQL 在引入并行查询时也支持了外部表的并行查询，并扩展了之前的编程接口。

SQL 语句执行一般过程

一条 SQL 语句的执行通常经历下面的过程：

1) 语法分析和语意分析 2) 查询优化 3) 查询执行

  1. 查询优化阶段，需要提供对应外部数据源的数据大小（行数和行宽度）等信息，用于优化器计算最优的查询路径
  2. 查询执行阶段，需要实现几个回调函数，用于向执行器（executor）输送以行（slot）为单位的数据，直到外部数据读取完成。

并行查询模式的引入，是 PostgreSQL 在传统的 Pipeline 模式上的较大改动。

大致的改进点如下，这部分也是外部表的并行查询模式实现所要注意的

一 查询优化阶段

提供给优化器并行模型的各类代价信息，参与优化器进行整体的代价评估。 当并行模式最终被确认为最优方案后，优化器会给出并行模式的执行计划。

二 查询执行器阶段

执行器得到一个带有并行执行节点的计划，还要进行如下工作

  1. 启动并行工作进程。
  2. 开辟相关共享内存结构，准备交换数据。
  3. 构造并行协作相关内存结构。
  4. 给工作进程下发并行相关的执行任务。
  5. 并行执行，并行工作进程拿到数据做相应的处理后发送给主进程的 Gather 节点，主进程的 Gather 节点拿到数据后返回给上层节点。直到所有数据处理完毕。
  6. 释放资源，处理事物信息。

上诉工作中框架相关的通用工作 PostgreSQL 已经完成，我们需要在并行框架下实现各阶段的部分逻辑。下面将会重点说明这部分细节。

外表的并行查询的实现分析

实现外部表的并行扫描需要注意上述环节中每个环节，下面描述概要设计

一: 查询优化阶段

  1. 实现 IsForeignScanParallelSafe ,返回 true。 标志该数据源可以并行化。

  2. 补充函数 GetForeignPlan 创建可并行的外部表扫描节点 Plan。
    • 函数内部调用 make_foreignscan 根据输入的 Path 生成 Plan, 并向上返回。

并行任务关键当然是把一个大的任务拆分成多个尽可能不相关的子任务，让这些子任务被并行的完成。

例如：

  • 1 对外部 MySQL 一张表 t 的读取，可以按照表 t 主键的值域把数据拆分成 N 部分，让并行 worker 分别读取其中一部分。

  • 2 对外部数据源 oss 一个目录 dir1 中多个文件中数据的读取，可以把这批文件均匀的分成 N 份，让并行 worker 分别完成其中的一部分。

如何合理的切分子任务，往往决定了最终的并行效果。合理的切分数据会使并行任务间尽量少的交互，最终任务完成耗时和并行工作进程数线性相关。

执行器的具体工作:

  1. 实现 EstimateDSMForeignScan 计算需求的共享内存大小。这部分内存将用户存放整个并行任务的相关信息。 这部分流程主进程完成，即 Gather 节点完成。

  2. 实现 InitializeDSMForeignScan 分配共享内存，放入相关信息。 我们把整个大任务拆分成一个子任务队列，并存入到共享内存中，初始化锁等信息。 这部分流程也主进程完成，即 Gather 节点完成。

  3. 实现 InitializeWorkerForeignScan 并行 Worker 读取共享内存上的信息，获取子任务，准备正式开始工作。

  4. 数据的读写操作。 这部分的实现尽量兼容传统模式的数据读取，或小幅调整。

  5. 实现 ShutdownForeignScan 数据扫描完成的后清理工作。

并行查询能大大提高数据的访问效率，他把外部数据源深度整合到 PostgreSQL 中。可以轻松的和本地数据一起做复杂的运算。同时，我们也能利用这套机制，实现高效的外部数据导入工作。