外部持久卷

通过 Marathon 使用外部持久卷

Marathon 应用程序通常在终止和重新启动时失去状态。在某些情况下,例如,如果您的应用程序使用 MySQL,您将希望应用程序保存其状态。您可以使用外部存储服务,例如 Amazon 的 Elastic Block Store (EBS),创建跟随应用程序实例的持久卷。

请注意,卷的大小以吉字节 (GiB) 为单位指定。

创建具有外部持久卷的应用程序

您可以在 [Marathon 应用定义][6] 中指定外部卷。

此应用定义中 将 date 命令的输出附加到 test.txt. 如果您看到应用程序连续运行的日志显示越来越多的 date 输出行,则可以确定外部卷已被正确使用。

卷配置选项

  • containerPath:卷装载在容器内的路径。对于 Mesos 外部卷,这必须是相对于容器的单层路径;不能包含正斜杠 (/). 有关更多信息,请参阅[数据目录上的 REX-Ray 文档][7]。
  • mode:卷的访问模式。目前, "RW" 是唯一可能的值,它将允许您的应用程序从卷中读取及写入卷。
  • external.size:以 GiB 为单位的卷大小。
  • external.name: name 卷驱动程序用于查找外部卷的名称。当您的任务在代理程序上暂存时,卷驱动程序将在存储服务中查询具有此名称的卷。如果不存在,则是[隐式创建的][8]。否则,将重用现有卷。
  • external.options["dvdi/driver"]:用于存储的 Docker 卷驱动程序。随 DC/OS 提供的唯一靠 Docker 卷驱动程序是 rexray. 了解有关 [REX-Ray][9] 的更多信息。
  • 您可以通过 container.volumes[x].external.options[optionName] 来指定其他选项。Mesos 容器的 dvdi 提供程序适用 dvdcli,它提供以下[选项][10]。任何选项的可用性取决于您的卷驱动程序。
  • 通过在 container.volumes 阵列中添加其他项来创建多个卷。
  • 创建应用程序后,无法更改卷参数。
  • upgradeStrategy.minimumHealthCapacity 大于 0.5 或 upgradeStrategy.maximumOverCapacity 不等于 0,Marathon 将不会启动具有外部卷的应用程序。

使用 Docker 引擎

下面是一个示例应用定义,它使用 Docker Engine 并指定外部卷。此应用定义中 cmddate 命令的输出附加到 test.txt. 如果您看到应用程序连续运行的日志显示越来越多的 date 输出行,则可以验证是否正确使用了外部卷。

  1. {
  2. "id": "/test-docker",
  3. "cpus": 0.1,
  4. "mem": 32,
  5. "cmd": "date >> /data/test-rexray-volume/test.txt; cat /data/test-rexray-volume/test.txt",
  6. "container": {
  7. "type": "DOCKER",
  8. "docker": {
  9. "image": "alpine:3.1",
  10. "network": "HOST",
  11. "forcePullImage": true
  12. },
  13. "volumes": [
  14. {
  15. "containerPath": "/data/test-rexray-volume",
  16. "external": {
  17. "name": "my-test-vol",
  18. "provider": "dvdi",
  19. "options": { "dvdi/driver": "rexray" }
  20. },
  21. "mode": "RW"
  22. }
  23. ]
  24. },
  25. "minimumHealthCapacity": 0,
  26. "maximumOverCapacity": 0
  27. }

卷配置选项

  • containerPath 必须是绝对的。
  • 只有某些版本的 Docker 与 REX-Ray 卷驱动程序兼容。请参阅 [REX-Ray 文档][11]。
  1. 单击 Services 选项卡,然后 RUN A SERVICE
  2. 如果您正在使用 Docker 容器,请单击 Container Settings 并配置您的容器运行时间。
  3. 单击 Volumes 并输入卷名称和容器路径。
  4. 单击 Deploy

隐式卷

默认隐式卷大小为 16 GiB。如果您使用的是 Universal Container Runtime,则可以通过设置 来修改特定卷的此默认值。volumes[x].external.size. 如果您使用的是 Docker Engine,则无法修改特定卷的此默认值。但是,对于这两个运行时间,您可以通过修改 [REX-Ray configuration][4] 来修改所有隐式卷的默认大小。

扩展应用程序

如果将应用程序减容到 0 个实例,该卷将从装载它的代理程序中分离,但不会被删除。如果您再次扩展应用程序,则与其关联的数据仍然可用。

使用第三方 Docker 卷驱动程序

如果您想使用第三方的 Docker 卷驱动程序,而非 REX-RAY(例如,Netapp Trident),那么您需要在每个代理节点上执行以下步骤(以下步骤以 Trident 为例):

  1. 将卷驱动程序安装为 Docker 插件。

  2. 将卷驱动程序注册到 Docker 插件目录。请参阅 ,以了解 Docker 如何发现插件。

    1. $ sudo mkdir -p /etc/docker/plugins/
    2. $ sudo bash -c 'echo "unix:///run/docker/plugins/<plugin-id>/netapp.sock" > /etc/docker/plugins/netapp.spec'

现在,您可以在 DC/OS 中使用卷驱动程序了。创建应用程序时,您需要将选项 external.options["dvdi/driver"] 设为卷驱动程序的名称(如 netapp)。

潜在问题

  • 每个卷只能分配一个任务。您的存储提供程序可能有其他限制。
  • 您创建的卷不会自动清除。如果删除群集,则必须转至存储提供程序并删除不再需要的卷。如果您正在使用 EBS,请通过您在 Marathon 应用定义中设置的 container.volumes.external.name 进行搜索来查找它们。此名称对应于 EBS 卷 Name 标签。
  • 卷由其存储提供程序命名。选择唯一的卷名称以避免冲突。
  • 如果使用 Docker,则必须使用兼容的 Docker 版本。请参阅 [REX-Ray 文档][11],了解哪些版本的 Docker 与 REX-Ray 卷驱动程序兼容。
  • 对于隐式创建卷的应用程序,启动时间可能会增加。增加的量取决于若干因素,包括卷大小和类型。存储提供程序处理卷的方法也会影响隐式创建卷的启动时间。

在同一 AWS 账户上创建的卷共享一个命名空间。选择唯一的卷名称以避免在同一帐户下启动多个群集时的冲突。

默认情况下,REX-Ray 将在连接 13 个 EBS 卷后失败。使用 [配置选项 useLargeDeviceRange 来扩展此限制][13],这已在 RexRay v0.11.4 中引入。

在某些较新的 EC2 实例类型上,EBS 卷作为非易失性内存主机控制器接口规范 (NVMe) 设备存在。对 NVMe 的支持仅添加到 v0.11.4 的 RexRay。您需要采取以下必要步骤,才能使 RexRay 与 CentOS 上的 NVMe 设备一起使用(在较新的 CoreOS AMI 上,则不需要):

  1. 安装 NVMe CLI 命令。

  2. 安装必要的 udev 规则和 helper 脚本。这些都取自 RexRay 用户指南.

    1. $ cat <<EOF > /etc/udev/rules.d/999-aws-ebs-nvme.rules
    2. KERNEL=="nvme[0-9]*n[0-9]*", ENV{DEVTYPE}=="disk", ATTRS{model}=="Amazon Elastic Block Store", PROGRAM="/usr/local/bin/ebs-nvme-mapping /dev/%k", SYMLINK+="%c"
    3. EOF
  3. 创建 helper 脚本。

  1. 1. 在脚本上设置文件权限,然后重新加载 udev 规则。
  2. ```bash
  3. $ chown root:root /usr/local/bin/ebs-nvme-mapping
  4. $ udevadm control --reload

有关外部卷的故障排除,请参阅代理程序或系统日志。如果您在 DC/OS 上使用 REX-Ray,还可以查阅 systemd 日志中的 dcos-rexray.service 单元记录。