如何使用docker compose v3

时间:2017-07-24 14:00:09

标签: docker docker-compose docker-swarm docker-swarm-mode

我有一个v3的撰写文件,其中有3个服务共享/使用相同的卷。在使用swarm模式时,我们需要创建额外的容器和放大器。卷来管理整个群集中的服务。

我打算使用NFS服务器,以便将单个NFS共享直接挂载到群集中的所有主机上。

我在下面找到了两种方法,但它需要在docker主机上执行额外的步骤 -

有没有一种标准方法可以直接使用/挂载NFS共享使用docker compose v3,只需执行少量/无步骤(我知道无论如何都需要“nfs-common”包)吗?

5 个答案:

答案 0 :(得分:28)

在发现这是大规模未记录之后,这里是使用堆栈和docker compose安装NFS卷的正确方法。

最重要的是您需要使用version: "3.2"或更高版本。如果你不这样做,你将会遇到奇怪且不明显的错误。

第二个问题是,当定义更改时,卷会自动更新。这可能会让你陷入困境,认为当你的变化尚未被应用时,你的变化是不正确的。确保你docker rm VOLUMENAME到处都可以,就像卷存在一样,它不会被验证。

第三个问题更多的是NFS问题 - 如果NFS服务器不存在,那么它将在服务器上 。这就是NFS的工作方式。在做任何事之前,你需要确保它存在。

(不要删除'软' nolock'除非你确定你知道你正在做什么 - 这会阻止码头工人冻结你的NFS服务器消失了)

这是一个完整的例子:

[root@docker docker-mirror]# cat nfs-compose.yml
version: "3.2"

services:
  rsyslog:
    image: jumanjiman/rsyslog
    ports:
      - "514:514"
      - "514:514/udp"
    volumes:
      - type: volume
        source: example
        target: /nfs
        volume:
          nocopy: true
volumes:
  example:
    driver_opts:
      type: "nfs"
      o: "addr=10.40.0.199,nolock,soft,rw"
      device: ":/docker/example"



[root@docker docker-mirror]# docker stack deploy --with-registry-auth -c nfs-compose.yml rsyslog
Creating network rsyslog_default
Creating service rsyslog_rsyslog
[root@docker docker-mirror]# docker stack ps rsyslog
ID                  NAME                IMAGE                       NODE                DESIRED STATE       CURRENT STATE                     ERROR               PORTS
tb1dod43fe4c        rsyslog_rsyslog.1   jumanjiman/rsyslog:latest   swarm-4             Running             Starting less than a second ago
[root@docker docker-mirror]#

现在,在swarm-4上:

root@swarm-4:~# docker ps
CONTAINER ID        IMAGE                       COMMAND                  CREATED             STATUS              PORTS               NAMES
d883e0f14d3f        jumanjiman/rsyslog:latest   "rsyslogd -n -f /e..."   6 seconds ago       Up 5 seconds        514/tcp, 514/udp    rsyslog_rsyslog.1.tb1dod43fe4cy3j5vzsy7pgv5
root@swarm-4:~# docker exec -it d883e0f14d3f df -h /nfs
Filesystem                Size      Used Available Use% Mounted on
:/docker/example          7.2T      5.5T      1.7T  77% /nfs
root@swarm-4:~#

将在运行堆栈的任何swarm节点上创建此卷(但不销毁)。

root@swarm-4:~# docker volume inspect rsyslog_example
[
    {
        "CreatedAt": "2017-09-29T13:53:59+10:00",
        "Driver": "local",
        "Labels": {
            "com.docker.stack.namespace": "rsyslog"
        },
        "Mountpoint": "/var/lib/docker/volumes/rsyslog_example/_data",
        "Name": "rsyslog_example",
        "Options": {
            "device": ":/docker/example",
            "o": "addr=10.40.0.199,nolock,soft,rw",
            "type": "nfs"
        },
        "Scope": "local"
    }
]
root@swarm-4:~#

答案 1 :(得分:6)

是的,您可以直接从撰写文件中引用NFS:

volumes:
   db-data:
      driver: local
      driver_opts:
        type: nfs
        o: addr=$SOMEIP,rw
        device: ":$PathOnServer"

以类似的方式,您可以在每个主机上创建一个nfs卷。

docker volume create --driver local --opt type=nfs --opt o=addr=$SomeIP,rw --opt device=:$DevicePath --name nfs-docker

答案 2 :(得分:2)

我的适用于AWS EFS的解决方案有效,

  1. Create EFS(不要忘记在安全组中打开NFS端口2049)
  2. 安装nfs通用软件包:

    sudo apt-get install -y nfs-common

  3. 检查您的ef是否有效:

    mkdir efs-test-point
    sudo chmod go+rw efs-test-point
    sudo mount -t nfs -o nfsvers=4.1,rsize=1048576,wsize=1048576,hard,timeo=600,retrans=2,noresvport [YOUR_EFS_DNS]:/ efs-test-point
    touch efs-test-point/1.txt
    sudo umount efs-test-point/
    ls -la efs-test-point/
      

    目录必须为空

    sudo mount -t nfs -o nfsvers=4.1,rsize=1048576,wsize=1048576,hard,timeo=600,retrans=2,noresvport [YOUR_EFS_DNS]:/ efs-test-point

    ls -la efs-test-point/

      

    文件1.txt必须存在

  4. 配置docker-compose.yml文件:

    services:
      sidekiq:
        volumes:
          - uploads_tmp_efs:/home/application/public/uploads/tmp
      ...
    volumes:
      uploads_tmp_efs:
        driver: local
        driver_opts:
          type: nfs
          o: addr=[YOUR_EFS_DNS],nfsvers=4.1,rsize=1048576,wsize=1048576,hard,timeo=600,retrans=2
          device: [YOUR_EFS_DNS]:/

答案 3 :(得分:0)

我的问题通过将驱动程序选项类型更改为NFS4得以解决。

volumes:
  my-nfs-share:
    driver: local
    driver_opts:
      type: "nfs4"
      o: "addr=172.24.0.107,rw"
      device: ":/mnt/sharedwordpress"

答案 4 :(得分:0)

根据我需要如何使用该卷,我有以下3种选择。

首先,您可以直接创建命名卷,并将其用作compose的外部卷,或者用作docker rundocker service create命令中的命名卷。

  # create a reusable volume
  $ docker volume create --driver local \
      --opt type=nfs \
      --opt o=nfsvers=4,addr=nfs.example.com,rw \
      --opt device=:/path/to/dir \
      foo

接下来,在--mountdocker run中使用docker service create语法。这是一个相当长的选项,当您在另一个逗号分隔的选项中嵌入一个逗号分隔的选项时,您需要将一些引号(转义以使外壳程序不会将其删除)传递给正在运行的命令。我倾向于将其用于需要访问NFS的一次性容器(例如,用于设置NFS目录的实用程序容器):

  # or from the docker run command
  $ docker run -it --rm \
    --mount type=volume,dst=/container/path,volume-driver=local,volume-opt=type=nfs,\"volume-opt=o=nfsvers=4,addr=nfs.example.com\",volume-opt=device=:/host/path \
    foo

  # or to create a service
  $ docker service create \
    --mount type=volume,dst=/container/path,volume-driver=local,volume-opt=type=nfs,\"volume-opt=o=nfsvers=4,addr=nfs.example.com\",volume-opt=device=:/host/path \
    foo

最后,您可以在撰写文件中定义命名卷。这样做的一个重要注意事项是,名称卷仅创建一次,不会进行任何更改更新。因此,如果您需要修改命名卷,则需要为其重新命名。

  # inside a docker-compose file
  ...
  services:
    example-app:
      volumes:
      - "nfs-data:/data"
  ...
  volumes:
    nfs-data:
      driver: local
      driver_opts:
        type: nfs
        o: nfsvers=4,addr=nfs.example.com,rw
        device: ":/path/to/dir"
  ...

在以下每个示例中:

  • 类型设置为nfs,而不是nfs4。这是因为docker在addr字段上提供了一些不错的功能,但仅适用于nfs类型。
  • o是传递给mount syscall的选项。在Linux中,mount syscall和mount命令之间的区别是设备具有:移到addr选项之前的部分。
  • nfsvers用于设置NFS版本。这样可以避免由于操作系统首先尝试其他NFS版本而导致的延迟。
  • addr可能是您使用type=nfs时的DNS名称,而不仅仅是IP地址。如果您有多个具有不同NFS服务器且使用相同DNS名称的VPC,或者您想在以后调整NFS服务器而不更新每个卷安装,则非常有用。
  • 其他选项,例如rw(读写)可以传递给o选项。
  • device字段是远程NFS服务器上的路径。前导冒号是必需的。这是mount命令如何将IP地址移动到syscall的addr字段的构件。在将卷装入容器之前,该目录必须存在于远程主机上。
  • --mount语法中,dst字段是容器内部的路径。对于命名卷,您可以在docker run -v命令的卷装载右侧(以简短语法)设置此路径。

如果在访问远程NFS卷时遇到权限问题,我遇到的一个常见原因是容器以root身份运行,并且NFS服务器设置为root squash(将所有root访问权限更改为none用户)。您需要将容器配置为以可以访问NFS服务器上目录的众所周知的非根UID运行,或者在NFS服务器上禁用根压扁。