使用dockerfile克隆私有git repo

时间:2014-04-30 15:14:11

标签: git bitbucket docker

我已经复制了这个代码,这些代码似乎是各种工作的dockerfiles,这是我的:

FROM ubuntu

MAINTAINER Luke Crooks "luke@pumalo.org"

# Update aptitude with new repo
RUN apt-get update

# Install software 
RUN apt-get install -y git python-virtualenv

# Make ssh dir
RUN mkdir /root/.ssh/

# Copy over private key, and set permissions
ADD id_rsa /root/.ssh/id_rsa
RUN chmod 700 /root/.ssh/id_rsa
RUN chown -R root:root /root/.ssh

# Create known_hosts
RUN touch /root/.ssh/known_hosts

# Remove host checking
RUN echo "Host bitbucket.org\n\tStrictHostKeyChecking no\n" >> /root/.ssh/config

# Clone the conf files into the docker container
RUN git clone git@bitbucket.org:Pumalo/docker-conf.git /home/docker-conf

这给了我错误

Step 10 : RUN git clone git@bitbucket.org:Pumalo/docker-conf.git /home/docker-conf
 ---> Running in 0d244d812a54
Cloning into '/home/docker-conf'...
Warning: Permanently added 'bitbucket.org,131.103.20.167' (RSA) to the list of known hosts.
Permission denied (publickey).
fatal: Could not read from remote repository.

Please make sure you have the correct access rights
and the repository exists.
2014/04/30 16:07:28 The command [/bin/sh -c git clone git@bitbucket.org:Pumalo/docker-conf.git /home/docker-conf] returned a non-zero code: 128

这是我第一次使用dockerfiles,但是根据我的阅读(并从工作配置中获取),我不明白为什么这不起作用。

我的id_rsa与我的dockerfile位于同一个文件夹中,是我本地密钥的副本,可以克隆此repo没问题。

编辑:

在我的dockerfile中,我可以添加:

RUN cat /root/.ssh/id_rsa

它打印出正确的密钥,因此我知道它被正确复制了。

我也试着这样做,因为诺亚建议并跑了:

RUN echo "Host bitbucket.org\n\tIdentityFile /root/.ssh/id_rsa\n\tStrictHostKeyChecking no" >> /etc/ssh/ssh_config

这可悲的是也没有用。

10 个答案:

答案 0 :(得分:269)

我的密钥受密码保护导致问题,下面列出了一个工作文件(以获取未来google的帮助)

FROM ubuntu

MAINTAINER Luke Crooks "luke@pumalo.org"

# Update aptitude with new repo
RUN apt-get update

# Install software 
RUN apt-get install -y git
# Make ssh dir
RUN mkdir /root/.ssh/

# Copy over private key, and set permissions
# Warning! Anyone who gets their hands on this image will be able
# to retrieve this private key file from the corresponding image layer
ADD id_rsa /root/.ssh/id_rsa

# Create known_hosts
RUN touch /root/.ssh/known_hosts
# Add bitbuckets key
RUN ssh-keyscan bitbucket.org >> /root/.ssh/known_hosts

# Clone the conf files into the docker container
RUN git clone git@bitbucket.org:User/repo.git

答案 1 :(得分:85)

您应该为该Docker镜像创建新的SSH密钥集,因为您可能不希望在其中嵌入您自己的私钥。要使其工作,您必须将该密钥添加到git存储库中的部署密钥。这是完整的食谱:

  1. 使用ssh-keygen -q -t rsa -N '' -f repo-key生成ssh密钥,它将为您提供repo-key和repo-key.pub文件。

  2. 将repo-key.pub添加到您的存储库部署密钥 在GitHub上,转到[您的存储库] - >设置 - >部署密钥

  3. 将这样的内容添加到Dockerfile中:

    ADD repo-key /
    RUN \
      chmod 600 /repo-key && \  
      echo "IdentityFile /repo-key" >> /etc/ssh/ssh_config && \  
      echo -e "StrictHostKeyChecking no" >> /etc/ssh/ssh_config && \  
      // your git clone commands here...
    
  4. 请注意,上面关闭了StrictHostKeyChecking,因此您不需要.ssh / known_hosts。虽然我可能在上面的一个答案中更喜欢使用ssh-keyscan的解决方案。

答案 2 :(得分:62)

没有必要摆弄ssh配置。使用包含环境变量的配置文件(不是Dockerfile),并在运行时使用shell脚本更新docker文件。您将令牌保留在Dockerfiles之外,您可以克隆https(无需生成或传递ssh密钥)。

转到Settings > Personal Access Tokens

  • 生成启用了repo范围的个人访问令牌。
  • 像这样克隆:git clone https://MY_TOKEN@github.com/user-or-org/repo

一些评论者指出,如果您使用共享的Dockerfile,这可能会将您的访问密钥暴露给您项目中的其他人。虽然这可能是也可能不是您特定用例的问题,但您可以通过以下方式处理:

  • 使用shell脚本接受可能包含键作为变量的参数。将Dockerfile中的变量替换为sed或类似名称,即使用sh rundocker.sh MYTOKEN=foo调用脚本,该脚本将替换https://{{MY_TOKEN}}@github.com/user-or-org/repo。请注意,您也可以使用配置文件(以.yml或您想要的任何格式)来执行相同的操作,但使用环境变量。
  • 仅为该项目创建github用户(并为其生成访问令牌)

答案 3 :(得分:16)

对于bitbucket存储库,生成应用程序密码(Bitbucket设置 - >访问管理 - >应用程序密码,请参阅图像),并具有对存储库和项目的读访问权。

bitbucket user menu

然后你应该使用的命令是:

git clone https://username:generated_password@bitbucket.org/reponame/projectname.git

答案 4 :(得分:16)

另一种选择是使用多阶段docker构建,以确保最终映像中不包含您的SSH密钥。

如我的post中所述,您可以准备具有所需依赖关系的中间映像以进行git clone,然后COPY将所需文件插入最终映像中。

另外,如果我们LABEL中间层,甚至可以在完成后从计算机中将其删除。

# Choose and name our temporary image.
FROM alpine as intermediate
# Add metadata identifying these images as our build containers (this will be useful later!)
LABEL stage=intermediate

# Take an SSH key as a build argument.
ARG SSH_KEY

# Install dependencies required to git clone.
RUN apk update && \
    apk add --update git && \
    apk add --update openssh

# 1. Create the SSH directory.
# 2. Populate the private key file.
# 3. Set the required permissions.
# 4. Add github to our list of known hosts for ssh.
RUN mkdir -p /root/.ssh/ && \
    echo "$SSH_KEY" > /root/.ssh/id_rsa && \
    chmod -R 600 /root/.ssh/ && \
    ssh-keyscan -t rsa github.com >> ~/.ssh/known_hosts

# Clone a repository (my website in this case)
RUN git clone git@github.com:janakerman/janakerman.git

# Choose the base image for our final image
FROM alpine

# Copy across the files from our `intermediate` container
RUN mkdir files
COPY --from=intermediate /janakerman/README.md /files/README.md

然后我们可以构建:

MY_KEY=$(cat ~/.ssh/id_rsa)
docker build --build-arg SSH_KEY="$MY_KEY" --tag clone-example .

证明我们的SSH密钥已消失:

docker run -ti --rm clone-example cat /root/.ssh/id_rsa

从构建机中清除中间映像:

docker rmi -f $(docker images -q --filter label=stage=intermediate)

答案 5 :(得分:1)

以上解决方案不适用于bitbucket。我认为这可以解决问题:

RUN ssh-keyscan bitbucket.org >> /root/.ssh/known_hosts \
    && eval `ssh-agent` \
    && ssh-add ~/.ssh/[key] \
    && git clone git@bitbucket.org:[team]/[repo].git

答案 6 :(得分:1)

现在,您可以在构建容器时使用 Buildkit 选项 --ssh default;在构建之前,您需要将您的 SSH 部署密钥添加到您的 ssh-agent。

这是从一开始的完整过程:

  1. 在您的部署服务器上创建一个密钥对。只需运行 ssh-keygen -t ecdsa 将您的密钥对存储到 ~/.ssh

  2. 在您的 git 提供商网站(gitlab、github..)添加您生成的公钥(.pub 扩展名)

  3. 将您的密钥添加到您的 ssh-agent(一个基本上比处理每个文件更容易管理您的密钥的程序)

eval $(ssh-agent)
ssh-add /path/to/your/private/key
  1. 将此添加到您的 Dockerfile 中:
# this 3 first lines add your provider public keys to known_host 
# so git doesn't get an error from SSH.

RUN mkdir -m 700 /root/.ssh && \
  touch -m 600 /root/.ssh/known_hosts && \
  ssh-keyscan your-git-provider.com > /root/.ssh/known_hosts 


# now you can clone with --mount=type=ssh option, 
# forwarding to Docker your host ssh agent

RUN mkdir -p /wherever/you/want/to/clone && cd /wherever/you/want/to/clone && \
  --mount=type=ssh git clone git@gitlab.com:your-project.git
  1. 现在您终于可以构建您的 Dockerfile(启用 buildkit)
DOCKER_BUILDKIT=1 docker build . --ssh default

由于您目前无法在 docker-compose 中传递控制台参数,因此此解决方案尚不可用于 docker-compose,但应该很快(已在 github 上完成并作为合并请求提出)

答案 7 :(得分:0)

您通常不希望在docker内部构建中执行git clone私有仓库。在此处进行克隆涉及将私有ssh凭据放置在映像中,以后任何有权访问您的映像的人都可以提取它们。

相反,通常的做法是在您选择的CI工具中从docker外部克隆git repo,然后简单地COPY将文件插入映像。这有第二个好处:Docker缓存。 Docker缓存会查看正在运行的命令,它包含的环境变量,输入文件等,如果它们与同一父步骤中的先前构建相同,则会重用该先前的缓存。使用git clone命令,该命令本身是相同的,因此即使更改了外部git repo,docker也将重用缓存。但是,COPY命令将在构建上下文中查看文件,并查看它们是否相同或已被更新,并且仅在适当时使用缓存。


如果要向构建中添加凭据,请考虑采用多阶段构建,并仅将这些凭据放置在永不标记和推送到构建主机之外的早期阶段。结果如下:

FROM ubuntu as clone

# Update aptitude with new repo
RUN apt-get update \
 && apt-get install -y git
# Make ssh dir
# Create known_hosts
# Add bitbuckets key
RUN mkdir /root/.ssh/ \
 && touch /root/.ssh/known_hosts \
 && ssh-keyscan bitbucket.org >> /root/.ssh/known_hosts

# Copy over private key, and set permissions
# Warning! Anyone who gets their hands on this image will be able
# to retrieve this private key file from the corresponding image layer
COPY id_rsa /root/.ssh/id_rsa

# Clone the conf files into the docker container
RUN git clone git@bitbucket.org:User/repo.git

FROM ubuntu as release
LABEL maintainer="Luke Crooks <luke@pumalo.org>"

COPY --from=clone /repo /repo
...

最近,BuildKit一直在测试一些实验性功能,这些功能使您可以将ssh密钥作为永远不会写入映像的挂载来传递:

# syntax=docker/dockerfile:experimental
FROM ubuntu as clone
LABEL maintainer="Luke Crooks <luke@pumalo.org>"

# Update aptitude with new repo
RUN apt-get update \
 && apt-get install -y git

# Make ssh dir
# Create known_hosts
# Add bitbuckets key
RUN mkdir /root/.ssh/ \
 && touch /root/.ssh/known_hosts \
 && ssh-keyscan bitbucket.org >> /root/.ssh/known_hosts

# Clone the conf files into the docker container
RUN --mount=type=secret,id=ssh_id,target=/root/.ssh/id_rsa \
    git clone git@bitbucket.org:User/repo.git

您可以使用以下命令构建它:

$ DOCKER_BUILDKIT=1 docker build -t your_image_name \
  --secret id=ssh_id,src=$(pwd)/id_rsa .

请注意,这仍然要求您的ssh密钥不受密码保护,但是您至少可以在一个阶段中运行构建,删除COPY命令,并避免ssh证书成为映像的一部分。


BuildKit还为ssh添加了一个功能,该功能使您仍然可以使用受密码保护的ssh密钥,结果如下:

# syntax=docker/dockerfile:experimental
FROM ubuntu as clone
LABEL maintainer="Luke Crooks <luke@pumalo.org>"

# Update aptitude with new repo
RUN apt-get update \
 && apt-get install -y git

# Make ssh dir
# Create known_hosts
# Add bitbuckets key
RUN mkdir /root/.ssh/ \
 && touch /root/.ssh/known_hosts \
 && ssh-keyscan bitbucket.org >> /root/.ssh/known_hosts

# Clone the conf files into the docker container
RUN --mount=type=ssh \
    git clone git@bitbucket.org:User/repo.git

您可以使用以下命令构建它:

$ eval $(ssh-agent)
$ ssh-add ~/.ssh/id_rsa
(Input your passphrase here)
$ DOCKER_BUILDKIT=1 docker build -t your_image_name \
  --ssh default=$SSH_AUTH_SOCK .

同样,这将被注入到构建中,而无需写入图像层,从而消除了凭据可能意外泄漏的风险。


要强制docker即使在缓存了之前的行的情况下也运行git clone,您可以注入一个随每个构建而变化的构建ARG,以中断缓存。看起来像:

# inject a datestamp arg which is treated as an environment variable and
# will break the cache for the next RUN command
ARG DATE_STAMP
# Clone the conf files into the docker container
RUN git clone git@bitbucket.org:User/repo.git

然后将变化的arg注入docker build命令中

date_stamp=$(date +%Y%m%d-%H%M%S)
docker build --build-arg DATE_STAMP=$date_stamp .

答案 8 :(得分:0)

对于搜索的其他人,我遇到了同样的问题,添加 --ssh default 标志使其工作

答案 9 :(得分:0)

创建访问令牌:https://github.com/settings/tokens

将其作为参数传递给 docker (ps 如果您使用的是 CapRover,请将其设置在 App Configs 下)

在您的 Dockerfile 中:

ARG GITHUB_TOKEN=${GITHUB_TOKEN}
RUN git config --global url."https://${GITHUB_TOKEN}@github.com/".insteadOf "https://github.com/"
RUN pip install -r requirements.txt

附言这假设私有存储库在 requirements.txt 中采用以下格式:

git+https://github.com/<YOUR-USERNAME>/<YOUR-REPO>.git