通过Docker

时间:2015-10-21 09:32:54

标签: kubernetes

我正在尝试为我的团队准备开发环境,因此我们可以使用相同(或接近相同)的环境进行开发,分阶段和部署。

通过http://kubernetes.io/v1.0/docs/getting-started-guides/docker.html在本地运行Kubernetes群集非常简单。然后我可以使用kubectl为我的应用程序启动pod和服务。

但是,每次启动时,服务IP地址都会有所不同。如果您的代码需要使用它们,那么这是一个问题。在Google容器引擎中,kube DNS意味着您可以按名称访问服务。这意味着使用该服务的代码可以在部署之间保持不变。

现在,我知道我们可以通过环境变量将IP和PORT拼凑在一起,但我希望尽可能采用相同的设置。

因此,我遵循了在各个地方发现的一些说明,包括this这里和Kubernetes回购。

当然,只需编辑一下yml文件就可以启动KubeDNS。

但是kubernetes.default上的nslookup失败了。 DNS上的运行状况检查也会失败(因为它无法解析测试查找),并且实例已关闭并重新启动。

运行kubectl cluster-info会导致:

Kubernetes master is running at http://localhost:8080
KubeDNS is running at http://localhost:8080/api/v1/proxy/namespaces/kube-system/services/kube-dns

一切都很好。但是,点击该端点会导致:

{
  kind: "Status",
  apiVersion: "v1",
  metadata: { },
  status: "Failure",
  message: "no endpoints available for "kube-dns"",
  code: 500
}

我现在处于亏损状态,并且知道它是明显的或易于修复的东西,因为它似乎都在起作用。以下是我启动集群和DNS的方法。

# Run etcd
docker run --net=host \
 -d gcr.io/google_containers/etcd:2.0.12 /usr/local/bin/etcd  \
 --addr=127.0.0.1:4001 --bind-addr=0.0.0.0:4001 --data-dir=/var/etcd/data

# Run the master
docker run \
    --volume=/:/rootfs:ro \
    --volume=/sys:/sys:ro \
    --volume=/dev:/dev \
    --volume=/var/lib/docker/:/var/lib/docker:ro \
    --volume=/var/lib/kubelet/:/var/lib/kubelet:rw \
    --volume=/var/run:/var/run:rw \
    --net=host \
    --privileged=true \
    -d \
    gcr.io/google_containers/hyperkube:v1.0.6 \
    /hyperkube kubelet --containerized --hostname-override="127.0.0.1" \
     --address="0.0.0.0" --api-servers=http://localhost:8080 \
      --config=/etc/kubernetes/manifests \
      --cluster_dns=10.0.0.10  --cluster_domain=cluster.local

# Run the service proxy
docker run -d --net=host --privileged gcr.io/google_containers/hyperkube:v1.0.6 \
 /hyperkube proxy --master=http://127.0.0.1:8080 --v=2

# forward local port - after this you should be able to user kubectl locally

machine=default; ssh -i ~/.docker/machine/machines/$machine/id_rsa docker@$(docker-machine ip $machine) -L 8080:localhost:8080

所有容器都旋转正常,kubectl让节点报告正常。注意我传入了dns标志。

然后我使用此文件启动DNS rc,该文件是here

的编辑版本
apiVersion: v1
kind: ReplicationController
metadata:
  name: kube-dns-v9
  namespace: kube-system
  labels:
    k8s-app: kube-dns
    version: v9
    kubernetes.io/cluster-service: "true"
spec:
  replicas: 1
  selector:
    k8s-app: kube-dns
    version: v9
  template:
    metadata:
      labels:
        k8s-app: kube-dns
        version: v9
        kubernetes.io/cluster-service: "true"
    spec:
      containers:
      - name: etcd
        image: gcr.io/google_containers/etcd:2.0.9
        resources:
          limits:
            cpu: 100m
            memory: 50Mi
        command:
        - /usr/local/bin/etcd
        - -data-dir
        - /var/etcd/data
        - -listen-client-urls
        - http://127.0.0.1:2379,http://127.0.0.1:4001
        - -advertise-client-urls
        - http://127.0.0.1:2379,http://127.0.0.1:4001
        - -initial-cluster-token
        - skydns-etcd
        volumeMounts:
        - name: etcd-storage
          mountPath: /var/etcd/data
      - name: kube2sky
        image: gcr.io/google_containers/kube2sky:1.11
        resources:
          limits:
            cpu: 100m
            memory: 50Mi
        args:
        # command = "/kube2sky"
        - -domain=cluster.local
      - name: skydns
        image: gcr.io/google_containers/skydns:2015-10-13-8c72f8c
        resources:
          limits:
            cpu: 100m
            memory: 50Mi
        args:
        # command = "/skydns"
        - -machines=http://localhost:4001
        - -addr=0.0.0.0:53
        - -ns-rotate=false
        - -domain=cluster.local
        ports:
        - containerPort: 53
          name: dns
          protocol: UDP
        - containerPort: 53
          name: dns-tcp
          protocol: TCP
        livenessProbe:
          httpGet:
            path: /healthz
            port: 8080
            scheme: HTTP
          initialDelaySeconds: 30
          timeoutSeconds: 5
        readinessProbe:
          httpGet:
            path: /healthz
            port: 8080
            scheme: HTTP
          initialDelaySeconds: 1
          timeoutSeconds: 5
      - name: healthz
        image: gcr.io/google_containers/exechealthz:1.0
        resources:
          limits:
            cpu: 10m
            memory: 20Mi
        args:
        - -cmd=nslookup kubernetes.default.svc.cluster.local 127.0.0.1 >/dev/null
        - -port=8080
        ports:
        - containerPort: 8080
          protocol: TCP
      volumes:
      - name: etcd-storage
        emptyDir: {}
      dnsPolicy: Default  # Don't use cluster DNS.

然后启动服务(再次基于repo中的文件)

apiVersion: v1
kind: Service
metadata:
  name: kube-dns
  namespace: kube-system
  labels:
    k8s-app: kube-dns
    kubernetes.io/cluster-service: "true"
    kubernetes.io/name: "KubeDNS"
spec:
  selector:
    k8s-app: kube-dns
  clusterIP:  10.0.0.10
  ports:
  - name: dns
    port: 53
    protocol: UDP
  - name: dns-tcp
    port: 53
    protocol: TCP

我根据另一个SO问题做出了假设,即clusterIP是我传递给master的值,而不是主机的ip。我确信它必须是我错过的明显或简单的东西。那里有谁可以提供帮助?

谢谢!

更新

我在GitHub回购中发现this已完成问题。似乎我有同样的问题。

我已经添加到GitHub上的线程中,尝试了很多东西,但仍然没有进展。我尝试使用不同的图像,但是它们有不同的错误(或者同样的错误表示不同,我无法分辨)。

我发现与此相关的所有内容都表明了IP限制或防火墙/安全设置。所以我决定从容器本身卷起api。

docker exec  49705c38846a  echo $(curl http://0.0.0.0:8080/api/v1/services?labels=)

  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100   908  100   908    0     0   314k      0 --:--:-- --:--:-- --:--:--  443k
{ "kind": "ServiceList", "apiVersion": "v1", "metadata": { "selfLink": "/api/v1/services", "resourceVersion": "948" }, "items": [ { "metadata": { "name": "kubernetes", "namespace": "default", "selfLink": "/api/v1/namespaces/default/services/kubernetes", "uid": "369a9307-796e-11e5-87de-7a0704d1fdad", "resourceVersion": "6", "creationTimestamp": "2015-10-23T10:09:57Z", "labels": { "component": "apiserver", "provider": "kubernetes" } }, "spec": { "ports": [ { "protocol": "TCP", "port": 443, "targetPort": 443, "nodePort": 0 } ], "clusterIP": "10.0.0.1", "type": "ClusterIP", "sessionAffinity": "None" }, "status": { "loadBalancer": {} } } ] }

看起来像是对我的有效回复,为什么JSON解析错误来自kube2Sky!?

Failed to list *api.Service: couldn't get version/kind; json parse error: invalid character '<' looking for beginning of value
Failed to list *api.Endpoints: couldn't get version/kind; json parse error: invalid character '<' looking for beginning of value

2 个答案:

答案 0 :(得分:4)

问题在于网络和kube2sky没有访问API,因此无法获得服务。

更改主控的泊坞窗运行,

--config=/etc/kubernetes/manifests

--config=/etc/kubernetes/manifests-multi

然后在skydns-rc.yaml中为kube2sky设置域名,设置主机IP地址。

- -kube_master_url=http://192.168.99.100:8080 #<- your docker machine IP

如果没有manifest-multi,则无法访问主机IP。

这是一个简单的改变,但需要一点追踪。

我已经在GitHub上创建了一个简单的设置,并且会对此进行维护,这样人们就不必为了让本地开发环境正常运行而经历这种痛苦。

https://github.com/justingrayston/kubernetes-docker-dns

答案 1 :(得分:1)

如果您没有看到任何端点,则很可能您的skydns窗格无效。请尝试kubectl get pods --all-namespaces查看状态。

clusterIP可以是尚未使用的任何IP地址。它将用于连接DNS服务。它不应该是主机IP。