Kubernetes + metallb + traefik:如何获得真正的客户端IP?

时间:2018-05-29 13:27:32

标签: kubernetes traefik

traefik.toml

defaultEntryPoints = ["http", "https"]

[entryPoints]
  [entryPoints.http]
  address = ":80"
    [entryPoints.http.forwardedHeaders]
      trustedIPs = ["0.0.0.0/0"]
    [entryPoints.http.redirect]
      entryPoint = "https"
  [entryPoints.https]
  address = ":443"
    [entryPoints.https.tls]
    [entryPoints.https.forwardedHeaders]
      trustedIPs = ["0.0.0.0/0"]
[api]

traefik服务

kind: Service
apiVersion: v1
metadata:
  name: traefik-ingress-service
  namespace: kube-system
spec:
  selector:
    k8s-app: traefik-ingress-lb
  ports:
    - protocol: TCP
      port: 80
      name: http
    - protocol: TCP
      port: 443
      name: https
  type: LoadBalancer

,然后

kubectl run source-ip-app --image=k8s.gcr.io/echoserver:1.4
deployment "source-ip-app" created

kubectl expose deployment source-ip-app --name=clusterip --port=80 --target-port=8080
service "clusterip" exposed

kubectl get svc clusterip
NAME        TYPE        CLUSTER-IP    EXTERNAL-IP   PORT(S)   AGE
clusterip   ClusterIP   10.5.55.102   <none>        80/TCP    2h

为clusterip创建入口:

apiVersion: extensions/v1beta1
kind: Ingress
metadata:
  name: clusterip-ingress
  namespace: default
  annotations:
    kubernetes.io/ingress.class: traefik
spec:
  rules:
  - host: clusterip.staging
    http:
      paths:
      - backend:
          serviceName: clusterip
          servicePort: 80

clusterip.staging ip:192.168.0.69

来自其他电脑的ip:192.168.0.100:

wget -qO - clusterip.staging

并获得结果:

CLIENT VALUES:
client_address=10.5.65.74
command=GET
real path=/
query=nil
request_version=1.1
request_uri=http://clusterip.staging:8080/

SERVER VALUES:
server_version=nginx: 1.10.0 - lua: 10001

HEADERS RECEIVED:
accept=text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8
accept-encoding=gzip, deflate, br
accept-language=ru-RU,ru;q=0.8,en-US;q=0.5,en;q=0.3
cache-control=max-age=0
host=clusterip.staging
upgrade-insecure-requests=1
x-forwarded-for=10.5.64.0
x-forwarded-host=clusterip.staging
x-forwarded-port=443
x-forwarded-proto=https
x-forwarded-server=traefik-ingress-controller-755cc56458-t8q9k
x-real-ip=10.5.64.0
BODY:
-no body in request-

kubectl获取svc --all-namespaces

NAMESPACE     NAME                      TYPE           CLUSTER-IP    EXTERNAL-IP    PORT(S)                                                 AGE
default       clusterip                 NodePort       10.5.55.102   <none>         80:31169/TCP                                            19h
default       kubernetes                ClusterIP      10.5.0.1      <none>         443/TCP                                                 22d
kube-system   kube-dns                  ClusterIP      10.5.0.3      <none>         53/UDP,53/TCP                                           22d
kube-system   kubernetes-dashboard      ClusterIP      10.5.5.51     <none>         443/TCP                                                 22d
kube-system   traefik-ingress-service   LoadBalancer   10.5.2.37     192.168.0.69   80:32745/TCP,443:30219/TCP                              1d
kube-system   traefik-web-ui            NodePort       10.5.60.5     <none>         80:30487/TCP                                            7d

如何在我的安装中获得真正的IP(192.168.0.100)?为什么选择x-real-ip 10.5.64.0?

P.S。对不起,可能是一个愚蠢的问题。我是新手,我在文档中找不到答案。

1 个答案:

答案 0 :(得分:3)

kube-proxy使用iptables模式时,它会使用NAT将数据发送到有效负载有效的节点,在这种情况下您会丢失原始SourceIP地址。

据我了解,您在Matallb Ingress服务后面使用Traefik(因为其类型为LoadBalancer)。这意味着从客户端到后端的流量就是这样:

Client -> Metallb -> Traefik LB -> Traefik Service -> Backend pod

Traefik正常运行并添加标题x-*,包括x-forwarded-forx-real-ip,其中包含虚假地址,原因如下:

来自Metallb documentation

  

MetalLB了解服务的externalTrafficPolicy选项,并根据您选择的策略和公告协议实施不同的公告模式。

     
      
  • <强>二层

         

    此政策可在服务中的所有广告连播中实现统一的流量分配。但是,kube-proxy会在进行负载平衡时隐藏连接的源IP地址,因此您的pod日志将显示外部流量似乎来自群集的领导节点。 / p>

  •   
  • <强> BGP

         
        
    • “群组”流量政策

           

      使用默认的群集流量策略,群集中的每个节点都会吸引服务IP的流量。在每个节点上,流量受到第二层负载平衡(由kube-proxy提供),该流量将流量引导到各个pod。

           

      ...

           

      “群集”策略的另一个缺点是,当kube-proxy执行其负载平衡时,{strong}将隐藏连接的源IP地址,因此您的pod日志将显示外部流量似乎来自群集的节点。

    •   
    • “本地”流量政策

           

      使用本地流量策略,节点只会在本地运行一个或多个服务的pod时才会吸引流量。 BGP路由器将仅对当前托管服务的那些节点进行负载均衡传入流量。在每个节点上,流量仅通过kube-proxy转发到本地pod,节点之间没有“水平”流量。

           

      此政策可为您的服务提供最有效的流量。此外,由于kube-proxy不需要在群集节点之间发送流量,您的pod可以看到传入连接的真实源IP地址

    •   
  •   

最后,获取真实源IP地址的唯一方法是使用&#34; Local&#34;模式为TrafficPolicy

如果你设置它,你会得到你想要的。