Docker + Airflow-无法从Docker容器连接到主机上的MySQL

Question

我正在使用基于'puckel / docker-airflow：1.10.9'图片的dockerized Airflow。

docker-compose 文件如下：

version: '3.5'

services:
  postgres:
    image: postgres:12.3-alpine
    environment:
      POSTGRES_DB: airflow
      POSTGRES_USER: airflow
      POSTGRES_PASSWORD: airflow
    ports:
      - 5432:5432
    volumes:
      - ./data/postgres:/var/lib/postgresql/data

  webserver:
    build:
      context: .
      dockerfile: docker/development/webserver/Dockerfile
    restart: always
    depends_on:
      - postgres
    environment:
      ...
    volumes:
      ...
    ports:
      - 8080:8080
    command: webserver
    healthcheck:
      test: ["CMD-SHELL", "[ -f /usr/local/airflow/airflow-webserver.pid ]"]
      interval: 30s
      timeout: 30s
      retries: 3

DAG中的一项任务要求连接到主机上的MySQL。

连接详细信息如下：

当我尝试触发DAG时，任务实例失败，并显示_mysql_exceptions.OperationalError: (2006, "Unknown MySQL server host 'host.docker.internal' (-2)")

我尝试过与this issue中的操作相同，但问题仍然存在。

此外，这是一些失败的docker网络检查：

$ docker run --rm webserver ping 'host.docker.internal'

ping: bad address 'host.docker.internal'

和

$ docker run --rm alpine nslookup host.docker.internal

Unable to find image 'alpine:latest' locally
latest: Pulling from library/alpine
df20fa9351a1: Pull complete 
Digest: sha256:185518070891758909c9f839cf4ca393ee977ac378609f700f60a771a2dfe321
Status: Downloaded newer image for alpine:latest
Server:         192.168.100.1
Address:        192.168.100.1:53

** server can't find host.docker.internal: NXDOMAIN

** server can't find host.docker.internal: NXDOMAIN

Answer 1

host.docker.internal是special DNS，仅适用于Window和Mac。

您可以尝试以下变通办法，借助--add-host来解析容器内部的DNS，并且IP将指向您的主机IP地址192.168.9.100

docker run -it --rm=True --add-host=host.docker.internal:192.168.9.100 alpine sh -c "apk add curl --no-cache; curl host.docker.internal:8081"

或者更好地使用环境变量

docker run -it --rm -e HOST_DB=192.168.9.100 myserver

，然后您可以在Web服务器容器中使用HOST_DB与HOST DB连接。

Answer 2

我已经在Web服务器容器内的/etc/hosts中添加了HOST_IP和HOST_DOMAIN。为此，我编写了一个自定义的entrypoint.sh脚本

HOST_DOMAIN="host.docker.internal"
if ! ping -q -c1 $HOST_DOMAIN > /dev/null 2>&1
then
  HOST_IP=$(ip route | awk 'NR==1 {print $3}')
  # shellcheck disable=SC2039
  echo "$HOST_IP   $HOST_DOMAIN" >> /etc/hosts
fi

现在我可以从Web服务器容器内部ping'host.docker.internal'：

# root@04cee44b7c1e:/usr/local/airflow# ping host.docker.internal

PING host.docker.internal (192.168.240.1): 56 data bytes
64 bytes from 192.168.240.1: icmp_seq=0 ttl=64 time=0.042 ms
64 bytes from 192.168.240.1: icmp_seq=1 ttl=64 time=0.034 ms
64 bytes from 192.168.240.1: icmp_seq=2 ttl=64 time=0.060 ms
64 bytes from 192.168.240.1: icmp_seq=3 ttl=64 time=0.052 ms
64 bytes from 192.168.240.1: icmp_seq=4 ttl=64 time=0.055 ms
64 bytes from 192.168.240.1: icmp_seq=5 ttl=64 time=0.050 ms
64 bytes from 192.168.240.1: icmp_seq=6 ttl=64 time=0.045 ms