我应该在哪里使用自己的DAG for Airflow创建文件夹?

时间:2019-07-08 11:27:08

标签: python python-2.7 ubuntu airflow

我必须在Windows上使用Airflow。我是新手,所以有很多问题。

因此,我已经使用Ubuntu在本教程之一中完成了所有步骤:

sudo apt-get install software-properties-common
sudo apt-add-repository universe
sudo apt-get update
sudo apt-get install python-pip
export SLUGIFY_USES_TEXT_UNIDECODE=yes
pip install apache-airflow

Python版本:Python2.7.15 +。

我在/ home / user_name /中创建了AirflowHome文件夹。然后我做了:

nano ~/.bashrc
export AIRFLOW_HOME=~/home/user_name/AirflowHome (#wrote on the last string)

我跑了

airflow initdb
/ home / user_name /中的

应该在/ home / user_name / AirflowHome /中完成此操作?

我也跑了

airflow webserver -p 8080

它从未完成(还好吗?),但是它似乎可以正常工作,因为我能够到达主要的“气流”窗口。

我已经尝试将“ dags”文件夹(带有我自己的dags)放置到

/home/user_name/airflow/
/home/user_name/AirflowHome/
/home/user_name/.local/lib/python2.7/site-packages/airflow/dag/

这些都没有在Airflow Web服务器上显示我的SampleFile.py(我检查了文件中的dag_id,没关系)。

现在,我需要了解在哪里可以创建“ dags”文件夹,并将所有DAG放置在该文件夹中。

如果您能帮助我解决问题,我将不胜感激。

2 个答案:

答案 0 :(得分:0)

airflow.cfg文件(位于/home/user_name/AirflowHome/airflow.cfg中设置了DAG文件夹的正确路径。检查dags_folder参数(实际上是第一个)。

  

它从未完成(还好吗?)

是的,没关系。您可以添加-D参数以在后台启动它。

顺便说一句,我记得您还应该在另一个终端上运行airflow scheduler

答案 1 :(得分:0)

我解决了这个问题。

在airflow.cfg中,我把 dags_folder=/home/user_name/.local/lib/python2.7/site-packages/airflow/example_dags .

有效。

当您需要添加文件时,将其放入文件夹并运行 airflow initdb 在Ubuntu中。当您需要从该文件夹中删除文件时,请删除该文件,然后注销并登录Windows,然后运行 airflow initdbairflow webserver 在Ubuntu中。