我必须在Windows上使用Airflow。我是新手,所以有很多问题。
因此,我已经使用Ubuntu在本教程之一中完成了所有步骤:
sudo apt-get install software-properties-common
sudo apt-add-repository universe
sudo apt-get update
sudo apt-get install python-pip
export SLUGIFY_USES_TEXT_UNIDECODE=yes
pip install apache-airflow
Python版本:Python2.7.15 +。
我在/ home / user_name /中创建了AirflowHome文件夹。然后我做了:
nano ~/.bashrc
export AIRFLOW_HOME=~/home/user_name/AirflowHome (#wrote on the last string)
我跑了
airflow initdb
/ home / user_name /中的。
应该在/ home / user_name / AirflowHome /中完成此操作?
我也跑了
airflow webserver -p 8080
它从未完成(还好吗?),但是它似乎可以正常工作,因为我能够到达主要的“气流”窗口。
我已经尝试将“ dags”文件夹(带有我自己的dags)放置到
/home/user_name/airflow/
/home/user_name/AirflowHome/
/home/user_name/.local/lib/python2.7/site-packages/airflow/dag/
这些都没有在Airflow Web服务器上显示我的SampleFile.py(我检查了文件中的dag_id,没关系)。
现在,我需要了解在哪里可以创建“ dags”文件夹,并将所有DAG放置在该文件夹中。
如果您能帮助我解决问题,我将不胜感激。
答案 0 :(得分:0)
在airflow.cfg
文件(位于/home/user_name/AirflowHome/airflow.cfg
中设置了DAG文件夹的正确路径。检查dags_folder
参数(实际上是第一个)。
它从未完成(还好吗?)
是的,没关系。您可以添加-D
参数以在后台启动它。
顺便说一句,我记得您还应该在另一个终端上运行airflow scheduler
。
答案 1 :(得分:0)
我解决了这个问题。
在airflow.cfg中,我把
dags_folder=/home/user_name/.local/lib/python2.7/site-packages/airflow/example_dags .
有效。
当您需要添加文件时,将其放入文件夹并运行
airflow initdb
在Ubuntu中。当您需要从该文件夹中删除文件时,请删除该文件,然后注销并登录Windows,然后运行
airflow initdb
和airflow webserver
在Ubuntu中。