我想在我的自定义Operator中使用Python Fabric,我应该如何在worker上安装fabric?

时间:2018-05-25 16:03:35

标签: airflow google-cloud-composer

此时我正考虑在每次操作员执行时调用bash命令pip install fabric2,但这并不是一个好主意。

2 个答案:

答案 0 :(得分:1)

创建一个类似的requirements.txt文件,并在创建云作曲家环境时将其作为变量传递。

示例requirements.txt文件:

scipy>=0.13.3
scikit-learn
nltk[machine_learning]

requirements.txt文件传递给environments.set-python-dependencies命令以设置安装依赖项。

gcloud beta composer environments update ENVIRONMENT_NAME \
--update-pypi-packages-from-file requirements.txt \
--location LOCATION

答案 1 :(得分:0)

原来你可以使用:PythonVirtualenvOperator它支持pip deps。

Composer用户可以使用的另一个选项是通过编辑器本身安装deps:https://cloud.google.com/composer/docs/how-to/using/installing-python-dependencies