Airflow 1.9优于详细记录

时间:2018-05-18 10:14:54

标签: python logging airflow

从版本1.7.1.3升级后,我注意到Airflow任务中有更详细的日志消息。更准确地说,当我运行bash bash操作员任务时,我当前的airflow 1.9输出消息具有以下格式:

[2018-05-17 16:43:08,104] {base_task_runner.py:98} INFO - Subtask: [2018-05-17 16:43:08,104] {bash_operator.py:101} INFO - <SCRIPT LOGS HERE> 在1.7.1.3上,消息具有以下格式: [2018-05-17 16:10:02,615] {bash_operator.py:77} INFO - <SCRIPT LOGS HERE>

有没有办法在airflow 1.9上返回上一级日志详细信息(从v.1.7.1.3开始),即在配置中不显示base_task_runner日志?

我尝试在airflow.cfg

中修改日志格式
# Logging class
# Specify the class that will specify the logging configuration
# This class has to be on the python classpath
# logging_config_class = my.path.default_local_settings.LOGGING_CONFIG
logging_config_class =

# Log format
log_format = [%%(asctime)s] {%%(filename)s:%%(lineno)d} %%(levelname)s - %%(message)s
simple_log_format = %%(asctime)s %%(levelname)s - %%(message)s

即我尝试从log_format修改删除asctime,但这是从base_task_runnerbash_operator删除时间戳。也许simple_log_format可以解决这个问题? log_formatsimple_log_format变量之间有什么区别?

我还没有设置日志配置类。我有一个主要用于远程推送日志的印象,如果我在本地存储我的日志,我还需要它吗?

由于

1 个答案:

答案 0 :(得分:0)

我认为这是不可能的,因为如果我没有弄错的话,某些调用结构在版本之间发生了变化。

任务调用始终是子任务。由于这意味着不同的层次结构,因此日志结构也会受到影响。