使用App Engine灵活环境进行错误报告

时间:2016-04-29 14:40:02

标签: google-app-engine google-cloud-platform stackdriver

我在使用带有Python 2.7的App Engine灵活环境使Google Stackdriver错误报告工作时遇到了麻烦

文档说灵活的环境需要手动配置:https://cloud.google.com/error-reporting/docs/setting-up-on-app-engine

默认使用python运行时,它看起来像是安装了google-fluentd,因为ps ax | grep fluentd会返回文档建议的内容。但是,执行sudo service google-fluentd restart失败。

我的requirements.txt文件中有fluent-logger==0.4.1

我切换到自定义运行时,以便能够将forward.conf文件放在文档建议的/etc/google-fluentd/config.d中。

我的Docker文件如下所示:

FROM gcr.io/google_appengine/python
RUN virtualenv /env -p python2.7

# stackdriver logging (for error reporting)
RUN mkdir -p /etc/google-fluentd/config.d
ADD forward.conf /etc/google-fluentd/config.d/    

# Set virtualenv environment variables. This is equivalent to running
# source /env/bin/activate
ENV VIRTUAL_ENV /env
ENV PATH /env/bin:$PATH
ADD requirements.txt /app/
RUN pip install --upgrade pip
RUN pip install -r requirements.txt

ADD . /app/
RUN python manage.py collectstatic --noinput
RUN python manage.py migrate --noinput

CMD gunicorn -b :$PORT project_name.wsgi

和forward.conf看起来像:

<source>
  type forward
  port 24224
</source>

在我的应用程序中,我有一个应该报告错误的视图,但没有任何结果:

from django.http import HttpResponse
from django.views.generic import View

from fluent import sender
from fluent import event
import traceback

sender.setup('myapp', host='localhost', port=24224)


def report(ex):
    data = {}
    data['message'] = '{0}'.format(ex)
    data['serviceContext'] = {'service' : 'myapp'}
    # ... add more metadata
    event.Event('errors', data)


class ErrorView(View):

    def get(self, request, *args, **kwargs):
        # report exception data using:
        try:
            Exception("Woops.. an Error Occurred")
        except Exception as e:
            report(traceback.format_exc())
            raise e

设置中是否有我遗漏的东西? Web服务器访问日志很好,但不是例外或写出到stderr或stdout

2016年5月9日更新

感谢@Steren的回答...它比我在Python Flexible Environment中使用Django要简单得多。无需自定义运行时并安装fluentd。下面是一个工作示例,它将文件日志输出到/var/log/app_engine/custom_logs/error.log,并使用日志格式化程序将日志放入适当的格式。

记录设置:

    'formatters': {
        'gcp_json': {
            '()': 'helloworld.gcp_logger.GCPJsonFormatter',
        },
    },
    'handlers': {
        'file': {
            'level': 'DEBUG',
            'class': 'logging.FileHandler',
            'filename': '/var/log/app_engine/custom_logs/errors.json',
            'formatter': 'gcp_json',
        },
    },
    'loggers': {
        'django.request': {
            'filters': ['require_debug_false'],
            'handlers': ['file'],
            'level': 'ERROR',
            'propagate': True,
        },
    },

和格式化程序:

    import logging
    import json
    import os


    class GCPJsonFormatter(logging.Formatter):

        def format(self, record):
            # https://cloud.google.com/error-reporting/docs/formatting-error-messages
            return json.dumps({
                'eventTime': record.created,
                'message': self.formatException(record.exc_info),
                'level': record.levelname,
                'serviceContext': {


          'service': os.environ.get('GAE_MODULE_NAME', ''),
                'version': os.environ.get('GAE_MODULE_VERSION', ''),
            },
            "context": {
                "httpRequest": self._get_request_info(record),
                'user': str(record.request.user) if record.request else "",
                "reportLocation": {
                    "filePath": record.pathname,
                    "lineNumber": record.lineno,
                    "functionName": record.funcName,
                },
            }
        })

    def _get_request_info(self, record):
        try:
            request = record.request
            return {
                "method": request.method,
                "url": request.get_full_path(),
                "userAgent": request.META.get("HTTP_USER_AGENT", ""),
                "referrer": request.META.get("HTTP_REFERER", ""),
                "responseStatusCode": record.status_code,
                "remoteIp": request.META.get("REMOTE_ADDR", "")
            }
        except Exception:
            return {}

1 个答案:

答案 0 :(得分:4)

有一种方法可以配置App Engine灵活的运行时而无需自定义运行时,很快就会在官方文档中记录,我们也在努力使这些步骤更简单:

您应该使用与Google Compute Engine samples中详述的代码类似的代码,将异常数据作为结构化日志发送到名为/var/log/app_engine/custom_logs/errors.json的文件中(不要通过TCP端口发送)

重要的是:

  • 文件路径以/var/log/app_engine/custom_logs/
  • 开头
  • 文件扩展名为.json
  • 文件名名称中包含err
  • 该文件仅包含结构化JSON对象。

然后,您可以在Stackdriver Logging中确认您在自定义日志流中看到错误显示为structPayload: 在第一个下拉列表中选择App Engine,然后选择custom.var.lop.app_engine.app.custom_logs.errors.json

如果是这种情况,则错误报告应自动开始处理这些错误。

如果不是这样,请告诉我。