使用“ mlflow模型服务” CLI服务MLflow模型时，如何设置自定义gunicorn工作者超时？

Question

在通过“ pyfunc”后端（https://github.com/mlflow/mlflow/blob/master/mlflow/pyfunc/backend.py）提供MLflow Python模型时，如何设置自定义gunicorn worker超时？当服务于加载时间较长的大型模型时，默认的60秒超时可能不足。

Answer 1

从MLflow 1.2开始，您可以通过指定ICarDataInfo环境变量来设置自定义gunicorn超时。以下示例为工作人员超时为120秒的模型提供服务

GUNICORN_CMD_ARGS