如何使用多个模型运行AWS Sagemaker批量转换？

Question

我正在寻找一个批处理转换作业（使用sagemaker.transformer.Transformer module），其中给出了多个model_name参数。我需要在转换文件的model_fn块中加载多个模型。

是否有最佳做法？我正在考虑为一个模型使用s3路径，为另一个模型基于model_name传入model_dir参数。

def model_fn(model_dir):
    # Loads models, returns for inference

    # I'd like this to load an input to the CLI
    nlp = model1.load(PATHS['aws_path'])
    # This loads the CLI model_name
    pipeline = model2(nlp.vocab).from_disk(model_dir)
    nlp.add_pipe(pipeline)
    return nlp