尝试部署我的模型时,Sagemaker“无法找到模型数据”

时间:2018-01-17 21:25:47

标签: python amazon-s3 amazon-sagemaker

我在Sagemaker中有一个训练脚本,

def train(current_host, hosts, num_cpus, num_gpus, channel_input_dirs, model_dir, hyperparameters, **kwargs):
    ... Train a network ...
    return net

def save(net, model_dir):
    # save the model
    logging.info('Saving model')
    y = net(mx.sym.var('data'))
    y.save('%s/model.json' % model_dir)
    net.collect_params().save('%s/model.params' % model_dir)

def model_fn(model_dir):
    symbol = mx.sym.load('%s/model.json' % model_dir)
    outputs = mx.symbol.softmax(data=symbol, name='softmax_label')
    inputs = mx.sym.var('data')
    param_dict = gluon.ParameterDict('model_')
    net = gluon.SymbolBlock(outputs, inputs, param_dict)
    net.load_params('%s/model.params' % model_dir, ctx=mx.cpu())
    return net

我从MNIST Example偷走了大部分内容。

当我训练时,一切都很顺利,但在尝试部署时,

m = MXNet("lstm_trainer.py", 
          role=role, 
          train_instance_count=1, 
          train_instance_type="ml.c4.xlarge",
          hyperparameters={'batch_size': 100, 
                         'epochs': 20, 
                         'learning_rate': 0.1, 
                         'momentum': 0.9, 
                         'log_interval': 100})
m.fit(inputs) # No errors
predictor = m.deploy(initial_instance_count=1, instance_type='ml.m4.xlarge')

我明白了,(full output

INFO:sagemaker:Creating model with name: sagemaker-mxnet-py2-cpu-2018-01-17-20-52-52-599
---------------------------------------------------------------------------
  ... Stack dump ...
ClientError: An error occurred (ValidationException) when calling the CreateModel operation: Could not find model data at s3://sagemaker-us-west-2-01234567890/sagemaker-mxnet-py2-cpu-2018-01-17-20-52-52-599/output/model.tar.gz.

查看我的S3存储桶s3://sagemaker-us-west-2-01234567890/sagemaker-mxnet-py2-cpu-2018-01-17-20-52-52-599/output/model.tar.gz,实际上我看不到该模型。

我错过了什么?

2 个答案:

答案 0 :(得分:0)

在调用培训作业时,应指定输出目录:

#Bucket location where results of model training are saved.
model_artifacts_location = 's3://<bucket-name>/artifacts'

m = MXNet(entry_point='lstm_trainer.py',
          role=role,
          output_path=model_artifacts_location,
          ...)

如果您没有指定输出目录,该函数将使用默认位置,它可能没有创建或写入的权限。

答案 1 :(得分:0)

我在Sagemaker上使用不同的Estimator遇到了同样的问题。

我的问题是在重新部署后的第一次部署之后,我不得不删除旧的“端点配置”,这使端点指向旧模型位置感到困惑。我想这可以通过使用AWS API的python来完成,尽管如果这是相同的问题,则很容易在门户上进行测试。

enter image description here