用于自动终止EMR群集的AWS Data Pipeline选项

时间:2017-10-10 12:21:19

标签: amazon-web-services emr amazon-data-pipeline

我已经使用Data Pipeline设置了EMR集群,但是在我的步骤功能状态显示完成后集群正在终止。我正在我的step函数中执行一个python脚本,它在后台生成一个spark作业。

在使用Data Pipeline服务在EMR上运行成功的步骤功能后,如何使我的群集可用?

1 个答案:

答案 0 :(得分:0)

使用terminateAfter指定处理完成后您要等待的小时数。

<强>参考:

http://docs.aws.amazon.com/datapipeline/latest/DeveloperGuide/dp-object-ec2resource.html

希望它有所帮助。