AWS Glue书签:运行作业与触发器

时间:2019-03-14 10:15:13

标签: amazon-web-services aws-glue

我想知道,如果我将运行作业触发运行交替使用,对于启用了书签的特定作业,该逻辑如何工作?

示例

我使用 Run Job 按钮手动运行我的作业,并处理特定文件夹中的输入文件。在此输入文件夹中创建新文件。半小时后,由计划的触发器触发了该作业。

计划的触发器会通过“手动”运行作业来了解已处理的文件吗,或者会是一个不同的书签处理过程?

1 个答案:

答案 0 :(得分:1)

从脚本运行job.commit()命令时,将相对于transform_ctx保存作业书签的检查点,并提交更新的检查点。

由于通过触发器或手动运行作业会导致调用相同的API动作(StartJobRun),并且这些作业运行实际上在运行相同的代码,因此每个新的作业运行都会知道上一次运行的书签更新。