我有一个AWS数据管道活动,它读取每天从外部系统收到的传入存储桶中的2个数据文件。数据管道将这些数据导入数据库。一旦数据管道活动结束处理,我想自动将这两个文件移动到存档的存储桶位置,但这只有在数据管道已成功完成时才会发生。我可以根据这样的前提条件进行此文件移动吗?我如何安排S3移动?
答案 0 :(得分:0)
当数据管道执行成功完成时,您可以将文件写入中间S3存储桶。并且,配置lambda函数以基于中间存储桶事件触发,该事件可以将文件从源存储器复制到目标存储桶。但是,您需要查看lambda执行是否可以处理文件大小和处理时间。如果遇到限制,请考虑使用SQS或SNS的选项。可以编写客户端来处理SQS消息或者具有可以接收SNS通知的端点。收到消息后,客户端可以将文件从源复制到目标桶。