可以为AWS S3批处理作业提供通配符

时间:2020-01-24 14:03:08

标签: amazon-web-services amazon-s3

我想运行S3批处理作业。
为此,S3需要清单(* .csv)告诉它要迭代的对象。
我的存储桶中有12亿个对象。
但是,我不想制作包含12亿行文本的CSV文件。

我可以在清单文件(* .csv文件)中简单地使用一个通配符,告诉它遍历存储桶中的所有对象吗?

mybucket,*

1 个答案:

答案 0 :(得分:1)

不,据我所知,您不能指定“所有对象”。但是,您可以提供Amazon S3库存报告。

我怀疑您不能指定“所有对象”的原因恰恰是因为有数十亿个对象的存储桶,而S3 Batch枚举它们的时间将很重要。此外,如果在批处理开始后将对象添加到存储桶中,行为将是什么?如何检测到它们?客户将如何知道哪些对象已被处理,哪些对象没有被处理?