我尝试使用AWS CLI命令执行以下命令 -
aws s3 cp s3://my_bucket/folder/file_1234.txt -| pipe to sed command | pipe to jq command | aws s3 cp - s3://my_bucket/new_folder/final_file.txt
上面的代码工作正常 - 基本上从s3中提取数据,做一些操作并将其推回到s3。
现在,我在s3中有一些具有模式的文件 - 例如 - file_771.txt,file_772.txt,file_773.txt等等。
现在,为了获得与模式匹配的所有文件,我执行以下操作,该操作无法按预期工作。它在s3中生成一个空输出文件。
aws s3 cp --include file_77* s3://my_bucket/folder/ -| pipe to sed command | pipe to jq command | aws s3 cp - s3://my_bucket/new_folder/final_file.txt
此代码生成空的final_file.txt。任何原因 ?我在代码中遗漏了什么吗?
答案 0 :(得分:1)
要一次复制多个文件,您必须使用--recursive
,例如--exclude "*" --include "file_77*"
,但是:
下载为流目前不兼容 --recursive parameter