我可以信任aws-cli重新上传我的数据而不会在传输失败时损坏吗?

时间:2018-02-14 03:21:17

标签: amazon-s3 backup aws-cli

我广泛使用S3来存储工作站的加密和压缩备份。我使用aws cli将它们同步到S3。有时,传输可能会在进行中失败。我通常只是重试它并让它完成。

我的问题是:S3是否进行了某种检查以确保先前失败的传输没有留下损坏的文件?有谁知道再次同步是否足以解决以前失败的转移问题?

谢谢!

2 个答案:

答案 0 :(得分:2)

上传到S3的个别文件永远不会部分上传。整个文件都已完成,S3将文件存储为S3对象,或者上传中止,S3对象永远不会存储。

即使在多部分上传的情况下,也可以上传多个部分,但它们永远不会形成完整的S3对象,除非所有部分都已上传并且"完成分段上传"执行操作。因此,无需担心部分上传会导致损坏。

同步肯定足以修复以前失败的转移。

答案 1 :(得分:1)

是的,看起来AWS CLI确实通过使用MD5校验和来验证上传的内容并处理损坏情况。

来自https://docs.aws.amazon.com/cli/latest/topic/s3-faq.html

AWS CLI将执行校验和验证,以在特定情况下上载和下载文件。 AWS CLI将为标准上传和分段上传计算并自动填充Content-MD5标头。如果S3计算的校验和与提供的Content-MD5不匹配,则S3将不存储对象,而是将错误消息返回到AWS CLI。