S3:我的多部分上传器不适用于文件> 5GB

时间:2013-04-01 21:52:13

标签: ruby linux amazon-s3

我正在尝试使用分段上传功能将许多大型(30GB +)文件上传到S3存储桶。

这是代码。我已经把它放在一个要点,以避免混乱这个页面:https://gist.github.com/twslankard/5296081

上传小于5GB的文件没有任何问题。根据S3管理控制台中对象的大小,大于5GB的文件似乎被“剪裁”为5GB。

在上传过程中,我没有收到任何异常或错误消息。我在文档中也没有发现我做错了什么。

谁能看到我做错了什么?

编辑:我从AWS支持中了解到Ruby SDK尚不支持分段上传

2 个答案:

答案 0 :(得分:3)

S3有一个策略文档,用于授权表单并对可上载的文件施加限制。其中一个限制是内容长度。来自Amazon的逐字:

  

内容长度规则,用于检查上传文件的大小   在给定的最小值和最大值之间。 如果不遵守此规则   包含在策略文档中,用户将能够上传文件   任何大小,最高可达S3规定的5GB限制。

答案 1 :(得分:1)

根据AWS,Ruby SDK不支持分段上传。

但是,我发现了一个基于python boto的多部分上传脚本。

https://gist.github.com/chrishamant/1556484

编辑:Ruby SDK现在支持分段上传http://docs.aws.amazon.com/AmazonS3/latest/dev/uploadobjusingmpu-ruby-sdk.html