将100,000张图像传输到S3。什么是最快的方式?

时间:2009-06-18 01:59:16

标签: amazon-s3

我正在寻找将〜100,000个图像从服务器传输到我的Amazon S3存储桶的最快方法。

这是循环每个图像并执行单独的PUT请求吗?我希望有一个更快的方法,但没有找到任何东西。

5 个答案:

答案 0 :(得分:6)

也许试试蜗牛邮件?

Amazon Import/Export

答案 1 :(得分:2)

s3funnel。我上周用这个将大约3,000,000张图像传输到S3。它是多线程的,因此往往非常快。我测试了许多商业和开源工具,s3funnel是迄今为止最好的IMO。

答案 2 :(得分:0)

不熟悉S3,但如果没有批量上传工具,您可以通过在多个并行进程中循环覆盖图像来加快速度,直到最大化网络连接。

答案 3 :(得分:0)

您可以尝试使用Image Uploader批量上传控件。或者,如果这是一次性任务,我考虑使用一些Amazon sample

无论如何,如果你想使用PUT / POST请求上传,每个请求一个文件 - 是亚马逊的API限制,在我看来没有什么可做的。

答案 4 :(得分:0)

我们(CloudOpt)构建了一个优化数据传输到Amazon S3的解决方案,称为CloudOptimizer。它使用对称重复数据删除,压缩和一系列其他技术。看看,让我知道你的想法。我很想得到您的反馈。

http://www.cloudopt.com