为数据处理S3或EBS设置AWS?

时间:2017-03-22 15:26:15

标签: amazon-web-services amazon-s3 amazon-ec2

嘿,我是AWS的新手,并尝试拼凑出最佳方法。

我有数以千计的照片我想在AWS上传和处理。该软件是Agisoft Photoscan,分阶段运行。因此,对于第一阶段,我希望使用面向CPU /内存使用的实例,以及面向GPU /内存的第二阶段。

最好的方法是什么?我是否在EC2中为每个项目创建一个新卷,并在需要时将该卷附加到每个实例?我看到有人说要使用S3,我是否只为每个项目创建一个存储桶,然后将存储桶附加到我的实例中?

对不起基本问题,我读的越多,我似乎有更多的问题,

2 个答案:

答案 0 :(得分:2)

我建议从s3开始,看看它是否有效 - 将更便宜,更容易设置。如果需要,切换到EBS卷,但我怀疑你需要。

您可以为每个项目创建一个存储桶,或者您可以创建一个存储桶,根据文件名前缀(即project1-image001.jpg)隔离图像。

你没有附上'存储桶到EC2,但您应该在创建实例时为其分配IAM角色,然后您可以授予该IAM角色权限以访问您选择的S3存储桶。

由于您没有很多AWS经验,因此请保持简单,并且使用S3非常简单。

答案 1 :(得分:1)

您可以使用AWS S3上传照片。 AWS S3与Google云端硬盘类似。

如果要使用AWS EBS卷而不是S3。您可能遇到的问题是,

  • EBS卷可在可用区内访问,但不在区域内,也意味着您必须创建快照以传输另一个可用区。但S3是全球性的。
  • EBS卷不适用于存储多媒体文件。这就像硬盘一样。启动EC2实例后,需要附加EBS卷。

根据最佳做法,您使用AWS S3。

根据您的案例视图,您可以为每个项目创建存储桶,也可以使用包含多个文件夹的单个存储桶来识别项目。

创建具有S3访问权限的AWS IAM角色,并将其附加到EC2实例。无需在项目中使用AWS Credentials。 EC2实例将使用角色来访问S3并且角色没有永久凭据,它将继续旋转它。