使用Python的AWS Lambda将新文件复制到另一个s3存储桶

时间:2019-05-15 10:20:11

标签: python amazon-web-services amazon-s3 aws-lambda boto

我创建了一个Lambda,每次将文件添加到s3:// test-bucket-01 /时都会触发该Lambda,它将将s3:// test-bucket-01 /中的所有文件复制到s3:// test-bucket-02 /

我希望它仅添加刚刚添加的新文件吗?

当前代码:

import boto3
s3 = boto3.resource('s3')


def lambda_handler(event, context):
    bucket = s3.Bucket('test-bucket-01')
    dest_bucket = s3.Bucket('tb-bucket-02')
    print(bucket)
    print(dest_bucket)

    for obj in bucket.objects.all():
        dest_key = obj.key
        print(dest_key)
        s3.Object(dest_bucket.name, dest_key).copy_from(CopySource = {'Bucket': obj.bucket_name, 'Key': obj.key})

结果:

Function Logs:
START RequestId: XXXXXXX-XXXXXXX-XXXXXXX Version: $LATEST
s3.Bucket(name='test-bucket-01')
s3.Bucket(name='test-bucket-02')
test-data-01.json
test-data-02.json
test-data-03.json

3 个答案:

答案 0 :(得分:2)

您不需要列出存储桶以复制所有文件,因为事件变量是一个json,其中包含您已复制到test-bucket-01的文件。

示例:

{
  "Records": [
    {
      "eventVersion": "2.0",
      "eventSource": "aws:s3",
      "awsRegion": "us-east-1",
      "eventTime": "1970-01-01T00:00:00.000Z",
      "eventName": "ObjectCreated:Put",
      "userIdentity": {
        "principalId": "EXAMPLE"
      },
      "requestParameters": {
        "sourceIPAddress": "127.0.0.1"
      },
      "responseElements": {
        "x-amz-request-id": "C3D13FE58DE4C810",
        "x-amz-id-2": "FMyUVURIY8/IgAtTv8xRjskZQpcIZ9KG4V5Wp6S7S/JRWeUWerMUE5JgHvANOjpD"
      },
      "s3": {
        "s3SchemaVersion": "1.0",
        "configurationId": "testConfigRule",
        "bucket": {
          "name": "sourcebucket",
          "ownerIdentity": {
            "principalId": "EXAMPLE"
          },
          "arn": "arn:aws:s3:::mybucket"
        },
        "object": {
          "key": "key/to/HappyFace.jpg",
          "size": 1024,
          "eTag": "d41d8cd98f00b204e9800998ecf8427e"
        }
      }
    }
  ]
}

在这种情况下,此事件通知ObjectCreated:Put事件。已使用键“ key / to / HappyFace.jpg”将新文件复制到“ sourcebucket”存储桶。

答案 1 :(得分:1)

为什么不想使用native functional of AWS S3将新文件从一个存储桶复制到另一个存储桶?

更简单,更可靠。而且,您可以使用此本地功能按前缀复制文件,更改存储计划以及许多其他功能。

答案 2 :(得分:0)

那答案是什么?仅在添加新文件时如何触发lambda?