我正在尝试从s3存储桶中提取zip文件并将文件写回到另一个s3存储桶中。目前,我在s3存储桶中具有150 GB的zip文件大小。
当我执行以下代码时,它会持续运行几个小时并且没有输出,是否有其他方法可以提高性能?感谢您的答复。
s3_resource = boto3.resource('s3')
zip_obj = s3_resource.Object(bucket_name="bucket_name_here", key=zip_key)
buffer = BytesIO(zip_obj.get()["Body"].read())
z = zipfile.ZipFile(buffer)
for filename in z.namelist():
file_info = z.getinfo(filename)
s3_resource.meta.client.upload_fileobj(
z.open(filename),
Bucket=bucket,
Key=f'{filename}'
)