将数据从AWS S3复制到Aurora Postgres

时间:2017-03-31 20:46:12

标签: postgresql amazon-s3 amazon-rds-aurora

我正在尝试将数据从AWS S3复制到Aurora Postgres。目前我的流程如下:

  1. 从本地(在EC2实例上)从S3下载文件
  2. 运行“COPY FROM STDIN ...”命令将数据从输入流加载到Aurora postgres。
  3. 我想知道是否有一个命令可以直接从S3复制到Aurora postgres。

1 个答案:

答案 0 :(得分:1)

来自AWS的这篇博文提到能够使用AWS Database Migration service

来完成

https://aws.amazon.com/blogs/database/stream-data-into-an-aurora-postgresql-database-using-aws-dms-and-amazon-kinesis-data-firehose/

  

AWS DMS可以从源S3存储桶读取数据并将其加载到目标数据库中。为此,请提供对包含一个或多个数据文件的S3存储桶的访问权限。在该S3存储桶中,包含一个JSON文件,该文件描述数据与这些文件中数据的数据库表之间的映射。

     

源数据文件必须采用逗号分隔值(CSV)格式。使用下面显示的命名约定命名文件。在此约定中,schemaName是源模式,tableName是该模式中表的名称。