如何从SQL脚本执行AWS S3到Redshift Copy命令?

时间:2017-09-12 09:33:12

标签: amazon-web-services amazon-s3 amazon-redshift amazon-data-pipeline

我正在尝试使用copy命令将一些文件从S3复制到Redshift。我通过SQL workbench使用了以下命令,它工作正常,它将数据复制到Redshift Table。

copy <Redshift table name> 
from 's3://my-bucket/path/to/directory/part' 
iam_role 'arn:aws:iam::<IAM ROLE>' 
delimiter '|'  dateformat 'auto' IGNOREHEADER AS 1;

但是当我将相同的命令复制到.sql文件中并尝试使用AWS数据管道执行此SQL文件时,管道只是失败而没有给出任何明确的错误。

由于内部开发的管道定义生成工具存在一些问题,我无法使用CopyToRedshift类型活动。

我想知道如何从文件中执行此复制命令?

1 个答案:

答案 0 :(得分:0)

试试这个!!

COPY Table_Name

FROM S3File_PATH

凭据“* AWS Credentails”

ignoreheader为1

ACCEPTINVCHARS

分隔符'|'

此复制命令应该来自sql文件。如果没有尝试检查stl_load_error_details中的任何错误