使用Matillion ETL工具从s3批量加载json文件到Redshift

时间:2019-06-27 11:48:26

标签: json amazon-s3 amazon-redshift matillion

我在s3文件夹中有60万个文件夹。每个文件夹都有一个唯一的ID。每个文件夹都有每个json文件。我想将所有记录从具有文件夹名称的文件存储到Redshift表。

我正在尝试使用Matillion中的文件迭代器和API组件。每个文件需要1到2秒钟才能加载。根据上述情况,还有其他方法可以将文件从s3加载到redshift吗?

0 个答案:

没有答案