标签: json amazon-s3 amazon-redshift matillion
我在s3文件夹中有60万个文件夹。每个文件夹都有一个唯一的ID。每个文件夹都有每个json文件。我想将所有记录从具有文件夹名称的文件存储到Redshift表。
我正在尝试使用Matillion中的文件迭代器和API组件。每个文件需要1到2秒钟才能加载。根据上述情况,还有其他方法可以将文件从s3加载到redshift吗?