使用Apache Nifi将数据从vertica传输到Redshift

时间:2017-05-09 07:17:42

标签: amazon-redshift vertica apache-nifi

我想使用apache nifi将数据从vertica传输到redshift。 我需要设置哪些处理器和配置?

1 个答案:

答案 0 :(得分:6)

如果Vertica和Redshift表现良好" JDBC驱动程序,您可以为每个驱动程序设置DBCPConnectionPool,然后设置ExecuteSQLQueryDatabaseTableGenerateTableFetch等SQL处理器(后者生成SQL用于的ExecuteSQL)。这些将使您的记录变为Avro格式,然后(在NiFi 1.2.0之前)您可以使用ConvertAvroToJSON - > ConvertJSONToSQL - > PutSQL将您的记录插入Redshift。

在NiFi 1.2.0中,您可以使用设置AvroReader在PutDatabaseRecord中使用。然后,您只需要SQL处理器从Vertica中获取记录,直接将PutDatabaseRecord放入Redshift。