如何使用雪花kafka连接器将增量数据提取到雪花?

时间:2020-07-29 05:46:43

标签: snowflake-cloud-data-platform

我需要从kafka到Snowflake提取数据。我想使用雪花kafka连接器设计这种摄取。我的理解是,我的接收器需要是一个变量表,因此连接器会将kafka消息推送到变量列。一旦数据在variant列中,我将需要运行另一个过程来读取variant列,对其进行解析并将数据存储到相应的目标表中。请让我知道这是否是提取kafka数据的最佳方法

谢谢

1 个答案:

答案 0 :(得分:0)

您是正确的,这将是前进的最佳途径。您的kafka接收器将自动创建表并将数据吸收到这些表中。然后,您可以使用基于流的任务将数据从该表加载到另一个表中。查看此文档:

https://docs.snowflake.com/en/user-guide/data-pipelines-intro.html