我需要从kafka到Snowflake提取数据。我想使用雪花kafka连接器设计这种摄取。我的理解是,我的接收器需要是一个变量表,因此连接器会将kafka消息推送到变量列。一旦数据在variant列中,我将需要运行另一个过程来读取variant列,对其进行解析并将数据存储到相应的目标表中。请让我知道这是否是提取kafka数据的最佳方法
谢谢
答案 0 :(得分:0)
您是正确的,这将是前进的最佳途径。您的kafka接收器将自动创建表并将数据吸收到这些表中。然后,您可以使用基于流的任务将数据从该表加载到另一个表中。查看此文档:
https://docs.snowflake.com/en/user-guide/data-pipelines-intro.html