两次上传相同文件后,Snowpipe无法正常工作

时间:2019-12-04 21:28:07

标签: snowflake-data-warehouse

只是在玩Snowpipe。我有它的工作。我将文件放到S3上,然后Snowpipe将数据加载到Snowflake表中。

但是,当我将相同的文件两次复制到S3存储桶中时,Snowpipe并没有选择它,也没有后续文件中没有重复的文件。

说明:

    Uploaded file1.txt into the S3 bucket - success 
    Uploaded file2.txt into the S3 bucket - success 
    Uploaded file3.txt into the S3 bucket - success 
    Re-Uploaded file1.txt into the S3 bucket - no result - table was not updated 
    Uploaded file4.txt into the S3 bucket - no result - table was not updated

如何解决此问题?或解决此问题。

谢谢

1 个答案:

答案 0 :(得分:1)

一些说明:

  1. 是的,Snowpipe将不会再次加载文件。如果有错误 文件,然后您需要对其进行修改,则需要对其进行重命名(例如, file1v2.txt)
  2. 您注意到有关下一个未加载文件的行为是 意外,需要进行故障排除。有什么问题吗 下一个文件(因为它显示为1个待处理文件)?是 您可以从雪花外部访问它吗?你能跑吗 COPY加载它以说另一个表吗?
  3. 除队列所有权外,Snowpipe在Azure和AWS上的行为类似 (Azure Blob存储不会传递到另一个队列 订阅)。
  4. 多个管道在AWS上共享相同的队列,我们​​使用 桶/前缀以多路分解到不同的管道。

Dinesh Kulkarni

(下午,雪花)