Azure 数据工厂将数据复制到雪花

时间:2021-06-17 20:04:58

标签: azure snowflake-cloud-data-platform azure-data-factory

我正在编写许多 ADF 管道,这些管道将数据从 SQL 服务器复制到 Snowflake 通过 Blob 存储阶段

我想知道所有数据是否会同步(同时)进入 Snowflake,或者同一 ADF 管道运行的小批量是否可能在不同时间到达表。

我想知道的原因是我有一个辅助进程来获取“最新”数据并运行转换。我想确保它不会承受部分 ADF 负载。

1 个答案:

答案 0 :(得分:0)

如果雪花复制命令(COPY INTO <table>)本身支持源数据存储和格式,您可以使用复制活动直接从源复制到雪花

根据您的配置,我假设这里的雪花充当接收器,这里的参考文档让您更深入地了解执行复制活动的命令格式,无论是直接复制到雪花还是内置分阶段复制到雪花

https://docs.microsoft.com/en-us/azure/data-factory/connector-snowflake#snowflake-as-sink