将数据从Azure Blob存储复制到ADLs Gen 2

时间:2020-07-30 18:56:40

标签: azure azure-data-factory azure-data-factory-2 azure-databricks azure-data-lake-gen2

我在azure blob存储中有大约200万个json文件,每个文件包含一条记录,我需要将所有这些json文件移到created大于2019-01-01的adls gen 2中。

注意:createdate是json内的字段之一。

是否可以通过azure数据工厂实现这一目标

1 个答案:

答案 0 :(得分:0)

是的,您需要使用查询来执行此操作。首先,请把数据放在可以进行数据分析的空间中。

首先,创建一个 copy activity1 (将数据从azure blob存储复制到sql数据库),然后创建一个 copy activity2 (将数据从sql数据库复制到adls gen2。 )

enter image description here

在复制活动2的来源中,请执行以下操作:

enter image description here

select *  
from dbo.test1 A 
where A.createdate >= '2019-01-01'

我已经进行了测试,并且工作正常。请尝试一下。