从Azure DataFactory管道中的Azure Datalake存储中删除临时文件(首选USQL)

时间:2019-02-24 11:49:03

标签: azure azure-data-lake u-sql azure-data-factory-2

我们将AdLS(Azure数据湖存储)用作ADF(Azure数据工厂-V2)管道中的临时存储。删除ADLS中临时存储的数据的最佳方法是什么?

U-SQL仅支持DDL,不支持DML,因此无法使用ADLA(Azure数据湖分析)删除存储在ADLS中的临时数据(文件)

我计划使用ADF的“网络活动” DELETE方法,但是该方法使用的令牌已过期,我必须不断对其进行更新。

有人可以让我知道我们还有其他选择吗?

1 个答案:

答案 0 :(得分:1)

最好的方法是在ADF中使用新的Delete Activity。 在ADF用户界面的右上角,您可以找到代码部分,单击此处并编写用于删除活动的JSON语法(我没有找到删除活动小部件/图标,因此我需要直接编写JSON代码)

您可以检查语法here

仅删除活动的示例管道

{
"name": "DeleteFilePipeline",
"properties": {
    "activities": [
        {
            "name": "DeleteActivity",
            "type": "Delete",
            "policy": {
                "timeout": "7.00:00:00",
                "retry": 0,
                "retryIntervalInSeconds": 30,
                "secureOutput": false,
                "secureInput": false
            },
            "typeProperties": {
                "dataset": {
                    "referenceName": "deleteTest",
                    "type": "DatasetReference"
                },
                "enableLogging": false,
                "maxConcurrentConnections": 1
            }
        }
    ]
}

}

数据集deleteTest是Azure Data Lake Gen1数据集。