Azure数据工厂活动副本:使用@pipeline()。TriggerTime评估接收器表中的列

时间:2018-09-28 10:27:41

标签: azure azure-sql-database azure-data-factory azure-data-factory-2

使用Data Factory V2,我试图实现从一个Azure SQL数据库到另一个Azure SQL数据库的数据复制流。

我已经将源表的所有列与接收器表进行了映射,但是在接收器表中我有一个空列,我想在其中输入管道运行时间。

有没有人知道如何在接收器表中填充此列而不在源表中显示它?

下面是我的复制管道的代码

{
"name": "FLD_Item_base",
"properties": {
    "activities": [
        {
            "name": "Copy_Team",
            "description": "copytable",
            "type": "Copy",
            "policy": {
                "timeout": "7.00:00:00",
                "retry": 0,
                "retryIntervalInSeconds": 30,
                "secureOutput": false,
                "secureInput": false
            },
            "typeProperties": {
                "source": {
                    "type": "SqlSource"
                },
                "sink": {
                    "type": "SqlSink",
                    "writeBatchSize": 10000,
                    "preCopyScript": "TRUNCATE TABLE Team_new"
                },
                "enableStaging": false,
                "dataIntegrationUnits": 0,
                "translator": {
                    "type": "TabularTranslator",
                    "columnMappings": {
                        "Code": "Code",
                        "Name": "Name"
                    }
                }
            },
            "inputs": [
                {
                    "referenceName": "Team",
                    "type": "DatasetReference"
                }
            ],
            "outputs": [
                {
                    "referenceName": "Team_new",
                    "type": "DatasetReference"
                  }
              ]
          }
      ]
  }
}

在接收器表中,我已经有data_load列,我想在其中插入管道执行日期,但是我目前没有映射它。

2 个答案:

答案 0 :(得分:2)

根据您的情况,请在sql服务器接收器中配置sql服务器stored procedure作为解决方法。

请按照此doc中的步骤操作:

第1步:配置您的接收器数据集:

enter image description here

步骤2:在复制活动中配置接收器部分,如下所示:

enter image description here

第3步:在数据库中,定义与sqlWriterTableType相同名称的表类型。请注意,表类型的架构应与输入数据返回的架构相同。

    CREATE TYPE [dbo].[testType] AS TABLE(
    [ID] [varchar](256) NOT NULL,
    [EXECUTE_TIME] [datetime] NOT NULL
)
GO

步骤4:在您的数据库中,定义与SqlWriterStoredProcedureName同名的存储过程。它处理来自指定源的输入数据,并合并到输出表中。请注意,存储过程的参数名称应与数据集中定义的“ tableName”相同。

Create PROCEDURE convertCsv @ctest [dbo].[testType] READONLY
AS
BEGIN
  MERGE [dbo].[adf] AS target
  USING @ctest AS source
  ON (1=1)
  WHEN NOT MATCHED THEN
      INSERT (id,executeTime)
      VALUES (source.ID,GETDATE());
END

希望它对您有帮助。任何关注,请随时让我知道。

答案 1 :(得分:0)

您可以考虑通过指定SqlSink的“ sqlWriterStoredProcedureName ”,在接收器端使用存储过程将源数据应用于接收器表。将管道运行时间作为参数传递给存储过程,然后插入到接收器表中。