如何将ADLS gen2文件夹/文件名动态传递到ADF或Databricks中的Databricks Notebook

时间:2020-08-25 17:13:08

标签: azure azure-data-factory-2 azure-databricks

我正在ADF中使用Databricks笔记本活动来转换ADLS gen2文件夹中的文件。该文件夹是动态的,并且每天使用daynumber创建一个新文件夹。因此,我希望我的Databricks Notebook活动每天动态获取文件夹名称,以处理该文件夹中的文件。

我们可以在ADF中还是在Databricks Notebook活动中执行此操作吗?

1 个答案:

答案 0 :(得分:2)

您是否尝试过将动态内容添加到Notebook路径?
我已经根据tutorial进行了测试,并且效果很好:

  1. 首先,我声明一个参数nameenter image description here

  2. 切换到“设置”选项卡,将表达式@concat('/adftutorial/',string(dayOfMonth(utcnow())))添加到笔记本路径文本中 enter image description here

  3. 然后运行debug并在参数中输入/path/filename enter image description here

  4. 它将读取我之前指定的动态路径中的文件。
    enter image description here

对于我来说,该文件不存在,因此会弹出一个错误。