如何通过Azure Data Lake Store gen1中的新文件触发Azure Data Factory v2或Azure Databricks Notebook中的管道

时间:2018-08-19 16:50:39

标签: azure azure-data-lake databricks azure-data-factory-2

我正在使用 Azure Data Lake Store gen1 存储JSON文件。基于这些文件,我在 Azure Databricks 中有一个Notebooks用于处理它们。现在,我要在 Azure Data Lake Store gen1 中创建新文件时触发这样的 Azure Databricks 笔记本。我找不到任何可以做到这一点的触发器。你知道吗?

1 个答案:

答案 0 :(得分:1)

当前, Microsoft 尚未实现/支持此操作。但这是他们的路线图(我相信)。

您可以通过两种方式进行操作,

  1. Azure函数(通过事件网格)

  2. 逻辑应用


选项#1

当前,Microsoft正在以#1为基础。

您可以跟踪问题here

按照此

  

此功能目前对我们来说不是很重要,但我会注意   Azure事件网格的公告将Data Lake列为其中之一   他们正在建立的整合。一旦您可以订阅数据   通过事件网格更新Lake,运行Azure函数将是   琐碎(请参阅此处以获取一些信息)。

您可以vote your voice在DataLake中支持事件网格(提供程序)。


选项#2

此功能尚未实现,但是您可以在Upvote your voice这里支持此功能