Azure数据工厂将数据Blob复制到Cosmos数据库-跳过2MB文件需要帮助

时间:2019-12-19 10:14:08

标签: azure azure-data-factory

我在管道中有一个Azure数据工厂复制活动-我正在将数据从多个虚拟文件夹中的Blob容器/ jsons /复制到Cosmos DB。但是,边缘情况存在且无法逃避,在Blob存储中放置了大于2MB的文件。当复制活动选择它们时,由于我达到了CosmosDB的2MB硬限制,因此传输/和随后的管道活动/失败了。 我尝试设置查找活动/获取元数据,但似乎无法正确处理相关的(大小)属性和删除活动所需的输出。

任何人都可以就如何处理此问题提出建议吗?

谢谢。

1 个答案:

答案 0 :(得分:0)

应该可以在“获取元数据”活动中获取文件size。但是请注意,该文件以字节为单位,只能应用于该文件。

enter image description here

据我所知,无法避免cosmos db document的2mb限制。您可以参考这种情况:What is the size limit of a single document stored in Azure Cosmos DB