使用powershell将项目从一个资源组复制到Azure数据湖存储中的另一个资源组

时间:2018-01-15 07:43:15

标签: powershell azure deployment command data-lake

我想要的只是将数据从开发环境复制到Azure数据湖存储中的生产环境。 没有QA ..

这些.CSV文件环境只是不同的资源组。 我尝试使用命令

复制类似资源组中的数据
Move-AzureRmDataLakeStoreItem -AccountName "xyz" -path "/Product_S
ales_Data.csv" -destination "/mynewdirectory

但是,我希望数据移动发生在两个不同的资源组之间。

我遇到的

可能的解决方案是使用导出命令在本地计算机中下载文件,然后使用导入命令并将它们上传到不同的资源组。

Import-AzureRmDataLakeStoreItem
Export-AzureRmDataLakeStoreItem

使用PowerShell背后的原因是自动执行导入文件/在不同环境中复制它们的过程,这只是使用PowerShell自动化整个部署过程。

上述解决方案可能有助于我处理流程,但我正在寻找更好的解决方案,而不需要本地计算机或VM。

1 个答案:

答案 0 :(得分:1)

你有很多选择,以下所有选项都可以完成你想要达到的目标。请记住,您需要检查每个限制并权衡成本。例如,Azure功能的执行时间有限(默认最长为5分钟)和本地存储限制。

  1. Azure Logic Apps(从配置中拖放)
  2. Azure Data Factory(使用Data Lake衬里服务)
  3. Azure功能(使用Data Lake REST API
  4. 您可以使用Azure Automation和PowerShell自动执行当前的方法。
  5. 使用ADLCopy在湖泊(和其他商店)之间进行复制
  6. 选择哪些可以是主观的和主观的。