将文件从SFTP复制到Azure Data Lake Gen2

时间:2020-06-11 13:55:15

标签: azure powershell etl sftp azure-data-factory

所以我的问题很愚蠢,但是我找不到解决方法。我在外部SFTP服务器上有一个15 GB的文件,需要将其复制到数据湖中。事实是,列定界符是一个逗号,并且我还有一些嵌套列表。因此,当我尝试使用ADF复制活动时,结果如下所示: enter image description here

我的大部分数据都消失了(因为嵌套结构在第一次出现逗号时就被切断了)。所以也许我可以忽略定界符。我试图将管道设置为定界符只是为了将整个数据集作为一列,但这也不起作用。

enter image description here

Powershell?我尝试了用于处理较小文件的不同脚本,但每次都遇到错误。 enter image description here

我什至尝试通过Azure存储资源管理器手动上传它,但是一段时间后它也失败了。我现在还不确定如何使它工作。

谢谢您的任何建议!

0 个答案:

没有答案