使用Visual Studio将PySpark作业发送到HDInsight群集?

时间:2018-05-16 15:09:50

标签: python azure apache-spark pyspark hdinsight

不能100%确定这是否是我的问题的正确stackexchange网站,随时提出移动建议。

我更喜欢在IDE中编程(目前主要使用Spyder),但希望使用PySpark来使用HDInsight Spark集群。我假设Visual Studio支持这一点,因为两者都来自Microsoft和Visual Studio 2017可以访问HDInsight集群,ADLS等,但似乎并非如此?我错过了什么吗?

我找到的最近的事情是link关于在 Visual Studio代码中做我想做的事情 - 在Visual Studio本身真的没办法做到这一点(但是?)< / p>

2 个答案:

答案 0 :(得分:1)

此时只有VSCode与HDInsight本机集成用于python spark作业。

答案 1 :(得分:-1)

是的,您可以通过安装Visual Studio的HDInsight工具来提交作业。有关详细步骤,请参阅Install the HDInsight Tools and Submit interactive PySpark queries

希望这有帮助。