将“SPARK_HOME”设置为什么?

时间:2015-06-14 00:12:30

标签: python apache-spark pythonpath pyspark apache-zeppelin

安装了apache-maven-3.3.3,scala 2.11.6,然后运行:

$ git clone git://github.com/apache/spark.git -b branch-1.4
$ cd spark
$ build/mvn -DskipTests clean package

最后:

$ git clone https://github.com/apache/incubator-zeppelin
$ cd incubator-zeppelin/
$ mvn install -DskipTests

然后运行服务器:

$ bin/zeppelin-daemon.sh start

运行一个以%pyspark开头的简单笔记本,我收到了一条关于找不到py4j的错误消息。刚做pip install py4jref)。

现在我收到了这个错误:

pyspark is not responding Traceback (most recent call last):
  File "/tmp/zeppelin_pyspark.py", line 22, in <module>
    from pyspark.conf import SparkConf
ImportError: No module named pyspark.conf

我已尝试将SPARK_HOME设置为:/spark/python:/spark/python/lib。没有变化。

1 个答案:

答案 0 :(得分:29)

需要两个环境变量:

SPARK_HOME=/spark
PYTHONPATH=$SPARK_HOME/python:$SPARK_HOME/python/lib/py4j-VERSION-src.zip:$PYTHONPATH