我有5个节点(1个主节点和4个从节点)。我在所有表示主机和从机主机的机器上都有相同的配置文件(slaves
和spark-defaults.conf
)。
当我使用start-all.sh
命令启动Apache spark时,工作程序在所有机器上启动,但是在webUI面板中只有一个工作程序(在主节点上)。
这是怎么了?
答案 0 :(得分:2)
我的问题解决了。
我必须手动设置SPARK_MASTER_HOST
和SPARK_MASTER_PORT
环境变量。将这两个添加到.bashrc
文件后,问题解决了,并且从属节点现在已连接到主节点。