我有一个kubernetes集群,尝试在其中运行一个Spark示例应用程序(spark-pi)。
我已经设置了一个服务帐户= spark
场景
当我从如下所示的命令行执行spark-submit
时,我收到了容器错误。
bin/spark-submit --master k8s://https://IP:port --deploy-mode cluster --name spark-pi --class org.apache.spark.examples.SparkPi --conf spark.executor.instances=2 --conf spark.kubernetes.container.image=spark:latest --conf spark.kubernetes.container.image.pullPolicy=Never --conf spark.kubernetes.authenticate.driver.serviceAccountName=spark local:///opt/spark/examples/jars/spark-examples_2.12-3.1.0-SNAPSHOT.jar 10
期望:
获取记录在日志中的pi
= 3.14
的值
实际结果:
由于出现错误情况,驱动程序窗格未启动。 当我在广告连播上进行描述时,会看到以下内容:
$ kubectl describe pods spark-pi-driver
"applicationState": {
"state": "FAILING",
"errorMessage": "driver container failed with ExitCode: 1, Reason: Error"
},
事件:无
我也没有看到任何事件
是否有更好的方法来解决这种情况?请帮忙。