用户“ livy”无法在EMR中创建本地目录

时间:2019-04-25 13:35:41

标签: apache-spark unix pyspark aws-step-functions livy

我正在通过 apache livy AWS Step Function pyspark 作业提交到 EMR 集群中。 pyspark作业已触发 Unix shell 命令。

test.py

subprocess.call(' echo $USER', shell=True, stdout=None, stderr=None)
subprocess.call(' mkdir /mnt/data', shell=True, stdout=None, stderr=None)

日志文件具有以下输出:

livy
mkdir: cannot create directory ‘/mnt/data’: Permission denied

即使使用sudo,用户“ livy”也无法创建目录。 我需要此脚本来创建目录,该怎么办?

1 个答案:

答案 0 :(得分:0)

“ livy”用户无权在EMR中创建目录。

但是要创建目录,我们可以使用引导脚本。否则,我们可以在创建EMR集群时使用“步骤”。

通过引导程序创建目录时,需要sudo用户权限。