无法使用spark和iPython读取文本文件

时间:2016-11-30 05:37:06

标签: apache-spark ipython

enter image description here

您好我刚刚开始学习火花并且已经配置我的ipython运行spark但不知何故我无法阅读文本文件,请提示我可能做错了。

2 个答案:

答案 0 :(得分:0)

当您尝试访问本地系统/主节点上的文件时,您的路径应以file:///users/...开头。 HTH!

答案 1 :(得分:0)

实际上,没有file:///的路径尝试从HDFS获取文件,文件应该相应地驻留在HDFS中。另一方面,如果在本地文件系统上使用路径,则还必须可以在工作节点上的相同路径上访问该文件。将文件复制到所有工作者或使用网络安装的共享文件系统。