我知道这是不寻常的配置,但我在Windows上安装Spark只是为了测试
我可以轻松使用
val file_in = sc.textFile("UDP_file.txt")
在本地文件系统上。但是当我尝试使用
时names.saveAsTextFile("file:///file_out.txt")
我收到错误:
14/08/21 13:06:12 ERROR FileOutputCommitter: Mkdirs failed to create file:/file_out.txt/_temporary/0
但实际创建了路径:
file_out.txt\_temporary\0\_temporary\attempt_201408211306_0000_m_000000_34
并使用文件part-00000
列出目录。
是否可以在Windows上安装Spark上的use saveAsTextFile
方法?
问候
的Pawel
答案 0 :(得分:2)
而不是" file:///file_out.txt"尝试" file_out.txt"。
它将创建一个文件夹(不是文件)" file_out.txt",因此您可以指定" file_out"也作为名字。
在该文件夹中,您可以看到part-000 *文件。