使用相对地址使用sc.textFile()将本地文件加载到spark?

时间:2018-03-22 02:21:05

标签: scala apache-spark spark-dataframe

如何使用带有相对地址而不是绝对sc.textFile将文件从本地文件系统加载到Spark?大多数在线示例使用绝对地址来指定文件在文件系统中的确切位置。我想使用相对地址,因为我需要将此代码上传到github,其他开发人员可以在其机器上克隆并运行它。绝对地址不起作用,因为它包含我的用户名,但相对地址将会。

例如:

val inputFile = sc.textFile("file///C:/Users/swaapnika/Desktop/to do list")

但我想要

val inputFile = sc.textFile("../../folderName/to do list")

1 个答案:

答案 0 :(得分:1)

您可以使用

获取项目所在目录的路径
val projectDirectory = new java.io.File(".").getCanonicalPath

然后如果项目中的文件夹那么你可以

val inputFile = sc.textFile(projectDirectory+"/folderName/to do list")