Spark保存为CSV不会忽略空格

时间:2017-12-06 16:54:12

标签: apache-spark pyspark spark-dataframe spark-csv

我正在尝试将Dataframe保存为CSV文件,我想保留空格。我正在使用Spark 2.1.1,但是当我尝试将其保存为CSV文件时,所有空格都被修剪。

我尝试了这些选项,但它们没有用。

option("ignoreLeadingWhiteSpace",false")
  .option("ignoreTrailingWhiteSpace", "false")

预期的CSV格式

SiteNumber, batch ,DayBatchDate,RecordType   
    190000,    TBD,  12/12/2017,  +00000001

我目前的输出:

SiteNumber, batch ,DayBatchDate,RecordType   
190000,TBD,12/12/2017,+00000001

1 个答案:

答案 0 :(得分:1)

Spark 2.2中引入了

ignoreLeadingWhiteSpaceignoreTrailingWhiteSpace作者选项( SPARK-18579)因此在Spark 2.1中没有效果。