火花另存为实木复合地板空指针异常

时间:2018-08-13 14:39:05

标签: apache-spark dataframe parquet

我正在尝试将实木复合地板格式的数据帧保存到hdfs,但是我面临如下所示的Null指针异常;

我可以毫无例外地在数据框上运行show函数。当我打印出该方案时,每个字段似乎都可以为null = true。我也可以在hdfs上写路径。

有什么主意吗?

谢谢

function checkDOI(string) {
  //Redundant. I know 
  var testKey = String(string);
  var DOIpattern = '\b(10[.][0-9]{4,}(?:[.][0-9]+)*/(?:(?!["&\'<>])\S)+)\b';

  var found = new RegExp(DOIpattern).test(testKey);
  console.log("found", found + " DOI " + testKey);
  return found
}

checkDOI("10.1016.12.31/nature.S0735-1097(98)2000/12/31/34:7-7")

错误消息;

WritableCurrDF.write.mode("append").parquet("/tmp/Results/pivotedResults")

0 个答案:

没有答案