PySpark DataFrame无法删除重复项

时间:2016-05-07 05:45:22

标签: python apache-spark pyspark apache-spark-sql pyspark-sql

您好我已经创建了一个spark数据帧,我正在尝试删除重复项:

arr[0][1]

我收到以下错误:

df.drop_duplicates(subset='id')

正在使用 osx 10.11.4,spark 1.6.1

我跑了一个这样的jupyter笔记本

Py4JError: An error occurred while calling z:org.apache.spark.api.python.PythonUtils.toSeq. Trace:
py4j.Py4JException: Method toSeq([class java.lang.String]) does not exist
    at py4j.reflection.ReflectionEngine.getMethod(ReflectionEngine.java:335)
    at py4j.reflection.ReflectionEngine.getMethod(ReflectionEngine.java:360)
    at py4j.Gateway.invoke(Gateway.java:254)
    at py4j.commands.AbstractCommand.invokeMethod(AbstractCommand.java:133)
    at py4j.commands.CallCommand.execute(CallCommand.java:79)
    at py4j.GatewayConnection.run(GatewayConnection.java:209)
    at java.lang.Thread.run(Thread.java:745)

是否有其他一些我可能错过或出错的配置?

1 个答案:

答案 0 :(得分:9)

drop_duplicates / dropDuplicates的参数应该是一个名称集合,Java等价物可以转换为Scala Seq,而不是单个字符串。您可以使用list

df.drop_duplicates(subset=['id'])

tuple

df.drop_duplicates(subset=('id', ))