将RDD列转换为浮动

时间:2019-11-07 21:22:22

标签: python pyspark rdd

我刚刚从http://files.grouplens.org/datasets/movielens/ml-latest-small.zip加载了ratings数据作为pySpark中的RDD。我想将等级列转换为float。我该怎么办?

我尝试在lambda内使用map函数,但是没有按预期工作。

下面是我尝试的代码。

path_data = "/ml-latest-small"
ratingsFile = sc.textFile(path_data + "/ratings.csv")

ratingsFile_2 = ratingsFile.map(lambda x: x.split(","))

header = ratingsFile_2.first()

ratingsFile_3 = ratingsFile_2.filter(lambda x: x != header)

ratingsFile_4 = ratingsFile_3.map(lambda x: float(x[2])

ratingsFile_4.take(6)

我要

[4.0, 4.0, 4.0, 5.0, 5.0, 3.0]

代替

[['1', '1', 4.0, '964982703'],
 ['1', '3', 4.0, '964981247'],
 ['1', '6', 4.0, '964982224'],
 ['1', '47', 5.0, '964983815'],
 ['1', '50', 5.0, '964982931'],
 ['1', '70', 3.0, '964982400']]

0 个答案:

没有答案