我刚刚从http://files.grouplens.org/datasets/movielens/ml-latest-small.zip加载了ratings
数据作为pySpark中的RDD。我想将等级列转换为float
。我该怎么办?
我尝试在lambda
内使用map
函数,但是没有按预期工作。
下面是我尝试的代码。
path_data = "/ml-latest-small"
ratingsFile = sc.textFile(path_data + "/ratings.csv")
ratingsFile_2 = ratingsFile.map(lambda x: x.split(","))
header = ratingsFile_2.first()
ratingsFile_3 = ratingsFile_2.filter(lambda x: x != header)
ratingsFile_4 = ratingsFile_3.map(lambda x: float(x[2])
ratingsFile_4.take(6)
我要
[4.0, 4.0, 4.0, 5.0, 5.0, 3.0]
代替
[['1', '1', 4.0, '964982703'],
['1', '3', 4.0, '964981247'],
['1', '6', 4.0, '964982224'],
['1', '47', 5.0, '964983815'],
['1', '50', 5.0, '964982931'],
['1', '70', 3.0, '964982400']]