如何在R中读取HDFS中的文件而不丢失列和行名称

时间:2015-11-19 11:04:23

标签: r csv hadoop hdfs

我的问题是,当我读取包含例如(标题)列名的csv文件时,列名称消失并且具有“V1”,“V2”......而不是

我有csv格式的mtcars数据集,这是预览

model,mpg,cyl,disp,hp,drat,wt,qsec,vs,am,gear,carb
Mazda RX4,21,6,160,110,3.9,2.62,16.46,0,1,4,4
Mazda RX4 Wag,21,6,160,110,3.9,2.875,17.02,0,1,4,4
Datsun 710,22.8,4,108,93,3.85,2.32,18.61,1,1,4,1

我想上传到HDFS并阅读它,所以我进入“HUE”平台并上传文件。我可以在文件管理器中查看它。这是一个小预览:

enter image description here

然后在使用plyrmr的R会话中,我运行以下代码:

filename3 <- "/user/sgerony/mtcars.csv"
input(filename3,format=make.input.format(format = "csv", sep=","))

结果如下:

                V1   V2  V3    V4  V5   V6    V7    V8 V9 V10  V11  V12
1    Chrysler Imperial 14.7   8   440 230 3.23 5.345 17.42  0   0    3    4
2             Fiat 128 32.4   4  78.7  66 4.08   2.2 19.47  1   1    4    1
3          Honda Civic 30.4   4  75.7  52 4.93 1.615 18.52  1   1    4    2
4       Toyota Corolla 33.9   4  71.1  65 4.22 1.835  19.9  1   1    4    1

正如您所看到的,列名已经消失。我做错了什么?

由于

1 个答案:

答案 0 :(得分:0)

这是我找到的解决方案(我真的不喜欢它,所以如果你有更好的解决方案请分享)。

我将csv文件分成两个csv文件,一个只包含列名(mtcars_names.csv),另一个包含数据(mtcars_no_names.csv)。然后将它们上传到文件管理器。

filename <- "/user/sgerony/mtcars_no_names.csv"
filename.names <- "/user/sgerony/mtcars_names.csv"
filename.names <- as.data.frame(input(filename.names,
format=make.input.format(format = "csv", sep=",")))

# transform the columns in "character" types
for(i in 1:dim(filename.names)[2]){
  filename.names[,i] <- as.character(filename.names[,i])
}

现在每次我编写/读取我编码的文件:

### comlumn name information is once more lost
output(input(filename,format=make.input.format(format = "csv",
sep=",", col.names = filename.names[1,])),
path="/user/sgerony/mtcars_output_csv")

input("/user/sgerony/mtcars_output_csv",
format=make.input.format(format = "csv", 
sep=",", col.names = filename.names[1,]))

如果生成数据子集,可能会非常混乱。对于具有不同列名的每个子集,必须生成包含列名的新文件