如何使用“重复发生”列重新整形数据框?

时间:2012-09-27 12:04:48

标签: r reshape melt reshape2

我是R的数据分析新手。我最近得到了一个预先格式化的环境观察模型数据集,其示例子集如下所示:

date                   site      obs    mod      site           obs    mod
2000-09-01 00:00:00    campus    NA     61.63    city centre    66     56.69
2000-09-01 01:00:00    campus    52     62.55    city centre    NA     54.75
2000-09-01 02:00:00    campus    52     63.52    city centre    56     54.65

基本上,数据包括每小时观察到的时间序列和在“重复列”中不同地点的污染物模型浓度,即站点 - 天然气模型(在示例中,我只显示了总共75个站点中的2个) )。我将这个“宽”数据集作为数据框读取,并希望将其重塑为“较窄”格式:

date                   site           obs    mod
2000-09-01 00:00:00    campus         NA     61.63
2000-09-01 01:00:00    campus         52     62.55
2000-09-01 02:00:00    campus         52     63.52
2000-09-01 00:00:00    city centre    66     56.69
2000-09-01 01:00:00    city centre    NA     54.75
2000-09-01 02:00:00    city centre    56     54.65

我相信我应该使用“reshape2”包来做到这一点。首先,我尝试融化然后dcast数据集:

test.melt <- melt(test.data, id.vars = "date", measure.vars = c("site", "obs", "mod"))

但是,它只返回了一半的数据,即第一个(“校园”)之后的网站(“市中心”)的记录全部被截断:

date                   variable    value
2001-01-01 00:00:00    site        campus
2001-01-01 01:00:00    site        campus
2001-01-01 02:00:00    site        campus
2001-01-01 00:00:00    obs         NA
2001-01-01 01:00:00    obs         52
2001-01-01 02:00:00    obs         52
2001-01-01 00:00:00    mod         61.63
2001-01-01 01:00:00    mod         62.55
2001-01-01 02:00:00    mod         63.52

然后我尝试重铸:

test.recast <- recast(test.data, date ~ site + obs + mod)

但是,它返回时显示错误消息:

Error in eval(expr, envir, enclos) : object 'site' not found

我试图搜索以前的问题,但没有找到类似的情况(如果我错了,请纠正我)。有人可以帮帮我吗?

非常感谢提前!

2 个答案:

答案 0 :(得分:10)

在进行一些变量名称清理后,最好使用基础R重塑。

这是您的数据。

test <- read.table(header = TRUE, stringsAsFactors=FALSE,
text = "date             site  obs    mod    site             obs    mod
'2000-09-01 00:00:00'  campus   NA  61.63    'city centre'    66     56.69
'2000-09-01 01:00:00'  campus   52  62.55    'city centre'    NA     54.75
'2000-09-01 02:00:00'  campus   52  63.52    'city centre'    56     54.65")
test
#                  date   site obs   mod      site.1 obs.1 mod.1
# 1 2000-09-01 00:00:00 campus  NA 61.63 city centre    66 56.69
# 2 2000-09-01 01:00:00 campus  52 62.55 city centre    NA 54.75
# 3 2000-09-01 02:00:00 campus  52 63.52 city centre    56 54.65

如果你做得正确,你应该获得我得到的名字:@chase提及in his answer,“重复的列名有点奇怪而且不是正常的R行为“ - 所以我们必须解决这个问题。

  

注意:这两个选项都会生成一个“时间”变量,您可以继续前进和删除。您可能希望保留它,以防您想要重新变换为宽格式。

  • 选项1: 如果你有像我这样的名字 (你应该拥有),解决方案很简单。对于第一个站点,只需将“0”附加到站点名称并使用base R reshape:

    names(test)[2:4] <- paste(names(test)[2:4], "0", sep=".")
    test <- reshape(test, direction = "long", 
                    idvar = "date", varying = 2:ncol(test))
    rownames(test) <- NULL # reshape makes UGLY rownames
    test
    #                  date time        site obs   mod
    # 1 2000-09-01 00:00:00    0      campus  NA 61.63
    # 2 2000-09-01 01:00:00    0      campus  52 62.55
    # 3 2000-09-01 02:00:00    0      campus  52 63.52
    # 4 2000-09-01 00:00:00    1 city centre  66 56.69
    # 5 2000-09-01 01:00:00    1 city centre  NA 54.75
    # 6 2000-09-01 02:00:00    1 city centre  56 54.65
    
  • 选项2: 如果您确实拥有重复的列名 ,则修复仍然很容易,并遵循相同的逻辑。首先,创建更好的列名称(使用rep()轻松完成),然后如上所述使用reshape()

    names(test)[-1] <- paste(names(test)[-1], 
                             rep(1:((ncol(test)-1)/3), each = 3), sep = ".")
    test <- reshape(test, direction = "long", 
                    idvar = "date", varying = 2:ncol(test))
    rownames(test) <- NULL
    
    ### Or, more convenient:
    # names(test) <- make.unique(names(test))
    # names(test)[2:4] <- paste(names(test)[2:4], "0", sep=".")
    # test <- reshape(test, direction = "long", 
    #                 idvar = "date", varying = 2:ncol(test))
    # rownames(test) <- NULL
    
  • 可选步骤:此表单中的数据仍然不完全“长”。如果需要,只需再做一步:

    require(reshape2)
    melt(test, id.vars = c("date", "site", "time"))
    #                   date        site time variable value
    # 1  2000-09-01 00:00:00      campus    0      obs    NA
    # 2  2000-09-01 01:00:00      campus    0      obs 52.00
    # 3  2000-09-01 02:00:00      campus    0      obs 52.00
    # 4  2000-09-01 00:00:00 city centre    1      obs 66.00
    # 5  2000-09-01 01:00:00 city centre    1      obs    NA
    # 6  2000-09-01 02:00:00 city centre    1      obs 56.00
    # 7  2000-09-01 00:00:00      campus    0      mod 61.63
    # 8  2000-09-01 01:00:00      campus    0      mod 62.55
    # 9  2000-09-01 02:00:00      campus    0      mod 63.52
    # 10 2000-09-01 00:00:00 city centre    1      mod 56.69
    # 11 2000-09-01 01:00:00 city centre    1      mod 54.75
    # 12 2000-09-01 02:00:00 city centre    1      mod 54.65
    

更新(试图解决评论中的一些问题)

  1. reshape()文档非常混乱。最好通过几个例子来了解它是如何工作的。具体来说,“时间”不必是指时间(问题中的“日期”),而是更多地用于面板数据,其中记录是在不同时间为相同ID收集的。在您的情况下,原始数据中唯一的“id”是“日期”列。另一个潜在的“id”是网站,但不是数据的组织方式。

    想象一下,如果您的数据看起来像这样:

    test1 <- structure(list(date = structure(1:3, 
        .Label = c("2000-09-01 00:00:00", 
        "2000-09-01 01:00:00", "2000-09-01 02:00:00"), class = "factor"), 
        obs.campus = c(NA, 52L, 52L), mod.campus = c(61.63, 62.55, 
        63.52), obs.cityCentre = c(66L, NA, 56L), mod.cityCentre = c(56.69, 
        54.75, 54.65)), .Names = c("date", "obs.campus", "mod.campus", 
    "obs.cityCentre", "mod.cityCentre"), class = "data.frame", row.names = c(NA, 
    -3L))
    test1
    #                  date obs.campus mod.campus obs.cityCentre mod.cityCentre
    # 1 2000-09-01 00:00:00         NA      61.63             66          56.69
    # 2 2000-09-01 01:00:00         52      62.55             NA          54.75
    # 3 2000-09-01 02:00:00         52      63.52             56          54.65
    

    现在尝试reshape(test1, direction = "long", idvar = "date", varying = 2:ncol(test1))。您会看到reshape()将网站名称视为“时间”(可以通过向timevar = "site"命令添加“reshape”来覆盖该网站名称。

    direction = "long"时,您必须指定哪些列随“时间”而变化。在您的情况下,除了第一列之外,这是所有列,因此我使用2:ncol(test)作为“varying”。

  2. test2?那是哪里?

  3. @ Chase回答的问题:我认为你误解了melt()应该如何运作。基本上,它试图让你获得“最瘦的”数据形式。在这种情况下,最简洁的形式将是上面描述的“可选步骤”,因为date + site将是组成唯一ID变量所需的最小值。 (我会说“time”可以安全地删除。)

    一旦您的数据采用“可选步骤”中描述的格式(我们假设输出已存储为“test.melt”,您可以随时轻松地以不同方式旋转表格。为了表达我的意思,尝试以下内容,看看他们做了什么。

    dcast(test.melt, date + site ~ variable)
    dcast(test.melt, date ~ variable + site)
    dcast(test.melt, variable + site ~ date)
    dcast(test.melt, variable + date ~ site)
    

    如果您停在“选项1”或“选项2”,那么获得这种灵活性并不容易。


  4. 更新(几年后)

    来自“data.table”的

    melt现在可以以与reshape类似的方式“融化”多个列。无论列名是否重复,它都应该有效。

    您可以尝试以下操作:

    measure <- c("site", "obs", "mod")
    melt(as.data.table(test), measure.vars = patterns(measure), value.name = measure)
    #                   date variable        site obs   mod
    # 1: 2000-09-01 00:00:00        1      campus  NA 61.63
    # 2: 2000-09-01 01:00:00        1      campus  52 62.55
    # 3: 2000-09-01 02:00:00        1      campus  52 63.52
    # 4: 2000-09-01 00:00:00        2 city centre  66 56.69
    # 5: 2000-09-01 01:00:00        2 city centre  NA 54.75
    # 6: 2000-09-01 02:00:00        2 city centre  56 54.65
    

答案 1 :(得分:6)

您有重复列名称的事实有点奇怪,并且正常R行为。大多数情况下,R强制您通过make.names()函数获得有效名称。无论如何,我能够复制你的问题。注意我做了我自己的例子,因为你的例子不可复制,但逻辑是相同的。

#Do not force unique names
s <- data.frame(id = 1:3, x = runif(3), x = runif(3), check.names = FALSE)
#-----
  id         x         x
1  1 0.6845270 0.5218344
2  2 0.7662200 0.6179444
3  3 0.4110043 0.1104774

#Now try to melt, note that 1/2 of your x-values are missing!
melt(s, id.vars = 1)
#-----
  id variable     value
1  1        x 0.6845270
2  2        x 0.7662200
3  3        x 0.4110043

解决方案是使列名称唯一。正如我之前所说,在大多数情况下,R默认执行此操作。但是,您可以通过make.unique()

在事后执行此操作
names(s) <- make.unique(names(s))
#-----
[1] "id"  "x"   "x.1"

请注意,x的第二列现在附加了1。现在melt()正如您所期望的那样工作:

melt(s, id.vars = 1)
#-----
  id variable     value
1  1        x 0.6845270
2  2        x 0.7662200
3  3        x 0.4110043
4  1      x.1 0.5218344
5  2      x.1 0.6179444
6  3      x.1 0.1104774

此时,如果您想将xx.1视为同一个变量,我认为有一点gsub()或其他正则表达式函数来摆脱有问题的字符。这是我经常使用的工作流程。