我有一个data.table,在30年的时间内每天有一行,有许多不同的变量列。使用data.table的原因是我使用的.csv文件很大(大约120万行),因为有一些名为'key'的列所描述的许多组都有30年的数据。
示例数据集如下所示:
Key Date Runoff
A 1980-01-01 2
A 1980-01-02 1
A 1981-01-01 0.1
A 1981-01-02 3
A 1982-01-01 2
A 1982-01-02 5
B 1980-01-01 1.5
B 1980-01-02 0.5
B 1981-01-01 0.3
B 1981-01-02 2
B 1982-01-01 1.5
B 1982-01-02 4
以上是两个“钥匙”的样本,1月份的一些数据显示了我的意思。实际数据集包含数百个“密钥”和每个“密钥”30年的数据。
我想要做的是产生一个输出,其中包含每个键每月的总平均值,如下所示:
Key January February March.... etc
A 4.36 ... ...
B 3.26 ... ...
即。关键A =(2 + 1)+(0.1 + 3)+(2 + 5)/ 3
的1月份总平均值当我对一个三十年的数据集(即只有一个键)进行此分析时,我已成功使用以下代码来实现此目的:
runoff_tot_average <- rowsum(DF$Runoff, format(DF$Date, '%m')) / 30
其中DF是一个30年数据集的数据框。
我可以请求如何修改上面的代码以使用包含许多“密钥”的更大数据集,或者提供一个全新的解决方案!
修改
以下代码生成上述数据示例:
Key <- c("A", "A", "A", "A", "A", "A", "B", "B", "B", "B", "B", "B")
Date <- as.Date(c("1980-01-01", "1980-01-02", "1981-01-01", "1981-01-02", "1982-01-01", "1982-01-02", "1980-01-01", "1980-01-02", "1981-01-01", "1981-01-02", "1982-01-01", "1982-01-02"))
Runoff <- c(2, 1, 0.1, 3, 2, 5, 1.5, 0.5, 0.3, 2, 1.5, 4)
DT <- data.table(Key, Date, Runoff)
答案 0 :(得分:11)
他们只能通过两个步骤来考虑这样做。可能不是最好的方式,但这里是
DT[, c("YM", "Month") := list(substr(Date, 1, 7), substr(Date, 6, 7))]
DT[, Runoff2 := sum(Runoff), by = c("Key", "YM")]
DT[, mean(Runoff2), by = c("Key", "Month")]
## Key Month V1
## 1: A 01 4.366667
## 2: B 01 3.266667
只是为了展示另一种(非常相似)的方式:
DT[, c("year", "month") := list(year(Date), month(Date))]
DT[, Runoff2 := sum(Runoff), by=list(Key, year, month)]
DT[, mean(Runoff2), by=list(Key, month)]
请注意,您不会 来创建新列,因为by
也支持表达式。也就是说,您可以直接在by
中使用它们,如下所示:
DT[, Runoff2 := sum(Runoff), by=list(Key, year = year(Date), month = month(Date))]
但是,由于您需要多次聚合,因此将其作为附加列存储会更好(速度更快),正如@David在此处所示。
答案 1 :(得分:6)
如果您不是在寻找复杂的功能而只是想要平均值,那么以下内容就足够了:
DT[, sum(Runoff) / length(unique(year(Date))), list(Key, month(Date))]
# Key month V1
#1: A 1 4.366667
#2: B 1 3.266667
答案 2 :(得分:4)
由于您在问题中说过您可以使用全新的解决方案,因此可以使用dplyr
尝试以下内容:
df$Date <- as.Date(df$Date, format="%Y-%m-%d")
df$Year.Month <- format(df$Date, '%Y-%m')
df$Month <- format(df$Date, '%m')
require(dplyr)
df %>%
group_by(Key, Year.Month, Month) %>%
summarize(Runoff = sum(Runoff)) %>%
ungroup() %>%
group_by(Key, Month) %>%
summarize(mean(Runoff))
@Henrik评论后编辑#1: 同样可以通过以下方式完成:
df %>%
group_by(Key, Month, Year.Month) %>%
summarize(Runoff = sum(Runoff)) %>%
summarize(mean(Runoff))
编辑#2来解决问题: 这是另一种方式(第二种分组更加明确) 感谢@Henrik的评论
df %>%
group_by(Key, Month, Year.Month) %>%
summarize(Runoff = sum(Runoff)) %>%
group_by(Key, Month, add = FALSE) %>% #now grouping by Key and Month, but not Year.Month
summarize(mean(Runoff))
它产生以下结果:
#Source: local data frame [2 x 3]
#Groups: Key
#
# Key Month mean(Runoff)
#1 A 01 4.366667
#2 B 01 3.266667
然后,您可以使用例如重新整形输出以匹配您想要的输出。 reshape2
。假设您将上述操作的输出存储在data.frame df2
中,那么您可以这样做:
require(reshape2)
df2 <- dcast(df2, Key ~ Month, sum, value.var = "mean(Runoff)")