我有一个熊猫数据框,其中包含GROUP,DATE,VALUE和VARIANCE列:
Index GROUP DATE VALUE VARIANCE
1 g1 2015-12-02 10 3.2
2 g1 2015-10-12 9 4.25
3 g1 2013-12-13 8 8
4 g1 2013-12-13 11 8
5 g1 2013-07-15 7 NaN
6 g1 2015-12-02 11 NaN
7 g2 ...
基本上,我想计算VALUE列的平移滚动方差。因此,索引1的方差值就是索引2-6等中的值的方差。
我的第一种方法是使用扩展windown计算方差并将值偏移1,但是我不确定这是否是正确的方法。我对每一个建议都很满意。
答案 0 :(得分:0)
要在pd.expanding
列上使用VALUE
,应首先翻转数据框并计算偏移的扩展方差:
variance = df['VALUE'].iloc[::-1].expanding(
).var().shift().iloc[::-1].rename('VARIANCE')
>> variance
Index
1 3.200000
2 4.250000
3 5.333333
4 8.000000
5 NaN
6 NaN
Name: VARIANCE, dtype: float64
多个组
让我们用每个组的值创建一个新的df:
>> df
GROUP DATE VALUE
Index
1 g1 2015-12-02 10
2 g1 2015-10-12 9
3 g1 2013-12-13 8
4 g1 2013-12-13 11
5 g1 2013-07-15 7
6 g1 2015-12-02 11
1 g2 2015-12-02 10
2 g2 2015-10-12 9
3 g2 2013-12-13 8
4 g2 2013-12-13 11
5 g2 2013-07-15 7
6 g2 2015-12-02 11
对于多个组,您可以iterate遍历这些组并存储结果。
variance = []
for name, group in df.groupby('GROUP'):
variance.append(group['VALUE'].iloc[::-1].expanding(
).var().shift().iloc[::-1])
>> df.assign(VARIANCE=pd.concat(variance))
GROUP DATE VALUE VARIANCE
Index
1 g1 2015-12-02 10 3.200000
2 g1 2015-10-12 9 4.250000
3 g1 2013-12-13 8 5.333333
4 g1 2013-12-13 11 8.000000
5 g1 2013-07-15 7 NaN
6 g1 2015-12-02 11 NaN
1 g2 2015-12-02 10 3.200000
2 g2 2015-10-12 9 4.250000
3 g2 2013-12-13 8 5.333333
4 g2 2013-12-13 11 8.000000
5 g2 2013-07-15 7 NaN
6 g2 2015-12-02 11 NaN
答案 1 :(得分:0)
适合所有正在调查此问题的人。 Mabel Villalba的回答为我指明了正确的方向。我相应地改变了她的方法:
variance_r = df[['GROUP','DATE','VALUE']].sort_values(['GROUP','DATE'])
variance = []
for name, group in variance_r.groupby('GROUP'):
variance.append(
group['VALUE'].expanding().var().shift(1).
where(group['DATE'].shift() != group['DATE'],
group['VALUE'].expanding().var().shift(2)
))
variance_r.assign(VARIANCE = pd.concat(variance))