使用Pandas丢失数据

时间:2017-06-23 10:06:31

标签: python python-3.x pandas pandas-groupby

我有一个带有TimeSeries的pandas.DataFrame(所有列都被转换为float),它们使用日期时间索引(粒度/频率约为1小时)和行的MultiIndex进行索引。系列中缺少数据(但没有丢失的行,频率已设置)。我想按月计算收购表现(百分比)。

def mapMonth(x):
    return x.replace(day=1, hour=0, minute=0, second=0, microsecond=0)

c = data.groupby(mapMonth).count()

上面的代码似乎计算忽略NaN这个我想要的值。现在我想将这个聚合的DataFrame除以预期的数量。

n = pd.DataFrame(np.full((data.shape[0],), 1, dtype=float), index=data.index).groupby(groupby.mapMonth).sum()

它按月向我提供了预期的数据,但我发现这种方式非常棘手。 无论如何,我无法使用:{/ p>将DataFrame c除以n

p = c.div(n, axis=0)

DataFrames看起来像:

networkkey      RTU                                                         
measurandkey    NO2
sitekey      41B001 41B004 41B006 41B008 41B011 41MEU1 41N043 41R001 41R002
channelid       280    27     38     55     59     86     103    122    168
2012-01-01        0    728    728      0    728    732    728    728    728
2012-02-01        0    679    678      0    680    686    681    681    679
2012-03-01        0    728    727      0    727    720    726    728    722
2012-04-01        0    705    698      0    702    710    699    705    701
2012-05-01        0    728    728      0    726    728    725    724    680
2012-06-01        0    703    700      0    701    710    705    705    705
2012-07-01        0    728    728      0    728    657    707    728    728

                0
2012-01-01  744.0
2012-02-01  696.0
2012-03-01  744.0
2012-04-01  720.0
2012-05-01  744.0
2012-06-01  720.0
2012-07-01  744.0
2012-08-01  744.0
2012-09-01  720.0
2012-10-01  744.0
2012-11-01  720.0
2012-12-01  744.0

我怀疑问题是因为MultiIndex。无论如何,我发现这种方法并不直接。

是否有更清洁/切割器用Pandas计算这个聚合?

1 个答案:

答案 0 :(得分:1)

我终于找到了size函数,它不会忽略NaN。因此,以下代码在几行中执行我想要的内容:

# Group Data:
g = data.groupby(groupby.mapMonth)

# Compute Performance
c = g.count()
n = g.size()
d = c.div(n, axis=0)