Python Pandas hdfstore的select(其中='')返回不合格的结果

时间:2015-06-12 02:09:37

标签: python pandas hdf5 hdfstore

当我查询大型hdfstore文件(> 10G)时:

hdf = pd.HDFStore('raw_sample_storage.h5')
nrows = hdf.get_storer('raw_sample_all').nrows
chunksize = 300000

for i in xrange(nrows//chunksize + 1):
    chunk = hdf.select('raw_sample_all', where=[pd.Term('node_id', '==', 1)], start=i*chunksize, stop=(i+1)*chunksize)
    print chunk.head(2)

我得到的结果是大多数条目' node_id是1,但有些条目的node_id不是1.所以它是hdfstore故障,还是我做错了什么?

以下是结果的一部分,您可以看到有一些节点,其中node_id不是1。

                 time   GW_time  node_id      X      Y      Z  status  seq  \
2 2013-10-22 17:20:58  39821888        1  16927  21438  22722       0   34   
6 2013-10-22 17:20:58  39822144        1  16927  21438  22722       0   35   

   rssi  lqi  
2   -46   48  
6   -51   48  
                      time   GW_time  node_id      X      Y      Z  status  \
300002 2013-10-22 17:30:50  59223744        3  19915  20840  22003       0   
300006 2013-10-22 17:30:50  59224000        3  19913  20844  22002       0   

        seq  rssi  lqi  
300002   46   -64   50  
300006   47   -64   48  
                      time   GW_time  node_id      X      Y      Z  status  \
600000 2013-10-22 17:40:55  79050561        1  17612  22536  21198       0   
600004 2013-10-22 17:40:55  79050817        1  17613  22535  21201       0   

        seq  rssi  lqi  
600000   55   -67   46  
600004   56   -67   49  
                      time   GW_time  node_id      X      Y      Z  status  \
900003 2013-10-22 17:50:44  98345217        4  18934  20212  19364       0   
900007 2013-10-22 17:50:44  98345473        4  18935  20212  19359       0   

        seq  rssi  lqi  
900003   32   -60   46  
900007   33   -60   48  
                       time    GW_time  node_id      X      Y      Z  status  \
1200003 2013-10-22 18:00:31  117600065        1  17618  22541  21191       0   
1200007 2013-10-22 18:00:31  117600321        1  17620  22538  21187       0   

         seq  rssi  lqi  
1200003  111   -66   47  
1200007  112   -66   48  

注意到行300002是不需要的结果,我尝试在该特定区域周围选择节点1,如下所示:

chunk = hdf.select('raw_sample_all', start=300002-20, stop=300002+20, 
                       where=[pd.Term('node_id', '==', 1)])                           

结果中仅返回节点3:

                   time     GW_time  node_id    X      Y       Z status seq rssi lqi
299982  2013-10-22 17:30:50 59222464    3   19912   20838   22003   0   41  -64 48
299986  2013-10-22 17:30:50 59222720    3   19912   20838   22003   0   42  -64 48
299990  2013-10-22 17:30:50 59222976    3   19913   20840   22007   0   43  -64 50
299994  2013-10-22 17:30:50 59223232    3   19913   20840   22007   0   44  -64 50
299998  2013-10-22 17:30:50 59223488    3   19915   20840   22003   0   45  -64 48
300002  2013-10-22 17:30:50 59223744    3   19915   20840   22003   0   46  -64 50
300006  2013-10-22 17:30:50 59224000    3   19913   20844   22002   0   47  -64 48
300010  2013-10-22 17:30:50 59224256    3   19913   20844   22002   0   48  -64 50
300014  2013-10-22 17:30:50 59224512    3   19914   20844   22010   0   49  -64 49
300018  2013-10-22 17:30:50 59224768    3   19914   20844   22010   0   50  -64 50                         

然后我尝试使用index而不是start / stop,如下所示:

chunk = hdf.select('raw_sample_all', 
                   where=[pd.Term('index', '>=', 300002-20),
                          pd.Term('index', '<=', 300002+20),
                          pd.Term('node_id', '==', 1)])

这次它返回了正确的结果:

                time        GW_time node_id  X       Y      Z   status seq rssi lqi
299984  2013-10-22 17:30:50 59222593    1   17613   22543   21203   0   42  -80 48
299988  2013-10-22 17:30:50 59222849    1   17613   22543   21203   0   43  -81 48
299992  2013-10-22 17:30:50 59223105    1   17610   22547   21194   0   44  -81 48
299996  2013-10-22 17:30:50 59223361    1   17610   22547   21194   0   45  -81 47
300000  2013-10-22 17:30:50 59223617    1   17609   22545   21190   0   46  -81 45
300004  2013-10-22 17:30:50 59223873    1   17609   22545   21190   0   47  -81 49
300008  2013-10-22 17:30:50 59224129    1   17606   22547   21199   0   48  -81 48
300012  2013-10-22 17:30:50 59224385    1   17606   22547   21199   0   49  -81 48
300016  2013-10-22 17:30:50 59224641    1   17607   22548   21191   0   50  -81 49
300020  2013-10-22 17:30:50 59224897    1   17607   22548   21191   0   51  -80 48  

我想我可能会在索引选择上解决这个问题,但我不完全确定因为启动/停止的方法在大多数情况下也能获得正确的结果,所以即使带索引的方法也正确启动/停止失败,它可能在其他地方失败。

我真的很喜欢启动/停止方法,因为它更快,而且我有一个大数据集,慢速方法非常耗时。

顺便说一句,如果你想知道,我不能使用&#39; chunksize&#39;像这样:

df = hdf.select('raw_sample_all',chunksize=300000, where="node_id==1")
for chunk in df:
    print chunk.head(2)

每次尝试chunksize时,我都会遇到类似this的MemoryError。 苦苦挣扎于许多问题,熊猫对像我这样的新手来说真的很难受。 非常感谢任何帮助。

1 个答案:

答案 0 :(得分:1)

这是PyTables中最近修复的错误,请参阅相关问题here。对于某些较大的商店而言,使用wherestart/stop时索引器无法正确计算。

您需要更新到PyTables 3.2,然后重新编写商店本身。您可以重新创建第一次的方式,也可以使用ptrepack