Question

我正在迭代处理以下数据：

进行一些处理并生成结果 ~~~timestamp1 a 0.3 b 0.2 c 0.4
做一些进一步处理，结果应为 ~~~timestamp1 timestamp2 a 0.3 b 0.2 0.3 c 0.4 d 0.1
做一些进一步处理，结果应为 ~~~timestamp1 timestamp2 timestamp3 a 0.3 0.1 b 0.2 0.3 c 0.4 d 0.1 e 0.5 f 0.2 g 0.6

这意味着，每个步骤都会添加一个新列。该行也可能会增长。关键是，在每一列中，只有一部分数据具有值。其他的则不是，因此 SparseSeries 似乎是适合此的数据结构。

===问题===

问题是，如何以连续方式生成这样的SparseSeries？

谢谢！

注意：

在每个时间步上都会生成一个新序列，例如[（'b'，0.3），（'d'，0.1）]。我的目标是将它们存储在统一的数据结构中，例如SparseSerie。

Answer 1

您可以使用索引作为键来创建和合并连续的SparseDataFrame。

import pandas as pd

# suppose you have successive inputs like below
# I put some differently-sized lists for demonstration purpose
ps = [[('a', 0.1)], 
      [('b', 0.2), ('c', 0.3)], 
      [('d', 0.4), ('e', 0.5), ('f', 0.8)], 
      [('a', 0.7), ('b', 0.8), ('c', 0.9)]]

df = pd.DataFrame().to_sparse()

# Suppose you will have some 'timestamp' value from somewhere
# This loop is just for demonstration purpose
for i, p in enumerate(ps):
    df1 = (pd.DataFrame(p, columns=['entry', 'timestamp{}'.format(i+1)])
           .set_index('entry')
           .to_sparse()
           )
    df = pd.merge(df, df1, left_index=True, right_index=True, how='outer')

现在df看起来像这样

>>> df
       timestamp1  timestamp2  timestamp3  timestamp4
entry                                                
a             0.1         NaN         NaN         0.7
b             NaN         0.2         NaN         0.8
c             NaN         0.3         NaN         0.9
d             NaN         NaN         0.4         NaN
e             NaN         NaN         0.5         NaN
f             NaN         NaN         0.8         NaN

我们可以确认这是SparseDataFrame

>>> df.info()
<class 'pandas.core.sparse.frame.SparseDataFrame'>
Index: 6 entries, a to f
Data columns (total 4 columns):
timestamp1    1 non-null float64
timestamp2    2 non-null float64
timestamp3    3 non-null float64
timestamp4    3 non-null float64
dtypes: float64(4)
memory usage: 240.0+ bytes

希望这会有所帮助。

稀疏系列的python数据结构

1 个答案: