Question

pandas pivot tables documentation似乎建议使用多索引来处理两个以上的数据维度：

In [1]: import pandas as pd

In [2]: import numpy as np

In [3]: import pandas.util.testing as tm; tm.N = 3

In [4]: def unpivot(frame):
   ...:         N, K = frame.shape
   ...:         data = {'value' : frame.values.ravel('F'),
   ...:                 'variable' : np.asarray(frame.columns).repeat(N),
   ...:                 'date' : np.tile(np.asarray(frame.index), K)}
   ...:         return pd.DataFrame(data, columns=['date', 'variable', 'value'])
   ...: 

In [5]: df = unpivot(tm.makeTimeDataFrame())

In [6]: df
Out[6]: 
         date variable     value    value2
0  2000-01-03        A  0.462461  0.924921
1  2000-01-04        A -0.517911 -1.035823
2  2000-01-05        A  0.831014  1.662027
3  2000-01-03        B -0.492679 -0.985358
4  2000-01-04        B -1.234068 -2.468135
5  2000-01-05        B  1.725218  3.450437
6  2000-01-03        C  0.453859  0.907718
7  2000-01-04        C -0.763706 -1.527412
8  2000-01-05        C  0.839706  1.679413
9  2000-01-03        D -0.048108 -0.096216
10 2000-01-04        D  0.184461  0.368922
11 2000-01-05        D -0.349496 -0.698993

In [7]: df['value2'] = df['value'] * 2

In [8]: df.pivot('date', 'variable')
Out[8]: 
               value                                  value2            \
variable           A         B         C         D         A         B   
date                                                                     
2000-01-03 -1.558856 -1.144732 -0.234630 -1.252482 -3.117712 -2.289463   
2000-01-04 -1.351152 -0.173595  0.470253 -1.181006 -2.702304 -0.347191   
2000-01-05  0.151067 -0.402517 -2.625085  1.275430  0.302135 -0.805035   


variable           C         D  
date                            
2000-01-03 -0.469259 -2.504964  
2000-01-04  0.940506 -2.362012  
2000-01-05 -5.250171  2.550861

我认为xarray是为处理多维数据集而制作的：

In [9]: import xarray as xr

In [10]: xr.DataArray(dict([(var, df[df.variable==var].drop('variable', 1)) for var in np.unique(df.variable)]))
Out[10]: 
<xarray.DataArray ()>
array({'A':         date     value    value2
0 2000-01-03  0.462461  0.924921
1 2000-01-04 -0.517911 -1.035823
2 2000-01-05  0.831014  1.662027, 'C':         date     value    value2
6 2000-01-03  0.453859  0.907718
7 2000-01-04 -0.763706 -1.527412
8 2000-01-05  0.839706  1.679413, 'B':         date     value    value2
3 2000-01-03 -0.492679 -0.985358
4 2000-01-04 -1.234068 -2.468135
5 2000-01-05  1.725218  3.450437, 'D':          date     value    value2
9  2000-01-03 -0.048108 -0.096216
10 2000-01-04  0.184461  0.368922
11 2000-01-05 -0.349496 -0.698993}, dtype=object)

这些方法中的一种比另一种更好吗？为什么没有xarray完全取代多索引？

Answer 1

似乎有一个过渡到xarray来处理多维数组。 Pandas将弃用对3D Panels数据结构的支持以及documentation even suggest using xarray for working with multidemensional arrays：

'通常，人们可以轻松地使用MultiIndex DataFrame   使用更高维度的数据。

此外，xarray包是从头开始构建的，   特别是为了支持多维分析   是Panel的主要用例之一。这是xarray的链接   面板转换文档。'

从xarray documentation他们说明了他们的目标和目标：

xarray旨在提供与熊猫一样强大的数据分析工具包   但设计用于处理均匀的N维阵列   表格数据...

...我们的目标受众是需要N维标记的任何人   数组，但我们特别关注数据分析的需求   物理科学家 - 特别是那些已经知道并且知道的地球科学家   爱netCDF

xarray比使用直接numpy的主要优点是它以与pandas在多个维度上相同的方式使用标签。如果使用多索引或xarray处理三维数据可能是可互换的。随着数据集中维度数量的增长，xarray变得更易于管理。我无法评论每种方式在效率或速度方面的表现。

何时在熊猫中使用多索引与xarray

1 个答案: