Numpy recarray排列和堆栈

时间:2012-09-01 13:50:47

标签: python numpy pytables

相对较新的python如果这有一个我没有找到的明显答案,请原谅。

我正在将一些临时连续的二进制文件读入numpy记录数组,最终目标是将它们存储在pytable中。我预期的问题是文件可能并非都具有相同的字段或相同的字段顺序。我一直在寻找一个numpy函数,它将使用字段标签或索引对重组的列(而不是行)进行排序。更好的是,当你将一个重新排列附加到另一个时,这个函数可以为你做这个 - 并且可以解释缺少的列。以下是我的想法:

#-------script------------
Myarray1 = np.array([(1,2,3),(1,2,3),(1,2,3)], {'names': ('a','b','c'), 'formats': ('f4', 'f4', 'f4')})
Myarray2 = np.array([(2,1,4,3),(2,1,4,3),(2,1,4,3)], {'names': ('b','a','d','c'), 'formats': ('f4', 'f4', 'f4', 'f4')})
Myarray3 = SomeColumnSortFunction(Myarray2, sortorder=[2,1,4,3])
Myarray4 = SomeBetterVerticalStackFunction(Myarray1,Myarray2)
#
print(Myarray1)
print()
print(Myarray2)
print()
print(Myarray3)
print()
print(Myarray4)

#---------- Wished for Output -------------
[(1.0, 2.0, 3.0) (1.0, 2.0, 3.0) (1.0, 2.0, 3.0)],
 dtype=[('a', 'i4'), ('b', 'i4'), ('c', 'i4')]

[(2.0, 1.0, 4.0, 3.0) (2.0, 1.0, 4.0, 3.0) (2.0, 1.0, 4.0, 3.0)],
dtype=[('b', 'i4'), ('a', 'i4'), ('d', 'i4'), ('c', 'i4')]


[(1.0, 2.0, 3.0, 4.0) (1.0, 2.0, 3.0, 4.0) (1.0, 2.0, 3.0, 4.0)] 
dtype=[('a', 'i4'), ('b', 'i4'), ('c', 'i4'), ('d', 'i4')]

[(1.0, 2.0, 3.0, NaN) (1.0, 2.0, 3.0, NaN) (1.0, 2.0, 3.0, NaN),
 (1.0, 2.0, 3.0, 4.0) (1.0, 2.0, 3.0, 4.0) (1.0, 2.0, 3.0, 4.0)] 
dtype=[('a', 'i4'), ('b', 'i4'), ('c', 'i4'), ('d', 'i4')]

2 个答案:

答案 0 :(得分:4)

  • 如果您想重新排序结构化数组的字段,只需使用花式索引:

    MyArray3 = MyArray2[['a','b','c','d']]
    

    如果要使用整数对字段进行排序,可以使用以下内容:

    order = [1,0,3,2]
    names = MyArray2.dtype.names
    MyArray3 = MyArray2[[names[i] for i in order]]
    

    (在您的sortorder=[2,1,4,3]中,您可能忘记了可迭代的第一个索引是0 ...)

  • 对于堆叠结构化数组,请查看numpy.lib.recfunctions子模块,特别是stack_arrays函数。请注意,您必须明确使用import numpy.lib.recfunctions

这是docstring

stack_arrays(arrays, defaults=None, usemask=True, asrecarray=False, autoconvert=False)

Superposes arrays fields by fields

Parameters
----------
seqarrays : array or sequence
    Sequence of input arrays.
defaults : dictionary, optional
    Dictionary mapping field names to the corresponding default values.
usemask : {True, False}, optional
    Whether to return a MaskedArray (or MaskedRecords is `asrecarray==True`)
    or a ndarray.
asrecarray : {False, True}, optional
    Whether to return a recarray (or MaskedRecords if `usemask==True`) or
    just a flexible-type ndarray.
autoconvert : {False, True}, optional
    Whether automatically cast the type of the field to the maximum.

Examples
--------
>>> from numpy.lib import recfunctions as rfn
>>> x = np.array([1, 2,])
>>> rfn.stack_arrays(x) is x
True
>>> z = np.array([('A', 1), ('B', 2)], dtype=[('A', '|S3'), ('B', float)])
>>> zz = np.array([('a', 10., 100.), ('b', 20., 200.), ('c', 30., 300.)],
...   dtype=[('A', '|S3'), ('B', float), ('C', float)])
>>> test = rfn.stack_arrays((z,zz))
>>> test
masked_array(data = [('A', 1.0, --) ('B', 2.0, --) ('a', 10.0, 100.0) ('b', 20.0, 200.0)
 ('c', 30.0, 300.0)],
             mask = [(False, False, True) (False, False, True) (False, False, False)
 (False, False, False) (False, False, False)],
       fill_value = ('N/A', 1e+20, 1e+20),
            dtype = [('A', '|S3'), ('B', '<f8'), ('C', '<f8')])

答案 1 :(得分:0)

请注意,@PierreGM的答案似乎不适用于numpy的旧版本,例如此代码段:

  python -c 'import numpy as np
from pprint import pformat
print np.__version__
a = np.array([ (1, 4.0, "Hello"), 
               (-1, -1.0, "World")],
       dtype=[("f0", ">i4"), ("f1", ">f4"), ("S2", "|S10")])
print("a : "+ pformat( a ) )
print("a1: "+ pformat( a[["f0", "S2"]] ) )
print("a2: "+ pformat( a[["S2", "f0"]] ) )
'

...为我生成这个(python 2.7):

1.5.1
a : array([(1, 4.0, 'Hello'), (-1, -1.0, 'World')], 
      dtype=[('f0', '>i4'), ('f1', '>f4'), ('S2', '|S10')])
a1: array([(1, 'Hello'), (-1, 'World')], 
      dtype=[('f0', '>i4'), ('S2', '|S10')])
a2: array([(1, 'Hello'), (-1, 'World')], 
      dtype=[('f0', '>i4'), ('S2', '|S10')])

...也就是说,列根本没有重新排列。


编辑:使用numpy.lib.recfunctions找到了另一种选择;还Indexing — NumPy v1.5 Manual (NumPy Reference)Structured arrays (aka “Record arrays”) — NumPy v1.5 Manual (NumPy User Guide)。基本上:

  • 创建一个新列表,其中包含您想要的重新排列的列dtypes
  • 通过np.array创建.view的新列表(以便为每个列保留名称和dtype),代表每列,根据重新排列的列dtype列表重新排序
  • 使用np.array的列表作为numpy.lib.recfunctions.merge_arrays
  • 的参数

所以这可以添加到这篇文章的前一个片段中:

from numpy.lib import recfunctions as rfn

rdtype=[("S2", "|S10"), ("f1", ">f4"), ("f0", ">i4")]
#ra = np.array( [ np.array(a[rdt[0]], rdt) for rdt in rdtype] )
#print [np.array(a[rdt[0]], dtype=rdt) for rdt in rdtype] # no
#print [np.array(a[rdt[0]]) for rdt in rdtype] #passes, no field names
print [np.array(a[rdt[0]]).view([rdt]) for rdt in rdtype] #ok
ra = rfn.merge_arrays( ( [np.array(a[rdt[0]]).view([rdt]) for rdt in rdtype] ) )
print("a4: "+ pformat( ra ) )

...另外输出:

[array([('Hello',), ('World',)], 
      dtype=[('S2', '|S10')]), array([(4.0,), (-1.0,)], 
      dtype=[('f1', '>f4')]), array([(1,), (-1,)], 
      dtype=[('f0', '>i4')])]

a4: array([('Hello', 4.0, 1), ('World', -1.0, -1)], 
      dtype=[('S2', '|S10'), ('f1', '>f4'), ('f0', '>i4')])

...最终显示列按要求重新排列。

嗯,希望这有助于某人 - 希望这里没有其他任何问题,
干杯!