C-numpy:设置固定宽度字符串的数据类型?

时间:2016-08-31 12:59:08

标签: python numpy python-c-api

我正在处理一些在C中表示为字符串的数据。我想根据这些数据返回一个numpy数组。但是,我希望数组能够使用dtype =' SX'其中X是在运行时确定的数字。

到目前为止,我正在使用C复制数据:

    buffer_len_alt = (MAX_WIDTH)*(MAX_NUMBER_OF_ITEMS);
    output_buffer = (char *) calloc(sizeof(char), buffer_len_alt);
    column = PyArray_SimpleNewFromData(1, &buffer_len_alt, NPY_BYTE, output_buffer);
    if (column == NULL){
        return (PyObject *) NULL;
    }
    /* Put strings of length MAX_WIDTH in output_buffer */
    return column;

正如你所看到的,我正在告诉PyArray_SimpleNewFromData,那个'列'是一个1D的字节数组,所以当指针我们调用'列'成为python对象' col'我们看到了这个:

print(col)
>> array([48,  0,  0, 50, 48, 48, 48,  0,  0, 50, 48, 48, 50, 48, 48, 48,  0, 0], dtype=int8)
print(col.view('S3'))
>> array([b'0', b'200', b'0', b'200', b'200', b'0'], dtype='|S3')

''前缀告诉我它们仍然被解释为字节数组,但我想要的是字符串" 0"," 200"等等。在这个例子中,字符串是数字,但是并非总是如此。

我知道我可以单独调用b' 200' .decode(格式)将每个单独的bytes-object转换为字符串,但是将n扩展写入numpy的重点是得到所有的循环在旧的chararray接口(现已弃用?)中还提供了一个array.decode方法,该方法可以解码数组中的每个序列,但是numpy-C接口返回的对象也只是简单的ndarrays。

问题 我应该将什么typenum传递给SimpleNewFromData而不是NPY_BYTE,以便python接收具有正确类型信息的数组(例如dtype =' S5')?

或者,如果没有typenum使用SimpleNewFromData实现这一点,那么我可能需要使用SimpleNewFromDescr,但我不知道如何正确设置PyArray_Descr参数,而且文档在这方面确实很多,所以我&#39 ; d非常感谢任何形式的指导。

1 个答案:

答案 0 :(得分:1)

我不熟悉代码的C部分,但看起来你混淆了字节字符串和unicode字符串的表示。 b'200'显示表示您正在使用Py3,其中unicode是默认字符串类型。

在Py3会话中:

原始字节:

In [482]: x=np.array([48,  0,  0, 50, 48, 48, 48,  0,  0, 50, 48, 48, 50, 48, 48, 48,  0, 0], dtype=np.int8)

查看了3个字节的字符串。在PY2会话中,不会使用b。但观点是一样的。

In [483]: x.view('S3')
Out[483]: 
array([b'0', b'200', b'0', b'200', b'200', b'0'], 
      dtype='|S3')

view不会更改数据缓冲区,但astype可以根据需要转换元素,并使用新的数据缓冲区创建新数组。

In [484]: x.view('S3').astype('U3')
Out[484]: 
array(['0', '200', '0', '200', '200', '0'], 
      dtype='<U3')
In [485]: x.view('S3').astype('U3').view(np.uint8)
Out[485]: 
array([48,  0,  0,  0,  0,  0,  0,  0,  0,  0,  0,  0, 50,  0,  0,  0, 48,
        0,  0,  0, 48,  0,  0,  0, 48,  0,  0,  0,  0,  0,  0,  0,  0,  0,
        0,  0, 50,  0,  0,  0, 48,  0,  0,  0, 48,  0,  0,  0, 50,  0,  0,
        0, 48,  0,  0,  0, 48,  0,  0,  0, 48,  0,  0,  0,  0,  0,  0,  0,
        0,  0,  0,  0], dtype=uint8)

unicode版本在其缓冲区中有72个字节,每个字符有4个字节。

np.char仍然存在,但主要是将字符串方法应用于SU类型数组。 np.char.decodeastype完全相同。

In [489]: np.char.decode(x.view('S3'))
Out[489]: 
array(['0', '200', '0', '200', '200', '0'], 
      dtype='<U3')