当其中一列是数组时,如何更改numpy重排的dtype?

时间:2015-12-17 15:10:25

标签: python arrays numpy fits

previous posts我看到可以使用dtype更改recarray的{​​{1}}。但是我无法使用astype来完成它,而recarray在其中一列中有一个数组。

我的recarray来自FITS文件记录:

> f = fits.open('myfile.fits')   
> tbdata = f[1].data
> tbdata
# FITS_rec([ (0.27591679999999996, array([570, 576, 566, ..., 571, 571, 569], dtype=int16)),
#   (0.55175680000000005, array([575, 563, 565, ..., 572, 577, 582], dtype=int16)),
#   ...,
#   (2999.2083967999997, array([574, 570, 575, ..., 560, 551, 555], dtype=int16)),
#   (2999.4842367999995, array([575, 583, 578, ..., 559, 565, 568], dtype=int16)], 
#   dtype=[('TIME', '>f8'), ('AC', '>i4', (2,))])

我需要将 AC 列从int转换为float,所以我尝试过:

> tbdata = tbdata.astype([('TIME', '>f8'), ('AC', '>f4', (2,))])

并且,尽管似乎dtype确实发生了变化

> tbdata.dtype
# dtype([('TIME', '>f8'), ('AC', '>f4', (2,))])

查看 AC 中的数据表明它们仍然是整数值。例如,sum计算达到int16变量的限制(所有 AC 列值均为正数):

> tbdata['AC'][0:55].sum()
# _VLF(array([31112, 31128, 31164, ..., 31203, 31232, 31262], dtype=int16), dtype=object)
> tbdata['AC'][0:65].sum()
# _VLF(array([-28766, -28759, -28702, ..., -28659, -28638, -28583], dtype=int16), dtype=object)

有没有办法有效地更改数组数据类型?

2 个答案:

答案 0 :(得分:0)

根据沃伦的建议,如果我尝试用手工创建的recarray,事情似乎进展顺利:

> ra = np.array([ ([30000,10000], 1), ([30000,20000],2),([30000,30000],3) ], dtype=[('x', 'int16',2), ('y', int)])
> ra
# array([([30000, 10000], 1), ([30000, 20000], 2), ([30000, 30000], 3)],
#       dtype=[('x', '<i2', (2,)), ('y', '<i8')])
> ra = ra.astype([('x', '<f4', (2,)), ('y', '<i8')])
> ra
# array([([30000.0, 10000.0], 1), ([30000.0, 20000.0], 2),
#        ([30000.0, 30000.0], 3)], dtype=[('x', '<f4', (2,)), ('y', '<i8')])

因此,int16数字 转换为浮点数。

但是,在astype致电 tbdata recarray后,数字似乎根本没有变化(也不是内部dtype):

> tbdata.dtype
# dtype([('TIME', '>f8'), ('AC', '>f4', (2,))])
> tbdata
# FITS_rec([ (0.27591679999999996, array([570, 576, 566, ..., 571, 571, 569], dtype=int16)),
#    (0.55175680000000005, array([575, 563, 565, ..., 572, 577, 582], dtype=int16)),
#   ...,
#   (2999.2083967999997, array([574, 570, 575, ..., 560, 551, 555], dtype=int16)),
#   (2999.4842367999995, array([575, 583, 578, ..., 559, 565, 568], dtype=int16))], 
#    dtype=[('TIME', '>f8'), ('ADC', '<f4', (2,))])

我的结论是,这可能是与FITS文件的AstroPy接口相关的问题。另外,我在sum()之后检索的负数实际上与数据类型无关,但它们存在于 tbdata 中的整数数组的中间,因为这种方式FITS存储大于32768的数字,使用TZERO关键字表示无符号整数的偏移量。问题是CFITSIO和普通的FITS观众以透明的方式为用户重新转换这些数字,因此我不知道这些负数。 非常感谢您的帮助和建议。

答案 1 :(得分:0)

我可以使用拟合文件中的recarray重现此问题。 解决方法是将recarray作为拟合表加载,然后将其转换为pandas数据帧:

from astropy.table import Table
import pandas as pd

t = Table.read('file.fits')
df = pd.DataFrame.from_records(t, columns=t.columns) 
df.AC = df.AC.astype(float)