使用H5Py将日期时间存储在HDF5中

时间:2014-05-09 17:26:05

标签: python datetime hdf5 h5py

如何使用h5py

将NumPy日期时间对象存储在HDF5中
In [1]: import h5py

In [2]: import numpy as np

In [3]: f = h5py.File('foo.hdfs', 'w')

In [4]: d = f.create_dataset('data', shape=(2, 2), dtype=np.datetime64)
TypeError: No conversion path for dtype: dtype('<M8')

2 个答案:

答案 0 :(得分:15)

目前HDF5没有提供时间类型(现在不支持H5T_TIME),因此没有明显的datetime64映射。

h5py的设计目标之一是坚持基础HDF5功能集。这允许人们将数据写入他们的文件,并且知道它将往返并且可以被使用其他HDF5感知应用程序(如IDL和Matlab)的人检索。我们之前做过一些小的例外;例如,NumPy bools和复数分别映射到HDF5枚举和复合类型。但是datetime64似乎是一个更复杂的动物。

除非有一个令人信服的提案,以确保(1)信息往返和(2)其他HDF5客户可以合理地理解它,我认为我们不会实现对datetime64的原生支持。

在HDF5中,人们通常使用ISO日期格式的某些变体将其日期/时间存储为字符串值。您可以将其视为一种解决方法。

另请参阅:https://github.com/h5py/h5py/issues/443

答案 1 :(得分:6)

目前,h5py不支持时间类型(FAQIssue)。

NumPy datetime64s长度为8个字节。因此,作为一种变通方法,您可以将数据视为'<i8'将内容存储在hdf5文件中,并在检索时将其视为np.datetime64

import numpy as np
import h5py

arr = np.linspace(0, 10000, 4).astype('<i8').view('<M8[D]').reshape((2,2))
print(arr)
# [['1970-01-01' '1979-02-16']
#  ['1988-04-02' '1997-05-19']]
with h5py.File('/tmp/out.h5', "w") as f:
    dset = f.create_dataset('data', (2, 2), '<i8')
    dset[:,:] = arr.view('<i8')
with h5py.File('/tmp/out.h5', "r") as f:
    dset = f.get('data')
    print(dset.value.view('<M8[D]'))
    # [['1970-01-01' '1979-02-16']
    #  ['1988-04-02' '1997-05-19']]