Question

我正在尝试使用numpy loadtxt将csv文件加载到数组中。但似乎我无法正确加载日期时间。

下面展示了正在发生的事情。我做错了吗？

>>> s = StringIO("05/21/2007,03:27")
>>> np.loadtxt(s, delimiter=",", dtype={'names':('date','time'), 'formats':('datetime64[D]', 'datetime64[m]')})
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
File "/System/Library/Frameworks/Python.framework/Versions/2.7/Extras/lib/python/numpy/lib/npyio.py", line 796, in loadtxt
items = [conv(val) for (conv, val) in zip(converters, vals)]
File "/System/Library/Frameworks/Python.framework/Versions/2.7/Extras/lib/python/numpy/lib/npyio.py", line 573, in <lambda>
  return lambda x: int(float(x))
ValueError: invalid literal for float(): 05/21/2007

Answer 1

您还需要添加转换器，例如：

from matplotlib.dates import strpdate2num
...
np.loadtxt(s, delimiter=",", converters={0:strpdate2num('%m/%d/%Y'), 1:...}, dtype= ...

当numpy看到你的dtype格式的datetime [64]时，它准备输出一个numpy.datetime64类型的列。 numpy.datetim64是numpy.integer的子类，并且loadtxt准备将该列作为整数处理，具有以下内容：

def _getconv(dtype):
    typ = dtype.type
    if issubclass(typ, np.bool_):
        return lambda x: bool(int(x))
    if issubclass(typ, np.uint64):
        return np.uint64
    if issubclass(typ, np.int64):
        return np.int64
    if issubclass(typ, np.integer):
        return lambda x: int(float(x))

    ...

当它在numpyio的第796行尝试转换时：

items = [conv(val) for (conv, val) in zip(converters, vals)]

它尝试使用lambda x: int(float(x))来处理输入。当它这样做时，它会尝试将你的日期（05/27/2007）投射到浮动并逐渐消失。上面的转换函数strpdate2num将日期转换为数字表示。

Answer 2

尝试使用MichealJCox的解决方案对我不起作用。我的numpy（1.8）版本不接受strpdate2num('%m/%d/%Y')给出的时间号，它只接受日期字符串或日期时间对象。因此，我使用了一个更复杂的转换器，它将时间字符串转换为时间数，然后转换为numpy可用的日期时间对象：

from matplotlib.dates import strpdate2num, num2date
...
convert = lambda x: num2date(strpdate2num('%m/%d/%Y')(x))
np.loadtxt(s, delimiter=",", converters={0:convert}, dtype= ...

这似乎是一个笨重的解决方案。

Python numpy loadtxt因日期时间而失败

2 个答案: