我面临与How to trouble-shoot HDFStore Exception: cannot find the correct atom type中提出的问题相同的问题。
我将其缩小为pandas'文档Storing Mixed Types in a Table中给出的示例。
此示例中的重点是append
一个DataFrame
,HDFStore
有一些缺失值。当我使用示例代码时,我最终得到atom type error
。
df_mixed
Out[103]:
A B C bool datetime64 int string
0 -0.065617 -0.062644 -0.004758 True 2001-01-02 00:00:00 1 string
1 1.444643 1.664311 -0.189095 True 2001-01-02 00:00:00 1 string
2 0.569412 -0.077504 -0.125590 True 2001-01-02 00:00:00 1 string
3 NaN NaN 0.563939 True NaN 1 NaN
4 NaN NaN -0.618218 True NaN 1 NaN
5 NaN NaN 1.477307 True NaN 1 NaN
6 -0.287331 0.984108 -0.514628 True 2001-01-02 00:00:00 1 string
7 -0.244192 0.239775 0.861359 True 2001-01-02 00:00:00 1 string
store=HDFStore('df.h5')
store.append('df_mixed', df_mixed, min_itemsize={'values':50})
...
Exception: cannot find the correct atom type -> [dtype->object,items->Index([datetime64, string], dtype=object)] object of type 'Timestamp' has no len()
如果我按照链接帖子(杰夫的答案)中的建议对问题类型(实际上是dtype
类型)强制执行object
,我仍然会遇到相同的错误。我在这里缺少什么?
dtypes = [('datetime64', '|S20'), ('string', '|S20')]
store=HDFStore('df.h5')
store.append('df_mixed', df_mixed, dtype=dtypes, min_itemsize={'values':50})
...
Exception: cannot find the correct atom type -> [dtype->object,items->Index([datetime64, string], dtype=object)] object of type 'Timestamp' has no len()
感谢您的见解
解决
我使用pandas
0.10并切换到 0.11-dev 。正如杰夫推断的那样,麻烦在于 NaN vs NaT 。
前熊猫版本制作
df_mixed.ix[3:5,['A', 'B', 'string', 'datetime64']] = np.nan such that
2 0.569412 -0.077504 -0.125590 True 2001-01-02 00:00:00 1 string
3 NaN NaN 0.563939 True NaN 1 NaN
而后一版本
2 0.569412 -0.077504 -0.125590 True 2001-01-02 00:00:00 1 string
3 NaN NaN 0.563939 True NaT 1 NaN
答案 0 :(得分:2)
问题是你的datetime64 [ns]系列中的NaN。这些必须是NaT。你是如何构建这个框架的?您使用的是什么熊猫版本?
你能用0.11-dev吗? (这里还有几个选项)。试试这个:
df['datetime64'] = Series(df['datetime64'],dtype='M8[n2]')
此外,还有一些更有用的链接:http://pandas.pydata.org/pandas-docs/dev/cookbook.html#hdfstore