在转换为pandas之前存储已解析的行

时间:2014-10-16 19:17:56

标签: python pandas

我有一个充满日志详细信息的大文件。它拥有数百万行。

在这个文件中,我必须识别我想要的某些行" keep"并最终存储在pandas DataFrame中进行分析。我现在正在迭代这个,当我找到一条我想要的行时,我会解析该行以获取详细信息,然后将其放入字典中,格式为:dict [time] = {Details ...}

我最终在这本词典上做了pd.DataFrame.from_dict(dict,orient =' index')。

有更有效的方法吗?我不需要在构建字典时查看字典,我只需要一些东西来有效地保存数据,同时我循环遍历文件行。

0 个答案:

没有答案