我有一个充满日志详细信息的大文件。它拥有数百万行。
在这个文件中,我必须识别我想要的某些行" keep"并最终存储在pandas DataFrame中进行分析。我现在正在迭代这个,当我找到一条我想要的行时,我会解析该行以获取详细信息,然后将其放入字典中,格式为:dict [time] = {Details ...}
我最终在这本词典上做了pd.DataFrame.from_dict(dict,orient =' index')。
有更有效的方法吗?我不需要在构建字典时查看字典,我只需要一些东西来有效地保存数据,同时我循环遍历文件行。