如何在pandas中使用read_fwf跳过空白行?

时间:2017-03-03 15:33:15

标签: python pandas

我在Python pandas 0.19.2中使用pandas.read_fwf()函数来读取具有以下内容的文件fwf.txt

# Column1 Column2
      123     abc

      456     def

#
#

我的代码如下:

import pandas as pd
file_path = "fwf.txt"
widths = [len("# Column1"), len(" Column2")]
names = ["Column1", "Column2"]
data = pd.read_fwf(filepath_or_buffer=file_path, widths=widths, 
                   names=names, skip_blank_lines=True, comment="#")

打印的数据框如下:

    Column1 Column2
0   123.0   abc
1   NaN     NaN
2   456.0   def
3   NaN     NaN

看起来skip_blank_lines=True参数被忽略,因为数据框包含NaN&#39>。

确保跳过空白行的pandas.read_fwf()参数的有效组合应该是什么?

1 个答案:

答案 0 :(得分:1)

import io
import pandas as pd
file_path = "fwf.txt"
widths = [len("# Column1 "), len("Column2")]
names = ["Column1", "Column2"]

class FileLike(io.TextIOBase):
    def __init__(self, iterable):
        self.iterable = iterable
    def readline(self):
        return next(self.iterable)

with open(file_path, 'r') as f:
    lines = (line for line in f if line.strip())
    data = pd.read_fwf(FileLike(lines), widths=widths, names=names, 
                       comment='#')
    print(data)

打印

   Column1 Column2
0      123     abc
1      456     def
with open(file_path, 'r') as f:
    lines = (line for line in f if line.strip())

定义产生的生成器表达式(即可迭代的) 删除了空白行的文件中的行。

pd.read_fwf函数可以接受TextIOBase个对象。你可以继承 TextIOBase,以便其readline方法返回可迭代的行:

class FileLike(io.TextIOBase):
    def __init__(self, iterable):
        self.iterable = iterable
    def readline(self):
        return next(self.iterable)

将这两者放在一起为您提供了一种操作/修改文件行的方法 在将它们传递给pd.read_fwf之前。