每次添加文件而不添加标题行

时间:2013-11-01 00:43:09

标签: python file python-2.7 stringio

Bonjour Stack0verflow

我正在尝试使用此代码将数据写入stored_output而不使用第1行(标题行)

我尝试过:

with open(filenamex, 'rb') as currentx:
    current_data = currentx.read()
    ## because of my filesize I dont want to go through each line the the route shown below to remove the first line (title row)
    for counter, line in enumerate(current_data):
        if counter != 0:
            data.writeline(line)
    #stored_output.writelines(current_data)

由于文件大小我不想做for循环(效率)

任何建设性的评论或代码片段都将受到赞赏 谢谢AEA

2 个答案:

答案 0 :(得分:9)

您可以在文件迭代器上使用next()跳过第一行,然后使用file.writelines写下其余内容:

with open(filenamex, 'rb') as currentx, open('foobar', 'w') as data:
    next(currentx)            #drop the first line
    data.writelines(currentx) #write rest of the content to `data`

注意:如果您想逐行读取文件,请不要使用file.read(),只需遍历文件对象即可一次获取一行。

答案 1 :(得分:6)

第一个问题是currentx.read()返回一个巨大的字符串,因此循环遍历该字符串中的每个字符,而不是文件中的每一行。

您可以将文件作为巨大的字符串列表读入内存,如下所示:

current_data = list(currentx)

但是,这几乎可以保证比一次遍历文件一样慢(因为你浪费时间为整个文件分配内存,而不是让Python选择合理大小的缓冲区)或处理整个文件立刻(因为你浪费时间分裂线)。换句话说,你通过这种方式得到了两个世界中最糟糕的。

所以,要么将它作为迭代器保留在行上:

next(currentx) # skip a line
for line in currentx:
    # do something with each line

...或将其保留为字符串并拆分第一行:

current_data = currentx.read()
first, _, rest = current_data.partition('\n')
# do something with rest

如果事实证明一次读取和写入文件太慢(这很可能 - 它会在写入之前强制将早期块从任何缓存中移出,防止交错,并浪费时间分配内存),但是一次一行太慢(这不太可能,但并非不可能 - 搜索换行符,复制小字符串,在Python中循环不是 free ,它只是CPU时间比I / O时间便宜得多,这很少重要)?

你能做的最好的事情就是选择一个理想的块大小并自己进行无缓冲的读写操作,并且只有在找到第一个之前才浪费时间搜索换行符。

如果你可以假设第一行永远不会超过块大小,这很容易:

BLOCK_SIZE = 8192 # a usually-good default--but if it matters, test
with open(inpath, 'rb', 0) as infile, open(outpath, 'wb', 0) as outfile:
    buf = infile.read(BLOCK_SIZE)
    first, _, rest = buf.partition(b'\n')
    outfile.write(rest)
    while True:
        buf = infile.read(BLOCK_SIZE)
        if not but:
            break
        outfile.write(buf)

如果我不止一次这样做,我会编写一个块文件迭代器函数(或者,更好的是,寻找一个预先测试的配方 - 它们遍布ActiveState和邮件列表)。