如何逐行读取文件到列表中?

时间:2010-07-18 22:25:01

标签: python string file readlines

如何在Python中读取文件的每一行并将每一行存储为列表中的元素?

我想逐行读取文件并将每行附加到列表的末尾。

35 个答案:

答案 0 :(得分:1947)

with open(fname) as f:
    content = f.readlines()
# you may also want to remove whitespace characters like `\n` at the end of each line
content = [x.strip() for x in content] 

答案 1 :(得分:870)

请参阅Input and Ouput

with open('filename') as f:
    lines = f.readlines()

或剥离换行符:

lines = [line.rstrip('\n') for line in open('filename')]

编者注:正如Janus Troelsen的评论所暗示的那样,这个答案的原始空白剥离命令line.strip()将删除所有前导和尾随空格,而不仅仅是尾随{ {1}}。

答案 2 :(得分:504)

这比必要的更明确,但你做了什么。

with open("file.txt", "r") as ins:
    array = []
    for line in ins:
        array.append(line)

答案 3 :(得分:247)

这将从文件中产生一行“数组”。

lines = tuple(open(filename, 'r'))

答案 4 :(得分:175)

如果您想要包含\n

with open(fname) as f:
    content = f.readlines()

如果您不想包含\n

with open(fname) as f:
    content = f.read().splitlines()

答案 5 :(得分:128)

您可以按照建议执行以下操作:

with open('/your/path/file') as f:
    my_lines = f.readlines()

请注意,此方法有两个缺点:

1)您将所有行存储在内存中。在一般情况下,这是一个非常糟糕的主意。该文件可能非常大,您可能会耗尽内存。即使它不大,也只是浪费记忆。

2)当您阅读时,这不允许处理每一行。因此,如果您在此之后处理您的行,则效率不高(需要两次通过而不是一次)。

对于一般情况,更好的方法如下:

with open('/your/path/file') as f:
    for line in f:
        process(line)

您可以以任何方式定义流程功能。例如:

def process(line):
    if 'save the world' in line.lower():
         superman.save_the_world()

Superman课程的实施留给你练习。)

这适用于任何文件大小,只需1遍即可浏览您的文件。这通常是通用解析器的工作方式。

答案 6 :(得分:119)

根据Methods of File Objects,将文本文件转换为list的最简单方法是:

with open('file.txt') as f:
    my_list = list(f)

将文本文件读取到列表的其他方法:

使用withreadlines() (推荐)

with open('file.txt') as fp:
    lines = fp.readlines()

如果你不关心关闭文件,这个单线程可以工作:

lines = open('file.txt').readlines()

传统方式:

fp = open('file.txt') # Open file on read mode
lines = fp.read().split("\n") # Create a list containing all lines
fp.close() # Close file

答案 7 :(得分:55)

数据到列表

假设我们有一个包含我们数据的文本文件,如下所示:

文本文件内容:

line 1
line 2
line 3
  • 在同一目录中打开cmd(右键单击鼠标并选择cmd或PowerShell)
  • 运行python并在解释程序中写:

Python脚本

>>> with open("myfile.txt", encoding="utf-8") as file:
...     x = [l.strip() for l in file]
>>> x
['line 1','line 2','line 3']

使用追加

x = []
with open("myfile.txt") as file:
    for l in file:
        x.append(l.strip())

或者...

>>> x = open("myfile.txt").read().splitlines()
>>> x
['line 1', 'line 2', 'line 3']

或者...

>>> x = open("myfile.txt").readlines()
>>> x
['linea 1\n', 'line 2\n', 'line 3\n']

或者...

>>> y = [x.rstrip() for x in open("my_file.txt")]
>>> y
['line 1','line 2','line 3']


with open('testodiprova.txt', 'r', encoding='utf-8') as file:
    file = file.read().splitlines()
  print(file)

with open('testodiprova.txt', 'r', encoding='utf-8') as file:
  file = file.readlines()
  print(file)

答案 8 :(得分:48)

这应该封装open命令。

array = []
with open("file.txt", "r") as f:
  for line in f:
    array.append(line)

答案 9 :(得分:40)

将文件行读入列表的清洁和pythonic方式


首先,您应该专注于打开文件并以高效和pythonic的方式阅读其内容。以下是我个人不喜欢的方式示例:

infile = open('my_file.txt', 'r')  # Open the file for reading.

data = infile.read()  # Read the contents of the file.

infile.close()  # Close the file since we're done using it.

相反,我更喜欢以下打开文件进行读写的方法 非常干净,不需要额外的步骤来关闭文件 一旦你完成使用它。在下面的声明中,我们打开文件 用于阅读,并将其分配给变量'infile'。一旦代码在内 该语句已经完成运行,文件将自动关闭。

# Open the file for reading.
with open('my_file.txt', 'r') as infile:

    data = infile.read()  # Read the contents of the file into memory.

现在我们需要专注于将这些数据带入 Python列表,因为它们是可迭代的,高效的和灵活的。在您的情况下,期望的目标是将文本文件的每一行放入单独的元素中。为此,我们将使用 splitlines()方法,如下所示:

# Return a list of the lines, breaking at line boundaries.
my_list = data.splitlines()

最终产品:

# Open the file for reading.
with open('my_file.txt', 'r') as infile:

    data = infile.read()  # Read the contents of the file into memory.

# Return a list of the lines, breaking at line boundaries.
my_list = data.splitlines()

测试我们的代码:

  • 文本文件的内容:
     A fost odatã ca-n povesti,
     A fost ca niciodatã,
     Din rude mãri împãrãtesti,
     O prea frumoasã fatã.
  • 用于测试目的的打印语句:
    print my_list  # Print the list.

    # Print each line in the list.
    for line in my_list:
        print line

    # Print the fourth element in this list.
    print my_list[3]
  • 输出(由于unicode字符而看起来不同):
     ['A fost odat\xc3\xa3 ca-n povesti,', 'A fost ca niciodat\xc3\xa3,',
     'Din rude m\xc3\xa3ri \xc3\xaemp\xc3\xa3r\xc3\xa3testi,', 'O prea
     frumoas\xc3\xa3 fat\xc3\xa3.']

     A fost odatã ca-n povesti, A fost ca niciodatã, Din rude mãri
     împãrãtesti, O prea frumoasã fatã.

     O prea frumoasã fatã.

答案 10 :(得分:37)

要将文件读入列表,您需要做三件事:

  • 打开文件
  • 阅读文件
  • 将内容存储为列表

幸运的是,Python可以很容易地完成这些操作,因此将文件读入列表的最短方法是:

lst = list(open(filename))

但是我会添加更多解释。

打开文件

我假设您要打开特定文件而不直接处理文件句柄(或文件类句柄)。在Python中打开文件最常用的函数是open,它在Python 2.7中需要一个必需参数和两个可选参数:

  • 文件名
  • 模式
  • 缓冲(我在这个答案中忽略了这个论点)

文件名应该是一个字符串,表示文件的路径。例如:

open('afile')   # opens the file named afile in the current working directory
open('adir/afile')            # relative path (relative to the current working directory)
open('C:/users/aname/afile')  # absolute path (windows)
open('/usr/local/afile')      # absolute path (linux)

请注意,需要指定文件扩展名。这对Windows用户尤为重要,因为在资源管理器中查看时,.txt.doc等文件扩展名默认隐藏

第二个参数是mode,默认情况下它是r,这意味着"只读"。这正是您所需要的。

但是如果您确实想要创建文件和/或写入文件,那么您在这里需要一个不同的参数。 There is an excellent answer if you want an overview

对于阅读文件,您可以省略mode或明确传递它:

open(filename)
open(filename, 'r')

两者都将以只读模式打开文件。如果您想在Windows上读取二进制文件,则需要使用模式rb

open(filename, 'rb')

在其他平台上,'b'(二进制模式)被忽略。

现在我已经展示了如何open该文件,让我们再谈谈你总是需要close这个事实。否则它将保持文件的打开文件句柄,直到进程退出(或Python使文件句柄变得无效)。

虽然你可以使用:

f = open(filename)
# ... do stuff with f
f.close()

openclose之间的某些内容抛出异常时,将无法关闭该文件。您可以使用tryfinally

来避免这种情况
f = open(filename)
# nothing in between!
try:
    # do stuff with f
finally:
    f.close()

然而,Python提供了具有更漂亮语法的上下文管理器(但对于open,它几​​乎与上面的tryfinally完全相同:

with open(filename) as f:
    # do stuff with f
# The file is always closed after the with-scope ends.

最后一种方法是用推荐方法在Python中打开文件!

读取文件

好的,你已经打开了文件,现在该如何阅读?

open函数返回一个file对象,它支持Pythons迭代协议。每次迭代都会给你一行:

with open(filename) as f:
    for line in f:
        print(line)

这将打印文件的每一行。但请注意,每行最后都会包含换行符\n(您可能需要检查您的Python是否使用universal newlines support构建 - 否则您也可以在Windows上使用\r\n或{ {1}}在Mac上作为换行符)。如果你不想要,你可以简单地删除最后一个字符(或Windows上的最后两个字符):

\r

但最后一行并不一定有一个尾随换行符,所以不应该使用它。可以检查它是否以尾随换行结束,如果是,则将其删除:

with open(filename) as f:
    for line in f:
        print(line[:-1])

但是您可以从字符串端删除所有空格(包括with open(filename) as f: for line in f: if line.endswith('\n'): line = line[:-1] print(line) 字符),这也将删除所有其他尾随空格,以便如果这些很重要,你必须要小心:

\n

但是,如果这些行以with open(filename) as f: for line in f: print(f.rstrip()) 结尾(Windows"换行符")\r\n也将处理.rstrip()

将内容存储为列表

现在您知道如何打开文件并阅读它,现在是时候将内容存储在列表中了。最简单的选择是使用list函数:

\r

如果要删除尾随换行符,可以使用列表推导来代替:

with open(filename) as f:
    lst = list(f)

甚至更简单:with open(filename) as f: lst = [line.rstrip() for line in f] 对象的.readlines()方法默认返回file行:

list

这也将包括尾随的换行符,如果你不想要它们,我会推荐with open(filename) as f: lst = f.readlines() 方法,因为它避免保留两个包含内存中所有行的列表。

还有一个额外的选项可以获得所需的输出,但它更确切地说"次优的":read字符串中的完整文件然后拆分换行:

[line.rstrip() for line in f]

或:

with open(filename) as f:
    lst = f.read().split('\n')

这些会自动处理尾随换行符,因为不包含with open(filename) as f: lst = f.read().splitlines() 字符。但是它们并不理想,因为你将文件保存为字符串和内存中的行列表!

摘要

  • 打开文件时使用split因为您不需要自己关闭文件,即使发生异常也会关闭文件。
  • with open(...) as f个对象支持迭代协议,因此逐行读取文件就像file一样简单。
  • 始终浏览可用功能/类的文档。大多数情况下,任务完全匹配,或者至少有一两个好任务。在这种情况下显而易见的选择是for line in the_file_object:但是如果你想在将它们存储在列表中之前处理这些行,我建议一个简单的列表理解。

答案 11 :(得分:30)

我会这样做。

lines = []
with open("myfile.txt") as f:
    for line in f:
        lines.append(line)

答案 12 :(得分:26)

通过对文件使用列表推导,还有另外一个选项;

lines = [line.rstrip() for line in open('file.txt')]

这应该是更有效的方式,因为大部分工作都是在Python解释器中完成的。

答案 13 :(得分:25)

另一个选项是numpy.genfromtxt,例如:

import numpy as np
data = np.genfromtxt("yourfile.dat",delimiter="\n")

这将使data一个NumPy数组包含文件中的行数。

答案 14 :(得分:23)

如果您想从命令行或stdin读取文件,还可以使用fileinput模块:

# reader.py
import fileinput

content = []
for line in fileinput.input():
    content.append(line.strip())

fileinput.close()

将文件传递给它:

$ python reader.py textfile.txt 

在此处阅读更多内容:http://docs.python.org/2/library/fileinput.html

答案 15 :(得分:20)

最简单的方法

一种简单的方法是:

  1. 将整个文件作为字符串
  2. 读取
  3. 逐行拆分字符串
  4. 在一行中,这将给出:

    lines = open('C:/path/file.txt').read().splitlines()
    

答案 16 :(得分:19)

使用Python 2和Python 3读写文本文件;它适用于Unicode

#!/usr/bin/env python3
# -*- coding: utf-8 -*-

# Define data
lines = ['     A first string  ',
         'A Unicode sample: €',
         'German: äöüß']

# Write text file
with open('file.txt', 'w') as fp:
    fp.write('\n'.join(lines))

# Read text file
with open('file.txt', 'r') as fp:
    read_lines = fp.readlines()
    read_lines = [line.rstrip('\n') for line in read_lines]

print(lines == read_lines)

需要注意的事项:

  • with是所谓的context manager。它确保打开的文件再次关闭。
  • 此处仅包含.strip().rstrip()的所有解决方案都无法重现lines,因为它们也会删除空格。

公共文件结尾

.txt

更高级的文件写入/阅读

对于您的应用程序,以下内容可能很重要:

  • 其他编程语言的支持
  • 阅读/写作表现
  • 紧凑性(文件大小)

另请参阅: Comparison of data serialization formats

如果您正在寻找制作配置文件的方法,您可能需要阅读我的短文 Configuration files in Python

答案 17 :(得分:18)

在Python 3.4中引入,pathlib有一个非常方便的方法来从文件中读取文本,如下所示:

from pathlib import Path
p = Path('my_text_file')
lines = p.read_text().splitlines()

splitlines调用将其从包含文件全部内容的字符串转换为文件中的行列表。

pathlib有很多方便的便利。 read_text简洁明了,您不必担心打开和关闭文件。如果你需要对文件进行全部阅读,那么这是一个不错的选择。

答案 18 :(得分:16)

f = open("your_file.txt",'r')
out = f.readlines() # will append in the list out

现在变量输出是你想要的列表(数组)。你可以这样做:

for line in out:
    print line

for line in f:
    print line

你会得到相同的结果。

答案 19 :(得分:15)

真正简单的方法:

with open(file) as g:
    stuff = g.readlines()

如果您想使其成为一个成熟的程序,请在以下位置输入:

file = raw_input ("Enter EXACT file name: ")
with open(file) as g:
    stuff = g.readlines()
print (stuff)
exit = raw_input("Press enter when you are done.")

由于某种原因,它无法正确读取.py文件。

答案 20 :(得分:14)

只需使用splitlines()函数即可。这是一个例子。

inp = "file.txt"
data = open(inp)
dat = data.read()
lst = dat.splitlines()
print lst
# print(lst) # for python 3

在输出中,您将获得行列表。

答案 21 :(得分:13)

您可以使用以下方式打开文件进行阅读:

file1 = open("filename","r")
# And for reading use
lines = file1.readlines()
file1.close()

列表lines将包含所有行作为单独的元素,并且当Python从0开始计数时,您可以使用lines["linenumber-1"]调用特定元素。

答案 22 :(得分:11)

如果您希望面对非常大/巨大的文件并希望更快地阅读(想象您参加Topcoder / Hackerrank编码竞赛),您可能会一次将相当大的行读入内存缓冲区,而不是在文件级别逐行迭代。

buffersize = 2**16
with open(path) as f: 
    while True:
        lines_buffer = f.readlines(buffersize)
        if not lines_buffer:
            break
        for line in lines_buffer:
            process(line)

答案 23 :(得分:8)

据我所知,Python没有本机数组数据结构。但它确实支持列表数据结构,它比数组使用起来要简单得多。

array = [] #declaring a list with name '**array**'
with open(PATH,'r') as reader :
    for line in reader :
        array.append(line)

答案 24 :(得分:7)

实现此目标的最简单方法是:

lines = list(open('filename'))

lines = tuple(open('filename'))

lines = set(open('filename'))

在使用set的情况下,必须记住,我们没有保留行顺序,并且要删除重复的行。

答案 25 :(得分:6)

您可以通过以下代码轻松完成:

lines = open(filePath).readlines()

答案 26 :(得分:5)

使用此:

import pandas as pd
data = pd.read_csv(filename) # You can also add parameters such as header, sep, etc.
array = data.values

data是一种数据框类型,并使用值来获取ndarray。您还可以使用array.tolist()获取列表。

答案 27 :(得分:4)

查看此简短代码段

fileOb=open("filename.txt","r")
data=fileOb.readlines() #returns a array of lines.

fileOb=open("filename.txt","r")
data=list(fileOb) #returns a array of lines.

请参考docs供参考

答案 28 :(得分:4)

您也可以在NumPy中使用loadtxt命令。这会检查比genfromtxt更少的条件,因此它可能更快。

import numpy
data = numpy.loadtxt(filename, delimiter="\n")

答案 29 :(得分:3)

我喜欢使用以下内容。立刻读线。

contents = []
for line in open(filepath, 'r').readlines():
    contents.append(line.strip())

或使用列表理解:

contents = [line.strip() for line in open(filepath, 'r').readlines()]

答案 30 :(得分:3)

概要和摘要

使用filename,从Path(filename)对象处理文件,或直接使用open(filename) as f,执行以下操作之一:

  • list(fileinput.input(filename))
  • 使用with path.open() as f,致电f.readlines()
  • list(f)
  • path.read_text().splitlines()
  • path.read_text().splitlines(keepends=True)
  • 一次迭代fileinput.inputflist.append每行一次
  • f传递给绑定的list.extend方法
  • 在列表理解中使用f

我在下面解释每个用例。

  

在Python中,如何逐行读取文件?

这是一个很好的问题。首先,让我们创建一些示例数据:

from pathlib import Path
Path('filename').write_text('foo\nbar\nbaz')

文件对象是惰性迭代器,所以只需迭代它。

filename = 'filename'
with open(filename) as f:
    for line in f:
        line # do something with the line

或者,如果您有多个文件,请使用fileinput.input,另一个惰性迭代器。只有一个文件:

import fileinput

for line in fileinput.input(filename): 
    line # process the line

或对于多个文件,传递一个文件名列表:

for line in fileinput.input([filename]*2): 
    line # process the line

同样,上面的ffileinput.input都是/ return惰性迭代器。 你只能使用迭代器一次,所以为了提供功能代码,同时避免冗长,我将使用稍微简洁fileinput.input(filename)来自这里的apropos。

  

在Python中,如何将文件逐行读入列表?

啊,但是出于某种原因你想要它在列表中吗?如果可能的话,我会避免这种情况。但是如果你坚持......只需将fileinput.input(filename)的结果传递给list

list(fileinput.input(filename))

另一个直接的答案是调用f.readlines,它会返回文件的内容(最多可选hint个字符数,因此可以将其分解为这样的多个列表)。

您可以通过两种方式获取此文件对象。一种方法是将文件名传递给open内置:

filename = 'filename'

with open(filename) as f:
    f.readlines()

或使用pathlib模块中的新Path对象(我已经非常喜欢,并将在此处使用):

from pathlib import Path

path = Path(filename)

with path.open() as f:
    f.readlines()

list也将使用文件迭代器并返回一个列表 - 一个非常直接的方法:

with path.open() as f:
    list(f)

如果您不介意在拆分之前将整个文本作为单个字符串读入内存,则可以使用Path对象和splitlines()字符串进行单行处理方法。默认情况下,splitlines会删除换行符:

path.read_text().splitlines()

如果您想保留换行符,请传递keepends=True

path.read_text().splitlines(keepends=True)
  

我想逐行读取文件并将每行附加到列表的末尾。

现在这有点愚蠢,因为我们已经通过几种方法轻松地证明了最终结果。但是你可能需要在列表中过滤或操作这些行,所以让我们幽默这个请求。

使用list.append可以在添加之前对每行进行过滤或操作:

line_list = []
for line in fileinput.input(filename):
    line_list.append(line)

line_list

使用list.extend会更直接,如果你有一个预先存在的列表,也许有用:

line_list = []
line_list.extend(fileinput.input(filename))
line_list

或者更具惯用性,我们可以使用列表理解,并在需要时在其中进行映射和过滤:

[line for line in fileinput.input(filename)]

甚至更直接地说,要关闭圆圈,只需将其传递给列表即可直接创建新列表而无需操作:

list(fileinput.input(filename))

结论

您已经看到很多方法可以将文件中的行放到列表中,但我建议您避免将大量数据存入列表,而是使用Python的惰性迭代来处理如果可能,数据。

也就是说,首选fileinput.inputwith path.open() as f

答案 31 :(得分:2)

命令行版本

#!/bin/python3
import os
import sys
abspath = os.path.abspath(__file__)
dname = os.path.dirname(abspath)
filename = dname + sys.argv[1]
arr = open(filename).read().split("\n") 
print(arr)

以:

运行
python3 somefile.py input_file_name.txt

答案 32 :(得分:2)

我将尝试以下提到的方法之一。我使用的示例文件的名称为dummy.txt。您可以找到文件here。我认为该文件与代码位于同一目录中(您可以更改fpath以包括正确的文件名和文件夹路径。)

在下面提到的两个示例中,所需的列表由lst给出。

1.>第一种方法

fpath = 'dummy.txt'
with open(fpath, "r") as f: lst = [line.rstrip('\n \t') for line in f]

print lst
>>>['THIS IS LINE1.', 'THIS IS LINE2.', 'THIS IS LINE3.', 'THIS IS LINE4.']

2。> 第二种方法中,可以使用Python标准库中的 csv.reader模块

import csv
fpath = 'dummy.txt'
with open(fpath) as csv_file:
    csv_reader = csv.reader(csv_file, delimiter='   ')
    lst = [row[0] for row in csv_reader] 

print lst
>>>['THIS IS LINE1.', 'THIS IS LINE2.', 'THIS IS LINE3.', 'THIS IS LINE4.']

您可以使用两种方法之一。在两种方法中,创建lst所需的时间几乎相等。

答案 33 :(得分:2)

如果文档中也有空行,我希望读取内容并将其通过filter来防止空字符串元素

with open(myFile, "r") as f:
    excludeFileContent = list(filter(None, f.read().splitlines()))

答案 34 :(得分:2)

这是我用来简化文件I / O的Python(3)帮助器类:

import os

# handle files using a callback method, prevents repetition
def _FileIO__file_handler(file_path, mode, callback = lambda f: None):
  f = open(file_path, mode)
  try:
    return callback(f)
  except Exception as e:
    raise IOError("Failed to %s file" % ["write to", "read from"][mode.lower() in "r rb r+".split(" ")])
  finally:
    f.close()


class FileIO:
  # return the contents of a file
  def read(file_path, mode = "r"):
    return __file_handler(file_path, mode, lambda rf: rf.read())

  # get the lines of a file
  def lines(file_path, mode = "r", filter_fn = lambda line: len(line) > 0):
    return [line for line in FileIO.read(file_path, mode).strip().split("\n") if filter_fn(line)]

  # create or update a file (NOTE: can also be used to replace a file's original content)
  def write(file_path, new_content, mode = "w"):
    return __file_handler(file_path, mode, lambda wf: wf.write(new_content))

  # delete a file (if it exists)
  def delete(file_path):
    return os.remove() if os.path.isfile(file_path) else None

然后您将使用FileIO.lines函数,如下所示:

file_ext_lines = FileIO.lines("./path/to/file.ext"):
for i, line in enumerate(file_ext_lines):
  print("Line {}: {}".format(i + 1, line))

请记住,mode(默认为"r")和filter_fn(默认为检查空行)参数是可选的。

您甚至可以删除readwritedelete方法而只留下FileIO.lines,甚至将其转换为名为read_lines的单独方法