我在pandas模块上读取CSV(或txt文件)时遇到问题 因为numpy的loadtxt函数需要花费太多时间,所以我决定使用pandas read_csv。
我想从txt文件创建一个numpy数组,其中四列用空格分隔,并且行数非常多(例如256 ^ 3。在这个例子中,它是64 ^ 3)。
问题在于我不知道为什么,但似乎pandas的read_csv总是会跳过csv(txt)文件的第一行(第一行),从而减少一个数据。
这是代码。
from __future__ import division
import numpy as np
import pandas as pd
ngridx = 4
ngridy = 4
ngridz = 4
size = ngridx*ngridy*ngridz
f = np.zeros((size,4))
a = np.arange(size)
f[:, 0] = np.floor_divide(a, ngridy*ngridz)
f[:, 1] = np.fmod(np.floor_divide(a, ngridz), ngridy)
f[:, 2] = np.fmod(a, ngridz)
f[:, 3] = np.random.rand(size)
print f[0]
np.savetxt('Testarray.txt',f,fmt='%6.16f')
g = pd.read_csv('Testarray.txt',delimiter=' ').values
print g[0]
print len(g[:,3])
输出中显示的 f [0]和g [0]必须匹配但不匹配,表示pandas正在跳过Testarray.txt
的第一行。
此外,加载文件g
的长度小于数组f
的长度。
我需要帮助。
提前致谢。
答案 0 :(得分:36)
默认情况下,pd.read_csv
使用header=0
(当未指定names
参数时),这意味着第一行(即第0个索引)行被解释为列名。
如果您的数据没有标题,请使用
pd.read_csv(..., header=None)
例如,
import io
import sys
import pandas as pd
if sys.version_info.major == 3:
# Python3
StringIO = io.StringIO
else:
# Python2
StringIO = io.BytesIO
text = '''\
1 2 3
4 5 6
'''
print(pd.read_csv(StringIO(text), sep=' '))
如果没有header
,第一行1 2 3
会设置列名称:
1 2 3
0 4 5 6
使用header=None
,第一行被视为数据:
print(pd.read_csv(StringIO(text), sep=' ', header=None))
打印
0 1 2
0 1 2 3
1 4 5 6
答案 1 :(得分:1)
如果您的文件没有标题行,则需要通过在调用pd.read_csv()时使用header = None来告诉Pandas。