Question

下面的列y应该是['Reg'，'Reg'，'Swp'，'Swp']

In [1]: pd.read_csv('/tmp/test3.csv')  
Out[1]:  
x,y  
 ^@^@^@,Reg  
 ^@^@^@,Reg  
I,Swp  
I,Swp  

In [2]: ! cat /tmp/test3.csv  
     x    y  
0  
1  NaN  NaN  
2    I  Swp  
3    I  Swp    

In [3]: f = open('/tmp/test3.csv', 'rb'); print(repr(f.read()))  
'x,y\n \x00\x00\x00,Reg\n \x00\x00\x00,Reg\nI,Swp\nI,Swp\n'

Answer 1

是的，我可以重现此问题，但不知道如何使用pd.read_csv进行修复。这是一个解决方法：

In [46]: import numpy as np
In [47]: arr = np.genfromtxt('test3.csv', delimiter = ',', 
                             dtype = None, names = True)

In [48]: df = pd.DataFrame(arr)

In [49]: df
Out[49]: 
   x    y
0     Reg
1     Reg
2  I  Swp
3  I  Swp

请注意，对于names = True，csv的第一个有效行被解释为列名（因此不会影响后续行中值的dtype。）因此，如果csv文件包含数字数据，如

In [22]: with open('/tmp/test.csv','r') as f:
   ....:     print(repr(f.read()))
   ....:     
'x,y,z\n \x00\x00\x00,Reg,1\n \x00\x00\x00,Reg,2\nI,Swp,3\nI,Swp,4\n'

然后genfromtxt将数字dtype分配给第三列（在这种情况下为<i4）。

In [19]: arr = np.genfromtxt('/tmp/test.csv', delimiter = ',', dtype = None, names = True)

In [20]: arr
Out[20]: 
array([('', 'Reg', 1), ('', 'Reg', 2), ('I', 'Swp', 3), ('I', 'Swp', 4)], 
      dtype=[('x', '|S3'), ('y', '|S3'), ('z', '<i4')])

但是，如果数字数据与诸如'\x00'之类的字节混合，则genfromtxt将无法将此列识别为数字，因此将使用指定字符串dtype。但是，您可以通过手动分配dtype参数来强制列的dtype。例如，

In [11]: arr = np.genfromtxt('/tmp/test.csv', delimiter = ',', dtype = [('x', '|i4'), ('y', '|S3')], names = True)

将第一列x设置为具有dtype |i4（4字节整数），将第二列y设置为具有dtype |S3（3字节字符串）。有关可用dtypes的详细信息，请参阅this doc page。

Pandas read_csv在具有空字符的列上失败

1 个答案: