pandas.read_csv无法导入路径中带重音符号的文件

时间:2017-09-10 11:39:38

标签: python pandas dataframe non-ascii-characters

我正在使用Python和QT GUI开发应用程序。 我需要将文件导入DataFrame。 我使用QFileDialog.getOpenFileName获取路径和文件名,以pandas.read_csv方法打开它。 一切都运作良好,直到我得到一个特殊字符如“ó”的路径。 pandas.read_csv不起作用并导致应用崩溃。

我尝试在控制台中重现错误并得到以下结果:

In[2]: import pandas as pd
Backend Qt5Agg is interactive backend. Turning interactive mode on.

In[3]: path1 = 'F:/Software_Proyects/Python/Proyectos/test_read_csv/FlowData.txt'
In[4]: df1 = pd.read_csv(path1, delim_whitespace=True, dtype=object)

In[5]: path2 = 'F:/Software_Proyects/Python/Proyectos/test_read_csv_with_ó/FlowData.txt'
In[6]: df2 = pd.read_csv(path2, delim_whitespace=True, dtype=object)
Traceback (most recent call last):
  File "C:\Program Files (x86)\Anaconda3\lib\site-packages\IPython\core\interactiveshell.py", line 2881, in run_code
    exec(code_obj, self.user_global_ns, self.user_ns)
  File "<ipython-input-6-feba8e024d43>", line 1, in <module>
    df2 = pd.read_csv(path2, delim_whitespace=True, dtype=object)
  File "C:\Program Files (x86)\Anaconda3\lib\site-packages\pandas\io\parsers.py", line 646, in parser_f
    return _read(filepath_or_buffer, kwds)
  File "C:\Program Files (x86)\Anaconda3\lib\site-packages\pandas\io\parsers.py", line 389, in _read
    parser = TextFileReader(filepath_or_buffer, **kwds)
  File "C:\Program Files (x86)\Anaconda3\lib\site-packages\pandas\io\parsers.py", line 730, in __init__
    self._make_engine(self.engine)
  File "C:\Program Files (x86)\Anaconda3\lib\site-packages\pandas\io\parsers.py", line 923, in _make_engine
    self._engine = CParserWrapper(self.f, **self.options)
  File "C:\Program Files (x86)\Anaconda3\lib\site-packages\pandas\io\parsers.py", line 1390, in __init__
    self._reader = _parser.TextReader(src, **kwds)
  File "pandas\parser.pyx", line 373, in pandas.parser.TextReader.__cinit__ (pandas\parser.c:4184)
  File "pandas\parser.pyx", line 669, in pandas.parser.TextReader._setup_parser_source (pandas\parser.c:8471)
OSError: Initializing from file failed

show_versions()的输出是:

In[7]: pd.show_versions()

INSTALLED VERSIONS
------------------
commit: None
python: 3.6.0.final.0
python-bits: 32
OS: Windows
OS-release: 10
machine: AMD64
processor: Intel64 Family 6 Model 78 Stepping 3, GenuineIntel
byteorder: little
LC_ALL: None
LANG: None
LOCALE: None.None

pandas: 0.19.2
nose: 1.3.7
pip: 9.0.1
setuptools: 27.2.0
Cython: 0.25.2
numpy: 1.11.3
scipy: 0.18.1
statsmodels: 0.6.1
xarray: None
IPython: 5.1.0
sphinx: 1.5.1
patsy: 0.4.1
dateutil: 2.6.0
pytz: 2016.10
blosc: None
bottleneck: 1.2.0
tables: 3.2.2
numexpr: 2.6.1
matplotlib: 2.0.0
openpyxl: 2.4.1
xlrd: 1.0.0
xlwt: 1.2.0
xlsxwriter: 0.9.6
lxml: 3.7.2
bs4: 4.5.3
html5lib: None
httplib2: None
apiclient: None
sqlalchemy: 1.1.5
pymysql: None
psycopg2: None
jinja2: 2.9.4
boto: 2.45.0
pandas_datareader: None

正如我在这篇文章Encoding with pandas.read_csv when file name has accents中所读到的那样,问题已在pandas 0.14.0中得到修复。

有任何解决此问题的建议吗?

2 个答案:

答案 0 :(得分:3)

深入研究,此行为仅在Windows系统中结合使用Python 3.6和pandas.read_csv。

Python 3.6从&#34; mbcs&#34;更改Windows文件系统编码to&#34; UTF-8&#34;。见Python PEP 529。使用sys.getfilesystemencoding()获取当前文件系统编码

我得到了一些解决方案:

1.-使用此代码更改所有应用程序以使用先前的Python&lt; = 3.5编码(&#34; mbcs&#34;)

import sys
sys._enablelegacywindowsfsencoding()

2.-将文件指针传递给pandas.read_csv

with open(path2, 'r') as fp:
    df2 = pd.read_csv(fp, delim_whitespace=True, dtype=object)

答案 1 :(得分:0)

在使用utf-8编码阅读之前,您可以在笔记本/ ipython中尝试这些代码行:

import sys
reload(sys)
sys.setdefaultencoding('utf-8')

然后在阅读文件时,请在评论

中使用这些行作为建议
pd.read_csv(path1, delim_whitespace=True, dtype=object,encoding='utf-8')