pandas.read_csv 无法导入路径中带有重音符号的文件

Question

我正在使用 Python 和 QT GUI 开发应用程序。 我需要将文件导入DataFrame。 我使用QFileDialog.getOpenFileName 获取路径和文件名以使用pandas.read_csv 方法打开它。 一切正常，直到我得到一条带有“ó”之类的特殊字符的路径。 pandas.read_csv 不起作用并导致应用崩溃。

我尝试在控制台中重现错误并得到以下结果：

In[2]: import pandas as pd
Backend Qt5Agg is interactive backend. Turning interactive mode on.

In[3]: path1 = 'F:/Software_Proyects/Python/Proyectos/test_read_csv/FlowData.txt'
In[4]: df1 = pd.read_csv(path1, delim_whitespace=True, dtype=object)

In[5]: path2 = 'F:/Software_Proyects/Python/Proyectos/test_read_csv_with_ó/FlowData.txt'
In[6]: df2 = pd.read_csv(path2, delim_whitespace=True, dtype=object)
Traceback (most recent call last):
  File "C:\Program Files (x86)\Anaconda3\lib\site-packages\IPython\core\interactiveshell.py", line 2881, in run_code
    exec(code_obj, self.user_global_ns, self.user_ns)
  File "<ipython-input-6-feba8e024d43>", line 1, in <module>
    df2 = pd.read_csv(path2, delim_whitespace=True, dtype=object)
  File "C:\Program Files (x86)\Anaconda3\lib\site-packages\pandas\io\parsers.py", line 646, in parser_f
    return _read(filepath_or_buffer, kwds)
  File "C:\Program Files (x86)\Anaconda3\lib\site-packages\pandas\io\parsers.py", line 389, in _read
    parser = TextFileReader(filepath_or_buffer, **kwds)
  File "C:\Program Files (x86)\Anaconda3\lib\site-packages\pandas\io\parsers.py", line 730, in __init__
    self._make_engine(self.engine)
  File "C:\Program Files (x86)\Anaconda3\lib\site-packages\pandas\io\parsers.py", line 923, in _make_engine
    self._engine = CParserWrapper(self.f, **self.options)
  File "C:\Program Files (x86)\Anaconda3\lib\site-packages\pandas\io\parsers.py", line 1390, in __init__
    self._reader = _parser.TextReader(src, **kwds)
  File "pandas\parser.pyx", line 373, in pandas.parser.TextReader.__cinit__ (pandas\parser.c:4184)
  File "pandas\parser.pyx", line 669, in pandas.parser.TextReader._setup_parser_source (pandas\parser.c:8471)
OSError: Initializing from file failed

show_versions() 的输出是：

In[7]: pd.show_versions()

INSTALLED VERSIONS
------------------
commit: None
python: 3.6.0.final.0
python-bits: 32
OS: Windows
OS-release: 10
machine: AMD64
processor: Intel64 Family 6 Model 78 Stepping 3, GenuineIntel
byteorder: little
LC_ALL: None
LANG: None
LOCALE: None.None

pandas: 0.19.2
nose: 1.3.7
pip: 9.0.1
setuptools: 27.2.0
Cython: 0.25.2
numpy: 1.11.3
scipy: 0.18.1
statsmodels: 0.6.1
xarray: None
IPython: 5.1.0
sphinx: 1.5.1
patsy: 0.4.1
dateutil: 2.6.0
pytz: 2016.10
blosc: None
bottleneck: 1.2.0
tables: 3.2.2
numexpr: 2.6.1
matplotlib: 2.0.0
openpyxl: 2.4.1
xlrd: 1.0.0
xlwt: 1.2.0
xlsxwriter: 0.9.6
lxml: 3.7.2
bs4: 4.5.3
html5lib: None
httplib2: None
apiclient: None
sqlalchemy: 1.1.5
pymysql: None
psycopg2: None
jinja2: 2.9.4
boto: 2.45.0
pandas_datareader: None

正如我在这篇文章Encoding with pandas.read_csv when file name has accents 中所读到的，问题已在 pandas 0.14.0 中得到修复。

有解决这个问题的建议吗？

Answer 1

深入研究，这种行为结合了 Python 3.6 和 pandas.read_csv 仅在 Windows 系统中出现。

Python 3.6 将 Windows 文件系统编码从“mbcs”更改为“UTF-8”。见Python PEP 529。使用sys.getfilesystemencoding()获取当前文件系统编码

我得到了一些解决方案：

1.- 使用此代码将所有应用更改为使用之前的 Python

import sys
sys._enablelegacywindowsfsencoding()

2.- 将文件指针传递给 pandas.read_csv

with open(path2, 'r') as fp:
    df2 = pd.read_csv(fp, delim_whitespace=True, dtype=object)

Answer 2

在使用 utf-8 编码阅读之前，您可以在 notebook/ipython 中尝试这些代码行：

import sys
reload(sys)
sys.setdefaultencoding('utf-8')

然后在阅读您的文件时按照评论中的建议使用这些行

pd.read_csv(path1, delim_whitespace=True, dtype=object,encoding='utf-8')