我最终在我们的一个mysql列中搞乱了字符编码。
通常我有
√©而不是é
√∂而不是ö
√≠而不是í
依旧......
相当确定这里有人会知道发生了什么以及如何解决。
更新 基于bobince的答案,因为我在文件中有这些数据,所以我做了以下
#!/user/bin/env python
import codecs
f = codecs.open('./file.csv', 'r', 'utf-8')
f2 = codecs.open('./file-fixed.csv', 'w', 'utf-8')
for line in f:
f2.write(line.encode('macroman').decode('utf-8')),
之后
load data infile 'file-fixed.csv'
into table list1
fields terminated by ','
optionally enclosed by '"'
ignore 1 lines;
正确导入数据。
UPDATE2: Hammerite,只是为了完整性,这里是要求的细节......
mysql> SHOW VARIABLES LIKE 'character_set%';
+--------------------------+----------------------------+
| Variable_name | Value |
+--------------------------+----------------------------+
| character_set_client | latin1 |
| character_set_connection | latin1 |
| character_set_database | latin1 |
| character_set_filesystem | binary |
| character_set_results | latin1 |
| character_set_server | latin1 |
| character_set_system | utf8 |
| character_sets_dir | /usr/share/mysql/charsets/ |
+--------------------------+----------------------------+
我要导入的表格的SHOW CREATE TABLE
有DEFAULT CHARSET=utf8
EDIT3:
实际上使用上述设置,load
没有做正确的事情(我无法与现有的utf8字段进行比较,而我的加载数据仅看起来好像它已正确加载;我假设因为错误,但匹配客户端,连接和结果字符集),所以我将设置更新为:
+--------------------------+----------------------------+
| Variable_name | Value |
+--------------------------+----------------------------+
| character_set_client | utf8 |
| character_set_connection | utf8 |
| character_set_database | utf8 |
| character_set_filesystem | binary |
| character_set_results | utf8 |
| character_set_server | utf8 |
| character_set_system | utf8 |
| character_sets_dir | /usr/share/mysql/charsets/ |
+--------------------------+----------------------------+
再次上传数据,最后我正确加载数据(与现有数据相比)。
答案 0 :(得分:5)
您的文字已编码为UTF-8,然后错误地重新解码为Mac Roman。
您将无法在数据库中修复此问题,因为MySQL不知道Mac Roman编码。您可以编写一个脚本来遍历每个受影响的表的每一行,并通过反转编码/解码周期来修复文本。 Python是一种可能性,具有多种编码:
>>> print u'é'.encode('macroman').decode('utf-8')
é
>>> print u'ö'.encode('macroman').decode('utf-8')
ö
>>> print u'í'.encode('macroman').decode('utf-8')
í
或者,如果没有非ASCII内容不受此问题的影响,您可以尝试使用mysqladmin
导出SQL转储,然后使用上面的脚本一次性转换它,或者,如果你有一个可以做到的文本编辑器(可能在Mac上),将脚本加载为UTF-8,然后将其保存为Mac Roman。最后使用mysql < dump.sql
重新导入转储。