将具有错误编码数据的MySQL表转换为UTF-8

时间:2013-06-11 17:10:39

标签: mysql character-encoding

我有一个很棒的'MySQL 5.1数据库,由于各种愚蠢的原因,我相信,我在UTF8表中存储了编码为LATIN1的UTF8字符。真奇怪。我想解决它。

MySQL - Convert latin1 characters on a UTF8 table into UTF8问题似乎有效 - 一次一列。但我有24个表和几十列要转换。我真的在寻找一种能够同时转换至少一张桌子的解决方案。

供参考,适用于我的单列解决方案是:

UPDATE foo SET col1 = CONVERT(CAST(CONVERT(col1 USING latin1) AS binary) USING utf8);

对于表格,我可以这样做:

ALTER TABLE foo CONVERT TO CHARACTER SET latin1;
ALTER TABLE foo CONVERT TO CHARACTER SET binary;
ALTER TABLE foo CHARACTER SET utf8  COLLATE utf8_unicode_ci;

让我非常接近 - 但是,CONVERT TO CHARACTER SET binary步骤将我的所有VARCHAR列转换为VARBINARY,将我的TEXT列一次性转换为BLOB。我可以通过改变它们并且看起来一切都很好......但是我回到了“让我们单独修改所有列”的世界 - 在这种情况下,我可能也一样

我已经在这些SQL语句上尝试了大约50种变体,但是我找不到一种能够将我的列留在字符数据类型中并对数据进行正确编码的方法。

有什么建议吗?

更新:我决定只修复列而不是等待数据库或表格式解决方案,我想出了:

#!/usr/bin/env ruby
require 'rubygems'
require 'mysql2'

CONNECT_OPTS = {} # whatever you want
Mysql2::Client.default_query_options.merge!(:as => :array)
conn = Mysql2::Client.new(CONNECT_OPTS)

tables = conn.query("SHOW TABLES").map {|row| row[0] }

# See http://dev.mysql.com/doc/refman/5.0/en/charset-column.html
# One might want to include enum and set columns; I don't have them
TYPES_TO_CONVERT = %w(char varchar text)
tables.each do |table|
  puts "converting #{table}"
  # Get all the columns and we'll filter for the ones we want
  columns = conn.query("DESCRIBE #{table}")
  columns_to_convert = columns.find_all {|row|
    TYPES_TO_CONVERT.include? row[1].gsub(/\(\d+\)/, '')
  }.map {|row| row[0]}
  next if columns_to_convert.empty?

  query = "UPDATE `#{table}` SET "
  query += columns_to_convert.map {|col|
    "`#{col}` = convert(cast(convert(`#{col}` using latin1) as binary) using utf8)"
  }.join ", "
  puts query
  conn.query query
end

......完成工作。有趣的是,这会在36秒内在我的数据库上运行,而不是ALTER TABLE路由花费13分钟(并且有VARBINARY问题)或mysqldump解决方案,这将花费20多个假设我可以让它们运行。

如果有人知道在一个步骤中为整个数据库或表格执行此操作的优雅方法,我仍会接受答案。

1 个答案:

答案 0 :(得分:12)

下面这个方法看起来非常有前景&更好的是,它的简洁美观。你的想法是mysqldump整个数据库为latin1,&然后导入它重新编码为utf-8。

导出:

  

mysqldump -u [user] -p --opt --quote-names --skip-set-charset --default-character-set = latin1 [database] > dump.sql

导入

  

mysql -u [user] -p --default-character-set = utf8 [database] < dump.sql

我不相信这个解决方案,它完全来自Gareth Price's blog。到目前为止,每个给他留言的人都有效:"哇,你刚刚救了我的命。我没有花2个小时,但是2天#34; 引起了我的注意。

更新#1:看起来像Gareth wasn't the first发现了这一点。

更新#2:我刚试过这个&它为我的UTF8-stored-as-latin1数据库工作得很漂亮。只需确保在导入之前将数据库上的默认字符集切换为utf8 ,否则您最终会得到特殊字符所在的普通问号。当然,这可能还有很多其他的后果,所以先测试一下。

  

ALTER SCHEMA [数据库] 默认字符集utf8;

如果您有任何表格未设置为架构默认值:

  

ALTER TABLE [table] CHARACTER SET = DEFAULT;

(同样的想法,如果你有任何特定于列的字符集设置,你必须做一个ALTER TABLE [table] CHANGE COLUMN [settings] 指定CHARACTER SET,使其返回表默认值