我有一个tsv文件,其中包含130万行,具有不同的字符集,如拉丁文,俄语,中文等。
这是我的表结构
CREATE TABLE `zip_test` (
`country_code` VARCHAR(2) NULL DEFAULT NULL,
`postal_code` VARCHAR(20) NULL DEFAULT NULL,
`place_name` VARCHAR(180) NULL DEFAULT NULL,
`id` INT(11) NOT NULL AUTO_INCREMENT,
PRIMARY KEY (`id`)
)
COLLATE='utf8mb4_general_ci'
ENGINE=InnoDB
AUTO_INCREMENT=160467
;
通过从命令行运行此命令,我设法看到俄语字符可以正常显示,但其他字符仍无法正确显示。
mysql -uUser -pPass --default-character-set=utf8 --local-infile database -e "LOAD DATA LOCAL INFILE 'file.tsv' INTO TABLE table_name FIELDS TERMINATED BY '\t' LINES TERMINATED BY '\n'"
如何解决此问题?我做错了什么?我以前从未使用过与拉丁语不同的东西。
答案 0 :(得分:0)
好吧,我做错了几件事。
这篇文章澄清了很多事情 https://mathiasbynens.be/notes/mysql-utf8mb4
我必须运行它来准备我的数据库
# For each database:
ALTER DATABASE database_name CHARACTER SET = utf8mb4 COLLATE = utf8mb4_unicode_ci;
# For each table:
ALTER TABLE table_name CONVERT TO CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci;
# For each column:
ALTER TABLE table_name CHANGE column_name column_name VARCHAR(191) CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci;
# (Don’t blindly copy-paste this! The exact statement depends on the column type, maximum length, and other properties. The above line is just an example for a `VARCHAR` column.)
我的命令行也需要更正为:
mysql -uUser -pPass --default-character-set=utf8mb4 --local-infile database -e "LOAD DATA LOCAL INFILE 'file.tsv' INTO TABLE table_name FIELDS TERMINATED BY '\t' LINES TERMINATED BY '\n'"