MySQL从CSV数据加载NULL值

时间:2010-04-20 13:11:49

标签: mysql csv load-data-infile

我有一个文件,可以包含3到4列数字,用逗号分隔。当空字段位于行的末尾时,将定义空字段:

1,2,3,4,5
1,2,3,,5
1,2,3

下表是在MySQL中创建的:

+-------+--------+------+-----+---------+-------+
| Field | Type   | Null | Key | Default | Extra |
+-------+--------+------+-----+---------+-------+
| one   | int(1) | YES  |     | NULL    |       | 
| two   | int(1) | YES  |     | NULL    |       | 
| three | int(1) | YES  |     | NULL    |       | 
| four  | int(1) | YES  |     | NULL    |       | 
| five  | int(1) | YES  |     | NULL    |       | 
+-------+--------+------+-----+---------+-------+

我正在尝试使用MySQL LOAD命令加载数据:

LOAD DATA INFILE '/tmp/testdata.txt' INTO TABLE moo FIELDS 
TERMINATED BY "," LINES TERMINATED BY "\n";

结果表:

+------+------+-------+------+------+
| one  | two  | three | four | five |
+------+------+-------+------+------+
|    1 |    2 |     3 |    4 |    5 | 
|    1 |    2 |     3 |    0 |    5 | 
|    1 |    2 |     3 | NULL | NULL | 
+------+------+-------+------+------+

问题在于,当原始数据中的字段为空且未定义时,MySQL由于某种原因不使用列默认值(即NULL)并使用零。当字段完全丢失时,正确使用NULL。

不幸的是,我必须能够在这个阶段区分NULL和0,所以任何帮助都会受到赞赏。

由于 S上。

修改

SHOW WARNINGS的输出:

+---------+------+--------------------------------------------------------+
| Level   | Code | Message                                                |
+---------+------+--------------------------------------------------------+
| Warning | 1366 | Incorrect integer value: '' for column 'four' at row 2 | 
| Warning | 1261 | Row 3 doesn't contain data for all columns             | 
| Warning | 1261 | Row 3 doesn't contain data for all columns             | 
+---------+------+--------------------------------------------------------+

7 个答案:

答案 0 :(得分:167)

这将做你想要的。它将第四个字段读入局部变量,然后将实际字段值设置为NULL,如果局部变量最终包含空字符串:

LOAD DATA infile '/tmp/testdata.txt'
INTO TABLE moo
fields terminated BY ","
lines terminated BY "\n"
(one, two, three, @vfour, five)
SET four = nullif(@vfour,'')
;

如果它们都可能是空的,那么你将它们全部读入变量并有多个SET语句,如下所示:

LOAD DATA infile '/tmp/testdata.txt'
INTO TABLE moo
fields terminated BY ","
lines terminated BY "\n"
(@vone, @vtwo, @vthree, @vfour, @vfive)
SET
one = nullif(@vone,''),
two = nullif(@vtwo,''),
three = nullif(@vthree,''),
four = nullif(@vfour,'')
;

答案 1 :(得分:116)

MySQL manual说:

  

使用LOAD DATA读取数据时   INFILE,空或缺少列   用''更新。如果你想要一个NULL   列中的值,您应该使用\ N.   在数据文件中。文字   某些情况下也可以使用“NULL”   情况。

所以你需要用\ N替换空白像这样:

1,2,3,4,5
1,2,3,\N,5
1,2,3

答案 2 :(得分:5)

根据数据库配置,行为会有所不同。在严格模式下,这会抛出错误,否则会发出警告。 以下查询可用于标识数据库配置。

mysql> show variables like 'sql_mode';

答案 3 :(得分:2)

预处理输入CSV,用\ N。

替换空白条目

尝试正则表达式:s / ,, /,\ n,/ g和s /,$ /,\ N / g

祝你好运。

答案 4 :(得分:1)

(变量1,@变量2,..) SET variable2 = nullif(@ variable2,''或'')>>您可以输入任何条件

答案 5 :(得分:0)

在UNix终端中使用以下sed命令将输入​​文件转换为包含空白列数据的\N

sed -i 's/,,/,\\N,/g' $file_name

,然后使用LOAD DATA INFILE命令加载到mysql

答案 6 :(得分:-1)

显示类似“ secure_file_priv”的变量;

注意:将csv文件保存在上述命令指定的位置。

create table assessments (course_code varchar(5),batch_code varchar(7),id_assessment int, assessment_type varchar(10), date int , weight int);

注意:csv文件中的“ date”列中有一些空白值。

LOAD DATA INFILE 'C:/ProgramData/MySQL/MySQL Server 8.0/Uploads/assessments.csv' 
INTO TABLE assessments
FIELDS TERMINATED BY ',' 
OPTIONALLY ENCLOSED BY '' 
LINES TERMINATED BY '\n' 
IGNORE 1 ROWS 
(course_code,batch_code,id_assessment,assessment_type,@date,weight)
SET date = IF(@date = '', NULL, @date);