高效地将大型文件中的数据上传到数据库中

时间:2016-06-22 10:39:50

标签: mysql sql

大家好,我需要一个建议如何高效地将数据从足够大的文件上传到mySql数据库。所以我有两个文件5,85Gb和6Gb的数据。为了上传,我使用了`LOAD DATA LOCAL INTO FILE。第一个文件仍在上传( 36小时)。当前索引大小为7.2 GB。我有两个问题:

1)数据格式为Lile:{string,int,int,int,int}。我不需要这个int值,所以我创建了一个类型为 varchar(128)的字段的表,我的查询是LOAD DATA LOCAL INFILE "file" INTO TABLE "tale",所以数据是正确的(我的意思是只有字符串没有int fields)。

2)比下一个更大的负载时间指数。那么,我做错了什么?我的意思是,我需要什么。我需要快速搜索然后在字符串中(特别是在最后一个字)。因此,所有的字符串恰好包含5个单词,它是否可以将每个单词放在不同的列中(n行,5列)。

请提出任何建议。

1 个答案:

答案 0 :(得分:0)

现在可以删除索引并在表上加载数据后重新创建索引。我认为这会奏效。

重建索引需要时间。