使用perl解析一个大文件并将数据插入mongo,在将数据转储到db之前或之后进行索引?

时间:2013-12-19 06:38:38

标签: perl mongodb indexing batch-insert

现在,我正在使用mongodb来保存一个非常大的文件(90G),它有近40,000,000个项目。

我读取并解析此文件并将所有项目插入mongodb(我的编程语言是perl,batch_insert而不是insert,我将一个项目映射到一个mongodb文档)。

在插入之前,我已经预先创建了索引(大约10个索引键)。

我发现插入速度无法满足我的需要(每秒200到400件)。

我知道,太多的索引键肯定会减慢我的插入速度,特别是当集合的大小变得非常大时。

所以,我想知道在将所有数据转储到db之后我是否可以将它们编入索引。可以告诉我这种方式是否可用,或者,如果这样可以节省我的时间?

1 个答案:

答案 0 :(得分:0)

您可以尝试在大插入之前删除索引,然后再次创建索引。它可以大大加快。