大型txt文件或mysql数据库到json

时间:2016-07-04 11:59:58

标签: mysql json file

我使用elasticsearch来索引某些数据,数据源是可变的,例如txt或sql文件 我认为我应该做的第一步是将所有数据转换为json formate,比如读取txt文件或mysql数据库,然后用json formate将数据写入文件,最后导入数据elasticsearch。 但问题是文件非常大而且耗时很长,例如txt文件将是16GB或者mysql数据库将是50GB。

如果有什么方法可以用来快速读取大型txt文件或数据库?

任何想法都是值得欣赏的......

0 个答案:

没有答案