将大型数据集加载到MySQL表中

时间:2011-03-15 18:17:54

标签: mysql database dataset

我想开始修改大型政府数据集 - 特别是,我希望与campaign contribution recordslobbying disclosure records合作。阳光基金会和响应政治中心提供{{​​3}}这些数据集供下载。

我想将这些数据集加载到MySQL表中,因为MySQL是我最熟悉的数据库管理系统。

我有两个问题:

        
  1. 将这些大型CSV文件加载到MySQL表中的最佳方法是什么?
  2.     
  3. 有没有更好的方法将这些数据集加载到数据库并运行查询?我应该考虑不同的数据库平台吗?我愿意接受替代方案,但我不知道从哪里开始。目前,我只会执行本地查询,但在某些时候我想构建一个公共Web应用程序。

2 个答案:

答案 0 :(得分:3)

要回答您的第一个问题,请尝试使用MySQL的LOAD DATA INFILE命令。对于这种类型的数据加载,它通常非常快。

答案 1 :(得分:1)

要回答第二个问题,正确编制索引的MySQL表对于数百万行没有问题。特别是如果您只是在导入后执行读取。