使用sidekiq和smarter_csv从csv文件将数据插入mysql数据库

时间:2013-11-13 13:47:42

标签: ruby-on-rails ruby-on-rails-3 sidekiq

我使用Sidekiq(https://github.com/mperham/sidekiq)在我的rails应用程序中进行后台处理。我需要从csv文件中将75,000条记录插入到mysql数据库中。我将smarter_csv(https://github.com/tilo/smarter_csv)与sidekiq结合使用,将数据以块的形式插入到数据库中。我有以下问题

  1. sidekiq 25的最大工人数量是什么?

  2. mysql数据库的最大可能池大小是多少?我应该使用哪个池大小的最佳值来实现最短的传输时间?

  3. 由于

1 个答案:

答案 0 :(得分:1)

  1. sidekiq -c 50创建50个处理器(默认为25)

  2. MySql默认接受100个连接。如果更改pool中的database.yml大小,请确保输入的值小于或等于MySql可以处理的连接数。我不知道最佳值是什么,我认为这取决于可用的RAM量。