active record-import正在创建重复记录

时间:2017-12-30 10:31:24

标签: ruby-on-rails csv activerecord bulkinsert activerecord-import

我在类方法中使用活动记录导入gem来导入从csv文件读取的列表数组,如下面的代码所示:

def self.import_listings(file)  
        start = Time.now    
        count = 0
        valid_listings = Array.new

        CSV.foreach(file.path, headers: true, encoding:'iso-8859-1:utf-8') do |row|

            data = {}

            row.to_hash.each do |k, v|
                key = MAP[k]
                data[key] = v
            end

            unless data[:vin] == nil            
                listing =  Listing.new                      
                listing.title = "#{data[:year]} #{data[:make]} #{data[:model]}"


                listing.approved = true


                unless data[:all_images] == nil

                    listing_images = data[:all_images].split(",")
                    i = 0

                    [:image, :imagefront, :imageback, :imageleft, :imageright, :frontinterior, :rearinterior].each do |image|               
                        unless listing_images.size < 1
                            data[image] = CsvUploading::picture_from_url(listing_images[i])
                            i += 1
                        end

                    end

                end


                data.delete(:all_images)

                data[:approved] = true


                listing.attributes = data


                valid_listings << listing

             end
        end



        begin

            Listing.import valid_listings, on_duplicate_key_update: { conflict_target: [:title, :vin], columns: [user_id: :user_id, newused: :newused]}# , :stocknumber, :model, :year, :trim, :miles, :enginedescription,:cylinder,:fuel,:transmission,  :price, :color, :interiorcolor, :options, :description, :image, :image, :imagefront, :imageback, :imageleft, :imageright, :frontinterior, :rearinterior]

        rescue
            p "some issue"
        end

        finish = Time.now
        puts diff = finish - start                          
    end

根据活动记录导入文档,我试图将列表的标题和VIN字段上的观察者设置为冲突目标。如果列表的VIN字段发生冲突,我想进行更新而不是创建。

但是现在,每次我运行CSV上传时都会从Listing.import创建一个新的列表,而不是检查它是否存在冲突。

我哪里错了?

enter image description here

1 个答案:

答案 0 :(得分:1)

您的屏幕截图显示您正在使用SQLite,但documentation表示此功能仅支持MySQL和PostgreSQL。您需要使用受支持的数据库!

我的第一个答案,以防将来对某人有用:

On Duplicate Key Update行为取决于数据库本身对这些列的唯一约束 - 因为您看到重复的记录,可以安全地假设您没有有这样的约束。

由于数据库没有报告唯一约束的冲突,因此没有理由更新现有行! this Stack Overflow question, "How to correctly do upsert in postgres 9.5"中的答案更深入地解释了这一点,并显示了正在发布的查询类型。

您应该能够通过在VIN和标题列上添加唯一约束或索引来解决此问题,例如执行以下操作的Rails迁移:

class AddUniqueIndexToListingsOnVinAndTitle < ActiveRecord::Migration
  def change
    add_index :listings, [:vin, :title], unique: true
  end
end

您可能会发现有用的更多信息(不确定您是否使用PostgreSQL或MySQL):