在mysql db中加载16,000行数据的快速方法

时间:2012-10-10 02:25:10

标签: mysql vb.net insert bulkinsert

目前我在数组中有16k行数据,我使用for循环遍历数据并执行INSERT语句。换句话说,每个循环在mysql中执行“INSERT”语句。这样做了16000次。这需要很长时间。

是否有更好的方法来插入批量数据?

3 个答案:

答案 0 :(得分:0)

你可以按照Pascal MARTIN的post尝试这个:

insert into your_table (field1, field2, field3)
values 
  (value1_1, value1_2, value1_3), 
  (value2_1, value2_2, value2_3), 
  (value3_1, value3_2, value3_3)

答案 1 :(得分:0)

我使用此代码(使用sqlParameters)在SQL中完成了此操作:

    Dim Command As New SqlCommand(_
            "insert into hilmarc_cem_items " & _
            "(CEMID, " & _
            "ItemCode, " & _
            "UnitPrice, " & _
            "Quantity, " & _
            "UOM) "     


    Dim ItemCodes() As String = Request.Form.GetValues("ItemCode")
    Dim UnitPrices() As String = Request.Form.GetValues("UnitPrice")
    Dim Quantities() As String = Request.Form.GetValues("Quantity")
    Dim UOMs() As String = Request.Form.GetValues("UOM")

    For Counter = 0 To ItemCodes.Length - 1
        Command.CommandText &= "select @CEMID, @ItemCode" & Counter & ", @UnitPrice" & Counter & ", @Quantity" & Counter & ", @UOM" & Counter & " "
        Command.Parameters.Add("@ItemCode" & Counter, Data.SqlDbType.NVarChar).Value = ItemCodes(Counter)
        Command.Parameters.Add("@Quantity" & Counter, Data.SqlDbType.Decimal).Value = Quantities(Counter)
        Command.Parameters.Add("@UOM" & Counter, Data.SqlDbType.NVarChar).Value = UOMs(Counter)
        Command.Parameters.Add("@UnitPrice" & Counter, Data.SqlDbType.Decimal).Value = UnitPrices(Counter)
        If Not Counter = ItemCodes.Length - 1 Then
            Command.CommandText &= "union all "
        Else
            Command.CommandText &= ";"
        End If
    Next

我们的想法是拥有一个查询,从数组中获取所有数据并将它们作为参数添加到sqlCommand中。查询将是这样的:

    insert into myTable 
        (CEMID, 
        ItemCode,
        UnitPrice,
        Quantity, 
        UOM) 
    select @CEMID, @ItemCode0, @UnitPrice0, @Quantity0, @UOM0
    union all
    select @CEMID, @ItemCode1, @UnitPrice1, @Quantity1, @UOM1
    union all
    select @CEMID, @ItemCode1, @UnitPrice1, @Quantity1, @UOM1
    union all

我不确定这在MySQL中是否有效,只是将代码转换为MySQL。

答案 2 :(得分:0)

尝试生成批量INSERT语句。语句的长度应小于max_allowed_packet,这是一个数据包或任何生成/中间字符串的最大大小。

如果可能 - 暂时禁用或删除表中的索引。