从特定功能(重构)创建通用功能

时间:2019-03-17 15:42:05

标签: postgresql go refactoring bulkinsert pq

我正在使用createUsers函数来填充我的假数据库,仅用于测试。

我正在使用pqhttps://godoc.org/github.com/lib/pq#hdr-Bulk_imports)的批量导入功能。

func createUsers() {

    users := []models.User{}

    for i := 0; i < 10; i++ {
        users = append(users, models.User{Username: "username"+i, Age: i})
    }

    connStr := "user=postgres password=postgres dbname=dbname sslmode=disable"
    DB, err = sql.Open("postgres", connStr)
    checkErr(err)

    txn, err := DB.Begin()
    checkErr(err)

    stmt, err := txn.Prepare(pq.CopyIn("users", "username", "age"))
    checkErr(err)

    for _, user := range users {
        _, err = stmt.Exec(user.Username, user.Age)
        checkErr(err)
    }

    _, err = stmt.Exec()
    checkErr(err)

    err = stmt.Close()
    checkErr(err)

    err = txn.Commit()
    checkErr(err)
}

此代码中的所有内容都正常运行。

需要:

我现在需要使它成为“通用”,而不仅仅是针对用户模型。

我认为我需要类似的东西:

DBBulkInsert(users, "users", "username", "age")

使用func DBBulkInsert,例如:

func DBBulkInsert(rows []interface{}, tableName string, tableColumns ...string) {
    // DB var from connection func

    txn, err := DB.Begin()
    checkErr(err)

    stmt, err := txn.Prepare(pq.CopyIn(tableName, tableColumns...))
    checkErr(err)

    for _, row := range rows {
        _, err = stmt.Exec(row[0], row[1]) //THIS IS TOTALLY WRONG! WHAT TO DO HERE?
        checkErr(err)
    }

    _, err = stmt.Exec()
    checkErr(err)

    err = stmt.Close()
    checkErr(err)

    err = txn.Commit()
    checkErr(err)
}

问题:

显然_, err = stmt.Exec(row[0], row[1])是完全错误的。我不知道如何使用我的用户数组调用DBBulkInsert

仍然更好:

也许我也可以删除"users", "username", "age"中的参数DBBulkInsert(users, "users", "username", "age"),但是如何?反思?

1 个答案:

答案 0 :(得分:2)

您的rows类型必须为[][]interface{},即行列表,其中每一行都是列值的列表。然后,使用该类型,可以使用row将每个单独的Exec“解包”到...调用中。

也就是说:

for _, row := range rows {
    _, err = stmt.Exec(row...)
}

要从[]model.User[]model.Whatever[][]interface{},您需要使用反射。而且,如果需要,还可以使用反射来获取列名和表名。

假设您的模型类型如下:

type User struct {
    _        struct{} `rel:"users"`
    Username string   `col:"username"`
    Age      int      `col:"age"`
}

现在您可以使用反射从字段的struct标记中获取表名和列列表。 (请注意,_(空白)字段的使用只是指定表名的一种方法,它有缺点也有缺点,因此您可以自行选择,这里我只是想演示如何可以利用反射包)。

下面是一个更完整的示例,说明如何从标记中收集“元”数据以及如何从结构字段中聚合列值。

func DBBulkInsert(source interface{}) {
    slice := reflect.ValueOf(source)
    if slice.Kind() != reflect.Slice {
        panic("not a slice")
    }

    elem := slice.Type().Elem()
    if elem.Kind() == reflect.Ptr {
        elem = elem.Elem()
    }
    if elem.Kind() != reflect.Struct {
        panic("slice elem not a struct, nor a pointer to a struct")
    }

    // get table and column names
    var tableName string
    var cols []string
    for i := 0; i < elem.NumField(); i++ {
        f := elem.Field(i)
        if rel := f.Tag.Get("rel"); len(rel) > 0 {
            tableName = rel
        }
        if col := f.Tag.Get("col"); len(col) > 0 {
            cols = append(cols, col)
        }
    }

    // aggregate rows
    rows := [][]interface{}{}
    for i := 0; i < slice.Len(); i++ {
        m := slice.Index(i)
        if m.Kind() == reflect.Ptr {
            m = m.Elem()
        }

        vals := []interface{}{}
        for j := 0; j < m.NumField(); j++ {
            ft := m.Type().Field(j)
            if col := ft.Tag.Get("col"); len(col) > 0 {
                f := m.Field(j)
                vals = append(vals, f.Interface())
            }
        }

        rows = append(rows, vals)
    }

    // ...
}

Run it on playground