Question

我目前有一个我解析的CSV文件，我正在尝试将数据插入到android数据库中。我遇到的问题是插入所有数据花费的时间太长。这是一个很好的数据量，但我觉得它不应该花费20分钟左右完成。

基本上，我创建了我的数据库，然后开始解析。解析每个单独的CSV行时，我会获取所需的数据并将其插入数据库。总共有大约40000行。

有什么方法可以加快这个过程吗？我尝试了批量插入，但它从来没有真正帮助过（除非我做错了）。

下面的代码。

感谢。

DatabaseHelper （我根据每个csv行中的数据量有两个插入命令）：

// add zipcode
    public void add9Zipcode(String zip, String city, String state, String lat,
            String longi, String decom) {

        // get db and content values
        SQLiteDatabase db = this.getWritableDatabase();
        ContentValues values = new ContentValues();

        db.beginTransaction();
        try{

            // add the values
            values.put(KEY_ZIP, zip);
            values.put(KEY_STATE, state);
            values.put(KEY_CITY, city);
            values.put(KEY_LAT, lat);
            values.put(KEY_LONG, longi);
            values.put(KEY_DECOM, decom);

            // execute the statement
            db.insert(TABLE_NAME, null, values);

            db.setTransactionSuccessful();
        } finally {
            db.endTransaction();
        }

        db.close();

    }

    public void add12Zipcode(String zip, String city, String state, String lat,
            String longi, String decom, String tax, String pop, String wages) {

        // get db and content values
        SQLiteDatabase db = this.getWritableDatabase();
        ContentValues values = new ContentValues();

        db.beginTransaction();
        try{
            // add the values
            values.put(KEY_ZIP, zip);
            values.put(KEY_STATE, state);
            values.put(KEY_CITY, city);
            values.put(KEY_LAT, lat);
            values.put(KEY_LONG, longi);
            values.put(KEY_DECOM, decom);
            values.put(KEY_TAX, tax);
            values.put(KEY_POP, pop);
            values.put(KEY_WAGES, wages);

            // execute the statement
            db.insert(TABLE_NAME, null, values);

            db.setTransactionSuccessful();
        } finally{
            db.endTransaction();  
        }


        db.close();
}

解析文件：

public void parse(ArrayList<String> theArray, DatabaseHandler db) {

        String[] data = null;

        // while loop to get split the data into new lines
        // for loop to split each string in the array list of zipcodes
        for (int x = 0; x < theArray.size(); x++) {

            if(x == 10000 || x == 20000 || x == 30000 || x == 40000){
                Log.d(TAG, "x is 10k, 20k, 30k, 40k");
            }

            // split string first into an array
            data = theArray.get(x).split(",");

            // separate based on the size of the array: 9 or 12
            if (data.length == 9) {

                db.add9Zipcode(data[0], data[2], data[3], data[5], data[6],
                        data[8]);

            } else if (data.length == 12) {

                db.add12Zipcode(data[0], data[2], data[3], data[5], data[6],
                        data[8], data[9], data[10], data[11]);

                /*
                 * theZip.zip = data[0]; theZip.city = data[2]; theZip.state =
                 * data[3]; theZip.lat = data[5]; theZip.longi = data[6];
                 * theZip.decom = data[8]; theZip. = data[9]; theZip.population
                 * = data[10]; theZip.wages = data[11];
                 */

            }
        }

Answer 1

请参阅我之前提到的这个答案：Inserting 1000000 rows in sqlite3 database

简而言之，使用InsertHelper并为每笔交易执行多次插入 - 除非您做了一些不稳定的事情，速度的提升应该是显而易见的。

修改：
简而言之：

您的SQLiteOpenHelper应该是整个应用程序中使用的单身人士。
不要在close()个实例上调用SQLiteDatabase - 它会缓存在SQLiteOpenHelper中，每次关闭时都会强制帮助者重新打开它。
批量插入，在调用addZipCode方法之外启动事务，并在完成所有插入后将其标记为成功 - 然后提交事务。
使用InsertHelper - 它会将插入格式化为准备好的语句，并且很好且可重复使用。
请注意同步对数据库的访问 - 除非您打算在UI线程上执行所有数据库工作（不建议这样做） - 您需要启用对数据库的锁定或保护访问以避免并发访问。

Android - 加速在数据库中插入数据

1 个答案: