使用python将mnist数据转换为lmdb会产生非常大的数据库

时间:2016-07-18 11:45:39

标签: python c++ caffe pycaffe lmdb

我目前正在玩caffe提供的lenet模型。

示例(在path / to / caffe / examples / mnist / convert_mnist_data.cpp中提供了一个c ++程序,用于将mnist数据转换为lmdb。

我编写了一个python程序来做同样的事情,但是lmdb的大小(480MB)远大于c ++(60MB)转换的大小。

测试精度几乎相同(98%)。

我想知道为什么尺寸差异很大。

这是程序。我利用mnist模块(https://pypi.python.org/pypi/python-mnist/)来帮助加载二进制mnist数据。

from mnist import MNIST
import numpy as np
import cv2
import lmdb
import caffe
mndata = MNIST('./data')
images, labels = mndata.load_training()
labels = np.array(labels)
images = np.array(images).reshape(len(labels), 28, 28).astype(np.uint8)

print type(images[0][0][0])

count = 0
env = lmdb.open('mnist_lmdb', map_size=1000*1000*1000)

txn = env.begin(write=True)
for i in xrange(len(labels)):
    print i
    datum = caffe.proto.caffe_pb2.Datum()
    datum.channels = 1
    datum.height = 28
    datum.width = 28
    datum.data = images[i].tobytes()
    datum.label = labels[i]
    str_id = '{:08}'.format(i)
    txn.put(str_id, datum.SerializeToString())

    count = count + 1

    if count % 1000 == 0:
        txn.commit()
        txn = env.begin(write=True)

if count % 1000 != 0:
    txn.commit()
env.close()
谢谢。

1 个答案:

答案 0 :(得分:0)

// Allows logins to persist across any subdomain:
define( 'COOKIE_DOMAIN', '.domain.com' );

// Sets home URL dynamically based on how site is accessed:
if ($_SERVER['HTTP_HOST'] == 'domain.com') {
    define('WP_HOME','http://domain.com');
    define('WP_SITEURL','http://domain.com');
} 

if ($_SERVER['HTTP_HOST'] == 'www.domain.com') {
    define('WP_HOME','http://www.domain.com');
    define('WP_SITEURL','http://www.domain.com');
}

db大小主要取决于env = lmdb.open('mnist_lmdb', map_size=1000*1000*1000) ,因此您可以减少map_size