关于从tfrecords读取数据时的形状

时间:2017-11-05 10:29:37

标签: python tensorflow tfrecord

我将从tfrecords上读到'image'(2000)和'landmarks'(388)。

这是代码的一部分。

filename_queue = tf.train.string_input_producer([savepath])
reader = tf.TFRecordReader()
_, serialized_example = reader.read(filename_queue)
features = tf.parse_single_example(serialized_example, features={'label': tf.FixedLenFeature([], tf.string), 'img_raw':tf.FixedLenFeature([], tf.string), })

image = tf.decode_raw(features['img_raw'], tf.uint8)
image = tf.reshape(image, [224, 224, 3])
image = tf.cast(image, tf.float32)

label = tf.decode_raw(features['label'], tf.float64) # problem is here
label = tf.cast(label, tf.float32)
label = tf.reshape(label, [388])

错误是

InvalidArgumentError (see above for traceback): Input to reshape is a tensor with 291 values, but the requested shape has 388.

当我将'float64'更改为'float32'时:

 label = tf.decode_raw(features['label'], tf.float32) # problem is here

 #Error: InvalidArgumentError (see above for traceback): Input to reshape is a tensor with 582 values, but the requested shape has 388

或'float16':

label = tf.decode_raw(features['label'], tf.float16) # problem is here

#Error: InvalidArgumentError (see above for traceback): Input to reshape is a tensor with 1164 values, but the requested shape has 388

以下是我制作tfrecords的方法:(简单来说,我简化了一些代码)

writer = tf.python_io.TFRecordWriter(savepath)
for i in range(number_of_images):
    img = Image.open(ImagePath[i])  # load one image from path
    landmark = landmark_read_from_csv[i]  # shape of landmark_read_from_csv is (number_of_images, 388)
    example = tf.train.Example(features=tf.train.Features(feature={
    "label": tf.train.Feature(bytes_list=tf.train.BytesList(value=[landmark.tobytes()])),
    'img_raw': tf.train.Feature(bytes_list=tf.train.BytesList(value=[img.tobytes()]))}))
    writer.write(example.SerializeToString())
writer.close()

我有3个问题:

  1. 为什么数据类型更改后形状会发生变化?
  2. 如何选择合适的数据类型? (因为有时我可以使用'tf.float64'成功解码图像,但有时使用不同的数据集'tf.uint8')
  3. 创建tfrecords的代码有问题吗?

1 个答案:

答案 0 :(得分:2)

我最近遇到了一个非常相似的问题,根据我的个人经验,我非常有信心能够推断出你所要求的答案,即使我并非百分百肯定。

  1. 形状发生变化的列表项,因为不同的数据类型在编码为byte列表时具有不同的长度,并且因为float16的长度是float32相同字节列表的一半可以作为n float32值的序列读取,也可以读取为float16个值的两倍。换句话说,您尝试解码的byte列表在更改数据类型时不会更改,但更改的是您对此数组列表所做的分区。

  2. 您应该检查用于生成tfrecord文件的数据的数据类型,并在读取时使用相同的数据类型解码byte_list(您可以检查numpy的数据类型)具有.dtype属性的数组)。

  3. 我无法看到,但我可能错了。