Tensorflow TFRecord:无法解析序列化的示例

时间:2018-11-27 12:11:02

标签: python tensorflow tfrecord

我正在尝试遵循this guide以便将我的输入数据序列化为TFRecord格式,但是在尝试读取它时,我一直遇到此错误:

  

InvalidArgumentError:键:my_key。无法解析序列化的示例。

我不确定我要去哪里。这是我无法逾越的问题的简短再现。

序列化一些示例数据:

with tf.python_io.TFRecordWriter('train.tfrecords') as writer:
  for idx in range(10):
        example = tf.train.Example(
            features=tf.train.Features(
                feature={
                    'label': tf.train.Feature(int64_list=tf.train.Int64List(value=[1,2,3])),
                    'test': tf.train.Feature(float_list=tf.train.FloatList(value=[0.1,0.2,0.3])) 
                }
            )
        )

        writer.write(example.SerializeToString())
  writer.close()

解析功能和反序列化:

def parse(tfrecord):
  features = {
      'label': tf.FixedLenFeature([], tf.int64, default_value=0),
      'test': tf.FixedLenFeature([], tf.float32, default_value=0.0),
  }
  return tf.parse_single_example(tfrecord, features)

dataset = tf.data.TFRecordDataset('train.tfrecords').map(parse)
getnext = dataset.make_one_shot_iterator().get_next()

尝试运行此代码

with tf.Session() as sess:
  v = sess.run(getnext)
  print (v)

我触发了以上错误消息。

是否可以克服此错误并反序列化我的数据?

2 个答案:

答案 0 :(得分:4)

tf.FixedLenFeature()用于读取固定大小的数据数组。并且数据的形状应事先定义。将解析功能更新为

def parse(tfrecord):
   return tf.parse_single_example(tfrecord, features={
       'label': tf.FixedLenFeature([3], tf.int64, default_value=[0,0,0]),
       'test': tf.FixedLenFeature([3], tf.float32, default_value=[0.0, 0.0, 0.0]),
   })

应该做这项工作。

答案 1 :(得分:1)

或者,如果输入要素的长度不是固定的并且具有任意大小,则还可以将tf.io.FixedLenSequenceFeature()与参数allow_missing = Truedefault_value=0一起使用(如果类型为int和浮点数为0.0),与tf.io.FixedLenFeature()不同,它不需要输入要素的大小固定。您可以找到更多信息here