如何将numpy数组中的分类数据加载到指标或嵌入列中?

时间:2018-06-25 19:47:13

标签: python python-2.7 tensorflow tensorflow-estimator

使用Tensorflow 1.8.0时,每当尝试构建分类列时我们都会遇到问题。这是演示问题的完整示例。它按原样运行(仅使用数字列)。取消注释指标列定义和数据的注释会生成堆栈跟踪,结尾为tensorflow.python.framework.errors_impl.InternalError: Unable to get element as bytes.

import tensorflow as tf
import numpy as np

def feature_numeric(key):
  return tf.feature_column.numeric_column(key=key, default_value=0)

def feature_indicator(key, vocabulary):
  return tf.feature_column.indicator_column(
    tf.feature_column.categorical_column_with_vocabulary_list(
      key=key, vocabulary_list=vocabulary ))


labels = ['Label1','Label2','Label3']

model = tf.estimator.DNNClassifier(
  feature_columns=[
    feature_numeric("number"),
    # feature_indicator("indicator", ["A","B","C"]),
  ],
  hidden_units=[64, 16, 8],
  model_dir='./models',
  n_classes=len(labels),
  label_vocabulary=labels)

def train(inputs, training):
  model.train(
    input_fn=tf.estimator.inputs.numpy_input_fn(
        x=inputs,
        y=training,
        shuffle=True
      ), steps=1)

inputs = {
  "number": np.array([1,2,3,4,5]),
  # "indicator": np.array([
  #     ["A"],
  #     ["B"],
  #     ["C"],
  #     ["A", "A"],
  #     ["A", "B", "C"],
  #   ]),
}

training = np.array(['Label1','Label2','Label3','Label2','Label1'])

train(inputs, training)

尝试使用嵌入票价不会更好。仅使用数字输入,我们就可以成功扩展到数千个输入节点,实际上,我们已经临时扩展了预处理器中的分类功能以模拟指标。

categorical_column_*()indicator_column()的文档中充斥着我们可以肯定不使用的功能(原始输入,无论bytes_list是什么),但也许我们正在使用错了吗?

2 个答案:

答案 0 :(得分:2)

这里的问题与“指示器”输入数组的参差不齐的形状有关(某些元素的长度为1,一个为长度2,一个为长度3)。如果您用一些非词汇字符串填充输入列表(例如,由于您的词汇是“ A”,“ B”,“ C”,我就用了“ Z”),您将获得预期的结果:

inputs = {
  "number": np.array([1,2,3,4,5]),
  "indicator": np.array([
    ["A", "Z", "Z"],
    ["B", "Z", "Z"],
    ["C", "Z", "Z"],
    ["A", "A", "Z"],
    ["A", "B", "C"]
  ])
}

您可以通过打印结果张量来验证此方法是否有效:

dense = tf.feature_column.input_layer(
  inputs,
  [
    feature_numeric("number"),
    feature_indicator("indicator", ["A","B","C"]),
  ])

with tf.train.MonitoredTrainingSession() as sess:
  print(dense)
  print(sess.run(dense))

答案 1 :(得分:1)

据我所知,困难在于您试图从数组数组中创建一个指标列。

我将指标数组折叠到

"indicator": np.array([
  "A",
  "B",
  "C",
  "AA",
  "ABC",
])

...然后事情就过去了。

更多,我找不到词汇表不是平面字符串数组的任何例子。