如何为作为分类值列表的列创建嵌入

时间:2019-05-12 12:30:50

标签: python tensorflow machine-learning deep-learning pytorch

在确定如何为DNN模型的分类特征创建嵌入时遇到了一些麻烦。该功能由一组非固定的标签组成。

功能类似于:

column = [['Adventure','Animation','Comedy'],
          ['Adventure','Comedy'],
          ['Adventure','Children','Comedy']

我想用tensorflow来做到这一点,所以我知道tf.feature_column模块应该可以工作,我只是不知道使用哪个版本。

谢谢!

1 个答案:

答案 0 :(得分:1)

首先,您需要填写相同的长度。

import itertools
import numpy as np

column = np.array(list(itertools.zip_longest(*column, fillvalue='UNK'))).T
print(column)

[['Adventure' 'Animation' 'Comedy']
 ['Adventure' 'Comedy' 'UNK']
 ['Adventure' 'Children' 'Comedy']]

然后,您可以使用tf.feature_column.embedding_column为分类功能创建嵌入。 embedding_column的输入必须是由任何CategoricalColumn函数创建的categorical_column_*

# if you have big vocabulary list in files, you can use tf.feature_column.categorical_column_with_vocabulary_file
cat_fc = tf.feature_column.categorical_column_with_vocabulary_list(
    'cat_data', # identifying the input feature
    ['Adventure', 'Animation', 'Comedy', 'Children'], # vocabulary list
    dtype=tf.string,
    default_value=-1)

cat_column = tf.feature_column.embedding_column(
    categorical_column =cat_fc,
    dimension = 5,
    combiner='mean')

categorical_column_with_vocabulary_list将忽略'UNK',因为词汇表中没有'UNK'dimension指定嵌入的尺寸,combiner指定在单行中是否有多个条目时如何缩小,embedding_column中的默认值“均值”。

结果:

tensor = tf.feature_column.input_layer({'cat_data':column}, [cat_column])

with tf.Session() as session:
    session.run(tf.global_variables_initializer())
    session.run(tf.tables_initializer())
    print(session.run(tensor))

[[-0.694761   -0.0711766   0.05720187  0.01770079 -0.09884425]
 [-0.8362482   0.11640486 -0.01767573 -0.00548441 -0.05738768]
 [-0.71162754 -0.03012567  0.15568805  0.00752804 -0.1422816 ]]