tf.embedding_lookup_sparse

Question

在tensorflow中执行tf.embedding_lookup_sparse时，是否执行了任何浮动操作？如果是这样，是否有可能找到操作所携带的FLOP数量？

Answer 1

根据传递的参数，执行任意数量的FLOP。虽然实际的array_ops.gather(...)调用不执行FLOP，但还有许多其他地方可能会或可能不会发生计算。

• 在对输入张量进行分片时执行整数运算。 （可以是mod或div。）
• 合并权重（如果不是None）
• 将值组合在一起的组合器（可以是None，"sum"，"mean"或"sqrtn"。

您可以在此处查看实施：https://github.com/tensorflow/tensorflow/blob/master/tensorflow/python/ops/embedding_ops.py#L203-L366