如何在Tensorflow 2.0.0中使用Lazy Adam优化器

时间:2020-04-30 10:59:09

标签: python-3.x tensorflow keras adam

此代码不起作用:tf.contrib

有问题
model.compile(optimizer=TFOptimizer(tf.contrib.opt.LazyAdamOptimizer()), loss='categorical_crossentropy')

我已经尝试过使用tensorflow_addons.optimizers.LazyAdam()进行某些操作,但这也不起作用。

有什么想法如何在Tensorflow 2.0.0中运行LazyAdam吗?

PS:只有Adam可以很好地满足以下要求:

model.compile(optimizer=tf.keras.optimizers.Adam(), loss='categorical_crossentropy')

1 个答案:

答案 0 :(得分:2)

# create some random data for example
import pandas as pd
import random
import string
dates = random.choices(pd.date_range(pd.Timestamp(2020,1,1), pd.Timestamp(2020,1,6)),k=11)
letters = string.ascii_lowercase
texts = [' '.join([''.join(random.choices(letters, k=random.randrange(2,10))) for x in 
range(random.randrange(3,12))]) for x in range(11)]
df = pd.DataFrame({'date':dates, 'text':texts})

# group
pd.DataFrame(df.groupby('date').apply(lambda g: ' '.join(g['text']))) 

tensorflow_addons是TensorFlow 2.x的附加功能,但是现在Tensorflow 2.x仍然不是很稳定,如果您面对import tensorflow_addons as tfa optimizer = tfa.optimizers.LazyAdam() ,请尝试将tensorflow更新到最新的稳定版本。