首先,我想道歉,因为我不允许发布大量代码,因为它适用于大学项目,但我严重陷入困境。
我正在尝试使用TensorFlow使用CIFAR-10数据集训练ConvNet,使用以下模型:
- 图片:[32,32,3]
- conv1:5,5,3,64 +偏见[64](初始化为0.0' s)
- norm1:depth_radis = 4,bias = 1.0,alpha = 0.001 / 9.0,beta = 0.75
- pool1:ksize = [1,3,3,1],strides = [1,2,2,1],padding = SAME
- conv2:5,5,64,64 +偏见[64](初始化为0.1' s)
- pool2:ksize = [1,3,3,1],strides = [1,2,2,1],padding = SAME
- norm2:depth_radis = 4,bias = 1.0,alpha = 0.001 / 9.0,beta = 0.75
- local1:8 * 8 * 64,384 +偏见[384](初始化为0.1' s)
- local2:384,192 +偏见[192](初始化为0.1' s)
- dropout:keep_prob = 0.5
- softmax:[192,10] +偏见[10](初始化为0.0' s)
醇>
然而,我得到的结果是(批量为1000):
- 步骤0,训练精度0.09
- 步骤1,训练准确度0.096
- 步骤2,训练准确度0.1
- 步骤3,训练准确度0.108
- 步骤4,训练精度0.122
- 步骤5,训练准确度0.094
- 步骤6,训练精度0.086
- 步骤7,训练准确度0.082
- 步骤8,训练准确度0.104
- 步骤9,训练精度0.09
醇>
我使用以下内容更新权重:
cross_entropy = tf.reduce_mean(
tf.nn.softmax_cross_entropy_with_logits(y_conv + 1e-10, y_))
train_step = tf.train.AdamOptimizer(0.0001).minimize(cross_entropy)
这是我一直在阅读的指南:https://www.tensorflow.org/versions/r0.11/tutorials/deep_cnn/index.html#convolutional-neural-networks
我尝试将学习率从1e-1改为1e-8,但没有运气。
任何帮助是极大的赞赏。提前谢谢。