高精度设定精度，低测试设定精度，张量流量，正则化，丢失试验

Question

我正在尝试使用Tensorflow NN构建模型。

输入矩阵大小：[6699，m] - ＆gt; ＆＃39;米＆＃39;例子; 输出矩阵大小：[11，m] - ＆gt;具有softmax实现的11个输出层节点

我始终获得非常高的训练精度（> 95％）和非常低的测试精度（~20-30％）。我试过的一些事情：

1. 从m = 1200到m = 13000
的训练集大小增加
2. 添加正则化（lambda = 0.5＆amp; 0.7）
3. 添加了Dropouts（keep_prob = 0.5）
4. Gradient Descent，然后是Adam optimizer（仅用于加速收敛）
5. 尝试了各种学习率值
6. 尝试改变每层中的层数和神经元数量。再次从浅层隐藏层到6层隐藏层。
7. 目前使用1200个num_epochs，但是在500-600个纪元之后，成本几乎稳定下来。
8. 尝试了mini_batch大小的一些选项。

上周我已经尝试了所有这些。尽管如此，我无法破译导致训练集和测试集准确度如此大的差异的原因，而且我几乎在上面描述的每个场景中都会出现这种差异。这是一个过度拟合的明显案例，我对这些选项感到非常疲惫。

请建议我还能做些什么。