测试ANN反向传播实施

Question

组装带反向传播的人工神经网络时， 算法很复杂，没有稳定的测试参考点。

调试已实现算法正确性的最佳方法是什么？

我不是在谈论火车/验证/测试阶段，我想要某种规格或者，或许是一步一步的训练结果/重量值来检查网络的内部工作，给出配置和培训数据。

Answer 1

我认为可能会有所帮助：

1. 使用具有自动差异框架的模块（如<?php if(isset($_POST["name"])){ $link = mysqli_connect("localhost", "root", "", "tru"); $sql = "INSERT INTO shouts (name,shout) VALUES ('$_POST[name]','$_POST[shout]')"; if(mysqli_query($link, $sql)){ echo "Records added successfully."; } else { echo "ERROR: Could not able to execute $sql. " . mysqli_error($link); } // close connection mysqli_close($link); } 或Theano）并使用与您相同的配置定义网络 - 并使用其内部差异框架检查结果。
2. 使用numerical gradient计算。
3. 自行计算适当的渐变并比较结果。