人工神经网络:选择初始神经元

时间:2012-04-18 07:34:46

标签: neural-network

如何选择初始结构(神经元和它们之间的连接)?我的书只说明在训练网络之前我们在开始时给出连接随机权重。

我认为我们会在培训期间添加神经元,如下所示:

  1. 从一个完全空的网络开始
  2. 培训期间我生成的第一个值不存在
  3. 添加一个神经元以对应此值,具有随机权重

2 个答案:

答案 0 :(得分:2)

你所追求的是一个自组织的人工神经网络。通常,组织连接的方式是人为的模型,开发人员认为该模型将具有足够的能力来执行必要的计算。当然,您可以随机选择具有随机连接的节点,但这种网络的发展可能比标准的两层或三层网络花费更长的时间。

所以,是的,你是对的,你在做自组织网络时会使用类似的方法。跟踪两组遗传算法,一组用于结构,一组用于权重(或者以一些不正常的方式将两者结合起来)并随意演变。

答案 1 :(得分:0)

我不相信这个问题是关于自组织或GA演化的人工神经网络。这听起来更像是一个最常见的人工神经网络:一个感知器(单层或多层),在这种情况下,网络的结构:层数和层的大小,必须在开始时手工选择。初始化权重的简单初始经验法则是简单地在-1.0和1.0之间选择均匀的随机值。