反馈神经网络,有称为递归网络、回归网络。
相比前馈神经网络,反馈神经网络更适合应用在联想记忆和优化计算等领域,
前馈神经网络主要采用误差修正法(如BP算法),计算过程一般较慢,收敛速度也比较慢;反馈神经网络采用Hebb学习规则,一般情况计算的收敛速度很快。
Hebb学习规则是一个无监督学习规则,这种学习的结果是使网络能够提取训练集的统计特性,从而把输入信息按照它们的相似性程度划分为若干类。这一点与人类观察和认识世界的过程非常吻合,人类观察和认识世界在相当程度上就是在根据事物的统计特征进行分类。Hebb学习规则只根据神经元连接间的激活水平改变权值,因此这种方法又称为相关学习或并联学习。
Hopfield网根据激活函数不同:
1、DHNN,离散Hopfield网,主要用于联想记忆,输入部分信息即可联想到完整的输出,即具有容错性。
2、CHNN,连续Hopfield网,主要用于优化计算,如旅行商TSP、调度等。