Hopfield神经网络

特点:

特点:

(1)是一个简单的单层全连接神经网络;

(2)每个神经元和其他神经元是全连接的关系;

(3)在更新网络权重时,有异步工作方式:每次只更新一个神经元的权重,其他权重保持不变;和同步工作方式:所有神经元同时调整状态;

(4)Loss function是什么?(能量函数),能量函数的定义来自于 李亚诺夫函数,用来刻画整个网络的能量状态,而且是个单调函数,这也是为什么Hopfield网络容易陷入到局部极小值的原因。

缺点:

(1)容易陷入局部最小值,得不到全局最优解;

参考资料:

https://towardsdatascience.com/hopfield-networks-are-useless-heres-why-you-should-learn-them-f0930ebeadcd

Logo

腾讯云面向开发者汇聚海量精品云计算使用和开发经验,营造开放的云计算技术生态圈。

更多推荐