Hopfield神经网络
Hopfield神经网络特点:特点:(1)是一个简单的单层全连接神经网络;(2)每个神经元和其他神经元是全连接的关系;(3)在更新网络权重时,有异步工作方式:每次只更新一个神经元的权重,其他权重保持不变;和同步工作方式:所有神经元同时调整状态;(4)Loss function是什么?(能量函数),能量函数的定义来自于 李亚诺夫函数,用来刻画整个网络的能量状态,而且是个单调函数,这也是为什么Hopf
·
Hopfield神经网络
特点:
特点:
(1)是一个简单的单层全连接神经网络;
(2)每个神经元和其他神经元是全连接的关系;
(3)在更新网络权重时,有异步工作方式:每次只更新一个神经元的权重,其他权重保持不变;和同步工作方式:所有神经元同时调整状态;
(4)Loss function是什么?(能量函数),能量函数的定义来自于 李亚诺夫函数,用来刻画整个网络的能量状态,而且是个单调函数,这也是为什么Hopfield网络容易陷入到局部极小值的原因。
缺点:
(1)容易陷入局部最小值,得不到全局最优解;
参考资料:
更多推荐
所有评论(0)