神经网络学习(一)

这个系列的文章主要记录学习《神经网络设计》这本书的收获与总结。

第一部分主要介绍三种网络:

感知机

采用对称硬极限传输函数hardlims的单层感知机

两输入感知机,w11 = -1, w22 = 1如下

a = hardlims(n) = hardlims([-1 1]p + b)

Hamming

Hamming网络的目标时判定哪个标准向量最接近输入向量。

判定结果由递归层的输出表示。

R为样本空间维数S为神经元个数前馈层

前馈层用于实现每个标准模式和输入模式之间的相关检测或求内积。

为了使得前馈层能够完成其功能,可以用标准模式设置其权值矩阵的行,,该权值矩阵用连接矩阵W1表示。

之所以称该网络为Hmming网,是因为在前馈层中具有最大输出的神经元正好对应于输入模式Hamming距离最近的标准模式。

递归层

该层的神经元用前馈层的输出进行初始化,此输出指出标准模式和输入向量之间的关系。

描述竞争的等式为

a2(0) = a1(初始条件)a2(t+1) = poslin(W2a2(t))(迭代)Hopfield网络

这个网络利用输入向量对网络中的神经元进行初始化,然后网络不断迭代直至收敛。

如果网络运行正确,那么最终的输出结果将是一个标准的向量。

描述等式为

a(0) = pa(t + 1) = satlins(Wa(t) + b)

结束语

个人对三种网络的理解如下

如果你不出去走走,你就会以为这就是世界。

神经网络学习(一)

相关文章:

你感兴趣的文章:

标签云: