SOM自组织映射网络
1. SOM简介
自组织神经网络SOM（Self-organizing feature Map），它模拟人脑中处于不同区域的神经细胞分工不同的特点，即不同区域具有不同的响应特征，而且这一过程是自动完成的。
1.1 SOM特征
- 一种用于特征检测的 无 监 督 学 习 \color{red}{无监督学习} 无监督学习神经网络。
- SOM用于生成训练样本的低维空间，可以将高维数据间复杂的非线性统计关系转化为简单的几何关系，且以低维的方式展现，因此通常再降维问题中会使用它。
- SOM还可以用于数据可视化，以及聚类等应用中。
1.2 与其他ANN的区别
- 学习模式上：SOM使用的是竞争性学习而不是错误相关的学习，而其他人工神经网络涉及到反向传播和梯度下降。在竞争性学习中，各个节点会相互竞争响应输入数据子集的权利，训练数据通常没有标签，映射会学习根据相似度来区分各个特征。
- 网络结构上：SOM一般由输入层和竞争层构成的两层网络；两层之间各神经元实现双向连接，而且网络没有隐含层。有时竞争层各神经元之间还存在横向连接。
1.3 竞争学习
竞争学习是指网络单元群体中所有单元相互竞争对外界刺激模式响应的权利。
- 竞争学习规则[Winner-Take-All]
竞争取胜的单元的连接权向着对这一刺激模式竞争更有利的方向变化。相对来说，竞争取胜的单元抑制了竞争失败单元对刺激模式的响应。这种自适应学习，使网络单元具有选择接受外界刺激模式的特性。竞争学习的更一般形式使不仅允许单个胜者出现，而且允许多个胜者出现，学习发生在胜者集合中各单元的连接权上。【Winner Take All】 - 寻找取胜神经元
首先，对网络当前输入模式向量X和竞争层中各神经元对应的权重向量wj(对应 j 神经元)全部进行归一化，使得 x 和 wj模为1；当网络得到一个输入模式向量x时，竞争层的所有神经元对应的权重向量均与其进行相似性比较，并将最相似的权重向量判为竞争获胜神经元。
1.4 竞争学习步骤
- 向量归一化
- 寻找获胜神经元
- 网络输出与权值调整
步骤3完成后回到步骤1继续训练，直到学习率衰减到0。学习率处于（0,1]，一般随着学习的进度而减小，即调整的程度越来越小，神经元(权重)趋于聚类中兴。