1. 基本知识

基本知识

1. 机器学习分类

TEP（Task 任务，Experience 经验，Performance 性能）

聚类：是指把相似的数据划分到一起，具体划分的时候并不关心这一类的标签，目标就是把相似的数据聚合到一起，聚类是一种无监督学习方法；

分类：是把不同的数据划分开，其过程是通过训练数据集获得一个分类器，再通过分类器去预测未知数据，分类是一种监督学习方法；

回归：拟合一条最接近数据变化规律的曲线

2. 卷积神经网络（CNN）

卷积层：对三维数组及其权重的计算方式。卷积核（参数）在通过逐一滑动窗口计算而得
池化/采样层：直接抽样选取极小局部的某一元素作为下一层的元素

卷积的作用：特征提取；
池化的作用：特征降维；（池化层在两个卷积层间，仅压缩图形尺寸而不丢失信息）

3. 循环神经网络（RNN）

引入特性：时序处理序列数据（文本上下文）

对序列数据的处理：每次输入序列中的一个单元，然后保存每一个隐层神经元的计算结果，留给下一个输入时该神经元进行使用
历史信息：保存的隐层单元计算结果，含有上一次输入的信息

4. 多层感知机（Multi-Layer Perceptron，MLP）

备注

神经网络基本单位：神经元

多层前馈（全连接）神经网络 => 每层与下层连接；不同层连接；不跨层连接
“前馈”不代表信号不能回传，而是指网络拓扑结构中不存在环或回路，其中：

输入层：仅接收外界输入，不进行函数处理；
隐藏层 和 输出层：包含功能神经元，能将接收到的总输入值与一定的阈值进行比较，然后通过激活函数处理以产生神经元的输出

p.s. 若将阈值也作为输入信号在神经网络中标出，则除输出层之外，各层会多出一个固定输入为-1 的“哑结点”（dummy node），该节点与下一层的连接权即为阈值