节点，层

和普通函数相比：

1. 结构的顺序性

2. 解决非线性问题，每一个神经元，将输入值进行线性组合，然后转化为非线性结果

分类识别（图片就是一个像素的矩阵）：图像是稀疏型矩阵、语音和文本是密集型矩阵，图像和语音中的点大部分为非零值，而文本可能是零值居多，所以文本还有一些预处理要做。

每一个节点（神经元）的处理包括：

（1）将输入x进行线性组合；

（2）将线性组合的结果通过激活函数g(z)转化为非线性的结果，以处理非线性问题

网络结构

激励函数

损失函数

梯度下降

每一个节点（神经元）的处理包括：

（1）将输入x进行线性组合；

（2）将线性组合的结果通过激活函数g(z)转化为非线性的结果，以处理非线性问题

神经元结构——例子

    前面一部分是把输入或者前一个层输入的数据计算出一个线性结果，然后g(Z)函数称之为激活函数，把这一结果非线性化

网络结构

X1-X3身后的圆圈、隐含层

隐含层后的圆圈：输出层

x1-x3传入隐含层计算，然后在输出层得到结果，最后或得学习后的值

线性组合、非线性处理。

g(z)激活函数

单层神经网络：原始值、隐含层、输出层、输出值。

结构性的顺序

结点和层的概念

解决的是非线性问题，这个体现在每个神经元的设计上。包括隐含层和输出层。

神经元的操作：把输入进来的东西进行组合，然后进行一个非线性的处理

1. 结构性顺序
   

2. 从输入到隐含层到输出再到最后得到预测结果

3. 深度（层）比宽度（节点），一层一层分析，从色彩到线到形状

4. 神经网络解决的问题是非线性的（体现在隐含层和输出层）

5. 神经元两部分：线性组合和非线性的处理
   

神经元

线性组合

非线性处理

神经网络比普通的函数具有结构性的顺序——网络结构

深层网络比浅层网络的所需结点数要少，而且理解力会更强

线性结构可以解决线性问题，非线性就可以解决非线性问题

神经元结构

神經完結構

網絡單層結構

每一个节点（神经元）的处理包括：

（1）将输入x进行线性组合；

（2）将线性组合的结果通过激活函数g(z)转化为非线性的结果，以处理非线性问题

网络结构：

节点与层，包括：输入层，隐含层、输出层

网络结构 首先隐含层将x值用z的函数线性表示，然后输出层中的激活函数g(x)将x由线性组合编程非线性组合