两种目标函数的公式。

多分类时常用交叉熵损失

目标函数（损失函数）定义：衡量对数据的拟合程度

one-hot编码：https://www.cnblogs.com/shuaishuaidefeizhu/p/11269257.html

多神经元可以实现多输出的神经网络模型

多分类问题比二分类问题有更广的适用性

公式：

多分类逻辑斯蒂回归模型

1. 多分类逻辑斯底回归模型：——多个神经元

一个神经元需要一个W，两个神经元需要两个W，所以由向量扩展成矩阵。

2. 多分类问题比二分类问题具有更广泛的适用性。

3. 多分类和二分类的逻辑斯蒂回归模型也可以被认为是神经网络。

4. 如何调整神经网络可以使神经网络学到数据中的规律？

目标函数：衡量对数据的拟合程度，在机器学习领域中通常也被称为损失函数。举例：

（1）平方差损失

（2）交叉熵损失 

神经网络训练：调整参数使模型在训练集上的损失函数最小。

单个神经元->sigmod(激活函数)->二分类逻辑斯蒂回归模型

多输出神经元->softmax->多分类逻辑斯蒂回归模型

目标函数：衡量对数据的拟合程度（损失）

神经网络训练目的：调整参数，使模型在训练集上的损失函数最小

各类损失函数

目标函数/

多输出神经元例子

归一化，多输出神经元

多个神经元

平方差损失vs交叉熵损失

神经网络训练

神经网络--目标函数

W*x多输出神经元

多输出神经元

多分类

神经元--多输出

多分类函数损失：平方差和交叉熵

多元分类，0.4大于其他概率，所以为第三类。损失函数定义为与目标分类的向量绝对值之和。

目标函数举例1：

    二元分类，得到的分类为1的概念处于0到1之间，损失=1-预测为1的概率

多分类逻辑斯蒂回归模型思想（归一化）

每个输出都和矩阵每个向量做内积

神经元多输出例子

对分类逻辑回归模型=多加神经元