统计学习笔记13

逻辑斯谛回归模型：

首先，我们介绍一下逻辑斯谛分布：

逻辑斯谛回归模型：

最大熵模型：

最大熵原理：最大熵原理认为，在学习概率模型时，在所有可能的概率模型中，熵最大的模型是最好的模型；通常我们用约束条件来确定概率模型的集合，所以最大熵原理可以表述为在满足约束条件的模型集合中选取熵最大的模型

最大熵模型的定义：