逻辑斯谛回归是统计学习中的经典分类方法。

改进的迭代尺度算法和拟牛顿法。

6.1 逻辑斯谛回归模型

分布函数和密度函数:

第6章  逻辑斯谛回归与最大熵模型

 

 

二项逻辑斯谛回归的参数估计法可以推广到多项逻辑斯谛回归。

 

6.2 最大熵模型

最大熵模型的学习归结为对偶函数的极大化。

 

6.2.4 极大似然估计

第6章  逻辑斯谛回归与最大熵模型

 

 其中,

第6章  逻辑斯谛回归与最大熵模型

 

 

6.3 模型学习的最优化算法

6.3.1 改进的迭代尺度法

算法6.2 最大熵模型学习的BFGS算法

 

最大熵原理应用到分类模型的学习中,有以下约束最优化问题:

第6章  逻辑斯谛回归与最大熵模型

 

相关文章:

  • 2021-10-08
  • 2021-08-04
  • 2022-12-23
  • 2022-12-23
  • 2022-12-23
  • 2021-08-03
  • 2021-07-13
  • 2022-12-23
猜你喜欢
  • 2022-01-09
  • 2021-07-12
  • 2022-01-04
  • 2021-06-19
  • 2022-12-23
  • 2022-12-23
  • 2021-11-18
相关资源
相似解决方案