逻辑回归增加一个函数sigmoid/logistics function函数如下:

机器学习4 逻辑回归

函数如下

机器学习4 逻辑回归

决策边界

2、目标函数改动

Cost function 改为交叉熵,因为二次函数在分类问题里面非凸,而交叉熵凸(有数学证明)

3、优化算法:

Gradient Descent

Conjugate gradient

BFGS(共轭梯度)

L-BFGS

4、多类别分类器

建立多个二分类器就好

然后数据进入多个二分类器,选择概率最大的那个为预测值

公式:

机器学习4 逻辑回归,比如分为三类

相关文章:

  • 2022-01-01
  • 2021-06-22
  • 2021-09-09
  • 2021-11-16
猜你喜欢
  • 2021-12-19
  • 2021-05-24
  • 2021-12-01
  • 2021-07-04
相关资源
相似解决方案