PRML学习笔记2 常见的概率分布

PRML学习笔记2 常见的概率分布

现在问题是假如我们考虑抛硬币,如果3次都是head,那么根据伯努利,MLE推断 参数 PRML学习笔记2 常见的概率分布PRML学习笔记2 常见的概率分布 那么我们会认为每次投掷都会是head,这显然与常识不符,

这里我们如果有一个先验知识就能纠正这个问题(考虑贝叶斯分类器中的0概率事件处理其实也是加一个先验知识而已来进行平滑),那么怎么加入先验知识呢?

PRML学习笔记2 常见的概率分布

这里我们利用贝叶斯法则,我们从原来的PRML学习笔记2 常见的概率分布 来估算参数,改为后验PRML学习笔记2 常见的概率分布 也即等价PRML学习笔记2 常见的概率分布 估算参数。

这里我们希望PRML学习笔记2 常见的概率分布 有类似PRML学习笔记2 常见的概率分布的形式。从而引出了beta 分布,注意PRML学习笔记2 常见的概率分布PRML学习笔记2 常见的概率分布(先验)的形式类似,只不过(a,b)变成(m+a, l+b),即我们的先验知识由于实际看到的情况做出来相应调整。

 

 

 

 

 

 

 

 

 

2. Beta分布

PRML学习笔记2 常见的概率分布

PRML学习笔记2 常见的概率分布

注意这里的Bin是binomial分布,也即N次投掷中head次数为m.

PRML学习笔记2 常见的概率分布

利用先验知识当我们想要再预测下一次投掷硬币是head的概率时怎么做呢?

 

 

 

 

 

 

PRML学习笔记2 常见的概率分布

相关文章:

  • 2021-04-29
  • 2021-12-10
  • 2021-09-11
  • 2021-03-31
  • 2021-09-16
  • 2021-10-31
  • 2021-09-17
猜你喜欢
  • 2021-12-12
  • 2022-02-21
  • 2021-06-15
  • 2021-04-19
  • 2021-05-29
  • 2021-07-25
相关资源
相似解决方案