贝叶斯方法：贝叶斯推理中哪个部分难以评估答案

【问题标题】：Bayesian method: which part is hard to evaluate in Bayesian inference贝叶斯方法：贝叶斯推理中哪个部分难以评估
【发布时间】：2017-11-14 00:13:52
【问题描述】：

我有一个关于贝叶斯后验推断的问题。

在贝叶斯推理中，假设给定模型 p(x|\theta) 和先验分布 p(\theta)，我们观察数据集 D ={x_1,x_2,...,x_N}，目标是估计通常难以处理的后验 p(\theta|D)。

有时我发现有些人选择评估联合 p(\theta,D) 因为这个联合分布与后验 p(\theta|D) = p(\theta,D)/p(D) 成正比，什么这背后的原因是什么？ p(D) 不是很难评估吗？谢谢你的建议。

【问题讨论】：

【解决方案1】：

贝叶斯定理可以表示为 p(T|x) = p(T,X)/p(X) = p(x|T)p(T)/p(X)，对于观测数据 X 和参数 T。

p(x|T) 通常被称为模型的“似然”分量——如果你指定模型，这在计算上很容易。同样，p(T) 给出了您指定的模型先验。

你是对的，分母 p(X) 是一团糟，但正如@CAFEBABE 指出的那样，它与参数 T 无关，因此它在功能上是一个常数。因此，后验的分布通常被简化为 p(T|x) 与 p(x|T)p(T) 成正比。

【讨论】：

【解决方案2】：

您想通过找到最优参数 \theta 来最大化 p(θ|D)。

这可以重写为 argmax P( θ | D) P(D)

但是，P(D) 与 θ 无关。因此，您可以忽略它或使用可读的数学符号

【讨论】：