【发布时间】：2012-08-22 21:48:09
【问题描述】：
CRF++ 说它可以：
“可以输出所有候选人的边际概率”在其页面上：http://crfpp.sourceforge.net/
但是，用于在条件随机场中找到这些概率的公式的符号是什么？
有人告诉我这不仅仅是p(a|b)，因为条件随机场使用来自相邻观察的上下文。
这些边际概率究竟是什么？
【问题讨论】：
标签： machine-learning
【发布时间】：2012-08-22 21:48:09
【问题描述】：
条件概率就是p(y|x)，其中y 是标签序列，x 是相关的观察序列。
这个概率的表达式就是softmax函数\exp( a_i ) / \sum_{i'} \exp ( a_{i'})。
对于 CRF，a_i 是标签序列 a_i = w \cdot \phi(x,y) 的函数，其中 \phi(x,y) 是从序列及其标签派生的特征向量。
这意味着分母中的和超过指数个可能的标签，\mathcal{Y}：
\sum_{y' \in \mathcal{Y}} \exp ( w \cdot \phi(x,y) )
【讨论】：