【问题标题】:Usage of indicator functions as features in Sequential Models将指标函数用作序列模型中的特征
【发布时间】:2018-06-06 14:03:19
【问题描述】:

我目前正在使用 Mallet 来训练使用 CRF 的顺序模型。我已经了解如何为 mallet 包提供功能(仅取决于输入序列)。根据我的理解,在 mallet 中,我们必须计算特征函数的所有值(预先)。现在,我想使用依赖于标记标签的指标函数。这些函数的值取决于输出标签序列,在训练期间,我可以计算这些指标函数的值,因为输出标签序列是已知的。但是,当我将这个经过训练的 CRF 模型应用于新输入(其输出标签序列未知)时,我应该如何计算这些特征的值。

如果有人可以提供任何提示/相关文件,对我将非常有帮助。

【问题讨论】:

    标签: mallet crf


    【解决方案1】:

    正如你所说,这个问题没有意义:如果你不知道隐藏的标签,你就不能根据那些未知的标签设置任何东西。一个例子可能会有所帮助。

    您可能不需要明确记录这些关系。在训练时,算法设置 CRF 的参数来表示观察到的特征和未观察到的状态之间的关系。不同的 CRF 架构可以让您在多个隐藏状态之间添加依赖关系。

    【讨论】:

    • 感谢 David Mimno 回答我的问题。我真的很感谢你的帮助。我将尝试在这里详细说明我的问题。 CRF 模型中的特征函数可以依赖于输入(观察到的)序列和输出(隐藏)标签f(x, y_t)。我想在我的模型中包含“标签观察”、“节点观察”功能。这些特征函数可以表示为f(x,y_t) = I(y_t=y_t') * g(x)(其中I(y_t=y_t') 是一个指示函数,当y_t = y_t' 和g(x) 仅取决于x 时等于1)。 .....(待续)
    • 据我了解,我们必须将所有特征函数的值提供给mallet(预先)。但是,这些特征(标签观察和节点观察)的价值取决于正在考虑的输出(隐藏)序列。在推理过程中,随着模型探索所有可能的输出序列,这些特征函数的值会发生变化。你能指点我如何在槌中包含这种类型的功能吗?
    • @user:6287504 :如果我的 cmets 还不清楚,请告诉我;再次感谢
    猜你喜欢
    • 2022-09-23
    • 2020-02-10
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2018-10-31
    • 1970-01-01
    • 2019-01-21
    相关资源
    最近更新 更多