在 R 中使用多个观察和 mhsmm 包进行 Hmm 训练答案

【问题标题】：Hmm training with multiple observations and mhsmm package in R在 R 中使用多个观察和 mhsmm 包进行 Hmm 训练
【发布时间】：2015-05-19 14:55:48
【问题描述】：

我想通过泊松观察来训练一个新的 hmm 模型，这是我唯一知道的。我正在为 R 使用 mhsmm 包。

首先困扰我的是模型的初始化，在示例中是：

J<-3
initial <- rep(1/J,J)
P <- matrix(1/J, nrow = J, ncol = J)
b <- list(lambda=c(1,3,6))
model = hmmspec(init=initial, trans=P, parms.emission=b,dens.emission=dpois.hsmm)

在我的情况下，我没有排放分布参数的初始值，这就是我想要估计的。怎么样？

其次：如果我只有观察，我如何将它们传递给

h1 = hmmfit(list_of_observations, model ,mstep=mstep.pois)

为了得到训练好的模型？ list_of_observations，在示例中，包含一个状态向量、一个观察值和一个观察序列长度，通常通过模型的模拟获得：

list_of_observations = simulate(model, N, rand.emis = rpois.hsmm)

编辑：发现这个老问题的答案部分解决了我的问题： MHSMM package in R-Input Format? 这两行就成功了：

train <- list(x = data.df$sequences, N = N)
class(train) <- "hsmm.data"

其中 data.df$sequences 是包含所有观察序列的数组，N 是包含每个序列的观察计数的数组。尽管如此，初始模型是完全随机的，但我想这就是它的本意，因为它将被重新估计，对吗？

【问题讨论】：

标签： r machine-learning hidden-markov-models

【解决方案1】：

初始化问题不仅对于 HMM 和 HSMM，而且对于所有基于期望最大化算法形式的学习方法都至关重要。 EM 在模型和数据之间的似然性方面收敛到局部最优，但这并不总能保证达到全局最优。

【讨论】：

感谢您的回答。我通过计算平均值改变了排放参数的初始化方式，并且值的平均值比以前的平均值更大或更小：m1 = mean(values_df[,3])m2 = mean(values_df[,3][values_df[,3]>m1])m0 = mean(values_df[,3][values_df[,3]<m1])b <- list(lambda=c(m0, m1, m2))这甚至接近正确的初始化吗？你知道更好的方法吗？
我建议您阅读 Rabiner 等人的主要 HMM 论文。有关参数初始化的更多信息......特别是连续观察符号。我认为那里描述了某种类型的 K.means 数据分割。获得良好初始化的一种简单方法是将您的数据分成 J 个块（其中 J 是模型的状态数）并计算每个块的参数值（正态分布情况下的均值和方差）

【解决方案2】：

目标：找到排放分布的估计值，但它也适用于初始概率和转移矩阵
算法：需要初始估计才能从
您：必须提供参数的初始“猜测”

起初这可能看起来令人困惑，但 EM 算法需要一个点来开始优化。然后它会进行一些计算，并让您更好地估计自己的初始猜测（如您所说，重新估计）。它无法在不初始化的情况下自行找到最佳参数。

根据我的经验，没有通用的方法来初始化保证收敛到全局最优的参数，但这将更多地取决于手头的情况。这就是初始化发挥关键作用的原因（主要用于排放分配）。

我以前在这种情况下所做的是将训练数据分成不同的组（例如集合中某个参数的百分位数），估计这些组的参数，然后将它们用作初始参数估计电磁算法。基本上，你必须尝试不同的方法，看看哪一种效果最好。

如果用 HMM 解决了类似的问题，我建议搜索文献，并尝试他们的初始化方法。

【讨论】：