《马尔可夫》之隐马尔可夫链模型的学习问题

Ddcc 2018年8月31日 09:54 1021916684@qq.com
Baum-Welch算法 EM算法 估计模型λ=(A,B,π)参数

如需转载请注明出处:http://zczzxz.top,整理不易请谅解。

一、 预测问题

学习问题。已知观测序列O={o1,o2,...,oT},估计模型λ=(A,B,π)参数,使得在该模型下观测序列概率P(O|λ)最大。

二、 监督学习算法

在给定对应的隐状态序列S={s1,s2,...,sT}时,可以利用极大似然估计法来估计HMM的参数。监督学习需要使用训练数据,人工标注训练数据代价很高。

2.1转移概率估计,隐状态i转移到隐状态j状态:

2.2隐状态j转移到显状态k

2.3初始状态概率pii的估计为S个样本中初始状态为qi的频率。

三、 Baum-Welch算法(EM算法)非监督学习算法(参考李航的《统计学习方法》给出公式)

已知观测序列O={o1,o2,...,oT},未知对应的隐状态序列S={s1,s2,...,sT},估计模型λ=(A,B,π)参数,使得在该模型下观测序列概率P(O|λ)最大。

Baum-Welch算法:

1、  对n=0,选取

2、  递推,n=1,2,…,

其中:

3、  终止,得到模型参数