隐马尔可夫模型-完整.ppt
隐马尔科夫模型
HiddenMarkovModel
何为“隐”?
如从四个盒子中各取一个球,开始从四个盒子随机选取一个盒子,从这个盒子中随机抽出1个球,记录其颜色后,放回;然后从当前盒子随机转移到下一个盒子,再取一个球;如此重复,直到取出四个球。这样可以得到一个球的颜色的观测序列:
如:O={红,白,红,白},在这个过程中观察者只能观测到球的颜色
序列,观测不到球是从哪个盒子中取出的,即观测不到盒子的序列。
如在词性标注这样的应用中,对于给定的要标注单词词性的一个句子,我们看不到单词的词性,只能观察到每个单词,必须从单词序列去推断正确的标记。我们说词性标注序列是隐藏的。
隐马尔科夫模型中两个重要的假设:
一个特定状态的概率仅仅依赖于前一个状态:
观察值的概率仅仅依赖于产生这个观察值的状态:
隐马尔科夫模型中的三个问题:
估计问题
序列问题
训练问题或参数估计问题
1.估计问题
问题描述:
用以下四种方法解决这个问题:
直接计算法
前向算法
后向算法
前向后项结合算法
直接计算法
直接计算法
前向算法
前向算法
后向算法
前向后向结合算法
P(A,B)=P(A)P(B|A)
2.序列问题
问题描述
解决问题的算法:
维特比算法(Viterbi)
维特比算法
这种递归关系使我们能够运用动态规划搜索技术。
维特比算法
维特比算法
维特比算法
3.训练问题或参数估计问题
问题描述:
分段K-均值算法
分段K-均值算法
分段K-均值算法
分段K-均值算法