浅析隐马尔可夫模型(三)

前面两篇文章写了关于HMM的概率计算问题以及学习问题。这篇文章讲下HMM的预测问题。

预测问题

假设有观测数据O和HMM模型参数,求在该条件下最有可能出现的状态序列I。即求,由于分母是个常数,所以也可以表示为:

其实我们可以把这个问题看成是一个概率图模型,通过求图的最佳路径(路径概率值加[......]

Read more

浅析隐马尔可夫模型(二)

上一篇文章中讲到了HMM中的概率计算问题。概率计算问题是HMM三个问题中最简单的一个。这篇文章主要讲HMM学习算法。HMM的学习算法是最核心的,也是最难的。

学习问题

学习问题就是用一个算法来训练数据,最终“学习”出HMM模型三要素:。根据训练数据中观测序列有没有对应的状态序列,我们又可以把学习[......]

Read more

浅析隐马尔可夫模型(一)

隐马尔可夫模型(HMM)是一种统计学模型,常应用于一些标注问题上面,在自然语言处理、语音识别上应用比较多。它描述的是由一个隐藏的马尔可夫链随机生成不可观察的状态序列,每个状态再生成一个可观测的随机序列,因此,HMM通常是一个生成模型。

一个HMM模型由三个参数表示,初始状态概率向量,状态转移概[......]

Read more

用CRF++进行词性标注

先从HMM讲起,HMM有三个用途:评估、解码和学习。评估就是给定一个HMM模型求观察序列的概率;解码就是给定一个观察序列求最有可能生成该观察序列的隐藏状态序列;学习就是根据观察序列生成生成HMM模型。而CRF是一种HMM的扩展,它与HMM正好相反,HMM是根据隐藏状态序列求观察状态序列的概率,CRF[......]

Read more