5.3 马尔可夫过程与隐马尔可夫模型：序列建模基础
5.3 马尔可夫过程与隐马尔可夫模型：序列建模基础
现实世界中的许多数据，如语音信号、基因序列、文本单词、金融时间序列等，本质上都是有序的序列。与独立同分布的假设不同，序列数据中的观测值之间存在显著的时间或顺序依赖关系。对这些依赖关系进行建模，是人工智能在语音识别、自然语言处理、生物信息学等领域的核心挑战之一。马尔可夫过程为描述序列中元素间的短期记忆依赖提供了简洁而强大的概率框架，而隐马尔可夫模型则在此基础上，引入隐状态序列来刻画观测数据背后不可直接观测的、具有马尔可夫性的动态系统，从而成为序列建模的经典基石模型。
5.3.1 马尔可夫过程与马尔可夫链
马尔可夫过程是一类具有“无记忆性”的随机过程，其未来状态的条件概率分布仅依赖于当前状态，而与过去状态的历史无关。
马尔可夫性质：设{ Xt}t∈T\{X_t\}_{t \in T}{Xt}t∈T为一随机过程，其状态空间为S\mathcal{S}S。该过程满足**（一阶）马尔可夫性质**，如果对于任意时间ttt和任意状态序列x1,x2,...,xt−1,xt,xt+1x_1, x_2, ..., x_{t-1}, x_t, x_{t+1}x1,x2,...,xt−1,xt,xt+1，有：
P(Xt+1=xt+1∣Xt=xt,Xt−1=xt−1,...,X1=x1)=P(Xt+1=xt+1∣Xt=xt) P(X_{t+1} = x_{t+1} | X_t = x_t, X_{t-1} = x_{t-1}, ..., X_1 = x_1) = P(X_{t+1} = x_{t+1} | X_t = x_t)P(Xt+1=xt+1∣Xt=xt,Xt−1=xt−1,...,X1=x1)=P(Xt+1=xt+1∣Xt=xt)
这一性质也称为“无后效性”，意味着在已知“现在”的条件下，“未来”与“过去”独立[1]。（离散时间）马尔可夫链：在离散时间、离散状态空间下，满足马尔可夫性质的随机过程称为马尔可夫链。其概率演化完全由以下两部分描述：
- 初始状态分布：π=(πi)\boldsymbol{\pi} = (\pi_i)π=(πi)，其中πi=P(X1=i)\pi_i = P(X_1 = i)πi=P(X1=i)，满足∑iπi=1\sum_i \pi_i = 1∑iπi=1。
- 状态转移概率矩阵：A=[aij]\mathbf{A} = [a_{ij}]A=[aij]，其中aij=P(Xt+1=j∣Xt=i)a_{ij} = P(X_{t+1} = j | X_t = i)aij=P(Xt+1=j∣Xt=i)，满足对任意iii，∑jaij=1\sum_j a_{ij} = 1∑jaij=1。
给定π\boldsymbol{\pi}π和A\mathbf{A}A，观测序列x=(x1,x2,...,xT)\mathbf{x} = (x_1, x_2, ..., x_T)x=(x1,x2,...,xT)的联合概率为：
P(x)=P(X1=x1)∏t=1T−1P(Xt+1=xt+1∣Xt=xt)=πx1∏t=1T−1axt,xt+1 P(\mathbf{x}) = P(X_1 = x_1) \prod_{t=1}^{T-1} P(X_{t+1} = x_{t+1} | X_t = x_t) = \pi_{x_1} \prod_{t=1}^{T-1} a_{x_t, x_{t+1}}P(x)=P(X1=x1)t=1∏T−1P(Xt+1=xt+1∣Xt=xt