定义
设随机过程{ X ( t ), t ∈ T }的状态空间 S 是有限集或可列集,对于 T 内任意 n +1个参数 t 1 < t 2 <…< t n < t n +1 和 S 内任意 n +1个状态 j 1 , j 2 ,…, j n , j n +1 ,如果条件概率
P { X ( t n +1 )= j n +1 | X ( t 1 )= j 1 , X ( t 2 )= j 2 ,…, X ( t n )= j n }
= P { X ( t n +1 )= j n +1 | X ( t n )= j n }(8 - 1)
恒成立,则称此过程为马尔可夫链,式(8 - 1)称为马尔可夫性,或称无后效性 .
马尔可夫性的直观含义可以解释如下:将 t n 作为现在时刻,那么 t 1 , t 2 ,…, t n -1 就是过去时刻,而 t n +1 则是将来时刻 . 所以(8 - 1)式是说,当已知系统现在情况的条件下,系统将来的发展变化与系统的过去无关 . 我们称之为无后效性,许多实际问题都具有这种无后效性 . 例如生物基因遗传从这一代到下一代的转移中仅依赖于这一代而与以往各代无关.
注意:
t 1 , t 2 ,…, t n -1 之间并不需要时间间隔相等 .
马尔可夫链的状态空间 S 是离散的(有限集或可列集),而参数集 T 可为离散或连续的两类 .