马尔可夫链收敛的条件是什么?

时间:2012-12-20 06:32:02

标签: math markov-chains markov

我正在编写一些计算马尔可夫链极限的程序。

如果马尔可夫矩阵发散,我应该将其转换为形式      dA +(1-d)E,其中A和E都是n * n矩阵,E的所有元素都是1 / n。

但如果我在输入收敛时应用该转换,则会出现错误的值。

有没有简单的方法来检查马尔可夫矩阵是否收敛?

1 个答案:

答案 0 :(得分:2)

我不打算详细说明,因为它本身就是一个完整的领域。虽然一般收敛定理表明任何非周期和不可约的有限马尔可夫链收敛(对其静态分布)。不可约性很容易检查(它相当于图中的连通性),并且周期性也很容易检查(两者的定义可以在下面的书的第一章找到,收敛定理在本书的第4章中得到证明)

值得注意的是,如果没有不可约性,可以通过将状态空间分成“连通分量”而在对称情况下轻松解决,并分别考虑每一个。虽然可以通过执行类似于您建议的操作来修补周期性。它被称为创建懒惰马尔可夫链。如果你想要更好地理解整个主题(例如混合时间对你的收敛算法非常有帮助),这是一本很好的书(免费提供):

http://pages.uoregon.edu/dlevin/MARKOV/markovmixing.pdf