siirtymätodennäköisyysmatriiseille
Siirtymätodennäköisyysmatriisi on neliömäinen matriisi, joka esittää diskreetin aikajärjestyksen Markov-ketjun mahdollisten tilojen välisiä todennäköisyyssiirtymiä. Matriisin rivit edustavat ketjun alkutiloja ja sarakkeet tiloja, joihin siirrytään. Matriisin jokainen alkio P_ij antaa todennäköisyyden siirtyä tilasta i tilaan j yhden aikayksikön aikana. Siirtymätodennäköisyysmatriisin rivien alkioiden summan on aina oltava yksi, koska jostakin tilasta on aina siirryttävä johonkin toiseen tilaan (mukaan lukien mahdollisuus pysyä samassa tilassa).
Matriisin avulla voidaan analysoida ketjun käyttäytymistä pitkällä aikavälillä. Toistamalla matriisikertolaskua itseensä (esim. P^2, P^3 jne.) saadaan