siirtymätodennäköisyysmatriisilla
siirtymätodennäisyysmatriisi on neliömatriisi, joka kuvaa Markovin prosessin tilojen välisiä siirtymistodennäköisyyksiä. Jokainen matriisin alkio, merkitty P_ij, edustaa todennäköisyyttä siirtyä tilasta i tilaan j yhden aikayksikön aikana. Siirtymätodennäköisyysmatriisin rivien summan on aina oltava yksi, koska tilasta i on varmasti siirryttävä johonkin tilaan. Matriisin koko on N x N, missä N on tarkasteltavien tilojen lukumäärä.
Siirtymätodennäköisyysmatriisin avulla voidaan analysoida Markovin prosessin käyttäytymistä pitkällä aikavälillä. Toistuva matriisikertolasku itsellään antaa todennäköisyydet siirtyä eri