Bij een dynamisch proces heb je in iedere periode een toestandsvector. Het rijtje vectoren noemen we een Markovketen. Dus bijvoorbeeld $\underline{y_0},\underline{y_1},\underline{y_2},\underline{y_3},\ldots$, met $\underline{y}_t$ de toestandsvector in periode $t$.