untuk semua
, n ,
, ,
t
2 1
=
maka probabilitas transisi dikatakan stasioner dan diberi notasi
ij
P
. Oleh karena itu, probabilitas transisi stasioner menyiratkan bahwa probabilitas transisi tidak berubah seiring dengan waktu. Keberadaan
probabilitas transisi stasioner juga termasuk untuk tiap i, j dan
, n ,
, ,
t
2 1
=
,
} |
{ }
| {
1
i X
j X
P i
X j
X P
n t
t
= =
= =
=
+
untuk semua
, n ,
, ,
t
2 1
=
Probabilitas bersyarat ini diberi notasi
n ij
P disebut probabilitas transisi n langkah,
yang disebut juga sebagai peluang bersyarat dari variabel acak x, dengan dimulai pada tingkat keadaan i dan menjadi tingkat keadaan j setelah n langkah.
Oleh karena
n ij
P adalah probabilitas bersyarat, probabilitas tersebut harus
nonnegatif, dan oleh karena prosesnya harus membuat perubahan ke state lain maka probabilitas tersebut harus memenuhi sifat:
, ≥
n ij
P untuk semua i dan j;
,
, ,
n 2
1 =
2.8 dan
1 =
∑
∞ =
j n
ij
P untuk semua i;
,
, ,
n 2
1 =
2.9
2.3.1. Matriks Peluang Transisi
Misalkan proses stokastik
{ }
, n ,
, ,
t X
t
2
1 ,
=
adalah Rantai Markov dengan ruang keadaan himpunan berhingga
{ }
, n ,
, ,
2
1 . Matriks peluang transisi satu
langkah dari
{ }
, n ,
, ,
t X
t
2
1 ,
=
, dinotasikan dengan P adalah suatu matriks
dengan elemen ke i, j adalah
ij
P
.
=
nn n
n n
n n
n
P P
P P
P P
P P
P P
P P
P P
P P
2 1
2 1
22 21
20 12
11 10
02 01
00
P
2.10
dimana
≥
ij
P
dan 1
=
∑
∞ =
j ij
P ;
, n ,
, ,
j i
2
1 ,
=
Universitas Sumatera Utara
2.3.2. Persamaan Chapman-Kolmogorov
Persamaan Chapman-Kolmogorov merupakan metode untuk menentukan peluang transisi n langkah yang didefinisikan sebagai:
, ;
, ,
≥ ≥
=
∑
∞ =
+
j i
m n
P P
P
k m
kj n
ik m
n ij
2.11 keterangan:
m n
ij
P
+
= Peluang peralihan dari state iakan berpindah ke state j setelah n+m langkah
n ik
P
= Peluang peralihan dari state i ke state k setelah n langkah dan diketahui sebelumnya telah berada dalam state i
m kj
P = Peluang peralihan dari statei k ke state j setelah m langkah dan diketahui
sebelumnya telah berada dalam state k Dengan menggunakan hubungan Chapman-Kolmogorov diatas, dapat ditunjukkan
bahwa
n n
P P
=
dimana matriks peluang transisi n langkah
n
P
sama dengan matriks peluang peralihan satu langkah pangkat n.
Misalkan untuk n = 1 dan m = n - 1 maka persamaan 2.5 menjadi:
∑ ∑
∑
∞ =
∞ =
− ∞
= −
= =
1 1
k k
kj n
ik k
n kj
ik n
ij
P P
P P
P
dimana
n ij
P adalah elemen dari matriks
n
P
,
ik
P
dan
1 −
n kj
P adalah elemen dari
matriks P. Persamaan di atas menunjukkan bahwa peluang transisi n langkah dapat diperoleh dari peluang transisi satu langkah.
Misalkan untuk n = 2, maka diperoleh:
∑ ∑ ∑
∞ =
∞ =
∞ =
= =
2 k
k kj
ik k
kj ik
ij
P P
P P
P
karena
2 ij
P adalah elemen dari matriks
2
P
,
ik
P
dan
1 −
n kj
P adalah elemen dari
matriks P, maka
2 2
P P
P P
= ⋅
=
yaitu perkalian matriks transisi satu langkah dengan matriks itu sendiri.
Universitas Sumatera Utara
Untuk n langkah, secara umum dapat diperoleh:
n 1
1 1
1
P P
P P
P P
P P
P P
= =
= =
=
n- n-
n- n-
n
2.12
Oleh karena itu, matriks probabilitas n langkah
n
P
dapat diperoleh
memangkatkan n matriks peluang transisi satu langkah P.
2.3.3. Peluang State n Langkah