masing-masing disebut fungsi kerapatan marginal dari dan .
Ghahramani 2005
Definisi 2.2.8 Bebas Stokastik Identik
Misalkan adalah peubah acak
yang memiliki fungsi kepekatan yang sama yaitu
sehingga
Dan fungsi kepekatan bersamanya adalah .
. … .
. Peubah disebut bebas stokastik Identik.
Hogg et. al. 2005
Definisi 2.2.9 Nilai Harapan Peubah Acak
Diskret Misalkan
adalah peubah acak diskret dengan fungsi kepekatan peluang
maka nilai harapan dari adalah
asalkan jumlah di atas konvergen. Hogg et. al. 2005
Definisi 2.2.10 Teorema Bayes
Misalkan adalah ruang peluang.
. Misalkan kejadian terjadi hanya dengan salah satu kejadian
, maka peluang bersyarat dari
setelah diketahui adalah
Hogg et. al. 2005
Definisi 2.2.11 Filtrasi
Misalkan adalah medan- dan
merupakan barisan submedan- dari . disebut filtrasi jika
untuk semua
. Grimmet dan Stirzaker 2001
Definisi 2.2.12 Terukur Measurable
Misalkan adalah peubah acak diskret yang terdefinisi pada ruang peluang
dan adalah ruang state. Jika
, maka dinyatakan terukur- . Grimmet dan Stirzaker 2001
Definisi 2.2.13 Adapted
Misalkan adalah ruang peluang.
Barisan peubah acak dikatakan
adapted terhadap filtrasi jika
terukur- untuk setiap .
Grimmet dan Stirzaker 2001
Definisi 2.2.14 Terduga
Misalkan adalah filtrasi. Barisan
peubah acak dikatakan terduga,
jika terukur -
untuk setiap . Grimmet dan Stirzaker 2001
2.3 Rantai Markov
Definisi 2.3.1 Ruang State
Misalkan merupakan himpunan nilai
dari barisan peubah acak, maka disebut
ruang state. Grimmet dan Stirzaker 2001
Definisi 2.3.2 Proses Stokastik
Proses Stokastik adalah suatu
koleksi dari peubah acak yang memetakan suatu ruang contoh ke suatu ruang state .
Jadi, untuk setiap pada himpunan indeks , adalah suatu peubah acak.
Ross 1996 Dalam hal ini anggap sebagai waktu dan
nilai dari peubah acak sebagai state
keadaan dari proses pada waktu . Definisi 2.3.3
Rantai Markov dengan Waktu Diskret
Misalkan suatu peubah acak. Proses
stokastik dengan ruang
state disebut rantai Markov
dengan waktu diskret jika untuk setiap berlaku
untuk semua
kemungkinan nilai
dari .
Ross 1996 Jadi untuk suatu Rantai Markov, sebaran
bersyarat dari sebarang state saat ini dengan
syarat state
yang lalu
dan state kemarin adalah bebas terhadap semua state yang lalu,
dan hanya bergantung pada state kemarin.
Proses di atas dapat digambarkan sebagai - state rantai Markov dengan peluang transisi
dengan . Nilai dari
peluang transisi menyatakan peluang
bahwa jika proses tersebut berada pada state maka berikutnya akan beralih ke state .
Karena nilai peluang adalah tak negatif dan karena proses tersebut harus mengalami
transisi ke suatu state maka, a.
, untuk semua .
b. untuk semua
. Peluang transisi
dapat dituliskan dalam bentuk matriks
yang disebut juga sebagai matriks peluang transisi, yaitu
Definisi 2.3.4 Matriks Transisi
Misalkan adalah rantai
Markov dengan ruang state .
Matriks transisi adalah matriks
dari peluang transisi
untuk .
Grimmet dan Stirzaker 2001
Definisi 2.3.5 Rantai Markov Homogen
Misalkan adalah rantai
Markov dengan ruang state , dikatakan
homogen jika
untuk .
Grimmet dan Stirzaker 2001
Definisi 2.3.6 Peluang Transisi n- step
Peluang transisi n-step dari rantai
Markov adalah peluang proses
berpindah dari state ke state dengan langkah yang didefinisikan sebagai berikut:
Ross 1996 Definisi 2.3.6
Terakses
Peluang bahwa pada waktu ke- , proses berada pada state dengan syarat state awal
adalah dinotasikan dengan . Suatu state
disebut terakses dari state notasi: jika
minimal ada sebuah bilangan bulat sehingga
dimana adalah peluang
bahwa pada waktu ke- proses berada pada state dengan syarat state awal adalah .
Ross 2007
Definisi 2.3.7 Berkomunikasi
Dua state dan dikatakan berkomunikasi notasi:
jika state dapat diakses dari state dan state dapat diakses dari state .
Ross 2007
Definisi 2.3.8 Kelas State
Suatu kelas dari state adalah suatu himpunan tak kosong sehingga semua pasangan state
yang merupakan
anggota dari
berkomunikasi satu dengan yang lainnya, serta tidak ada yang merupakan anggota
yang berkomunikasi dengan suatu state yang bukan anggota dari .
Ross 2007
Definisi 2.3.9 Tak Tereduksi
Rantai Markov disebut tak tereduksi jika hanya terdapat satu kelas state, yaitu jika
semua state berkomunikasi satu dengan yang lainnya.
Ross 2007
Definisi 2.3.10 Recurrent dan Transient
State adalah recurrent jika dan transient jika
. Ross 2007
2.4 Algoritme Expectation Maximization