17
�
1
= 0,9 �
1
+ 0,6 �
2
dan
�
1
+ �
2
= 1 sehingga diperoleh
�
1
=
6 7
dan �
2
=
1 7
atau dapat ditulis
� =
1 7
6 , 1. Artinya, dalam
jangka panjang, peluang cuaca cerah akan konvergen ke
1 7
dan peluang cuaca hujan konvergen ke
6 7
.
2.5 Poisson Hidden Markov Models PHMMs
Poisson Hidden Markov Models PHMMs merupakan perluasan dari HMMs Hidden Markov Models, dimana setiap observasinya dihasilkan oleh salah satu dari
keadaan tersembunyi hidden state yang berdistribusi Poisson. Dalam memahami PHMMs, berikut dijelaskan mengenai dasar teori Hidden Markov Model HMM,
distribusi marginal dan moment HMM, serta likelihood HMM.
1. Hidden Markov Model HMM
Hidden Markov Model merupakan sebuah proses stokastik yang terdiri dari dua bagian. Bagaian pertama adalah bagian yang tidak teramati unobserved
{
�
, � ∈ ℕ} yang memenuhi sifat Markov, yang disebut juga sebagai “proses
parameter” parameter process. Bagian kedua adalah bagian yang teramatiterobservasi
{ �
�
, � ∈ ℕ}, yang disebut juga sebagai “proses keadaan
bergantung ” state-dependent process dimana distribusi �
�
hanya bergantung pada kondisi saat
�
dan bukan bergantung pada keadaan terobservasi sebelumnya �
�−1
.
Representasi HMMs ditunjukkan pada Gambar 2.7[5].
18
Gambar 2.2 Graf Dasar HMM
Hidden Markov Model {
�
�
, � ∈ ℕ} merupakan distribusi campuran yang
bergantung, dengan �
�
dan
�
mewakili kejadian masa lalu dari waktu 1 hingga waktu
�, yang disimpulkan model sederhana tersebut dengan persamaan[5]: Pr
� �−1
= Pr
� �−1
, � = 2, 3, … 2.21
Pr �
�
�
�−1
,
�
= Pr �
� �
, � ∈ ℕ 2.22
Jika rantai Markov {
�
} mempunyai keadaaan tersembunyi, kita katakan
{ �
�
} adalah HMM dengan keadaaan.
Pada kasus pengamatan diskrit, jika rantai Markov pada waktu � berada pada
keadaan � maka fungsi masa peluang pmf �
�
didefinisikan sebagai[5]: �
�
� = Pr �
�
= �
�
= �, � = 1, 2, … , 2.23
Distribusi �
�
dengan keadaan tersembunyi dapat dikatakan sebagai distribusi
keadaan bergantung state-dependent distributions.
2. Distribusi Marginal dan Moment HMM
Didefinisikan
�
� = Pr
�
= � untuk � = 1, … , �. Distribusi univariat
observasi �
�
untuk nilai diskrit sebagai berikut[5]:
19
Pr �
�
= � = Pr
�
= �
�=1
Pr �
�
= �
�
= �
=
�
� �
�
�
�=1
2.24
Persamaan 2.21 dapat ditulis kedalam bentuk matriks sebagai berikut:
Pr �
�
= � =
1
� , … , �
�
1
� ⋮
⋱ ⋮
� � 1
⋮ 1
= � � � � �′
dimana � � didefinisikan sebagai matrik diagonal utama dengan elemen diagonal
utama ke � adalah �
�
� . Berdasarkan Persamaan 2.19 bahwa � � = � 1 �
�−1
diperoleh: Pr
�
�
= � = 1 �
�−1
� � �′ 2.25
Persamaan 2.25 berlaku jika rantai Markov adalah homogen dan tidak harus stasioner. Jika kita asumsikan rantai Markov stasioner dengan distribusi stasioner
�, dimana
��
�−1
= � maka[5]:
Pr �
�
= � = �� � �′ 2.26
Pada kasus distribusi bivariat, dimana terdapat empat variabel acak �
�
, �
�+
,
�
,
�+
dengan ∈ +ℤ, distribusi marginalnya adalah[5]:
Pr �
�
= , �
�+
= =
Pr �
�
= , �
�+
= ,
�
= �,
�+
=
=1
�=1
20
= Pr
�
= � �
�
Pr
�+
= |
�
= � �
=1
�=1
=
�
� �
� �
�
=1
2.27
�=1
Persamaan 2.27 dapat ditulis kedalam bentuk matriks sebagai berikut: Pr
�
�
= , �
�+
= = � � � �
� �
′
2.28
Jika rantai Markov stasioner maka: Pr
�
�
= , �
�+
= = �� �
� �′ 2.29
Pada kasus stasioner, nilai harapan keadaan bergantung state-dependent E
��
�
dan E ��
�
, �
�+
untuk setiap fungsi � adalah sebagai berikut:
E ��
�
= �
�
E ��
� �
= �
�=1
2.30 dan
E ��
�
, �
�+
= E ��
�
, �
�+
|
�
= �,
�+
= �
� �
�, =1
= E �
1
�
� �
= � E �
2
�
�+
|
�+
= �
� �
2.31
�, =1
dimana � �
�
, �
�+
= �
1
�
�
�
2
�
�+
dan
�
= �
�
, untuk setiap ∈ ℕ.
Persamaan 2.30 dan Persamaan 2.31 berguna untuk mendapatkan nilai kovarian dan korelasi pada HMMs. Sebagai contoh, misalkan jika terdapat dua keadaan HMM
dimana rantai Markov berdistribusi Poisson dan stasioner maka:
21
E �
�
= �
1
�
1
+ �
2
�
2
; Var
�
�
= E �
�
+ �
1
�
2
�
2
− �
1 2
≥ E �
�
; Cov
�
�
, �
�+
= �
1
�
2
�
2
− �
1 2
1 −
12
−
21
, untuk setiap ∈ ℕ.
3. Likelihood HMMs
Misalkan diketahui barisan observasi �
1
, �
2
, … , �
�
yang dihasilkan oleh model. Peluang likelihood
�
�
pada barisan obsevasi tersebut dimana diberikan keadaaan HMM yang memiliki distrbusi inisialawal
� dan matriks peluang transisi � pada rantai Markov, dan peluang keadaan bergantung state-dependent probability
�
�
yang merupakan elemen dari matriks � � sebagai berikut[5]:
�
�
= Pr �
�
= �
�
= �� �
1
�� �
2
�� �
3
… ���
�
�′ 2.32
Jika �, yaitu distribusi
1
adalah distribusi stasioner pada rantai Markov, maka: �
�
= Pr �
�
= �
�
= ��� �
1
�� �
2
�� �
3
… ���
�
�′
Misalkan kita definisikan vektor
�
, untuk � = 1, 2, … , � lihat Persamaan 2.32
dengan
�
= �� �
1
�� �
2
… �� �
�
= �� �
1
���
� =2
Sehingga kita peroleh:
1
= �� �
1 �
=
�−1
�� �
�
untuk � = 2, 3, … , � �
�
=
�
�′
22
dengan =
� untuk kasus rantai Markov stasioner. Elemen dari
�
biasanya dikenal dengan peluang forward dimana akan dijelaskan pada sub bab berikutnya[5].
2.6 Penskalaan Komputasi Likelihood Scaling the Likelihood Computation