Poisson Hidden Markov Models PHMMs

17 � 1 = 0,9 � 1 + 0,6 � 2 dan � 1 + � 2 = 1 sehingga diperoleh � 1 = 6 7 dan � 2 = 1 7 atau dapat ditulis � = 1 7 6 , 1. Artinya, dalam jangka panjang, peluang cuaca cerah akan konvergen ke 1 7 dan peluang cuaca hujan konvergen ke 6 7 .

2.5 Poisson Hidden Markov Models PHMMs

Poisson Hidden Markov Models PHMMs merupakan perluasan dari HMMs Hidden Markov Models, dimana setiap observasinya dihasilkan oleh salah satu dari keadaan tersembunyi hidden state yang berdistribusi Poisson. Dalam memahami PHMMs, berikut dijelaskan mengenai dasar teori Hidden Markov Model HMM, distribusi marginal dan moment HMM, serta likelihood HMM.

1. Hidden Markov Model HMM

Hidden Markov Model merupakan sebuah proses stokastik yang terdiri dari dua bagian. Bagaian pertama adalah bagian yang tidak teramati unobserved { � , � ∈ ℕ} yang memenuhi sifat Markov, yang disebut juga sebagai “proses parameter” parameter process. Bagian kedua adalah bagian yang teramatiterobservasi { � � , � ∈ ℕ}, yang disebut juga sebagai “proses keadaan bergantung ” state-dependent process dimana distribusi � � hanya bergantung pada kondisi saat � dan bukan bergantung pada keadaan terobservasi sebelumnya � �−1 . Representasi HMMs ditunjukkan pada Gambar 2.7[5]. 18 Gambar 2.2 Graf Dasar HMM Hidden Markov Model { � � , � ∈ ℕ} merupakan distribusi campuran yang bergantung, dengan � � dan � mewakili kejadian masa lalu dari waktu 1 hingga waktu �, yang disimpulkan model sederhana tersebut dengan persamaan[5]: Pr � �−1 = Pr � �−1 , � = 2, 3, … 2.21 Pr � � � �−1 , � = Pr � � � , � ∈ ℕ 2.22 Jika rantai Markov { � } mempunyai keadaaan tersembunyi, kita katakan { � � } adalah HMM dengan keadaaan. Pada kasus pengamatan diskrit, jika rantai Markov pada waktu � berada pada keadaan � maka fungsi masa peluang pmf � � didefinisikan sebagai[5]: � � � = Pr � � = � � = �, � = 1, 2, … , 2.23 Distribusi � � dengan keadaan tersembunyi dapat dikatakan sebagai distribusi keadaan bergantung state-dependent distributions.

2. Distribusi Marginal dan Moment HMM

Didefinisikan � � = Pr � = � untuk � = 1, … , �. Distribusi univariat observasi � � untuk nilai diskrit sebagai berikut[5]: 19 Pr � � = � = Pr � = �⁡ �=1 Pr � � = � � = � = � � � � � �=1 2.24 Persamaan 2.21 dapat ditulis kedalam bentuk matriks sebagai berikut: Pr � � = � = 1 � , … , � � 1 � ⋮ ⋱ ⋮ � � 1 ⋮ 1 = � � � � �′ dimana � � didefinisikan sebagai matrik diagonal utama dengan elemen diagonal utama ke � adalah � � � . Berdasarkan Persamaan 2.19 bahwa � � = � 1 � �−1 diperoleh: Pr � � = � = 1 � �−1 � � �′ 2.25 Persamaan 2.25 berlaku jika rantai Markov adalah homogen dan tidak harus stasioner. Jika kita asumsikan rantai Markov stasioner dengan distribusi stasioner �, dimana �� �−1 = � maka[5]: Pr � � = � = �� � �′ 2.26 Pada kasus distribusi bivariat, dimana terdapat empat variabel acak � � , � �+ , � , �+ dengan ∈ +ℤ, distribusi marginalnya adalah[5]: Pr � � = , � �+ = = Pr � � = , � �+ = , � = �, �+ = ⁡ =1 ⁡ �=1 20 = Pr⁡ � = � � � Pr �+ = | � = � � ⁡ =1 ⁡ �=1 = � � � � � � ⁡ =1 2.27 ⁡ �=1 Persamaan 2.27 dapat ditulis kedalam bentuk matriks sebagai berikut: Pr � � = , � �+ = = � � � � � � ′ 2.28 Jika rantai Markov stasioner maka: Pr � � = , � �+ = = �� � � �′ 2.29 Pada kasus stasioner, nilai harapan keadaan bergantung state-dependent E �� � dan E �� � , � �+ untuk setiap fungsi � adalah sebagai berikut: E �� � = � � E �� � � = � �=1 2.30 dan E �� � , � �+ = E �� � , � �+ | � = �, �+ = � � � �, =1 = E � 1 � � � = � E � 2 � �+ | �+ = � � � 2.31 �, =1 dimana � � � , � �+ = � 1 � � � 2 � �+ dan � = � � , untuk setiap ∈ ℕ. Persamaan 2.30 dan Persamaan 2.31 berguna untuk mendapatkan nilai kovarian dan korelasi pada HMMs. Sebagai contoh, misalkan jika terdapat dua keadaan HMM dimana rantai Markov berdistribusi Poisson dan stasioner maka: 21 E � � = � 1 � 1 + � 2 � 2 ; Var � � = E � � + � 1 � 2 � 2 − � 1 2 ≥ E � � ; Cov � � , � �+ = � 1 � 2 � 2 − � 1 2 1 − 12 − 21 , untuk setiap ∈ ℕ. 3. Likelihood HMMs Misalkan diketahui barisan observasi � 1 , � 2 , … , � � yang dihasilkan oleh model. Peluang likelihood � � pada barisan obsevasi tersebut dimana diberikan keadaaan HMM yang memiliki distrbusi inisialawal � dan matriks peluang transisi � pada rantai Markov, dan peluang keadaan bergantung state-dependent probability � � yang merupakan elemen dari matriks � � sebagai berikut[5]: � � = Pr � � = � � = �� � 1 �� � 2 �� � 3 … ��� � �′ 2.32 Jika �, yaitu distribusi 1 adalah distribusi stasioner pada rantai Markov, maka: � � = Pr � � = � � = ��� � 1 �� � 2 �� � 3 … ��� � �′ Misalkan kita definisikan vektor � , untuk � = 1, 2, … , � lihat Persamaan 2.32 dengan � = �� � 1 �� � 2 … �� � � = �� � 1 ��� � =2 Sehingga kita peroleh: 1 = �� � 1 � = �−1 �� � � untuk � = 2, 3, … , � � � = � �′ 22 dengan = � untuk kasus rantai Markov stasioner. Elemen dari � biasanya dikenal dengan peluang forward dimana akan dijelaskan pada sub bab berikutnya[5].

2.6 Penskalaan Komputasi Likelihood Scaling the Likelihood Computation