Bentuk unnormalized smoother untuk dan memilih
, 1
, , maka dengan menggunakan Teorema 3.3.7
diperoleh
,
∑
,
, . 3.30
3.4 Pendugaan Parameter
Pendugaan parameter model Hidden Markov dilakukan dengan pendugaan ulang parameter. Metode yang digunakan adalah algoritme EM dan hasilnya berupa
parameter dalam bentuk pendugaan rekursif.
3.4.1 Maksimum Likelihood
Misalkan , Θ adalah himpunan ukuran peluang yang terdefinisi pada
Ω, dan kontinu absolut terhadap . Misalkan , fungsi Likelihood yang
digunakan untuk menghitung penduga parameter berdasarkan informasi adalah
| , dan
Maximum Likelihood Estimation
MLE didefinisikan oleh arg max
.
3.4.2 Expectation Maximization
Langkah-langkah Excpectation Maximization EM adalah: 1. Set nilai awal parameter , dengan
. 2. Set =
dan hitung . , dengan
, =
log | .
3. Cari arg max
, .
4. Ganti k dengan k+1 dan ulangi langkah ke 2 sampai langkah ke 4 hingga kriteria pemberhentian tercapai.
Parameter yang digunakan pada model 3.5 adalah , 1
, ,
, 1 , 1
. Akan ditentukan parameter baru dengan menggunakan algoritme EM
, 1 ,
, ̂ , 1
, 1 .
3.4.3 Pendugaan Parameter Notasi 3.4.3.1
Untuk proses ,
, ditulis |
. Dalam waktu diskret, kondisi ini mendefinisikan -optional projection.
Untuk menggantikan parameter dengan
pada rantai Markov , didefinisikan oleh
∏
, ,
,
, Λ
∏ dan
Λ .
Lema 3.4.3.2 [Elliot et al. 1995]
Di bawah ukuran peluang dan misalkan
, maka ,
| .
Bukti:
, |
1
, Λ
1
Λ
1 1
, Λ
1
Λ
1
Λ
1
,
1
Λ
1 1
,
1 1
1
,
∏ 1,
, , 1
∏ 1,
, , 1
1
,
∏ 1,
1 ∏
1, 1
1
,
∑ 1
,
1 ∑
1
,
1 1
,
∑ 1
,
1 1
,
∑ 1
,
1 1
,
∑ 1
,
1 ∑
1
,
1 ∑
∑ 1
,
1 1
1 ∑
1 1
∑ 1 ∑
1
,
karena ∑
1, maka ,
| .
■
Teorema 3.4.3.3
[Elliot et al. 1995] Penduga baru untuk parameter
pada waktu pengamatan diberikan oleh
.
3.31
Bukti:
log Λ log ∏
∏
, ,
,
∑ ∑
, ,
,
log log
∑
,
log log
∑
,
log ∑
,
log ∑
,
log ,
di mana bebas terhadap dengan
∑
,
log , sehingga
logΛ | ∑
,
log ∑
,
log |
∑ log
|
,
| ∑
,
log . 3.32
Untuk memenuhi
∑ 1 dengan
∑ ∑
,
,
∑ ∑
∑ ,
∑ ∑
∑ 1
3.33 dan
∑
,
. 3.34
Akan ditentukan yang memaksimumkan persamaan 3.32 sebagai fungsi
objektif dengan persamaan 3.34 sebagai fungsi kendala. Dengan menggunakan pengali lagrange diperoleh
, ∑
,
log ∑
,
.
Turunan pertama terhadap dan , serta
dan sehingga
diperoleh
3.35
∑
,
∑
,
. 3.36
Dari persamaan 3.35 diperoleh
.
3.37
Substitusikan persamaan 3.37 ke persamaan 3.36 ∑
,
∑
,
∑
,
∑
,
1
∑ ∑
, ,
,
1
∑ ∑
∑ ,
,
1
∑ ∑
,
1
∑ 1
1
1, sehingga
, 1 ,
optimum bila 1
.
Jadi .
.
3.4.4 Penduga Parameter
