untuk menentukan codeword yang baru. ‘Compute D distortion’ berarti menjumlah jarak semua trainning vector dalam nearest neighboor search terhadap
centroid untuk menentukan besarnya distortion
Gambar 23. Diagram alir dari algoritma LBG
Thomas, 1990.
2.7 Hidden Markov Model HMM
Hidden Markov Models HMM merupakan model dengan pendekatan statistik yang digunakan dalam berbagai implementasi pengenal suara. Time
variance dalam suatu bahasa dimodelkan sebagai proses Markov dengan discrete state. Masing-masing state menghasilkan observasi menurut karakteristik distribusi
probabilitas dari state tersebut. Observasi dapat bernilai diskrit atau kontinyu. Observasi merepresentasikan durasi waktu yang tetap yang
disebut frame. Pada
model ini state tidak secara langsung dapat diamati, hal ini yang menjadikan model ini disebut sebagai Hidden Markov Model.
Tipe-tipe Hidden Markov Models
Rabiner and Juang, 1993
Salah satu cara untuk mengklasifikasikan HMM adalah dengan melihat bentuk matriks transisinya A dari rantai Markov Markov chain Bentuk yang
umum adalah bentuk ergodic atau bentuk yang setiap state saling terhubung fully connected HMM. Seperti terlihat pada Gambar 24 untuk N = 4 state model, model
ini mempunyai nilai a
ij
antara 0 dan 1. Nilai 0 dan 1 tidak termasuk, jika tidak maka bentuk model ergodic tidak akan terwujud. Matriks transisi untuk ergodic
model dapat dimisalkan seperti dibawah ini.
A = ⎥
⎥ ⎥
⎥
⎦ ⎤
⎢ ⎢
⎢ ⎢
⎣ ⎡
44 43
42 41
34 33
32 31
24 23
22 21
14 13
12 11
a a
a a
a a
a a
a a
a a
a a
a a
40
Untuk voice recognition atau speech recognition model yang tepat digunakan adalah model left-right HMM atau biasa disebut Bakis Model. Mengikuti kenyataan
bahwa dalam suara aliran waktu terus bertambah, hal ini dapat diwakili oleh perpindahan state dari kiri ke kanan left-to-right,. seperti terlihat pada Gambar
24.
Gambar 24. State diagram dari rantai HMM atau HMM chain dengan 4 state Rabiner and Juang, 1993.
Elemen- elemen
Hidden Markov Model
Elemen-elemen Hidden Markov Model meliputi Rabiner and Juang, 1993 1 N, jumlah state dalam model. Umumnya state dapat diinterkoneksi,
sehingga setiap state dapat dicapai dari state yang lain. State individual dinotasikan sebagai
} ,...
, {
2 1
N
S S
S S
= dan state pada waktu t adalah
t
q 2 M, jumlah observasi simbol yang berbeda tiap state. Simbol-simbol tersebut
dapat dinotasikan dalam }
,... ,
{
2 1
M
v v
v V
= 3
} {
ij
a A
= , distribusi probabilitas transisi state, dimana
] |
[
1 i
t j
t ij
S q
S q
P a
= =
=
+
, N
j i
≤ ≤ ,
1 41
4 }
{ k
b B
j
= , distribusi probabilitas simbol observasi pada state j, dimana
] |
_ _
[
j t
k j
S q
t pada
v P
k b
= =
N j
≤ ≤
1 ,
M k
≤ ≤
1 42
5 }
{
i
π π =
, distribusi state initial, dimana ]
[
1 i
i
S q
P =
= π
N i
≤ ≤
1 43
Hidden Markov Model dapat dituliskan sebagai ,
, π
λ B
A =
. Rabiner and Juang, 1993. Dengan diketahuinya N, M, A, B, dan
π, Hidden Markov a
15
a
12
a
21
a
24
a
42
a
51
a
11
a
22
State 1 state 2 state 3 state 4 state 5
Model dapat menghasilkan urutan observasi
T
O O
O O
...
2 1
= dimana masing-masing
observasi
t
O adalah simbol dari V, dan T adalah jumlah urutan observasi. Perhitungan yang efisien dari
| λ
O P
, yaitu probabilitas urutan observasi apabila diberikan urutan observasi
T
O O
O O
O ...
3 2
1
= dan sebuah model
, ,
π λ
B A
= . Misalkan diberikan urutan state
T
q q
q Q
...
2 1
= 44
dimana
1
q adalah inisial state. Dengan demikian probabilitas urutan observasi O
untuk urutan state pada persamaan 44 adalah
∏
=
=
T t
t t
q O
P Q
O P
1
, |
, |
λ λ
45 sehingga didapatkan
... .
, |
2 1
2 1
T q
q q
O b
O b
O b
Q O
P
T
= λ
46 Probabilitas dari urutan state Q dapat dituliskan
T T
q q
q q
q q
q
a a
a Q
P
1 3
2 2
1 1
... |
−
= π
λ 47
Probabilitas gabungan dari O dan Q yaitu probabilitas dari O dan Q yang terjadi secara bersamaan. Probabilitas gabungan ini dapat dituliskan
| ,
| |
, λ
λ λ
Q P
Q O
P Q
O P
= 48
Probabilitas observasi O yang diberikan, diperoleh dengan menjumlahkan seluruh probabilitas gabungan terhadap semua kemungkinan urutan state q, yaitu
∑
=
allQ
Q P
Q O
P O
P |
, |
| λ
λ λ
49 atau dapat juga ditulis
PO │λ
∑
−
=
T T
T T
q q
q T
q q
q q
q q
q q
O b
a O
b a
O b
... 2
1
2 1
1 2
2 1
1 1
... .
π 50
Untuk menghitung persamaan 50 dengan menggunakan prosedur forward. Variabel forward
1
i α
didefinisikan sebagai probabilitas sebagian urutan observasi O
1
O
2
…O
t
hingga waktu t dan state
i
S pada waktu t, dari model yang diberikan.
| ,
...
2 1
λ α
i t
t t
S q
O O
O P
i =
= 51
untuk menyelesaikan
1
i α
adalah sebagai berikut : 1. Inisialisasi
1 1
O b
i
i i
π α
= N
i ≤
≤ 1
52 2. Induksi
1 1
1 +
= +
⎥ ⎦
⎤ ⎢
⎣ ⎡
=
∑
t j
N i
ij t
t
O b
a i
j α
α N
j ≤
≤ 1
53 3. Terminasi
∑
=
=
N i
T
i O
P
1
| α
λ 54
3 METODOLOGI
3.1 Deteksi Perubahan Fase