commit to user
4
BAB II LANDASAN TEORI
Bab ini terdiri dari dua subbab, yaitu tinjauan pustaka dan kerangka pemikiran.
2.1 Tinjauan Pustaka
Pada tinjauan pustaka diberikan pengertian dasar yang diperlukan pada pembahasan, yaitu konsep probabilitas, teorema Bayes, metode maksimum
likelihood
, model campuran , ketidaksamaan Jensen, algoritma
EM
, dan metode pengali Lagrange.
2.1.1 Probabilitas
Dalam suatu eksperimen, S menotasikan ruang sampel dan menggambarkan kejadian-kejadian yang mungkin terjadi. Suatu fungsi himpunan
yang menghubungkan nilai nyata dengan setiap kejadian disebut
probabilitas fungsi himpunan dan disebut probabilitas dari jika memenuhi
persyaratan 1
untuk setiap 2
3 ⋃
∑ Jika
adalah kejadian-kejadian yang
mutually exlusive .
Berikut diuraikan definisi mengenai konsep probabilitas.
Definisi 2.1 Krewski dan Biks, [9]
Misalkan suatu ruang sampel S terdiri dari himpunan-himpunan kejadian yang tidak kosong nonempty set
Himpunan-himpunan tersebut dikatakan independen jika untuk sembarang
dari kejadian berlaku
⋂ ∏
commit to user 5
Sebuah himpunan dikatakan mutually independent simply independent jika himpunan tersebut k x k independen untuk semua nilai k.
Definisi 2.2 Krewski dan Biks, [9]
Misalkan himpunan bagian dari S dan
maka kejadian disebut exhaustive.
Definisi 2.3 Bain dan Engelhardt, [2]
Probabilitas kejadian A dengan syarat B didefinisikan sebagai
|
dengan
2.1.2 Teorema Bayes
Teorema 2.1 Bain dan Engelhardt, [2]
Jika sembarang himpunan bagian dari
dan adalah partisi dari
. Untuk dan
berlaku
| |
∑ |
Bukti: Misalkan
merupakan partisi dari ruang sampel ,
dengan yang bersifat
1 2
Misalkan adalah sembarang kejadian yang merupakan himpunan bagian dari ,
yang bersifat . Kejadian dapat dipandang sebagai gabungan kejadian-
kejadian yang saling terpisah satu sama lain sebagai
Probabilitas kejadian dapat ditulis sebagai
| |
|
commit to user 6
∑ |
Berdasarkan Definisi 2.3 diketahui bahwa |
|
Persamaan 2.1 disubstitusikan ke persamaan 2.2 diperoleh |
|
∑
|
Terbukti
2.1.3 Metode Estimasi Maksimum
Likelihood
Estimasi titik adalah suatu nilai tunggal yang dihitung berdasarkan pengukuran dari sampel dan digunakan sebagai estimator dari nilai parameter
populasi yang besarnya tidak diketahui.
Definisi 2.4 Bain dan Engelhardt, [2].
Fungsi kepadatan bersama dari variabel random berukuran
, yang diestimasi melalui
adalah dan fungsi inilah yang didefinisikan sebagai fungsi
likelihood. Untuk independen, fungsi likelihood adalah fungsi dari
yang dinotasikan dengan yaitu
∏ Nilai
yang memaksimumkan disebut sebagai estimator maksimum
likelihood
yang dinotasikan dengan ̂ . Nilai ̂ diperoleh dengan cara
mendiferensialkan terhadap dan menyamakannya dengan 0. Untuk
mempermudah perhitungan dalam mencari nilai ̂, dapat dimodifikasi ke
dalam bentuk log karena fungsi log adalah monoton, oleh karena itu persamaan 2.3 dapat dimodifikasi menjadi
commit to user 7
∏
∑
2.1.4 Model Campuran
