ESTIMASI PARAMETER DISTRIBUSI BINOMIAL NEGATIF DENGAN PENDEKATAN BAYESIAN MENGGUNAKAN MONTE CARLO MARKOV CHAIN BERDASARKAN ALGORITMA METROPOLIS HASTING SKRIPSI

PEDOMAN PENGGUNAAN SKRIPSI

Skripsi ini t idak d ipublikasikan, na mun tersedia d i p erpustakaan d alam lingkungan Universitas Airlangga, diperkenankan untuk dipakai sebagai referensi kepustakaan, t etapi pe ngutipan harus s eijin penulis d an harus menyebutkan sumbernya s esuai k ebiasaan ilmiah. Dokumen s kripsi i ni m erupakan h ak m ilik Universitas Airlangga. iv

KATA PENGANTAR

Assalamu’alaikum w r.wb Puji s yukur kehadirat A llah S WT yang t elah melimpahkan r ahmat-Nya s ehingga penulis dapat m enyelesaikan skripsi yang berjudul “ Estimasi P arameter D istribusi B inomial N egatif d engan P endekatan Bayesian M enggunakan M onte Carlo M arkov C hain Berdasarkan Algoritma Metropolis Hasting”. Dalam kesempatan ini penulis menyampaikan ucapan terima kasih kepada:

1. Orang t ua d an k eluarga tercinta yang selalu me mberikan doa, dukungan, dan kepercayaan sehingga penulis dapat menyelesaikan skripsi ini.

2. Dr. A rdi K urniawan, M .Si da n Drs. E ko Tjahjono, M .Si selaku do sen pembimbing I da n d osen pe mbimbing I I y ang s enantiasa membimbing da n membantu dengan tulus dan sabar dalam penyelesaian skripsi ini.

3. Drs. Sediono, M.Si selaku do sen w ali yang s elalu memberikan penjelasan, pengarahan, dan saran demi kesuksesan menjadi mahasiswa.

4. Risanti, Asti, Achnes, Arin, M anja, I ntan dan teman statistika angkatan 2 012 yang selalu memberikan doa dan semangat dalam penyelesaian skripsi ini.

Penulis b erharap s emoga skripsi ini da pat bermanfaat b agi p erkembangan ilmu pengetahuan dan teknologi.

Surabaya, Agustus 2016 Penulis,

Mifta Dian Mulyaningsih vi Mifta D ian M ulyaningsih, 201 6. Estimasi P arameter D istribusi B inomial

Negatif d engan P endekatan B ayesian M enggunakan M onte C arlo M arkov Chain B erdasarkan A lgoritma M etropolis Hasting. S kripsi ini d ibawah

bimbingan D r. Ardi Kurniawan, M .Si. dan D rs. E ko T jahjono, M.Si. Program Studi S 1-Statistika, D epartemen M atematika, Fakultas S ains d an T eknologi, Universitas Airlangga, Surabaya.

ABSTRAK

Estimasi parameter merupakan estimasi sembarang nilai yang me njelasan karakteristik suatu populasi t ertentu. Estimasi parameter dapat dilakukan dengan metode k lasik maupun metode B ayesian. M etode B ayesian merupakan metode yang menggabungkan informasi saat ini dengan informasi sebelumnya atau yang biasa d isebut d istribusi prior. P enggabungan informasi t ersebut menghasilkan distribusi po sterior, s elanjutnya d istribusi t ersebut di gunakan s ebagai da sar estimasi parameter. Penyelesaian dari estimasi parameter tersebut terkadang sulit sehingga m embutuhkan m etode numerik dalam p enyelesaiannya, s alah satunya adalah metode M onte C arlo M arkov C hain ( MCMC) a lgoritma M etropolis Hasting. M etode tersebut m erupakan metode i ntegrasi yang menggunakan mekanisme p enerimaan d an p enolakan u ntuk m embangkitkan k andidat s ampel. Tujuan da ri pe nelitian ini a dalah u ntuk mengestimasi parameter distribusi Binomial N egatif d engan pendekatan Bayesian menggunakan MCMC algoritma Metropolis Hasting. Distribusi B inomial N egatif merupakan d istribusi yang banyak d igunakan u ntuk menganalisis data count saat t erjadi overdispersi. Data yang d igunakan p ada p enelitian ini a dalah d ata b angkitan. B erdasarkan hasil penelitian e stimasi p arameter distribusi B inomial N egatif dengan pendekatan Bayesian me nggunakan MCMC algoritma metropolis hasting me nghasilkan nilai estimasi ya ng s angat dekat dengan perhitungan biasa, de ngan de mikian M CMC algoritma metropolis hasting d apat d igunakan sebagai a lternatif u ntuk mempermudah perhitungan yang rumit.

Kata K unci : Estimasi p arameter, Bayesian, Binomial N egatif, MCMC, Metropolis Hasting.

vii Mifta D ian Mulyaningsih, 2 016, Parameter Estimation of N egative B inomial

Distribution u sing B ayessian A pproach w ith Monte C arlo M arkov C hain Based on Metropolis Hasting Algorithm . This Thesis under the supervising of

Dr. Ardi Kurniawan, M.Si. dan Drs. Eko Tjahjono, M.Si. Program S1-Statistics, Departement of Mathematics, F aculty o f S cience T echnology, Airlangga Univerrsity, Surabaya.

ABSTRACT

Parameter estimation is estimation o f any value t hat e xplains t he characteristics of a particular population. Parameter estimation can be achieved by classical and B ayesian methods. B ayesian method i s a method t hat c ombines current information w ith p revious information or c ommonly called p rior distribution. M erging t his information g enerates th e p osterior d istribution, th e distribution s ubsequently u sed a s t he basis for p arameter es timation. This Calculation of the parameter sometimes are difficult and need numerical methods. One o f this method called Markov C hain Mo nte C arlo ( MCMC) Metropolis Hasting algorithm. This method uses accept and reject mechanism for generating sample. T he p urpose o f t his s tudy w as t o es timate t he n egative binomial distribution w ith a B ayesian a pproach u sing M CMC H asting Metropolis algorithm. Negative B inomial d istribution widely used to analyze the data count when t here o verdispersion. Data that used in t his study are generated. Based o n the r esults, Negative B inomial d istribution p arameter e stimation w ith B ayesian approach u sing M CMC a lgorithms metropolis hasting g enerate t he es timated value that is very c lose t o the usual c alculation, thus metropolis hasting MCMC algorithms can be used as an alternative to simplify complex calculations.

Keywords : Parameter Estimation, Bayessian, Negative Binomial, MCMC, Metropolis Hasting .

viii

DAFTAR ISI Halaman HALAMAN JUDUL ....................................................................................... i LEMBAR PERNYATAAN ............................................................................ ii LEMBAR PENGESAHAN ............................................................................ iii LEMBAR PENGGUNAAN SKRIPSI ............................................................iv LEMBAR ORISINALITAS ............................................................................. v KATA PENGANTAR ....................................................................................vi ABSTRAK ................................................................................................... vii ABSTRACT ................................................................................................ viii DAFTAR ISI ..................................................................................................ix DAFTAR GAMBAR ......................................................................................xi DAFTAR TABEL ........................................................................................ xii DAFTAR LAMPIRAN ................................................................................ xiii BAB I PENDAHULUAN

2.3 Metode Bayes ..................................................................................... 5

2.9 Distribusi Posterior ........................................................................... 11

2.8 Prior Jeffreys .................................................................................... 11

2.7 Distribusi Prior Uniform ................................................................... 11

2.6 Prior Konjugat .................................................................................. 10

2.5 Distribusi Prior ................................................................................... 9

2.4 Fungsi Likelihood .............................................................................. 8

2.2 Fungsi Kepadatan Probabilitas ........................................................... 5

1.1 Latar Belakang .................................................................................... 1

2.1 Variabel Acak .................................................................................... 5

BAB II TINJAUAN PUSTAKA

1.5 Batasan Masalah ................................................................................. 4

1.4 Manfaat Penelitian .............................................................................. 4

1.3 Tujuan Penelitian ................................................................................ 4

1.2 Rumusan Masalah ............................................................................... 3

2.10 Distribusi Binomial Negatif ............................................................. 12

2.11 Distribusi Gamma ............................................................................ 13

2.12 Distribusi Beta ................................................................................ 14

2.13 Distribusi Cauchy ............................................................................. 16

2.14 Distribusi Weibull ............................................................................ 16

2.15 Markov Chain Monte Carlo ............................................................. 16

2.16 Metropolis Hasting .......................................................................... 17

2.17 Batch Mean ..................................................................................... 18

2.18 Mathematica .................................................................................... 19

BAB III METODE PENELITIAN

3.1 Langkah-Langkah Analisis Data ....................................................... 20

3.2 Flowchart ......................................................................................... 22

BAB IV HASIL DAN PEMBAHASAN

4.1 Penentuan Distribusi Posterior Pada Distribusi Binomial Negatif Menggunakan Pendekatan Bayesian ................................................... 23

4.2 Estimasi Parameter Berdasarkan Distribusi Posterior ......................... 25

4.3 Penerapan Estimasi Parameter Distribusi Posterior Menggunakan Monte Carlo Markov Chain Algoritma Metropolis Hasting ........................... 26

4.3.1 Estimasi Parameter Dengan Perhitungan Manual ...................... 27

4.3.2 Estimasi Parameter Dengan Algoritma Metropolis Hasting ....... 28

BAB V KESIMPULAN DAN SARAN

5.1 Kesimpulan ....................................................................................... 36

5.2 Saran ................................................................................................. 37 DAFTAR PUSTAKA .................................................................................... 38 LAMPIRAN x

DAFTAR GAMBAR

Nomor Judul Gambar Halaman

3.1 Flowchart

Estimasi Parameter Menggunakan

22 Algoritma Metropolis Haasting

4.1 Prosedur Estimasi Parameter

4.2 Prosedur Perhitungan Batch Mean

DAFTAR TABEL

Tabel Judul Tabel Halaman

2.1 Prior Konjugat dari Beberapa Fungsi Likelihood

4.1 Data Berdistribusi Binomial Negatif

4.2 Perhitungan dengan Metropolis Hasting

4.3 Perbedaan Parameter Distribusi Prior

4.4 Data Binomial Negatif

4.5 Estimasi dengan Distribusi Prior Non Konjugat

35 ix

DAFTAR LAMPIRAN Nomor Judul Lampiran

1 Data

2 Program MCMC Algoritma Metropolis Hasting dengan prior Beta

3 Program MCMC Algoritma Metropolis Hasting dengan prior Gamma

4 Output Program Perhitungan dengan Metropolis Hasting

5 Output Perbedaan Parameter Distribusi Prior

6 Output Estimasi dengan Distribusi Prior Non Konjugat

BAB I PENDAHULUAN

1.1 Latar Belakang

Metode s tatistika merupakan pr osedur-prosedur yang d igunakan da lam pengumpulan, pe nyajian, a nalisis, da n pe nafsiran da ta. M etode tersebut dikelompokan menjadi dua ke lompok ut ama, yaitu statistika de skriptif da n statistika i nferesi ( Walpole, 1995) . S tatistika de skriptif bertujuan u ntuk menyajikan informasi d ata s ebagai d eskripsi f akta at au p eristiwa d apat disimpulkan secara mudah, sedangkan statistika inferensi menggunakan konsep probabilitas untuk membuat perkiraan, prediksi, peramalan, dan generalisasi dari suatu objek berdasarkan informasi data yang diambil sebagai populasi atau sampel (Mustafid d alam Siska, 2011) . I nferensi statistik da pat d ibedakan menjadi dua , yaitu estimasi parameter dan uji hipotesis (Walpole, 1995).

Estimasi parameter merupakan estimasi sembarang nilai yang menjelaskan ciri atau k arakteristik suatu populasi t ertentu. E stimasi parameter t ersebut d apat dilakukan de ngan metode kl asik maupun metode B ayesian. Metode k lasik memandang p arameter sebagai besaran t etap yang t idak d iketahui harganya da n inferensi didasarkan hanya pada informasi dalam sampel, sedangkan pada metode Bayesian inferensinya tidak ha nya didasarkan pada informasi pada sampel tetapi juga melibatkan d istribusi prior (Berger, 2011) . Berdasarkan p erbedaan d asar inferensinya, metode Bayes lebih baik digunakan untuk mengestimasi parameter apabila telah diketahui informasi sebelumnya dan apabila tidak terdapat informasi awal, lebih baik menggunakan metode klasik.

2 Metode Bayesian merupakan metode yang menggabungkan informasi saat ini dengan informasi awal yang diperoleh sebelumnya ( Apsari, 2013). Informasi awal t ersebut m erupakan d istribusi subyektif b erdasarkan p ada k eyakinan seseorang. P enggabungan informasi a wal da n informasi s aat ini ke mudian menghasilkan d istribusi posterior. Penyelesaian f ormulasi B ayesian tersebut terkadang s ulit u ntuk d iselesaikan secara a nalitis s ehingga d ibutuhkan metode numerik untuk penyelesaiannya (Siska, 2011).

Monte Carlo Markov Chain

(MCMC) adalah s ebuah r angkaian metode untuk m enciptakan ba risan s ampel r andom yang b erasal da ri d istribusi p eluang dengan membangun r antai Markov s esuai d engan d istribusi t ertentu y ang diinginkan ( Walsh dalam Irwanti, 2012). S imulasi stokastik yang dihasilkan dari metode MCMC t ersebut membantu penyelesaian estimasi model dari persamaan yang s ulit. Metode M CMC yang sering d igunakan ad alah a lgoritma Metropolis Hasting.

Algoritma Metropolis Hasting adalah salah satu algoritma yang mengikuti aturan M CMC de ngan mekanisme pe nerimaan da n pe nolakan da lam pr oses pembangkitan s ampel. S ampel yang d ibangkitkan t ersebut k emudian d igunakan untuk me nyelesaikan e stimasi p arameter. K elebihan d ari a lgoritma M etropolis Hasting adalah h asil e stimasi yang dihasilkan t epat meskipun me nggunakan distribusi prior non-infomatif dan tidak bergantung pada asumsi sample besar.

Distribusi B inomial Negatif me rupakan distribusi c ampuran a ntara distribusi Gamma dan d istribusi P oisson. Kegunaan Distribusi B inomial Negatif adalah untuk m enganalisis d ata count saat t erjadi overdispersi. O verdispersi

3 mengindikasikan n ilai variansi le bih besar daripada me an. Keadaan overdispersi menyebabkan es timasi parameter yang d idapat me njadi t idak e fisien s ehingga memberikan informasi yang tidak sesuai (Hilbe, 2011).

Lio (2009) menggunakan metode Bayesian untuk mengestimasi parameter Binomial Negatif dengan m enggunakan distribusi B eta s ebagai d istribusi priornya. Bradlow dkk ( 2002) j uga menggunakan inferensi Bayesian untuk mengestimasi m odel B inomial Negatif. Kedua penelitian t ersebut s ama-sama menggunakan distribusi Beta sebagai distribusi priornya, akan tetapi Bradlow dkk melakukan inferensi Bayesian menggunakan ekspansi polinomial sedangkan Lio menggunakan proses sampling.

Berdasarkan u raian t ersebut dilakukan pe nelitian e stimasi pa rameter distribusi Binomial Negatif dengan pendekatan metode Bayesian yang dilanjutkan dengan inferensi statistika menggunakan MCMC algoritma Metropolis Hasting.

1.2 Rumusan Masalah

Berdasarkan latar be lakang yang t elah d ikemukakan d i a tas, m aka permasalahan yang dibahas dalam penelitian ini adalah sebagai berikut:

1. Bagaimana menentukan distribusi posterior pada d istribusi Binomial Negatif menggunakan metode Bayesian?

2. Bagaimana estimasi p arameter d istribusi B inomial N egatif menggunakan pendekatan Bayesian?

3. Bagaimana penerapan estimasi p arameter d istribusi B inomial N egatif menggunakan metode Bayesian dengan MCMC algoritma Metropolis Hasting?

1.3 Tujuan Penelitian

Penelitian estimasi p arameter d istribusi Binomial N egatif menggunakan metode Bayesian ini memiliki tujuan sebagai berikut:

1. Menentukan distribusi posterior pada d istribusi B inomial Negatif menggunakan metode Bayesian.

2. Mengestimasi p arameter d istribusi B inomial N egatif menggunakan metode Bayesian.

3. Menerapkan p enaksiran p arameter d istribusi B inomial N egatif menggunakan metode Bayesian dengan MCMC algoritma Metropolis Hasting.

1.4 Manfaat

Manfaat yang dapat diambil dari penelitian ini adalah sebagai berikut:

1. Mengembangkan w awasan ilmu pe ngetahuan yang berkaitan d engan estimasi parameter menggunakan metode Bayesian.

2. Mengembangkan w awasan ilmu pe ngetahuan yang berkaitan d engan metode Monte Carlo Markov Chain khususnya algoritma Metropolis Hasting.

1.5 Batasan Masalah

Batasan masalah pada penelitian ini adalah estimasi parameter pada distribusi Binomial N egatif menggunakan metode B ayesian dengan prior konjugat yaitu distribusi Beta ( , )

a b .

BAB II TINJAUAN PUSTAKA

2.1. Variabel Acak

Variabel acak didefinisikan s ebagai s uatu fungsi y ang me metakan u nsur- unsur da lam r uang s ampel suatu p ercobaan t erhadap s uatu gugus bi langan r iil sebagai suatu w ilayah fungsi. V ariabel acak dinotasikan d engan huruf ka pital

misalnya , sedangkan nilai padanannya d inotasikan de ngan huruf kecil ( Bain dan Engelhardt, 1992).

2.2. Fungsi Kepadatan Probabilitas

X Misalkan v ariabel acak terletak an tara a dan b , fu ngsi f x disebut ( )

fungsi k epadatan p robabilitas at au probability density function (PDF) bagi

variabel ac ak apabila luas da erah d i bawah k urva s ama de ngan s atu da n

= apabila luas daerah dibawah kurva antara x a = dan x b menyatakan peluang

antara a dan b (Walpole, 1995)

2.3. Metode Bayes

Metode B ayes merupakan m etode yang m enggabungkan informasi terdahulu d ari p arameter yang akan d itaksir d engan informasi yang d idapat d ari sampel. Informasi terdahulu tersebut merupakan distribusi subyektif berdasarkan pada k eyakinan seseorang. Penggabungan ke dua informasi t ersebut ke mudian menghasilkan d istribusi posterior yang selanjutnya d igunakan da lam pe naksiran parameter.

6 Misalkan r uang sampel S d ipartisi menjadi kejadian ya ng mutually _1, _{2 K i}

exclusive A A A P A ≠ i = K dan exhaustive ,..., dengan ( ) 0 untuk 1,2,..., .

P B >

Misalkan terdapat kejadian B di dalam ruang sampel S sehingga ( ) 0 maka untuk sembarang kejadian B, _{i i}

P B A P A _i ( | ) ( ) P A B =

( | ) (2.1)

P B A P A P B A P A + + P B A P A

^{K K}

( | ) ( ) ( | ) ( ) ... ( | ) ( ) Bukti: _{i i i}

P B ∩ A = P B A P A ( ) ( | ) ( )

_{i i}

P A ∩ B = P A B P B

_{i i i i i}

karena P B ∩ A = P A ∩ B , maka P B A P A = P A B P B . Bagi kedua

( ) ( ) ( | ) ( ) ( | ) ( )

ruas dengan P B , diperoleh

( ) _{i i} P B A P A _i ( | ) ( )

P A B =

( | )

P B

( ) dengan ^K

P B P B A

^{1 P B A}

^{2 P B A}

= P B A P A P B A P A + + P B A P A + ¹

^{K K}

sehingga persamaannya menjadi _{i i}

P B A P A _i ( | ) ( ) P A B =

( | ) _{K K}

P B A P A ¹ ^{1 P B A P A} ² ^{2 P B A P A}

( | ) ( ) ( | ) ( ) ... ( | ) ( )

X Misalkan adalah v ariabel acak y ang me miliki d istribusi probabilitas

yang bergantung pada θ , dengan θ merupakan suatu variabel acak yang memiliki

f x θ

distribusi p robabilitas te rtentu. J ika ( | ) merupakan p df bersyarat d ari

θ p θ θ variabel acak dengan nilai θ = dan ( ) merupakan pdf dari variabel acak , maka distribusi posterior dari θ | x dapat ditentukan menggunakan metode Bayes.

7 Misalkan ¹ ²

= yaitu: ₁ ₂ ₁ ₂ ₁ ₂ ( , ,..., , )

θ =

∑

₁

₂

( , ,..., | ) ( ) ⁿ

_θ f x x x p

θ θ =

∑

(2.5) Pdf bersyarat dari θ diberikan ¹ ¹ X x

= , ² ² X x = ,…, ^{n n}

X x

( | , ,..., ) ( , ,..., ) ⁿ ⁿ ⁿ

yaitu: ₁ ₂ ₁ ₂ ( , ,..., ) ( , ,..., , ) ^{n n}

f x x x

θ θ = ₁ ₂

1 ²

( , ,..., | ) ( ) ( , ,..., ) ⁿ ⁿ

f x x x p f x x x

θ θ =

(2.6) Persamaan (2.6) m erupakan b entuk l ain dari a turan Bayes, dengan f ungsi ₁ ₂

( | , ,..., ) ⁿ f x x x θ

disebut pdf posterior dari θ, sementara fungsi ¹ ²

( , ,..., | ) ⁿ f x x x

f x x x f x x x _θ

, ,..., ⁿ

(2.2) Pdf bersama ¹ ²

X X X adalah sampel acak d ari p eubah ac ak

, ma ka pdf bersama dari ¹ ²

, ,..., ⁿ

X X

diberikan θ, yaitu: ₁ ₂ ₁ ₂

( , ,..., | ) ( | ) ( | )... ( | ) ^{n n}

f x x x f x f x f x

θ θ θ θ

, ,..., ⁿ

X X

X X X dan θ adalah ₁ ₂ ₁ ₂ ( , ,..., , ) ( , ,..., | ) ( ) ^{n n} f x x x f x x x p θ θ θ =

(2.3) Jika θ merupakan va riabel acak k ontinu, maka p df marginal bersama d ari ₁ ₂

, ,..., ⁿ

X X X yaitu: ₁ ₂

₁

₂

^{n n}

f x x x f x x x d

θ θ ^∞ _−∞

= ∫

₁

₂

( , ,..., | ) ( ) ⁿ ^∞ f x x x p d θ θ θ _−∞

= ∫

(2.4) Jika θ merupakan va riabel acak d iskrit, maka p df marginal bersama d ari ₁ ₂

, ,..., ⁿ

8 ₁ ₂ n disebut likelihood dari

X X X dan f ungsi p θ disebut sebagai pd f prior , ,..., ( )

dari θ. Aturan Bayes sering ditulis sebagai berikut: _{n n}

f θ x x ¹ ^{2 x f x x}

^{2 x θ p θ}

(2.7)

( | , ,..., ) ( , ,..., | ) ( ) Estimasi pa rameter pa da m etode ba yes didasarkan pa da d istribusi posterior sesuai persamaan (2.6). Perhitungan e stimasi parameter diperoleh dengan mencari ni lai ekspekstasi da ri d istribusi posterior.

Jika θ merupakan variabel acak kontinu, maka nilai ˆθ dapat diperoleh sebagai berikut: _∞ θ θ θ θ θ

ˆ = E x x xn = f y d (2.8) ( | 1, 2,..., ) ( | ) _−∞ ∫

Jika θ merupakan va riabel acak d iskrit, maka nilai ˆθ dapat di peroleh sebagai berikut: _n

θ θ θ θ

= E x x xn = f y (2.9) ( | 1, 2,..., ) ( | ) ∑ _i

(Andrew dkk, 2000)

2.4. Fungsi Likelihood ₁ Fungsi likelihood adalah f ungsi d ensitas b ersama dari n variable acak _{2 n} ₁ _{2 n x x} ₁ _{2 x n}

X X X f θ x x x , ,..., , ,..., ( | , ,..., ) . J ika

dan d inyatakan da lam bentuk .

L θ

ditetapkan, maka fungsi likelihood dari parameter θ dinotasikan dengan ( ) ₁ _{2 n}

X X X f x

Jika , ,...,

( | ) θ , maka

menyatakan suatu sampel acak dari _n θ ^{1 θ} ^{2 θ θ}

L = f x f x f x ( ) ( | ) ( | )... ( | )

n _i L θ = f x θ

( ) ( | ) (2.10) ∏ _i ₌ ₁

(Bain dan Engelhardt,1992)

2.5. Distribusi Prior

Distribusi prior adalah bentuk di stribusi frekuensi y ang m erupakan representasi o bjektif p ada suatu p arameter yang lebih r asional u ntuk dipercayai.

Distribusi prior menunjukan ketidakpastian tentang parameter θ yang tidak diketahui, s ehingga p ermasalahan u tama d alam metode B ayes a dalah memilih distribusi prior untuk suatu parameter yang t idak diketahui namun sesuai dengan permasalahan. B erdasarkan fungsi likelihoodnya, d istribusi pr ior d ikelompokan menjadi dua (Box dan Tiao, 2011):

1. Berkaitan dengan bentu distribusi hasil identifikasi pola data

a. Distribusi prior konjugat, mengacu pada analisis model terutama dalam pe mbentukan f ungsi likelihoodnya s ehingga dalam penentuan pr ior ko njugat s elalu d ipikiran mengenai po la distribusi prior yang m emiliki be ntuk konjugat dengan f ungsi densitas peluang pembangun likelihood.

b. Distribusi prior non-konjugat, apabila pemberian prior pada suatu model tidak mengindahkan pola pembentuk fungsi likelihood.

2. Berkaitan de ngan pe nentuan masing-masing p arameter p ada p ola distribusi prior

Distribusi prior informatif, mengacu p ada p emberian parameter dari distribusi yang telah dipilih baik distribusi prior konjugat atau

10 tidak. P emberian nilai parameter pa da d istribusi prior i ni sangat mempengaruhi bentuk distribusi posterior.

Distribusi prior non-informatif, p emilihan d istribusi prior yang tidak mengandung informasi tentang parameter θ. Distribusi prior non-informatif misalnya prior Uniform dan prior Jeffreys.

2.6. Prior Konjugat

F P f y θ

Misalkan adalah k elas dari d istribusi sampling ( | ) dan adalah

P F

kelas d ari d istribusi prior θ , m aka kelas d isebut untuk ke las jika f ungsi

h θ y

probabilitas posterior memiliki d istribusi y ang sama dengan f ungsi

( | ) h θ f y θ F

probabilitas prior untuk seluruh ∈ . Pemilihan prior konjugat yang

( ) ( | ) P

lebih spesifik d apat d ilakukan de ngan memilih kelas d istribusi prior yang merupakan hi mpunan dari s eluruh f ungsi kepadatan y ang m emiliki b entuk

fungsional yang sama dengan fungsi likelihood dari f y θ . Pada kasus ini

( | ) F disebut prior konjugat dari (Andrew dkk, 2000).

Likelihood Prior Konjugat

Binomial Beta

Binomial Negatif Beta Poisson

Gamma Normal

diketahui Normal µ tidak diketahui, σ

tidak diketahui Inverse Chi-Square µ diketahui, σ

2.7. Distribusi Prior Uniform

Distribusi p rior non-informatif a dalah distribusi prior yang t idak mengandung informasi tentang parameter θ. Salah satu pemilihan distribusi prior non-informatif a dalah prior Uniform, yang d inyatakan s ebagai d istribusi Beta (1,1). Prior Uniform memberikan fungsi de nsitas probabilitas yang ko nstan da n menghasilkan bobot yang sama ke semua nilai. ₁ _{a b} ₋ _{1 −} ₁ Beta a b = x − x dx

( , ) (1 ) ₁ ∫ ₁ ₁ Beta = x − x dx = dx = x = (1,1) (1 ) | 1

∫ ∫

Sehingga densitas Beta (1,1) adalah

f x = x − x

( |1,1) (1 ) (2.11)

(1,1)

2.8. Prior Jeffreys Prior

Jeffreys merupakan distribusi prior non-informatif yang pertama kali dikemukakan o leh S ir H arold J effreys pa da t ahun 1961. Secara u mum Prior Jeffreys digunakan untuk estimasi single parameter θ dan sebanding dengan akar kuadrat dari informasi Fisher. Informasi Fisher didefinisikan sebagai nilai negatif dari turunan kedua log-likelihood (Christensen dkk, 2011).

2.9. Distribusi Posterior

Distribusi posterior merupakan distribusi yang dibentuk oleh informasi awal (distribusi prior) dan in formasi s aat in i. Distribusi posterior dinotasikan de ngan

f x ( | ) . Persamaan distribusi posterior selain dapat dituliskan seperti persamaan

(2.6), juga dapat dinyatakan sebagai fungsi densitas bersyarat θ apabila observasi

x diketahui.

θ θ

f x = f x f x ( , ) ( | ) ( ) (2.12)

sehingga

f x

( , ) f θ x =

( | ) (2.13) f x

( ) f x f

Fungsi likelihood dinotasikan d engan θ dan θ merupakan d istribusi

( | ) ( ) prior

. Fungsi densitas marginal selanjutnya dapat dinyatakan sebagai _{∞ ∞}

f x = f θ x d θ = f θ f x θ θ d

( ) ( , ) ( ) ( | ) (2.14)

∫ −∞ ∫ −∞

Kemudian d istribusi posterior dapat di gunakan u ntuk menentukan e stimasi parameter (Soejoeti dan Soebanar, 1988).

2.10. Distribusi Binomial Negatif

Distribusi Binomial Negatif merupakan ditribusi yang memiliki banyak cara dalam penurunannya. Boswell dan Patil (1970) menunjukkan bahwa terdapat dua belas car a u ntuk mendapatkan d istribusi B inomial N egatif. S alah s atunya d apat diturunkan s ebagai d istribusi campuran P oisson-Gamma, a kan t etapi pe nurunan klasik d ari d istribusi B inomial N egatif yang p aling s ering d igunakan a dalah sebagai barisan p ercobaan B ernoulli. Fungsi p robabilitas d istribusi B inomial Negatif adalah sebagai berikut:

x −

 1  _{k x k} ₋ θ θ

X = x = − x = k k k

, 1, 2,.... (2.15)  

Pr( ) (1 ) ,

k −

1  

X = x

dengan Pr( ) adalah probabilitas t erjadi sukses ke- k pada percobaan ke x dan θ merupakan probabilitas sukses dari setiap percobaan konstan.

13 X Distribusi p robabilitas d ari p eubah acak , d apat d inotasikan me njadi

= − bentuk l ain yaitu menggunakan t ransformasi Y X k , de ngan menyatakan jumlah ke gagalan sebelum t erjadi k buah s ukses. D istribusi pr obabilitas da ri

peubah acak dapat dinyatakan sebagai berikut:

y k

 + −  1 k y

Y = y = θ − θ y =

Pr( ) (1 ) , 0,1,2,... (2.16)  

−

1  

Y y

dengan = adalah pr obabilitas t erjadi sukses ke - k setelah t erjadi y

Pr( ) kegagalan.

Distribusi Binomial N egatif d apat d idefinisikan untuk setiap nilai po sitif dari k de ngan menggunakan fungsi G amma sebagai pe ngganti da ri ko mbinasi, yaitu:

Γ + y k k y ( )

Y = y = − y =

Pr( ) θ (1 θ ) , 0,1,2,... (2.17) Γ k y

( ) ! (Jong dan Heller, 2008)

2.11. Distribusi Gamma

Suatu variabel acak dikatakan memiliki distribusi Gamma dengan parameter

α dan adalah bilangan positif. Parameter α merupakan parameter skala, dan β merupaan parameter bentuk. Fungsi kepadatan dari distribusi Gamma adalah _{β −} ₋ _t

1 ^{1 β} f t = t e

( ) _β (2.18)

α Γ β

( )

dengan ( ) adalah fungsi Gamma yang didefinisikan sebagai

∞

_{β −}

_{1 −}

Γ = t e dt ( ) β

(2.19)

∫

(Walck, 2007)

2.12. Distribusi Beta

Suatu variabel acak dikatakan memiliki distribusi Beta dengan parameter a

dan , jika fungsi kepadatannya adalah _{a b} 1 − ^{1 −} ¹

f x = x − x < < x

( ) (1 ) ,0

1 B a b ( , )

(2.20)

B a b

dengan adalah fungsi Beta yang didefinisikan sebagai

( , ) ₁

_{a b}

₋

_{1 −}

₁

B a b

x dx

( , ) (1 )

∫

(2.21) ₂ θ

Fungsi B eta sesuai p ersamaan (2.21) da pat di transformasi de ngan x =

sin

sehingga ₁ _{a b} ₋ _{1 −} ₁ B a b = x − x dx ( , ) (1 ) _π ₂ ∫

_{2( 1) −}

a b

_{2 −}

₁

θ θ θ θ θ

= − d (sin ) (1 sin ) 2sin cos _π ₂ ∫ _{2 2 − 2 2 −} a b

θ θ θ θ θ d

= (sin ) (cos ) 2sin cos ∫ ₂ _π _{2 1 − 2 1 −} a b

B a b = θ θ d θ

∫

15 Fungsi B eta d apat d ihubungkan dengan f ungsi G amma, m isalkan ²

Γ Γ =

θ θ θ ^∞ ^{+ − − − −}

= ∫ ∫

1 4 ( ) ( , )

2 p q B p q

= Γ +

( ) ( ) 1 ( , ) 2 ( ) 2

p q B p q p q

Γ + ( ) ( ) ( , )

= ∫ ∫

( )

a b B a b a b

Γ Γ =

Γ + (2.23)

Sehingga fungsi kepadatan probabilitas distribusi Beta adalah ₁ _{) 1 (} ( ) (1 )

( ) ( ) ^{a b}

a b f x x x a b ^{− −}

Γ + = −

Γ Γ (2.24)

2 ² _{2 2 1 2 1 2 1} 4 (cos ) (sin ) ^{p q r q p} r e dr d ^π

θ θ θ ^∞ ^{− − −}

t y =

∫

, ma ka sesuai persamaan ( 2.17) d iperoleh ² ^{2 1} ( ) 2 ^{p y}

p y e dy ^∞ ^{− −}

Γ =

∫

dan ²

t x = maka ₂ _{2 1}

( ) 2 ^{q x}

q x e dx ^∞ ^{− −}

Γ =

, apabila ( )

^π r r e rdrd

Γ p

dikalikan dengan ( )

Γ q

sehingga diperoleh _{2 1} ₂ ₂

2 1 ( ) _{0 0}

( ) ( ) 4 ^q ^{p x y}

p q x y e dxdy

⁻

^{∞ ∞}

^{− − +}

Γ Γ =

∫∫

2 ² _{2 1 2 1} _{0 0} 4 ( cos ) ( sin ) ^{q p r}

(Spiegel dkk, 2004)

2.13. Distribusi Cauchy

Suatu variabel acak dikatakan memiliki distribusi Cauchy dengan parameter

c d dan , apabila c merupakan bilangan real dan d merupakan bilangan positif. d

Parameter c merupakan p arameter lokasi, s edangkan p arameter merupakan parameter skala. Fungsi kepadatan probabilitas dari fungsi Cauchy adalah

f x =

( ) (2.25) ₂

x c

− ( )

π + d (1 ) ₂

(Walck, 2007)

2.14. Distribusi Weibull

Suatu variabel acak dikatakan memiliki distribusi Weibull dengan parameter

e f f

dan , apabila e dan merupakan bilangan positif. Parameter e merupakan

parameter bentuk, sedangkan parameter merupakan parameter skala. Distribusi Weibull biasanya d igunakan u ntuk m endapatkan r eabilitas. F ungsi ke padatan probabilitas dari fungsi adalah _g

g x f

_{g − ( / )}

₋

₁

f x

x e x

( ) , > (2.26) _g

(Walck, 2007)

2.15. Markov Chain Monte Carlo

Markov Chain Monte Carlo adalah suatu metode simulasi yang merupakan perpaduan a ntara Monte Carlo de ngan sifat Markov C hain u ntuk mendapatkan data s ampel berdasarkan s kenario s ampling t ertentu. Metode M arkov C hain Monte C arlo b anyak digunakan un tuk menyelesaikan p ersoalan-persoalan Bayesian, k hususnya jika d istribusi p robabilitasnya berdimensi t inggi. Rantai

t t ≥

Markov state space S didefinisikan sebagai suatu deret variabel random

X , { }

dengan nilai untuk masing-masing variabel random tersebut berada di dalam state

space

dan distribusi dari Xt diberikan berdasarkan semua nilai sebelumnya dari _{t t}

X X X 0, 1, 2, ..., X − ¹ X − ¹

proses yaitu hanya tergantung pada . Definisi dari Rantai Markov secara matematis adalah sebagai berikut: _{t t} _≥

Misal

X { } merupakan deret dari suatu variabel random dikatakan sebagai suatu Rantai Markov jika diberikan suatu nilai untuk Xt _{0, 1, 2, ..., t −} ₁ sedemikian sehingga distribusi bersyarat Xt

X X X

dengan _t ₋ ₁

diketahui hanya akan bergantung pada nilai X saja, atau dapat dituliskan sebagai berikut: _{t t − t − t − t − t t − t −} ₁ ₁ ₂ ₂ ₁ ₁ P X ∈ A X ∈ A X ∈ A X ∈ A = P X ∈ A X ∈ A ( | , ,..., ) ( | )

(Astuti, 2006)

2.16. Metropolis Hasting

Algoritma M etropolis Hasting me rupakan salah s atu metode MC MC yang menggunakan mekanisme pe nerimaan da n pe nolakan u ntuk membangkitkan barisan sampel dari suatu distribusi proposal. Distribusi proposal adalah distribusi pembangkit kandidat sampel yang yang d ijadikan a cuan d alam p ergerakan sampel. D istribusi yang biasa d igunakan sebagai d istribusi pr oposal a dalah distribusi normal d an uniform. Pembangkitan sampel dimulai dengan pemberian ₁ ₁ ₂ _k

ESTIMASI PARAMETER DISTRIBUSI BINOMIAL NEGATIF DENGAN PENDEKATAN BAYESIAN MENGGUNAKAN MONTE CARLO MARKOV CHAIN BERDASARKAN ALGORITMA METROPOLIS HASTING SKRIPSI