ESTIMASI PARAMETER MODEL REGRESI MULTIVARIAT BAYESIAN DENGAN DISTRIBUSI PRIOR NONINFORMATIF JEFFREYS

  ESTIMASI PARAMETER MODEL REGRESI MULTIVARIAT BAYESIAN DENGAN DISTRIBUSI PRIOR NONINFORMATIF JEFFREYS oleh

  FIRDA AMALIA M0113018 SKRIPSI ditulis dan diajukan untuk memenuhi sebagian persyaratan memperoleh gelar

  Sarjana Sains Matematika FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SEBELAS MARET SURAKARTA

  2017

PERNYATAAN

  Dengan ini saya menyatakan bahwa skripsi saya yang berjudul ESTIMASI PARAMETER MODEL REGRESI MULTIVARIAT BAYESIAN DENGAN DIS- TRIBUSI PRIOR NONINFORMATIF JEFFREYS belum pernah diajukan un- tuk memperoleh gelar kesarjanaan pada suatu perguruan tinggi, dan sepanjang pengetahuan saya juga belum pernah ditulis atau dipublikasikan oleh orang lain, kecuali yang secara tertulis diacu dalam naskah ini dan disebutkan dalam daftar pustaka.

  Surakarta, Oktober 2017 Firda Amalia

  ESTIMASI PARAMETER MODEL REGRESI MULTIVARIAT BAYESIAN DENGAN DISTRIBUSI PRIOR NONINFORMATIF JEFFREYS

  SKRIPSI FIRDA AMALIA M0113018 dibimbing oleh

  Pembimbing I Pembimbing II Dr. Dewi Retno Sari S., S.Si., M.Kom. Dra. Purnami Widyaningsih, M.App.Sc.

  NIP. 19700720 199702 2 001 NIP. 19620815 198703 2 003 telah dipertahankan di hadapan Dewan Penguji dan dinyatakan memenuhi syarat pada hari Selasa, 31 Oktober 2017

  Dewan Penguji Jabatan Nama dan NIP Tanda Tangan Tanggal Ketua Titin Sri Martini, S.Si., M.Kom.

  NIP. 19750120 200812 2 001 ............... ............... Sekretaris Bowo Winarno, S.Si., M.Kom.

  NIP. 19810430 200812 1 001 ............... ............... Anggota Dr. Dewi Retno Sari S., S.Si., M.Kom. Penguji NIP. 19700720 199702 2 001 ............... ...............

  Dra. Purnami Widyaningsih, M.App.Sc. NIP. 19620815 198703 2 003 ............... ...............

  Disahkan di Surakarta pada tanggal ......................... Kepala Program Studi Matematika

  Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Sebelas Maret Supriyadi Wibowo, S.Si., M.Si.

  NIP. 19681110 199512 1 001

ABSTRAK

  Firda Amalia. 2017. ESTIMASI PARAMETER MODEL REGRESI MULTI-

  VARIAT BAYESIAN DENGAN DISTRIBUSI PRIOR NONINFORMATIF JEFFREYS. Fakultas Matematika dan Ilmu Pengetahuan Alam. Universitas Sebelas Maret.

  Metode Bayesian merupakan metode yang dapat digunakan untuk meng- estimasi parameter model regresi multivariat. Dalam metode Bayesian terdapat dua distribusi yaitu distribusi prior dan posterior. Distribusi posterior dipe- ngaruhi oleh pemilihan distribusi prior. Distribusi prior Jeffreys merupakan je- nis distribusi prior noninformatif, yaitu distribusi prior yang digunakan apabila tidak diketahui informasi parameter. Distribusi prior noninformatif Jeffreys di- gabungkan dengan informasi data sampel menghasilkan distribusi posterior. Dis- tribusi posterior digunakan untuk mengestimasi parameter.

  Tujuan penelitian ini untuk mengestimasi parameter model regresi mul- tivariat menggunakan metode Bayesian dengan distribusi prior noninformatif Jeffreys. Selanjutnya estimasi parameter tersebut diterapkan pada data posisi simpanan masyarakat di Provinsi Papua dan Papua Barat bulan Januari 2010 hingga April 2017.

  Hasil penelitian ini adalah estimasi parameter β dan Σ yang keduanya diperoleh dari nilai ekspektasi variabel random fungsi distribusi posterior margi- nal. Distribusi posterior marginal untuk β dan Σ adalah distribusi normal multi- variat dan invers Wishart. Namun dalam perhitungan nilai ekspektasi, melibat- kan integral dari fungsi yang sulit ditentukan nilainya. Oleh karena itu diperlukan pendekatan dengan melakukan pembangkitan sampel random yang sesuai dengan karakteristik distribusi posterior marginal masing-masing parameter mengguna- kan algoritme MCMC Gibbs sampling. Hasil algoritme MCMC Gibbs sampling

  (i) (i) adalah sampel bangkitan barisan matriks β dan Σ dengan i = 1, 2, ..., M . _M

  ∑ (i)

  1

  β β Estimasi parameter untuk β dinyatakan sebagai ˆ = dan estimasi _{M i M} =1

  ∑

  1 (i)

  parameter untuk Σ dinyatakan sebagai ˆ Σ = Σ . Pada penerapan, hasil _{M =1 i} β Σ yang diperoleh adalah nilai estimasi parameter ˆ dan ˆ untuk data posisi sim- panan masyarakat di Provinsi Papua dan Papua Barat bulan Januari 2010 hingga April 2017 dengan 40000 pembangkitan sampel dinyatakan sebagai

    1405.4 −2399.581

       

  1.328982 0.5335725 1820164 452920.7   b  

  β = dan b Σ =   .

    0.0430088 0.0201185 452920.7 661584.4

      _{−1788.845 −399.6135}

  Kata kunci : model regresi multivariat, metode Bayesian, prior noninformatif

  Jeffreys, Gibbs sampling

ABSTRACT

  Firda Amalia. 2017. PARAMETER ESTIMATION OF MULTIVARIATE REGRESSION MODEL USING BAYESIAN WITH NONINFORMATIVE JEFFREYS’ PRIOR DISTRIBUTION. Faculty of Mathematics and Natural Sciences. Universitas Sebelas Maret.

  Bayesian method is a method that can be used to estimate the parameters of multivariate regression model. Bayesian method has two distributions, there are prior and posterior distributions. Posterior distribution is influenced by the selec- tion of prior distribution. Jeffreys’ prior distribution is a kind of noninformative prior distribution. This prior is used when the information about parameter not available. Noninformative Jeffreys’ prior distribution is combined with the sample information resulting the posterior distribution. Posterior distribution is used to estimate the parameter.

  The purposes of this research are to estimate the parameters of multivariate regression model using Bayesian method with noninformative Jeffreys’ prior dis- tribution. Then the parameter estimation was applied to the data of outstanding on private deposits in Papua and West Papua on January 2010 to April 2017.

  The results of this research are parameter estimation of β and Σ which were obtained from expected value of random variable of marginal posterior dis- tribution function. The marginal posterior distributions for β and Σ are multi- variate normal and inverse Wishart. However, in calculation of the expected value involving integral of a function which difficult to determine the value. Therefore, approach is needed by generating of random samples according to the posterior distribution characteristics of each parameter using MCMC Gibbs sampling al- gorithm. The result of MCMC Gibbs sampling algorithm is the matrix random

  (i) (i)

  sample β and Σ with i = 1, 2, ..., M . The parameter estimation for β is _{M M} ∑

  ∑

  1 (i) 1 (i)

  ˆ β = β and the parameter estimation for Σ is ˆ Σ = Σ . The _{M i M i}

  =1 =1

  β Σ results of this application are the parameter estimation value ˆ and ˆ for the outstanding on private deposits in Papua and West Papua on January 2010 to April 2017 with 40000 generating samples given below

    1405.4 −2399.581

       

  1.328982 0.5335725 1820164 452920.7   b  

  β = and b Σ =   .

    0.0430088 0.0201185 452920.7 661584.4

      _{−1788.845 −399.6135}

  Keywords: multivariate regression model, Bayesian method, noninformative Jeffreys’ prior, Gibbs sampling

  

PERSEMBAHAN

  Karya ini dipersembahkan untuk kedua orang tua dan adik. Terima kasih atas kasih sayang, semangat, dan doa yang diberikan.

PRAKATA

  Puji syukur ke hadirat Tuhan Yang Maha Esa atas limpahan berkah dan rahmat-Nya sehingga penulis dapat menyelesaikan skripsi ini. Ucapan terima- kasih penulis sampaikan kepada

  1. Dr. Dewi Retno Sari Saputro, S.Si., M.Kom. sebagai Pembimbing I yang telah memberikan bimbingan materi, penentuan judul, penulisan skripsi, dan pemberian motivasi.

  2. Dra. Purnami Widyaningsih, M.App.Sc. sebagai Pembimbing II yang te- lah memberikan bimbingan materi, penyusunan alur penulisan skripsi, dan pemberian motivasi. Semoga skripsi ini bermanfaat.

  Surakarta, Oktober 2017 Penulis HALAMAN JUDUL . . . . . . . . . . . . . . . . . . . . . . . . . . . . i PERNYATAAN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ii HALAMAN PENGESAHAN . . . . . . . . . . . . . . . . . . . . . . . iii ABSTRAK . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . iii ABSTRACT . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . iv PERSEMBAHAN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . v PRAKATA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vi DAFTAR ISI . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . viii

  I PENDAHULUAN 1 1.1 Latar Belakang Masalah . . . . . . . . . . . . . . . . . . . . . . .

  1 1.2 Perumusan Masalah . . . . . . . . . . . . . . . . . . . . . . . . .

  2 1.3 Tujuan Penelitian . . . . . . . . . . . . . . . . . . . . . . . . . . .

  3 1.4 Manfaat Penelitian . . . . . . . . . . . . . . . . . . . . . . . . . .

  3 II LANDASAN TEORI 4 2.1 Tinjauan Pustaka . . . . . . . . . . . . . . . . . . . . . . . . . . .

  4 2.2 Teori-Teori . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

  5 2.2.1 Konsep Dasar Statistika . . . . . . . . . . . . . . . . . . .

  5 2.2.2 Model Regresi Multivariat . . . . . . . . . . . . . . . . . .

  7 2.2.3 Probabilitas Bersyarat dan Teorema Bayes . . . . . . . . .

  7 2.2.4 Fungsi Likelihood . . . . . . . . . . . . . . . . . . . . . . .

  8 2.2.5 Distribusi Prior Noninformatif . . . . . . . . . . . . . . .

  8 2.2.6 Distribusi Posterior . . . . . . . . . . . . . . . . . . . . . .

  9

  2.2.7 Fungsi Kepadatan Probabilitas Distribusi Invers Wishart .

  10 2.2.8 Markov Chain Monte Carlo (MCMC) . . . . . . . . . . . .

  10 2.2.9 Uji F . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

  11 2.2.10 Uji Bartlett . . . . . . . . . . . . . . . . . . . . . . . . . .

  12 2.2.11 Uji Mahalanobis Distance . . . . . . . . . . . . . . . . . .

  12 2.3 Kerangka Pemikiran . . . . . . . . . . . . . . . . . . . . . . . . .

  13 III METODE PENELITIAN

  14 IV HASIL DAN PEMBAHASAN

  17 4.1 Fungsi Kepadatan Probabilitas Normal Multivariat Gabungan . .

  17 4.2 Distribusi Prior Noninformatif Jeffreys . . . . . . . . . . . . . . .

  18 4.3 Distribusi Posterior untuk Parameter Model Regresi Multivariat .

  19 4.4 Estimasi Parameter Model Regresi Multivariat . . . . . . . . . . .

  20 4.5 Penerapan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

  21 V PENUTUP 27 5.1 Kesimpulan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

  27 5.2 Saran . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

  27 DAFTAR PUSTAKA

  29