DINA ARIEK P (M0113013) (1)
ESTIMASI PARAMETER
MODEL REGRESI MULTIVARIAT BAYESIAN
DENGAN DISTRIBUSI PRIOR INFORMATIF
Dina Ariek Prasdika, Dewi Retno Sari Saputro, Purnami Widyaningsih
Program Studi Matematika Fakultas Matematika dan Ilmu pengetahuan Alam
Abstrak. Model regresi multivariat merupakan model regresi dengan lebih dari satu
variabel dependen yang saling berkorelasi. Nilai parameter model tersebut tidak diketahui sehingga dilakukan estimasi. Estimasi parameter model regresi multivariat pada
penelitian ini menggunakan metode Bayesian. Metode Bayesian mempunyai dua distribusi yaitu distribusi prior dan distribusi posterior. Jika informasi parameter diketahui,
maka digunakan prior informatif. Tujuan penelitian ini untuk menentukan estimasi
parameter model regresi multivariat menggunakan metode Bayesian dengan distribusi
prior informatif. Berdasarkan hasil dan pembahasan disimpulkan bahwa estimasi parameter ditentukan melalui ekspektasi variabel random dari distribusi posterior marginal.
Ekspektasi variabel random tersebut tidak dapat ditentukan secara analitik sehingga dilakukan pembangkitan sampel yang mendekati distribusi posterior yang disebut metode
Markov chain Monte Carlo (MCMC) algoritme Gibbs sampling. Nilai estimasi parameter
model regresi multivariat diperoleh dari rata- rata sampel hasil pembangkitan.
Kata kunci: model regresi multivariat, distribusi prior, distribusi posterior, Gibbs sampling
1. PENDAHULUAN
Menurut Walpole et al. [15], model regresi digunakan untuk mengetahui pola
hubungan antara variabel dependen dan variabel independen. Model regresi multivariat merupakan bentuk model regresi yang mempunyai lebih dari satu variabel
dependen yang saling berkorelasi dan beberapa variabel independen (Johnson and
Wichern [12]). Pada model regresi terdapat parameter yang dapat merepresentasikan populasi sebuah penelitian. Populasi tersebut diukur melalui sampel random
yang diambil untuk penelitian. Nilai parameter tidak diketahui sehingga diperlukan
estimasi parameter berdasarkan sampel tersebut.
Menurut Bolstad [4], estimasi parameter dapat ditentukan dengan pendekatan
klasik dan pendekatan Bayesian. Pendekatan klasik menggunakan data sampel yang
diambil dari populasi sebagai objek penelitian dan mengabaikan informasi awal sampel. Informasi awal sampel adalah distribusi awal sampel yang bersumber dari penelitian sebelumnya atau pendapat ahli. Apabila data penelitian merupakan gabungan
antara data sampel dan distribusi awal sampel maka teknik ini disebut pendekatan
Bayesian selanjutnya disebut metode Bayesian. Metode Bayesian didasarkan pada
teorema Bayes yang menyatakan bahwa perkalian distribusi prior dengan informasi
sampel (data sampel) hasilnya proporsional dengan distribusi posterior. Distribusi
prior merupakan informasi tentang distribusi awal sampel.
Box and Tiao [5] membagi distribusi prior berdasarkan diketahui atau tidaknya informasi parameter. Jika informasi parameter tidak diketahui, maka digunakan
1
Estimasi Parameter Model Regresi . . .
D.A. Prasdika, D.R.S.Saputro, P. Widyaningsih
prior noninformatif. Sebaliknya jika informasi parameter diketahui, maka dapat digunakan prior informatif. Distribusi prior informatif digunakan oleh Bolstald [4],
Evans [9], dan Prasdika dkk. [13] untuk menentukan estimasi parameter model
regresi univariat. Sementara itu, Arashi et al. [1] membuktikan distribusi prior normal multivariat dan invers Wishart konjugat dengan distribusi posterior. Namun
Arashi et al. [1] tidak menggunakan distribusi prior tersebut untuk mengestimasi
parameter model regresi multivariat. Kemudian distribusi tersebut digunakan oleh
Prasdika et al. [14] untuk menentukan estimasi parameter model regresi multivariat
namun tidak dilakukan penerapannya. Pada penelitian ini dilakukan estimasi parameter model regresi multivariat Bayesian dengan distribusi normal multivariat dan
invers Wishart sebagai prior informatif dan penerapannya.
2. MODEL REGRESI MULTIVARIAT
Menurut Johnson and Wichern [12], model regresi multivariat adalah
Y1 = β01 + β11 X1 + . . . + βr1 Xr + ε1
Y2 = β02 + β12 X1 + . . . + βr2 Xr + ε2
..
.
(2.1)
Ym = β0m + β1m X1 + . . . + βrm Xr + εm .
Model (2.1) merupakan sistem persamaan yang memuat variabel dependen sebanyak
m yaitu Y1 , Y2 , . . . , Ym ; variabel independen sebanyak r yaitu X1 , X2 , . . . , Xr ; dan
eror ε = (ε1 , ε2 , . . . , εm )T . Eror tersebut diasumsikan E(ε) = 0 dan V ar(ε) = Σ,
matriks Σ berukuran m × m. Model (2.1) dapat pula dinyatakan dalam bentuk
matriks yaitu
Y = Xβ + ε
(2.2)
untuk j = 1, 2, . . . , n; Y = (Y1 , Y2 , . . . , Yj )T untuk setiap Yj = (Yj1 , Yj2 , . . . , Yjm );
X = (1, Xj1 , Xj2 , . . . , Xjr )T ; dan β merupakan matriks koefisien regresi berukuran
((r + 1) × m). Variabel random Yj diasumsikan berdistribusi normal multivariat
Yj ∼ Nm (X j β, Σ) sehingga fungsi kepadatan probabilitasnya adalah
f (Yj ) =
1
m
2
(2π) |Σ|
e(− 2 (Yj −Xj β)
1
1
2
T Σ−1 (Y
).
j −Xj β)
3. METODE BAYESIAN
Menurut Congdon [8], inferensi metode Bayesian didasarkan pada distribusi
posterior. Menurut Gelman et al. [10], fungsi distribusi posterior f (θ|Y ) adalah
fungsi kepadatan probabilitas bersyarat parameter θ dengan nilai observasi variabel
random Y telah diketahui dan didefinisikan sebagai
f (θ|Y ) =
f (Y |θ)f (θ)
f (θ, Y )
=
, f (Y ) ̸= 0
f (Y )
f (Y )
2
(3.1)
2017
Estimasi Parameter Model Regresi . . .
dengan f (Y ) =
∑
θ
D.A. Prasdika, D.R.S.Saputro, P. Widyaningsih
f (θ)f (Y |θ), untuk θ diskrit dan f (Y ) =
θ kontinu. Persamaan (3.1) dapat pula dinyatakan sebagai
∫
f (θ)f (Y |θ)dθ untuk
f (θ|Y ) ∝ f (Y |θ)f (θ)
(3.2)
dengan f (Y |θ) adalah fungsi likelihood dan f (θ) adalah fungsi distribusi prior. Menurut Casella and Berger [6], estimasi parameter ditentukan dari ekspektasi variabel
posterior marginal.
4. HASIL DAN PEMBAHASAN
Berikut merupakan fungsi likelihood, distribusi prior, distribusi posterior, estimasi parameter model regresi multivariat, dan penerapan kasus.
4.1. Fungsi Likelihood . Fungsi likelihood pada model regresi multivariat merupakan fungsi kepadatan bersama dari j variabel random Y j yang berdistribusi normal
multivariat dengan syarat parameternya telah diberikan. Parameter model regresi
multivariat yaitu β dan Σ sehingga fungsi likelihood untuk model tersebut adalah
f (Y |β, Σ) = Πnj=1 f (Yj |β, Σ)
= Πnj=1 (2π)− 2 |Σ|− 2 e− 2 tr(Σ
∝ |Σ|− 2 e− 2 tr(Σ
n
dengan 2π −
nm
2
∑n
i=1 (Y i
1
1
1
m
−1
−1
(Y j −X j β)T (Y j −X j β))
(Y −Xβ)T (Y −Xβ))
(4.1)
− Ȳ )T (Y i − Ȳ ) merupakan konstanta.
4.2. Distribusi Prior. Distribusi prior informatif mengacu pada parameter dari
distribusi prior dengan pola distribusi prior konjugat maupun tidak konjugat (Box
and Tiao [5]). Distribusi prior konjugat merupakan distribusi prior yang konjugat
dengan distribusi posterior. Pada inferensi Bayesian, parameter dianggap sebagai
variabel random yang mengikuti distribusi tertentu. Fungsi distribusi prior untuk
parameter model regresi multivariat β dan Σ merupakan perkalian fungsi kepadatan
probabilitas Σ dengan fungsi kepadatan probabilitas β|Σ dan didefinisikan sebagai
f (β, Σ) = f (Σ)f (β|Σ).
(4.2)
Variabel random Σ berdistribusi invers Wishart yang dinotasikan sebagai Σ ∼
IWm (f0 , G0 ) dengan f0 adalah derajat bebas dan G0 adalah matriks berukuran
m × m. Fungsi kepadatan probabilitas Σ adalah
f (Σ) ∝ |Σ|−
f0 +m+1
2
1
e− 2 tr(Σ
−1
G−1
0 )
(4.3)
.
Variabel random β|Σ berdistribusi normal multivariat yang dinotasikan sebagai
β|Σ ∼ Nm (U 0 , V 0 ) dengan U 0 adalah mean dan V 0 adalah variansi. Fungsi kepadatan probabilitas β|Σ adalah
f (β|Σ) ∝ |V0 |− 2 e− 2 tr(Σ
m
1
3
−1
(β−U0 )T V0−1 (β−U0 ))
.
(4.4)
2017
Estimasi Parameter Model Regresi . . .
D.A. Prasdika, D.R.S.Saputro, P. Widyaningsih
Dengan demikian fungsi distribusi prior untuk parameter model regresi multivariat
adalah
f (β, Σ) = |Σ|−
f0 +m+1
2
e− 2 tr(Σ
1
−1
G−1
0 )
|V0 |− 2 e− 2 tr(Σ
1
m
−1
(β−U0 )T V0−1 (β−U0 ))
. (4.5)
4.3. Distribusi Posterior . Fungsi distribusi posterior model regresi multivariat
merupakan fungsi kepadatan probabilitas dari parameter model regresi multivariat
β, Σ dengan syarat nilai observasi variabel Y telah diketahui dan dinyatakan sebagai f (β, Σ|Y ). Fungsi distribusi posterior proporsional dengan perkalian fungsi
likelihood (4.1) dan fungsi distribusi prior (4.5). Fungsi distribusi posterior untuk
parameter model regresi multivariat adalah
f (β, Σ|Y ) ∝ f (Y |β, Σ)f (β, Σ)
∝ |Σ|− 2 e− 2 tr(Σ
n
1
−1
(Y −Xβ)T (Y −Xβ))
|V0 |− 2 e− 2 tr(Σ
m
∝ Σ|−
1
−1 (β−U
(f0 +n+m+1)
2
0)
|Σ|−
f0 +m+1
2
e− 2 tr(Σ
1
−1
G−1
0 )
)
T V −1 (β−U )
0
0
m
|(X T X + V0−1 )−1 |− 2
−1
−1
−1
−1
1
T
T
T
T
−1
T
T
e− 2 trΣ (Y Y +U 0 V 0 U 0 +β (X X+V 0 )β−(Y X+U 0 V 0 )β+G0 )
(fn +m+1)
1
1
−1
−1 −1
m
T −1
∝ |Σ|− 2 |Vn |− 2 e− 2 tr(Σ (β−Un ) Vn (β−Un ))− 2 tr(Σ Gn )
(
)
)(
(fn +m+1)
1
1
−1 −1
−1
m
T −1
∝ |Σ|− 2 e− 2 tr(Σ Gn ) |Vn |− 2 e− 2 tr(Σ (β−Un ) Vn (β−Un ))
∝ f (Σ|Y )f (β|Σ, Y )
(4.6)
T
−1
−1
dengan V n = (X T X + V −1
0 ) , U n = V n (X Y + V 0 U 0 ), fn = f0 + n, dan
T
−1
−1
Gn = G0 + (Y T Y + U T0 V −1
0 U 0 − U n V n U n ) . Berdasarkan fungsi distribusi
posterior (4.6), nampak bahwa distribusi posterior marginal Σ|Y adalah invers
Wishart yang dinotasikan sebagai Σ|Y ∼ IWm (fn , Gn ) dan distribusi posterior
marginal β|Σ, Y adalah normal mutivariat dengan parameter mean U n dan variansi
V n yang dinotasikan sebagai β|Σ, Y ∼ Nm (U n , V n ).
4.4. Estimasi Parameter. Estimasi parameter model regresi multivariat ditentukan melalui ekspektasi variabel dari distribusi posterior marginal. Ekspektasi untuk
masing- masing parameter model regresi multivariat adalah
Σ̂ = E [Σ|Y ]
∫ ∞
∫
=
...
−∞
∞
Σ|Σ|−
(fn +m+1)
2
e(− 2 trΣ
1
−1
G−1
n )
dΣ11 . . . dΣm1
−∞
(4.7)
dΣ1m . . . dΣmm .
β̂ = E [β|Σ, Y ]
∫ ∞
∫ ∞
1
−1
k
m
T T
=
...
β|Vn |− 2 |Σ|− 2 e− 2 tr(Σ (β−Un ) Vn (β−Un )) dβ 01 . . . dβ r1
−∞
−∞
dβ 0m . . . dβ rm .
4
(4.8)
2017
Estimasi Parameter Model Regresi . . .
D.A. Prasdika, D.R.S.Saputro, P. Widyaningsih
Nilai integral fungsi pada persamaan (4.7) dan (4.8) secara analitik sulit ditentukan. Fungsi tersebut merupakan fungsi distribusi populasi. Oleh karena itu
fungsi distribusi tersebut didekati dengan sampel yang diperoleh dari hasil pembangkitan. Sampel tersebut dibangkitkan menggunakan metode MCMC algoritme
Gibbs sampling yang mendekati distribusi posterior.
Menurut Casella and George [7], Gibbs sampling merupakan teknik pembangkitan variabel random yang menggunakan sampel sebelumnya untuk membangkitkan sampel berikutnya secara random sehingga didapatkan suatu rantai Markov.
Berikut adalah algoritme Gibbs sampling.
(1) Menginisialisasi nilai β (0) dan Σ(0) .
(0)
(0)
(2) Membangkitkan Y jm ∼ Nm (Xβ (0) , Σ(0) ) sehingga diperoleh Y jm .
(0)
(3) Membangkitkan Σ(1) |Y jm ∼ IWm (f0 , G0 ) dengan f0 = n − 1 yaitu jumlah
∑
observasi dikurangi 1 dan matriks G0 = nj=1 (Y j − Ȳ j )T (Y j − Ȳ j ) pada
langkah ini diperoleh Σ(1) .
(4) Membangkitkan β (1) |Σ(1) , Y (0) ∼ Nm (U 0 , V 0 ) dengan U 0 =
dan V 0 = Σ(1) pada langkah ini diperoleh β (1) .
1
n
∑n
(0)
j=1
Yj
(5) Mengulangi kembali langkah (2) sampai dengan (4) sebanyak M pengulangan hingga diperoleh sampel bangkitan ΣM ∼ IW (fn , Gn ) dan β M ∼
Nm (U n , V n ).
Hasil algoritme Gibbs sampling adalah rantai markov yang terdiri atas barisan matriks Σ(1) , β (1) , Σ(2) , β (2) , . . . , Σ(M ) , β (M ) . Selanjutnya menurut Johnson and Albert
[11], estimasi parameter ditentukan dari rata-rata sampel hasil pembangkitan yaitu
∑M
∑M
(k)
(k)
β̂ = M1
dan Σ̂ = M1
k=1 β
k=1 Σ .
4.5. Penerapan. Pada penelitian ini, estimasi parameter model regresi multivari-
at Bayesian diterapkan pada data kurs tengah Great Britain Poundsterling (GBP)
dan United States Dollar (USD) tahun 2010-2016. Data tersebut merupakan data
kuartalan yang diperoleh dari Bank Indonesia [3]. Variabel dependen dalam penelitian ini terdiri atas kurs tengah GBP sebagai Y1 dan kurs tengah USD sebagai Y2 .
Sedangkan variabel independen dalam penelitian ini terdiri atas produk domestik
bruto (PDB) sebagai X1 dan laju inflasi sebagai X2 .
Sebelum variabel dependen dan independen digunakan untuk estimasi parameter model regresi multivariat, dilakukan pengujian asumsi regresi multivariat yaitu
uji kelinieran antara variabel dependen dan independen, uji Bartlett Sphericity dan
Mahalonobis distance. Berikut adalah uji asumsi regresi multivariat.
(1) Uji keliniearan antara variabel dependen dan independen.
Berdasarkan sistem persamaan (2.1), model regresi multivariat merupakan
persamaan linier. Oleh karena itu hubungan variabel dependen dan variabel
independen adalah linier. Plot scatter digunakan untuk melihat sebaran pola
5
2017
Estimasi Parameter Model Regresi . . .
D.A. Prasdika, D.R.S.Saputro, P. Widyaningsih
data dari variabel dependen dan independen. Berdasarkan plot scatter pola
hubungan Y1 dengan masing-masing X1 dan X2 memiliki kecenderungan menyebar di sekitar garis lurus. Sama halnya dengan pola hubungan Y2 dengan
masing-masing X1 dan X2 sehingga hubungan antar variabel dependen dan
variabel independen adalah linier.
(2) Uji Bartlett Sphericity.
Uji Bartlett Sphericity digunakan untuk mengetahui hubungan antar variabel
dependen saling bebas. Hipotesis yang digunakan adalah H0 : antar variabel
dependen saling bebas dan H1 : antar variabel dependen tidak saling bebas.
Pada pengujian ini nilai Bartlett Sphericity dibandingkan dengan χ20.05,1 yaitu
sebesar 3.84. Jika nilai nilai Bartlett Sphericity ≥ χ20.05,1 , maka H0 ditolak.
Pada data ini diperoleh nilai Bartlett Sphericity sebesar 43.306 sehingga
dapat disimpulkan bahwa hubungan antar variabel dependen adalah tidak
saling bebas.
(3) Uji Mahalonobis Distance.
Uji Mahalonobis distance digunakan untuk mengetahui distribusi variabel
dependen. Hipotesis yang digunakan adalah H0 : data berdistribusi normal
multivariat dan H1 : data tidak berdistribusi normal multivariat. Pada pengujian ini nilai d2i dibandingkan dengan χ22,0.5 yaitu sebesar 1.386. Jika
diperoleh kondisi dimana nilai d2i ≤ χ22,0.5 kurang setengah jumlah sampel,
maka H0 ditolak. Pada data ini diperoleh kondisi d2i ≤ χ22,0.5 yaitu 9 dari 28
observasi atau sebesar 67.858% dari jumlah sampel sehingga dapat disimpulkan bahwa data berdistribusi normal multivariat.
Dengan demikian variabel dependen dan independen memenuhi ketiga asumsi regresi multivariat sehingga data variabel kurs tengah GDP dan USD tahun 2010 sampai
dengan 2016 dapat dimodelkan menggunakan model regresi multivariat.
Setelah asumsi regresi multivariat terpenuhi selanjutnya ditentukan nilai estimasi parameternya menggunakan algoritme Gibbs sampling. Langkah pertama,
data variabel dependen dan independen digunakan untuk menentukan nilai awal
parameter model
regresi multivariat
dengan metode kuadrat terkecil dan diperoleh
(
)
11460 7452
6928577
4965519
(0)
. Kemudian
nilai β (0) =
−393 −342.4 dan Σ =
4965519 3656303
1391.2 993.97
Σ(1) |Y dibangkitkan dari distribusi invers Wishart dengan parameternya (f0 , G0 )
dan β (1) |Σ, Y dibangkitkan dari distribusi normal multivariat dengan parameternya
(U 0 , V 0 ). Iterasi dilakukan hingga diperoleh barisan sampel Σ berdistribusi invers
Wishart dan β|Σ berdistribusi normal multivariat. Hasil estimasi parameter pada
penelitian ini merupakan hasil dari pembangkitan rantai MCMC sebanyak M yaitu 45000 iterasi. Selanjutnya, nilai estimasi ditentukan dari rata-rata sampel hasil
6
2017
Estimasi Parameter Model Regresi . . .
D.A. Prasdika, D.R.S.Saputro, P. Widyaningsih
bangkitan.
Setelah diperoleh nilai estimasi parameter model regresi, selanjutnya dilakukan pengujian parameter untuk mengetahui pengaruh variabel independen terhadap
variabel dependen. Nilai estimasi parameter model tersebut diuji menggunakan interval kepercayaan pada tingkat kepercayaan 95% yang ditandai dengan persentil
2.5% dan 97.5%. Parameter dikatakan signifikan jika selang interval pada tingkat
kepercayaan 95% parameter tidak memuat nilai nol. Parameter yang signifikan
menunjukkan variabel independen berpengaruh terhadap variabel dependen. Nilai
estimasi dan interval kepercayaan dari parameter model regresi multivariat ditunjukkan pada Tabel 1.
Tabel 1. Nilai estimasi parameter dan interval kepercayaan β dan Σ
Parameter Estimasi
β̂01
β̂02
β̂11
β̂12
β̂21
β̂22
Σ̂11
Σ̂12
Σ̂21
Σ̂22
11459.96
7451.98
−392.96
−342.36
1391.25
993.97
292765.8
168374.8
168374.8
142686.6
Interval Kepercayaan
Kesimpulan
Persentil 2.5 Persentil 97.5
11457.98
11461.94
signifikan
7450.04
7453.91
signifikan
−394.90
−391.07
signifikan
−342.38
−344.28
signifikan
1389.33
1393.18
signifikan
992.04
995.92
signifikan
200082.7
428742.6
signifikan
109552.1
254252.2
signifikan
109552.1
254252.2
signifikan
98046.92
206419.1
signifikan
Berdasarkan Tabel 1 kolom
kedua diperoleh nilai
estimasi parameter model regresi
(
)
11459.96 7451.98
292765.8
168374.8
.
multivariat yaitu β̂ =
−392.96 −342.36 dan Σ̂ =
168374.8 142686.6
1391.25 993.97
Berdasarkan Tabel 1 kolom ketiga dan keempat nampak bahwa semua parameter
tidak memuat nilai nol sehingga dapat dikatakan bahwa semua parameter signifikan
yang artinya bahwa laju inflasi dan PDB memengaruhi kurs tengah GBP dan USD.
Model regresi multivariat yang diterapkan pada data kurs tengah GBP dan USD
tahun 2010- 2016 adalah
Yˆ1 = 11459.96 − 392.96X1 + 1391.25X2
Yˆ2 = 7451.98 − 342.36X1 + 993.97X2 .
(4.9)
(4.10)
Persamaan (4.9) menjelaskan bahwa setiap penambahan 1% PDB akan menurunkan kurs tengah GBP sebesar 392.96 rupiah, setiap pertambahan 1% laju inflasi
akan menurunkan kurs tengah GBP sebesar 1391.25 rupiah, dan apabila tidak ada
penambahan dan pengurangan PDB dan laju inflasi maka nilai kurs tengah GBP
sebesar 11459.96 rupiah. Hal yang sama diterapkan pada persamaan (4.10).
7
2017
Estimasi Parameter Model Regresi . . .
D.A. Prasdika, D.R.S.Saputro, P. Widyaningsih
5. Kesimpulan
Berdasarkan hasil dan pembahasan disimpulkan bahwa estimasi parameter
model regresi multivariat Bayesian dengan distribusi prior informatif ditentukan
melalui ekspektasi variabel random dari distribusi posterior marginal. Ekspektasi variabel random tersebut sulit ditentukan sehingga dilakukan pembangkitan
sampel yang mendekati distribusi posterior dengan metode MCMC algoritme Gibbs sampling. Hasil algoritme tersebut adalah barisan sampel terdiri atas matriks
Σ(1) , β (1) , Σ(2) , β (2) , . . . , Σ(M ) , β (M ) yang mendekati distribusi posterior. Estimasi
∑M
(k)
masing-masing parameter model regresi multivariat adalah β̂ = M1
dan
k=1 β
∑
M
(k)
Σ̂ = M1
k=1 Σ .
DAFTAR PUSTAKA
[1] Arashi, M., A. Iranmaneshb, M. Norouziradb, and H.S. Jenatabadic, Bayesian Analysis in
Multivariate Regression Models with Conjugate Priors, Journal of Theoretical and Applied
Statistics, 48 (2014), no. 6, pp 1324-1334.
[2] Bain, L. J. and M. Engelhardt, Introduction to Probability and Mathematical Statistics, 2nd
ed., Buxbury Press, California, 1992.
[3] Bank Indonesia, [Bank Indonesia], Statistik Ekonomi dan Keuangan Indonesia, Jakarta,
2017.
[4] Bolstad, W.M., Introduction to Bayesian Statistics, 2nd ed., A John Wiley and Sons, America, 2007.
[5] Box, G. E. P and G.C. Tiao, Bayesian Inference in Statistics, 2nd ed., Wiley, New Jersey,
2007.
[6] Casella G and R.L. Berger, Statistical Inference, Boston, Duxbury Press, 2002.
[7] Casella, G. and E. I. George, Explaining the Gibbs Sampler, The American Statistisian 46
(1992), no. 3, pp 167-174.
[8] Congdon, P., Bayesian Statistical Modeling, John Wiley, Chinchester, 2003.
[9] Evans, S., Bayesian Regression Analysis, A Theses , Department of Mathematics, University of Louisville, Louisville, 2012.
[10] Gelman, A., J.B. Carlin, D.B. Dunson, A. Vehtari, and D.B.Rubin, Bayesian Data Analysis,
3th ed., Chapman and Hall, New York, 2004.
[11] Johnson, V. E. and J. H. Albert, Ordinal Data Modeling, Springer-Verlag Inc.,New York,
1998.
[12] Johnson, R.A. and D. Wichern, Applied Multivariate Statistical Analysis, Prentice Hall,
New Jersey, 2007.
[13] Prasdika, D.A., D.R.S. Saputro, dan T.J. Parmaningsih, Estimasi Parameter Model Regresi
Linier Sederhana Bayesian dengan Distribusi Prior Informatif, Prosiding Seminar Nasional
Matematika dan Pendidikan Matematika 2016, Universitas Sebelas Maret, 2016.
[14] Prasdika, D. A., D.R.S. Saputro, P. Widyaningsih, and K.R. Demu, Parameter Estimation of Multivariate Regression Model using Bayesian with Normal Multivariate and Inverse Distribution, First International Conference on Science Mathematics Environment and
Education, Universitas Sebelas Maret, 2017.
[15] Walpole,R.E., R.H. Myers, S.L. Myers, and K. Ye, Probability and Statistics for Engineers
and Scientists, 8th ed., Prentice Hall, New Jersey, USA, 2007.
8
2017
MODEL REGRESI MULTIVARIAT BAYESIAN
DENGAN DISTRIBUSI PRIOR INFORMATIF
Dina Ariek Prasdika, Dewi Retno Sari Saputro, Purnami Widyaningsih
Program Studi Matematika Fakultas Matematika dan Ilmu pengetahuan Alam
Abstrak. Model regresi multivariat merupakan model regresi dengan lebih dari satu
variabel dependen yang saling berkorelasi. Nilai parameter model tersebut tidak diketahui sehingga dilakukan estimasi. Estimasi parameter model regresi multivariat pada
penelitian ini menggunakan metode Bayesian. Metode Bayesian mempunyai dua distribusi yaitu distribusi prior dan distribusi posterior. Jika informasi parameter diketahui,
maka digunakan prior informatif. Tujuan penelitian ini untuk menentukan estimasi
parameter model regresi multivariat menggunakan metode Bayesian dengan distribusi
prior informatif. Berdasarkan hasil dan pembahasan disimpulkan bahwa estimasi parameter ditentukan melalui ekspektasi variabel random dari distribusi posterior marginal.
Ekspektasi variabel random tersebut tidak dapat ditentukan secara analitik sehingga dilakukan pembangkitan sampel yang mendekati distribusi posterior yang disebut metode
Markov chain Monte Carlo (MCMC) algoritme Gibbs sampling. Nilai estimasi parameter
model regresi multivariat diperoleh dari rata- rata sampel hasil pembangkitan.
Kata kunci: model regresi multivariat, distribusi prior, distribusi posterior, Gibbs sampling
1. PENDAHULUAN
Menurut Walpole et al. [15], model regresi digunakan untuk mengetahui pola
hubungan antara variabel dependen dan variabel independen. Model regresi multivariat merupakan bentuk model regresi yang mempunyai lebih dari satu variabel
dependen yang saling berkorelasi dan beberapa variabel independen (Johnson and
Wichern [12]). Pada model regresi terdapat parameter yang dapat merepresentasikan populasi sebuah penelitian. Populasi tersebut diukur melalui sampel random
yang diambil untuk penelitian. Nilai parameter tidak diketahui sehingga diperlukan
estimasi parameter berdasarkan sampel tersebut.
Menurut Bolstad [4], estimasi parameter dapat ditentukan dengan pendekatan
klasik dan pendekatan Bayesian. Pendekatan klasik menggunakan data sampel yang
diambil dari populasi sebagai objek penelitian dan mengabaikan informasi awal sampel. Informasi awal sampel adalah distribusi awal sampel yang bersumber dari penelitian sebelumnya atau pendapat ahli. Apabila data penelitian merupakan gabungan
antara data sampel dan distribusi awal sampel maka teknik ini disebut pendekatan
Bayesian selanjutnya disebut metode Bayesian. Metode Bayesian didasarkan pada
teorema Bayes yang menyatakan bahwa perkalian distribusi prior dengan informasi
sampel (data sampel) hasilnya proporsional dengan distribusi posterior. Distribusi
prior merupakan informasi tentang distribusi awal sampel.
Box and Tiao [5] membagi distribusi prior berdasarkan diketahui atau tidaknya informasi parameter. Jika informasi parameter tidak diketahui, maka digunakan
1
Estimasi Parameter Model Regresi . . .
D.A. Prasdika, D.R.S.Saputro, P. Widyaningsih
prior noninformatif. Sebaliknya jika informasi parameter diketahui, maka dapat digunakan prior informatif. Distribusi prior informatif digunakan oleh Bolstald [4],
Evans [9], dan Prasdika dkk. [13] untuk menentukan estimasi parameter model
regresi univariat. Sementara itu, Arashi et al. [1] membuktikan distribusi prior normal multivariat dan invers Wishart konjugat dengan distribusi posterior. Namun
Arashi et al. [1] tidak menggunakan distribusi prior tersebut untuk mengestimasi
parameter model regresi multivariat. Kemudian distribusi tersebut digunakan oleh
Prasdika et al. [14] untuk menentukan estimasi parameter model regresi multivariat
namun tidak dilakukan penerapannya. Pada penelitian ini dilakukan estimasi parameter model regresi multivariat Bayesian dengan distribusi normal multivariat dan
invers Wishart sebagai prior informatif dan penerapannya.
2. MODEL REGRESI MULTIVARIAT
Menurut Johnson and Wichern [12], model regresi multivariat adalah
Y1 = β01 + β11 X1 + . . . + βr1 Xr + ε1
Y2 = β02 + β12 X1 + . . . + βr2 Xr + ε2
..
.
(2.1)
Ym = β0m + β1m X1 + . . . + βrm Xr + εm .
Model (2.1) merupakan sistem persamaan yang memuat variabel dependen sebanyak
m yaitu Y1 , Y2 , . . . , Ym ; variabel independen sebanyak r yaitu X1 , X2 , . . . , Xr ; dan
eror ε = (ε1 , ε2 , . . . , εm )T . Eror tersebut diasumsikan E(ε) = 0 dan V ar(ε) = Σ,
matriks Σ berukuran m × m. Model (2.1) dapat pula dinyatakan dalam bentuk
matriks yaitu
Y = Xβ + ε
(2.2)
untuk j = 1, 2, . . . , n; Y = (Y1 , Y2 , . . . , Yj )T untuk setiap Yj = (Yj1 , Yj2 , . . . , Yjm );
X = (1, Xj1 , Xj2 , . . . , Xjr )T ; dan β merupakan matriks koefisien regresi berukuran
((r + 1) × m). Variabel random Yj diasumsikan berdistribusi normal multivariat
Yj ∼ Nm (X j β, Σ) sehingga fungsi kepadatan probabilitasnya adalah
f (Yj ) =
1
m
2
(2π) |Σ|
e(− 2 (Yj −Xj β)
1
1
2
T Σ−1 (Y
).
j −Xj β)
3. METODE BAYESIAN
Menurut Congdon [8], inferensi metode Bayesian didasarkan pada distribusi
posterior. Menurut Gelman et al. [10], fungsi distribusi posterior f (θ|Y ) adalah
fungsi kepadatan probabilitas bersyarat parameter θ dengan nilai observasi variabel
random Y telah diketahui dan didefinisikan sebagai
f (θ|Y ) =
f (Y |θ)f (θ)
f (θ, Y )
=
, f (Y ) ̸= 0
f (Y )
f (Y )
2
(3.1)
2017
Estimasi Parameter Model Regresi . . .
dengan f (Y ) =
∑
θ
D.A. Prasdika, D.R.S.Saputro, P. Widyaningsih
f (θ)f (Y |θ), untuk θ diskrit dan f (Y ) =
θ kontinu. Persamaan (3.1) dapat pula dinyatakan sebagai
∫
f (θ)f (Y |θ)dθ untuk
f (θ|Y ) ∝ f (Y |θ)f (θ)
(3.2)
dengan f (Y |θ) adalah fungsi likelihood dan f (θ) adalah fungsi distribusi prior. Menurut Casella and Berger [6], estimasi parameter ditentukan dari ekspektasi variabel
posterior marginal.
4. HASIL DAN PEMBAHASAN
Berikut merupakan fungsi likelihood, distribusi prior, distribusi posterior, estimasi parameter model regresi multivariat, dan penerapan kasus.
4.1. Fungsi Likelihood . Fungsi likelihood pada model regresi multivariat merupakan fungsi kepadatan bersama dari j variabel random Y j yang berdistribusi normal
multivariat dengan syarat parameternya telah diberikan. Parameter model regresi
multivariat yaitu β dan Σ sehingga fungsi likelihood untuk model tersebut adalah
f (Y |β, Σ) = Πnj=1 f (Yj |β, Σ)
= Πnj=1 (2π)− 2 |Σ|− 2 e− 2 tr(Σ
∝ |Σ|− 2 e− 2 tr(Σ
n
dengan 2π −
nm
2
∑n
i=1 (Y i
1
1
1
m
−1
−1
(Y j −X j β)T (Y j −X j β))
(Y −Xβ)T (Y −Xβ))
(4.1)
− Ȳ )T (Y i − Ȳ ) merupakan konstanta.
4.2. Distribusi Prior. Distribusi prior informatif mengacu pada parameter dari
distribusi prior dengan pola distribusi prior konjugat maupun tidak konjugat (Box
and Tiao [5]). Distribusi prior konjugat merupakan distribusi prior yang konjugat
dengan distribusi posterior. Pada inferensi Bayesian, parameter dianggap sebagai
variabel random yang mengikuti distribusi tertentu. Fungsi distribusi prior untuk
parameter model regresi multivariat β dan Σ merupakan perkalian fungsi kepadatan
probabilitas Σ dengan fungsi kepadatan probabilitas β|Σ dan didefinisikan sebagai
f (β, Σ) = f (Σ)f (β|Σ).
(4.2)
Variabel random Σ berdistribusi invers Wishart yang dinotasikan sebagai Σ ∼
IWm (f0 , G0 ) dengan f0 adalah derajat bebas dan G0 adalah matriks berukuran
m × m. Fungsi kepadatan probabilitas Σ adalah
f (Σ) ∝ |Σ|−
f0 +m+1
2
1
e− 2 tr(Σ
−1
G−1
0 )
(4.3)
.
Variabel random β|Σ berdistribusi normal multivariat yang dinotasikan sebagai
β|Σ ∼ Nm (U 0 , V 0 ) dengan U 0 adalah mean dan V 0 adalah variansi. Fungsi kepadatan probabilitas β|Σ adalah
f (β|Σ) ∝ |V0 |− 2 e− 2 tr(Σ
m
1
3
−1
(β−U0 )T V0−1 (β−U0 ))
.
(4.4)
2017
Estimasi Parameter Model Regresi . . .
D.A. Prasdika, D.R.S.Saputro, P. Widyaningsih
Dengan demikian fungsi distribusi prior untuk parameter model regresi multivariat
adalah
f (β, Σ) = |Σ|−
f0 +m+1
2
e− 2 tr(Σ
1
−1
G−1
0 )
|V0 |− 2 e− 2 tr(Σ
1
m
−1
(β−U0 )T V0−1 (β−U0 ))
. (4.5)
4.3. Distribusi Posterior . Fungsi distribusi posterior model regresi multivariat
merupakan fungsi kepadatan probabilitas dari parameter model regresi multivariat
β, Σ dengan syarat nilai observasi variabel Y telah diketahui dan dinyatakan sebagai f (β, Σ|Y ). Fungsi distribusi posterior proporsional dengan perkalian fungsi
likelihood (4.1) dan fungsi distribusi prior (4.5). Fungsi distribusi posterior untuk
parameter model regresi multivariat adalah
f (β, Σ|Y ) ∝ f (Y |β, Σ)f (β, Σ)
∝ |Σ|− 2 e− 2 tr(Σ
n
1
−1
(Y −Xβ)T (Y −Xβ))
|V0 |− 2 e− 2 tr(Σ
m
∝ Σ|−
1
−1 (β−U
(f0 +n+m+1)
2
0)
|Σ|−
f0 +m+1
2
e− 2 tr(Σ
1
−1
G−1
0 )
)
T V −1 (β−U )
0
0
m
|(X T X + V0−1 )−1 |− 2
−1
−1
−1
−1
1
T
T
T
T
−1
T
T
e− 2 trΣ (Y Y +U 0 V 0 U 0 +β (X X+V 0 )β−(Y X+U 0 V 0 )β+G0 )
(fn +m+1)
1
1
−1
−1 −1
m
T −1
∝ |Σ|− 2 |Vn |− 2 e− 2 tr(Σ (β−Un ) Vn (β−Un ))− 2 tr(Σ Gn )
(
)
)(
(fn +m+1)
1
1
−1 −1
−1
m
T −1
∝ |Σ|− 2 e− 2 tr(Σ Gn ) |Vn |− 2 e− 2 tr(Σ (β−Un ) Vn (β−Un ))
∝ f (Σ|Y )f (β|Σ, Y )
(4.6)
T
−1
−1
dengan V n = (X T X + V −1
0 ) , U n = V n (X Y + V 0 U 0 ), fn = f0 + n, dan
T
−1
−1
Gn = G0 + (Y T Y + U T0 V −1
0 U 0 − U n V n U n ) . Berdasarkan fungsi distribusi
posterior (4.6), nampak bahwa distribusi posterior marginal Σ|Y adalah invers
Wishart yang dinotasikan sebagai Σ|Y ∼ IWm (fn , Gn ) dan distribusi posterior
marginal β|Σ, Y adalah normal mutivariat dengan parameter mean U n dan variansi
V n yang dinotasikan sebagai β|Σ, Y ∼ Nm (U n , V n ).
4.4. Estimasi Parameter. Estimasi parameter model regresi multivariat ditentukan melalui ekspektasi variabel dari distribusi posterior marginal. Ekspektasi untuk
masing- masing parameter model regresi multivariat adalah
Σ̂ = E [Σ|Y ]
∫ ∞
∫
=
...
−∞
∞
Σ|Σ|−
(fn +m+1)
2
e(− 2 trΣ
1
−1
G−1
n )
dΣ11 . . . dΣm1
−∞
(4.7)
dΣ1m . . . dΣmm .
β̂ = E [β|Σ, Y ]
∫ ∞
∫ ∞
1
−1
k
m
T T
=
...
β|Vn |− 2 |Σ|− 2 e− 2 tr(Σ (β−Un ) Vn (β−Un )) dβ 01 . . . dβ r1
−∞
−∞
dβ 0m . . . dβ rm .
4
(4.8)
2017
Estimasi Parameter Model Regresi . . .
D.A. Prasdika, D.R.S.Saputro, P. Widyaningsih
Nilai integral fungsi pada persamaan (4.7) dan (4.8) secara analitik sulit ditentukan. Fungsi tersebut merupakan fungsi distribusi populasi. Oleh karena itu
fungsi distribusi tersebut didekati dengan sampel yang diperoleh dari hasil pembangkitan. Sampel tersebut dibangkitkan menggunakan metode MCMC algoritme
Gibbs sampling yang mendekati distribusi posterior.
Menurut Casella and George [7], Gibbs sampling merupakan teknik pembangkitan variabel random yang menggunakan sampel sebelumnya untuk membangkitkan sampel berikutnya secara random sehingga didapatkan suatu rantai Markov.
Berikut adalah algoritme Gibbs sampling.
(1) Menginisialisasi nilai β (0) dan Σ(0) .
(0)
(0)
(2) Membangkitkan Y jm ∼ Nm (Xβ (0) , Σ(0) ) sehingga diperoleh Y jm .
(0)
(3) Membangkitkan Σ(1) |Y jm ∼ IWm (f0 , G0 ) dengan f0 = n − 1 yaitu jumlah
∑
observasi dikurangi 1 dan matriks G0 = nj=1 (Y j − Ȳ j )T (Y j − Ȳ j ) pada
langkah ini diperoleh Σ(1) .
(4) Membangkitkan β (1) |Σ(1) , Y (0) ∼ Nm (U 0 , V 0 ) dengan U 0 =
dan V 0 = Σ(1) pada langkah ini diperoleh β (1) .
1
n
∑n
(0)
j=1
Yj
(5) Mengulangi kembali langkah (2) sampai dengan (4) sebanyak M pengulangan hingga diperoleh sampel bangkitan ΣM ∼ IW (fn , Gn ) dan β M ∼
Nm (U n , V n ).
Hasil algoritme Gibbs sampling adalah rantai markov yang terdiri atas barisan matriks Σ(1) , β (1) , Σ(2) , β (2) , . . . , Σ(M ) , β (M ) . Selanjutnya menurut Johnson and Albert
[11], estimasi parameter ditentukan dari rata-rata sampel hasil pembangkitan yaitu
∑M
∑M
(k)
(k)
β̂ = M1
dan Σ̂ = M1
k=1 β
k=1 Σ .
4.5. Penerapan. Pada penelitian ini, estimasi parameter model regresi multivari-
at Bayesian diterapkan pada data kurs tengah Great Britain Poundsterling (GBP)
dan United States Dollar (USD) tahun 2010-2016. Data tersebut merupakan data
kuartalan yang diperoleh dari Bank Indonesia [3]. Variabel dependen dalam penelitian ini terdiri atas kurs tengah GBP sebagai Y1 dan kurs tengah USD sebagai Y2 .
Sedangkan variabel independen dalam penelitian ini terdiri atas produk domestik
bruto (PDB) sebagai X1 dan laju inflasi sebagai X2 .
Sebelum variabel dependen dan independen digunakan untuk estimasi parameter model regresi multivariat, dilakukan pengujian asumsi regresi multivariat yaitu
uji kelinieran antara variabel dependen dan independen, uji Bartlett Sphericity dan
Mahalonobis distance. Berikut adalah uji asumsi regresi multivariat.
(1) Uji keliniearan antara variabel dependen dan independen.
Berdasarkan sistem persamaan (2.1), model regresi multivariat merupakan
persamaan linier. Oleh karena itu hubungan variabel dependen dan variabel
independen adalah linier. Plot scatter digunakan untuk melihat sebaran pola
5
2017
Estimasi Parameter Model Regresi . . .
D.A. Prasdika, D.R.S.Saputro, P. Widyaningsih
data dari variabel dependen dan independen. Berdasarkan plot scatter pola
hubungan Y1 dengan masing-masing X1 dan X2 memiliki kecenderungan menyebar di sekitar garis lurus. Sama halnya dengan pola hubungan Y2 dengan
masing-masing X1 dan X2 sehingga hubungan antar variabel dependen dan
variabel independen adalah linier.
(2) Uji Bartlett Sphericity.
Uji Bartlett Sphericity digunakan untuk mengetahui hubungan antar variabel
dependen saling bebas. Hipotesis yang digunakan adalah H0 : antar variabel
dependen saling bebas dan H1 : antar variabel dependen tidak saling bebas.
Pada pengujian ini nilai Bartlett Sphericity dibandingkan dengan χ20.05,1 yaitu
sebesar 3.84. Jika nilai nilai Bartlett Sphericity ≥ χ20.05,1 , maka H0 ditolak.
Pada data ini diperoleh nilai Bartlett Sphericity sebesar 43.306 sehingga
dapat disimpulkan bahwa hubungan antar variabel dependen adalah tidak
saling bebas.
(3) Uji Mahalonobis Distance.
Uji Mahalonobis distance digunakan untuk mengetahui distribusi variabel
dependen. Hipotesis yang digunakan adalah H0 : data berdistribusi normal
multivariat dan H1 : data tidak berdistribusi normal multivariat. Pada pengujian ini nilai d2i dibandingkan dengan χ22,0.5 yaitu sebesar 1.386. Jika
diperoleh kondisi dimana nilai d2i ≤ χ22,0.5 kurang setengah jumlah sampel,
maka H0 ditolak. Pada data ini diperoleh kondisi d2i ≤ χ22,0.5 yaitu 9 dari 28
observasi atau sebesar 67.858% dari jumlah sampel sehingga dapat disimpulkan bahwa data berdistribusi normal multivariat.
Dengan demikian variabel dependen dan independen memenuhi ketiga asumsi regresi multivariat sehingga data variabel kurs tengah GDP dan USD tahun 2010 sampai
dengan 2016 dapat dimodelkan menggunakan model regresi multivariat.
Setelah asumsi regresi multivariat terpenuhi selanjutnya ditentukan nilai estimasi parameternya menggunakan algoritme Gibbs sampling. Langkah pertama,
data variabel dependen dan independen digunakan untuk menentukan nilai awal
parameter model
regresi multivariat
dengan metode kuadrat terkecil dan diperoleh
(
)
11460 7452
6928577
4965519
(0)
. Kemudian
nilai β (0) =
−393 −342.4 dan Σ =
4965519 3656303
1391.2 993.97
Σ(1) |Y dibangkitkan dari distribusi invers Wishart dengan parameternya (f0 , G0 )
dan β (1) |Σ, Y dibangkitkan dari distribusi normal multivariat dengan parameternya
(U 0 , V 0 ). Iterasi dilakukan hingga diperoleh barisan sampel Σ berdistribusi invers
Wishart dan β|Σ berdistribusi normal multivariat. Hasil estimasi parameter pada
penelitian ini merupakan hasil dari pembangkitan rantai MCMC sebanyak M yaitu 45000 iterasi. Selanjutnya, nilai estimasi ditentukan dari rata-rata sampel hasil
6
2017
Estimasi Parameter Model Regresi . . .
D.A. Prasdika, D.R.S.Saputro, P. Widyaningsih
bangkitan.
Setelah diperoleh nilai estimasi parameter model regresi, selanjutnya dilakukan pengujian parameter untuk mengetahui pengaruh variabel independen terhadap
variabel dependen. Nilai estimasi parameter model tersebut diuji menggunakan interval kepercayaan pada tingkat kepercayaan 95% yang ditandai dengan persentil
2.5% dan 97.5%. Parameter dikatakan signifikan jika selang interval pada tingkat
kepercayaan 95% parameter tidak memuat nilai nol. Parameter yang signifikan
menunjukkan variabel independen berpengaruh terhadap variabel dependen. Nilai
estimasi dan interval kepercayaan dari parameter model regresi multivariat ditunjukkan pada Tabel 1.
Tabel 1. Nilai estimasi parameter dan interval kepercayaan β dan Σ
Parameter Estimasi
β̂01
β̂02
β̂11
β̂12
β̂21
β̂22
Σ̂11
Σ̂12
Σ̂21
Σ̂22
11459.96
7451.98
−392.96
−342.36
1391.25
993.97
292765.8
168374.8
168374.8
142686.6
Interval Kepercayaan
Kesimpulan
Persentil 2.5 Persentil 97.5
11457.98
11461.94
signifikan
7450.04
7453.91
signifikan
−394.90
−391.07
signifikan
−342.38
−344.28
signifikan
1389.33
1393.18
signifikan
992.04
995.92
signifikan
200082.7
428742.6
signifikan
109552.1
254252.2
signifikan
109552.1
254252.2
signifikan
98046.92
206419.1
signifikan
Berdasarkan Tabel 1 kolom
kedua diperoleh nilai
estimasi parameter model regresi
(
)
11459.96 7451.98
292765.8
168374.8
.
multivariat yaitu β̂ =
−392.96 −342.36 dan Σ̂ =
168374.8 142686.6
1391.25 993.97
Berdasarkan Tabel 1 kolom ketiga dan keempat nampak bahwa semua parameter
tidak memuat nilai nol sehingga dapat dikatakan bahwa semua parameter signifikan
yang artinya bahwa laju inflasi dan PDB memengaruhi kurs tengah GBP dan USD.
Model regresi multivariat yang diterapkan pada data kurs tengah GBP dan USD
tahun 2010- 2016 adalah
Yˆ1 = 11459.96 − 392.96X1 + 1391.25X2
Yˆ2 = 7451.98 − 342.36X1 + 993.97X2 .
(4.9)
(4.10)
Persamaan (4.9) menjelaskan bahwa setiap penambahan 1% PDB akan menurunkan kurs tengah GBP sebesar 392.96 rupiah, setiap pertambahan 1% laju inflasi
akan menurunkan kurs tengah GBP sebesar 1391.25 rupiah, dan apabila tidak ada
penambahan dan pengurangan PDB dan laju inflasi maka nilai kurs tengah GBP
sebesar 11459.96 rupiah. Hal yang sama diterapkan pada persamaan (4.10).
7
2017
Estimasi Parameter Model Regresi . . .
D.A. Prasdika, D.R.S.Saputro, P. Widyaningsih
5. Kesimpulan
Berdasarkan hasil dan pembahasan disimpulkan bahwa estimasi parameter
model regresi multivariat Bayesian dengan distribusi prior informatif ditentukan
melalui ekspektasi variabel random dari distribusi posterior marginal. Ekspektasi variabel random tersebut sulit ditentukan sehingga dilakukan pembangkitan
sampel yang mendekati distribusi posterior dengan metode MCMC algoritme Gibbs sampling. Hasil algoritme tersebut adalah barisan sampel terdiri atas matriks
Σ(1) , β (1) , Σ(2) , β (2) , . . . , Σ(M ) , β (M ) yang mendekati distribusi posterior. Estimasi
∑M
(k)
masing-masing parameter model regresi multivariat adalah β̂ = M1
dan
k=1 β
∑
M
(k)
Σ̂ = M1
k=1 Σ .
DAFTAR PUSTAKA
[1] Arashi, M., A. Iranmaneshb, M. Norouziradb, and H.S. Jenatabadic, Bayesian Analysis in
Multivariate Regression Models with Conjugate Priors, Journal of Theoretical and Applied
Statistics, 48 (2014), no. 6, pp 1324-1334.
[2] Bain, L. J. and M. Engelhardt, Introduction to Probability and Mathematical Statistics, 2nd
ed., Buxbury Press, California, 1992.
[3] Bank Indonesia, [Bank Indonesia], Statistik Ekonomi dan Keuangan Indonesia, Jakarta,
2017.
[4] Bolstad, W.M., Introduction to Bayesian Statistics, 2nd ed., A John Wiley and Sons, America, 2007.
[5] Box, G. E. P and G.C. Tiao, Bayesian Inference in Statistics, 2nd ed., Wiley, New Jersey,
2007.
[6] Casella G and R.L. Berger, Statistical Inference, Boston, Duxbury Press, 2002.
[7] Casella, G. and E. I. George, Explaining the Gibbs Sampler, The American Statistisian 46
(1992), no. 3, pp 167-174.
[8] Congdon, P., Bayesian Statistical Modeling, John Wiley, Chinchester, 2003.
[9] Evans, S., Bayesian Regression Analysis, A Theses , Department of Mathematics, University of Louisville, Louisville, 2012.
[10] Gelman, A., J.B. Carlin, D.B. Dunson, A. Vehtari, and D.B.Rubin, Bayesian Data Analysis,
3th ed., Chapman and Hall, New York, 2004.
[11] Johnson, V. E. and J. H. Albert, Ordinal Data Modeling, Springer-Verlag Inc.,New York,
1998.
[12] Johnson, R.A. and D. Wichern, Applied Multivariate Statistical Analysis, Prentice Hall,
New Jersey, 2007.
[13] Prasdika, D.A., D.R.S. Saputro, dan T.J. Parmaningsih, Estimasi Parameter Model Regresi
Linier Sederhana Bayesian dengan Distribusi Prior Informatif, Prosiding Seminar Nasional
Matematika dan Pendidikan Matematika 2016, Universitas Sebelas Maret, 2016.
[14] Prasdika, D. A., D.R.S. Saputro, P. Widyaningsih, and K.R. Demu, Parameter Estimation of Multivariate Regression Model using Bayesian with Normal Multivariate and Inverse Distribution, First International Conference on Science Mathematics Environment and
Education, Universitas Sebelas Maret, 2017.
[15] Walpole,R.E., R.H. Myers, S.L. Myers, and K. Ye, Probability and Statistics for Engineers
and Scientists, 8th ed., Prentice Hall, New Jersey, USA, 2007.
8
2017