Artikel Firda Amalia (M0113018)
ESTIMASI PARAMETER
MODEL REGRESI MULTIVARIAT BAYESIAN
DENGAN DISTRIBUSI PRIOR NONINFORMATIF JEFFREYS
Firda Amalia, Dewi Retno Sari Saputro, Purnami Widyaningsih
Program Studi Matematika FMIPA
Abstrak. Metode Bayesian merupakan metode yang dapat digunakan untuk mengestimasi parameter model regresi multivariat. Dalam metode Bayesian terdapat dua distribusi yaitu distribusi prior dan posterior. Distribusi prior Jeffreys merupakan jenis distribusi prior noninformatif, yaitu distribusi prior yang digunakan ketika tidak diketahui
informasi parameter. Penelitian ini bertujuan untuk mengestimasi parameter model regresi multivariat menggunakan metode Bayesian dengan distribusi prior noninformatif
Jeffreys. Distribusi prior noninformatif Jeffreys dikalikan dengan informasi data sampel
menggunakan teorema Bayes yang hasilnya proporsional dengan distribusi posterior yang
digunakan untuk mengestimasi parameter. Berdasarkan hasil dan pembahasan, estimasi
parameter merupakan nilai ekspektasi dari distribusi posterior marginalnya. Namun
dalam perhitungan estimasi parameter melibatkan integral fungsi yang sulit ditentukan nilai integralnya sehingga digunakan pengambilan sampel dengan algoritme Markov
chain Monte Carlo (MCMC) Gibbs sampling sebagai pendekatan dalam mengestimasi
parameternya.
Kata kunci: model regresi multivariat, metode Bayesian, prior noninformatif Jeffreys,
Gibbs sampling
1. PENDAHULUAN
Model regresi adalah model yang digunakan untuk mendapatkan suatu bentuk hubungan antara variabel respon dengan variabel prediktor yang dipengaruuhi
oleh parameter yang tidak diketahui dalam model. Model regresi dengan satu variabel respon disebut model regresi univariat, sedangkan model regresi dengan dua
atau lebih variabel respon yang saling berkorelasi disebut model regresi multivariat
(Mendes. [12]). Pada model regresi terdapat parameter yang merupakan karakteristik populasi. Untuk mendapatkan nilai parameter dilakukan estimasi parameter.
Menurut Bolstad [6], jika dalam mengestimasi parameter hanya ada informasi sampel, maka digunakan metode klasik. Namun, jika informasi distribusi
awal sampel dijadikan faktor pertimbangan dalam estimasi parameter, maka digunakan metode Bayesian. Dalam metode Bayesian informasi sampel yang digunakan adalah fungsi likelihood dan informasi distribusi awal sampel sebagai distribusi prior. Fungsi likelihood adalah fungsi probabilitas bersama dari sampel random. Metode Bayesian didasarkan pada teorema Bayes. Menurut Harris et al.
[9] perhitungan pada metode Bayesian adalah mengalikan fungsi likelihood dengan
distribusi prior yang hasilnya proporsional dengan distribusi posterior. Distribusi
posterior dipengaruhi oleh pemilihan distribusi prior.
Pemilihan distribusi prior secara umum berdasarkan diketahui atau tidaknya
informasi parameter (Iswari dkk. [10]). Jika informasi parameter diketahui, maka
1
Estimasi Parameter Model . . .
F. Amalia, D.R.S.Saputro, P. Widyaningsih
digunakan distribusi prior informatif. Sebaliknya, jika informasi parameter tidak diketahui, maka digunakan distribusi prior noninformatif. Menurut Yang and Berger
[16], terdapat empat jenis distribusi prior noninformatif yaitu uniform, Jeffreys,
reference, dan informasi data maksimal. Distribusi prior noninformatif Jeffreys merupakan pengembangan distribusi prior noninformatif uniform.
Distribusi prior noninformatif uniform digunakan oleh Sinay and Hsu [13]
untuk mengestimasi parameter model regresi multivariat Bayesian. Berbeda dengan Sinay and Hsu [13] pada penelitian ini digunakan distribusi prior noninformatif Jeffreys yang dapat mengatasi masalah invariant yang tidak dapat diatasi
menggunakan distribusi prior noninformatif uniform. Distribusi prior noninformatif
Jeffreys merupakan prior noninformatif yang biasa digunakan pada model regresi
multivariat Bayesian (Sun and Berger [14]). Penelitian tentang distribusi prior
noninformatif Jeffreys sebelumnya dilakukan oleh Amalia dkk. [1] yang menggunakan distribusi prior noninformatif Jeffreys untuk menentukan estimasi parameter
model regresi linier sederhana. Pada tahun 2017 Amalia et al. [2] mengembangkan penelitian Amalia dkk. [1] dengan menggunakan distribusi prior noninformatif
Jeffreys untuk menentukan estimasi parameter model regresi multivariat, namun
tidak dilakukan penerapannya. Dalam penelitian ini dilakukan estimasi parameter
model regresi multivariat menggunakan metode Bayesian dengan distribusi prior
noninformatif Jeffreys serta penerapannya.
2. MODEL REGRESI MULTIVARIAT
Menurut Johnson and Wichern [11], model regresi multivariat adalah model
regresi yang memiliki m variabel respon Y 1 , Y 2 , ..., Y m dan r variabel prediktor
X 1 , X 2 , ..., X r dengan observasi sebanyak n. Model regresi multivariat adalah
Y 1 = β01 + β11 X 1 + β21 X 2 + ... + βr1 X r + ε1
Y 2 = β02 + β12 X 1 + β22 X 2 + ... + βr2 X r + ε2
..
.
(2.1)
Y m = β0m + β1m X 1 + β2m X 2 + ... + βrm X r + εm .
Model regresi (2.1) dikonstruksikan dalam bentuk matriks sebagai
Y j×m = X j×(r+1) β (r+1)×m + εj×m .
(2.2)
Berdasarkan model (2.2), ε adalah sisaan yang memiliki asumsi E[ε] = 0,
V ar[ε] = Σ , dan Σ adalah matriks variansi berukuran m × m. Berdasarkan
persamaan (2.2) diperoleh X j = (1, Xj1 , ..., Xjr ) sebagai variabel prediktor pada
observasi ke-j, diberikan Y j = (Yj1 , Yj2 , ..., Yjm ) sebagai variabel respon pada observasi ke-j, dengan j = 1, 2, ..., n. Y j merupakan variabel random sehingga memiliki
fungsi densitas probabilitas yang diasumsikan berdistribusi normal multivariat Y j ∼
2
2017
Estimasi Parameter Model . . .
F. Amalia, D.R.S.Saputro, P. Widyaningsih
Nm (X j β, Σ) dengan fungsi densitas probabilitasnya adalah
f (Y j |β, Σ) = (2π)
−m
2
|Σ|
−1
2
1
exp(− (Y j − X j β)′ Σ−1 (Y j − X j β)).
2
(2.3)
3. METODE BAYESIAN
Inti perhitungan metode Bayesian adalah menentukan fungsi likelihood dan
distribusi prior yang kemudian dikalikan dan hasilnya proporsional dengan distribusi
posterior yang digunakan untuk mengestimasi parameter. Fungsi distribusi prior
dinotasikan sebagai f (θ) dengan θ adalah parameter. Sedangkan fungsi likelihood
dinotasikan sebagai f (Y |θ) yaitu fungsi probabilitas bersama dari sampel random Y
apabila θ diketahui. Menurut Gelman et al. [8] fungsi distribusi posterior merupakan fungsi probabilitas bersyarat θ dengan Y diketahui. Fungsi distribusi posterior
dinyatakan sebagai
f (θ|Y ) =
f (θ)f (Y |θ)
f (θ, Y )
=
∝ f (θ)f (Y |θ).
f (Y )
f (Y )
(3.1)
4. HASIL DAN PEMBAHASAN
Pada pembahasan ini diuraikan tentang fungsi likelihood untuk model regresi
multivariat, distribusi prior noninformatif Jeffreys, distribusi posterior, dan estimasi parameter. Setelah dilakukan penjabaran secara teoritis, dilakukan penerapan
estimasi parameter model regresi multivariat Bayesian dengan distribusi prior noninformatif Jeffreys pada data posisi simpanan masyarakat di Provinsi Papua dan
Papua Barat.
4.1. Fungsi Likelihood . Menurut Bain and Engelhardt [4], fungsi likelihood merupakan fungsi kepadatan probabilitas bersama dari j variabel random Yj1 , Yj2 , ..., Yjm
dengan j = 1, 2, ..., n dan dinotasikan sebagai
f (Y |θ) =
n
∏
f (Yj |θ) = f (Y1 |θ)f (Y2 |θ)....f (Yn |θ).
j=1
Berdasarkan fungsi densitas probabilitas (2.3) dikonstruksi fungsi kepadatan probabilitas bersama (fungsi likelihood ) untuk n observasi dengan parameter β dan Σ.
Fungsi likelihood untuk model regresi multivariat adalah
n
∏
−1
−m
1
(2π) 2 |Σ| 2 exp(− (Y j − X j β)′ Σ−1 (Y j − X j β))
f (Y |β, Σ) =
2
j=1
n(Ȳ − X j β)′ (Ȳ − X j β))))
))
( (
−n
−nm
1 −1
n
−1
′
= ((2π) 2 |Σ| 2 exp tr − (Ȳ − X j β) Σ (Ȳ − X j β) − Σ S
2
2
∑
∑
dengan Ȳ = n1 nj=1 Y j dan S = nj=1 (Y j − Ȳ )′ (Y j − Ȳ ).
3
2017
Estimasi Parameter Model . . .
F. Amalia, D.R.S.Saputro, P. Widyaningsih
4.2. Distribusi Prior Noninformatif.
Menurut Harris et al. [9] pengetahuan
tentang distribusi prior dapat diperoleh dari pendapat para ahli atau menggunakan kembali distribusi posterior penelitian sebelumnya. Tetapi jika pengetahuan
tentang distribusi prior tidak pasti, hilang, atau diabaikan, maka digunakan distribusi prior noninformatif. Distribusi prior Jeffreys merupakan salah satu jenis distribusi prior noninformatif dan merupakan akar kuadrat informasi Fisher
√
yang ditulis sebagai f (θ) = I(θ), dengan I(θ) adalah informasi Fisher (Yang and
Berger [16]).[ Berdasarkan
] Bain and Engelhardt [4] informasi Fisher ditulis sebagai
∂ 2 logf (Y |θ)
.
I(θ) = −Eθ
∂θ 2
Terdapat empat langkah dalam menentukan fungsi distribusi prior Jeffryes.
Langkah pertama adalah menentukan fungsi ln likelihood, yaitu
−nm
n
n
1
lnf (Y |β, Σ) = −
ln(2π) − ln|Σ| − (Ȳ − X j β)′ Σ−1 (Ȳ − X j β) − Σ−1 S.
2
2
2
2
Langkah kedua adalah menentukan fungsi distribusi prior noninformatif Jeffreys
untuk β, yaitu
f (β) =
√
[
] √
[
]
1
∂2
−1
−E
−E
−Σ
= Σ− 2
logf
(Y
|β,
Σ)
=
2
∂β
Diberikan model regresi multivariat dengan m dimensi sehingga fungsi distribusi
prior Jeffreys untuk β adalah
1
1
f (β) = f (β1 , ..., βm ) = f (β1 ) × ... × f (βm ) = Σ− 2 × ... × Σ− 2 = Σ− 2 .
m
Langkah ketiga adalah menentukan fungsi distribusi prior noninformatif Jeffreys
untuk Σ, yaitu
√
[
f (Σ) =
] √
[
]
∂2
−E
−E −(Ȳ − X j β)′ Σ−3 (Ȳ − X j β) = Σ−1 .
2 logf (Y |β, Σ) =
∂Σ
Langkah keempat menentukan fungsi distribusi prior noninformatif Jeffreys untuk
f (θ) dengan θ = (β, Σ) diasumsikan β dan Σ independen, untuk model regresi
multivariat m dimensi, fungsi distribusi prior noninformatif Jeffreys untuk model
regresi multivariat adalah f (θ) = f (β)f (Σ) = Σ− 2 Σ−1 = Σ−
m
m+2
2
.
4.3. Distribusi Posterior . Setelah diperoleh fungsi likelihood dan distribusi prior
ditentukan distribusi posterior. Persamaan (3.1) diterapkan untuk menentukan distribusi posterior untuk model regresi multivariat dengan parameter θ = (β, Σ).
Fungsi distribusi posterior untuk model regresi multivariat adalah
f (β, Σ|Y ) ∝ f (β, Σ)f (Y |β, Σ)
∝ Σ−
m+2
2
−nm
−n
((2π) 2 |Σ| 2
( (
))
n
1 −1
′ −1
exp tr − (Ȳ − X j β) Σ (Ȳ − X j β) − Σ S
2
2
4
2017
Estimasi Parameter Model . . .
F. Amalia, D.R.S.Saputro, P. Widyaningsih
)))
( 1
( (
( )−1
Σ − 2
Σ
1
(Ȳ − X j β)
f (β, Σ|Y ) ∝ exp tr − (Ȳ − X j β)′
n
2
n
)))
( (
(
1
−1
− n+m
|Σ| 2 exp tr − SΣ
2
(4.1)
Berdasarkan karakteristik (4.1) fungsi distribusi posterior marginal untuk β dinyata − 1
( )−1
kan sebagai f (β|Y ) = Σ 2 exp(tr(− 1 (Ȳ − X j β)′ Σ
(Ȳ − X j β))) dan fungsi
n
2
n
n+m
distribusi posterior marginal untuk Σ dinyatakan sebagai f (Σ|Y ) = |Σ|− 2 exp(tr
)
( 1
− 2 SΣ−1 ). Setelah diperoleh fungsi distribusi posterior marginal, ditentukan estimasi parameternya.
4.4. Estimasi Parameter.
Estimasi parameter ditentukan dari nilai ekspektasi
variabel random fungsi distribusi posterior marginal dan berupa estimasi titik untuk
mean β dan variansi Σ (Diana dan Soehardjoepri [7]). Diberikan β adalah matriks
parameter regresi berukuran (r+1)×m sehingga estimasi parameter untuk β adalah
β̂ = E[β|Y ] = E[β01 , β11 , ..., β(r+1)×m ]
))
( (
( )−1
∫ ∞ ∫ ∞ ∫ ∞ − 21
Σ
Σ
1
=
(Ȳ − X j β)
...
β exp tr − (Ȳ − X j β)′
n
2
n
−∞ −∞
−∞
(4.2)
dβ(r+1)×m ...dβ11 dβ01
dan estimasi parameter untuk Σ adalah
Σ̂ = E[Σ|Y ] = E[Σ11 , Σ12 , ..., Σmm ]
))
( (
∫ ∞∫ ∞ ∫ ∞
1
−1
− n+m
2
dΣmm ...dΣ12 dΣ11 .
=
...
exp tr − SΣ
Σ|Σ|
2
−∞ −∞
−∞
(4.3)
Pada persamaan (4.2) dan (4.3) terlihat bahwa untuk mengestimasi parameter β dan
Σ melibatkan integral fungsi yang sulit ditentukan nilai integralnya. Oleh karena
itu diperlukan pendekatan dengan melakukan pembangkitan sampel random yang
sesuai dengan karakteristik distribusi posterior marginal masing-masing parameter
menggunakan algoritme MCMC Gibbs sampling.
Menurut Walsh [15] MCMC digunakan untuk membangkitkan sampel random
dari distribusi posterior. Terdapat dua algoritme MCMC yaitu algoritme MetropilisHasting dan Gibbs sampling. Algoritme Gibbs sampling merupakan kejadian khusus
dari Metropolis-Hastings karena parameter yang diestimasi lebih dari satu (Asriadi
[3]). Pada model regresi multivariat Bayesian terdapat dua parameter yang diestimasi sehingga algoritme yang digunakan adalah algoritme Gibbs sampling.
5
2017
Estimasi Parameter Model . . .
F. Amalia, D.R.S.Saputro, P. Widyaningsih
Pada metode Bayesian, parameter dianggap sebagai variabel random sehingga
memiliki sebaran data dan dapat didekati dengan suatu distribusi tertentu. Berdasarkan karakteristik dari fungsi distribusi posterior marginal f (β|Y ) dapat dilakukan pendekatan terhadap fungsi densitas probabilitas normal multivariat se). Sedangkan fungsi distribusi posterior marhingga diperoleh (β|Y ) ∼ Nm (Ȳ , Σ
n
ginal f (Σ|Y ) dilakukan pendekatan terhadap distribusi invers Wishart sehingga
diperoleh (Σ|Y ) ∼ IW (S −1 , n). Langkah selanjutnya adalah membangkitkan sampel random dari distribusi posterior marginal dengan menggunakan algoritme MCMC
Gibbs sampling. Nilai estimasi parameter merupakan nilai rata-rata sampel random
hasil bangkitan dari distribusi posterior marginal.
Berikut algoritme MCMC Gibbs sampling
(1) mengkonstruksi model regresi multivariat sehingga diperoleh β dan Σ,
(2) melakukan inisialisasi nilai β (0) dan Σ(0) berdasarkan nilai β dan Σ yang
diperoleh dari langkah 1,
(3) menentukan nilai Y (1) ∼ Nm (Xβ (0) , Σ(0) ),
|β (0) ),
(4) membangkitkan β (1) |Y (1) ∼ Nm (Ȳ , Σ
n
(5) membangkitkan Σ(1) |Y (1) ∼ IW (S −1 , n|Σ(0) ), dan
(6) mengulangi langkah 3, 4, dan 5 sebanyak M pengulangan hingga diper|β (M −1) ) dan Σ(M ) |Y (M ) ∼
oleh sampel bangkitan β (M ) |Y (M ) ∼ Nm (Ȳ , Σ
n
IW (S −1 , n|Σ(M −1) ).
Hasil algoritme MCMC Gibbs sampling adalah sampel bangkitan berupa barisan
matriks (β (1) , β (2) , ..., β (M ) ) dan (Σ(1) , Σ(2) , ..., Σ(M ) ). Estimasi parameter untuk
∑M (i)
∑M (i)
β̂ = M1
dan estimasi parameter untuk Σ̂ = M1
i=1 β
i=1 Σ .
4.5. Penerapan.
Pada penelitian ini dilakukan estimasi parameter model re-
gresi multivariat Bayesian pada data posisi simpanan masyarakat dalam rupiah di
Provinsi Papua dan Papua Barat dari Januari 2010 hingga April 2017 yang bersumber dari website Bank Indonesia [5]. Variabel respon pada penelitian ini adalah
posisi simpanan masyarakat dalam rupiah di Provinsi Papua sebagai Y1 dan posisi
simpanan masyarakat dalam rupiah di Provinsi Papua Barat sebagai Y2 . Sedangkan
variabel prediktornya adalah faktor-faktor yang memengaruhi posisi simpanan masyarakat, yaitu kurs rupiah terhadap dolar sebagai X1 , banyaknya uang kartal yang
beredar sebagai X2 , dan suku bunga bank sebagai X3 . Sebelum dilakukan estimasi
parameter, dilakukan uji asumsi model regresi multivariat yaitu kelinieran, korelasi
antar variabel respon, dan uji normal multivariat untuk variabel respon.
Telah dilakukan uji asumsi model regresi multivariat dan diperoleh kesimpulan
bahwa data posisi simpanan masyarakat dalam rupiah di Provinsi Papua dan Papua
Barat dari Januari 2010 hingga April 2017 memenuhi asumsi kelinieran, korelasi
antar variabel respon, dan uji normal multivariat untuk variabel respon. Oleh karena
itu data baik dimodelkan menggunakan model regresi multivariat.
6
2017
Estimasi Parameter Model . . .
4.5.1. Estimasi Parameter.
F. Amalia, D.R.S.Saputro, P. Widyaningsih
Setelah semua asumsi regresi multivariat terpenuhi di-
tentukan estimasi parameter β dan Σ menggunakan algoritme MCMC Gibbs sampling. Diberikan nilai awal atau inisialisasi β (0) dan Σ(0) dengan
(
)
1924.71 1.596244 0.0353771 −2161.565
(0)
β =
−1681.133 1.012348 0.0082238 −1310.033
(
)
2430595
44709.81
dan Σ(0) =
.
44709.81 577496.7
Selanjutnya membangkitkan sampel random dari distribusi posterior marginal un|β (i−1) ) dan Σ(i) |Y (i) ∼ IW (S −1 , n|Σ(i−1) ) dengan i =
tuk β (i) |Y (i) ∼ N2 (Ȳ , Σ
n
1, 2, ..., 40000. Dari sampel hasil bangkitan, ditentukan nilai rata-rata untuk β (i) |Y (i)
dan Σ(i) |Y (i) yang merupakan nilai estimasi parameternya. Nilai estimasi parameternya diberikan pada Tabel 1.
b
Tabel 1. Nilai estimasi parameter dan interval kofidensi untuk βb dan Σ
Parameter
β̂01
β̂11
β̂21
β̂31
β̂02
β̂12
β̂22
β̂32
Σ̂11
Σ̂21
Σ̂22
Estimasi Persentil 2.5 Persentil 97.5 Keterangan
1405.43
1381.328
1429.32
Signifikan
1.328982
1.082272
1.572229
Signifikan
0.0430088
0.0355236
0.0507074
Signifikan
-1788.845
-1806.157
-1771.668
Signifikan
-2399.581
-2433.248
-2366.478
Signifikan
0.5335725
0.3818261
0.6789981
Signifikan
0.0201185
0.0156094
0.0247714
Signifikan
-399.6135
-441.4142
-357.0286
Signifikan
1820164
1341990
2474915
Signifikan
452920.7
223688.1
736121.1
Signifikan
661584.4
485329.2
893097.3
Signifikan
Berdasarkan Tabel 1, nampak bahwa semua estimasi parameter pada model
regresi multivariat signifikan, yang artinya bahwa semua parameter mempunyai pengaruh yang signifikan terhadap variabel respon. Estimasi parameter β dan Σ ditulis
sebagai
) (
(
)
β̂
β̂
β̂
β̂
1405.4
1.328982
0.0430088
−1788.845
01
11
21
31
=
βb =
β̂02 β̂12 β̂22 β̂32
−2399.581 0.5335725 0.0201185 −399.6135
(
) (
)
1820164
452920.7
Σ̂
Σ̂
11
12
b =
=
dan Σ
452920.7 661584.4
Σ̂21 Σ̂22
dengan Σ̂12 = Σ̂21 . Hasil estimasi parameter tersebut dikonstruksikan dalam model
regresi multivariat (2.1) dan ditulis sebagai
Ŷ 1 = 1405.4 + 1.328982X 1 + 0.0430088X 2 − 1788.845X 3
Ŷ 2 = −2399.581 + 0.5335725X 1 + 0.0201185X 2 − 399.6135X 3
7
2017
Estimasi Parameter Model . . .
F. Amalia, D.R.S.Saputro, P. Widyaningsih
Berdasarkan sistem persamaan model regresi multivariat tersebut dapat disimpulkan
bahwa kenaikan nilai kurs dan banyaknya uang kartal akan meningkatkan simpanan
rupiah masyarakat di Papua dan Papua Barat, namun meningkatnya suku bunga
akan menurunkan simpanan rupiah masyarakat di Papua dan Papua Barat.
5. Kesimpulan
Estimasi parameter model regresi multivariat menggunakan metode Bayesian
diperoleh dengan menentukan nilai ekspektasi dari variabel random fungsi distribusi posterior marginal f (β|Y) dan f (Σ|Y). Namun dalam perhitungan estimasi
parameter melibatkan integral fungsi yang sulit ditentukan peyelesaiannya sehingga
digunakan pengambilan sampel dengan algoritme MCMC Gibbs sampling sebagai
pendekatan dalam mengestimasi parameternya. Hasil algoritme MCMC Gibbs sampling diperoleh sampel bangkitan berupa barisan matriks (β (1) , β (2) , ..., β (M ) ) dan
∑M (i)
dan estimasi para(Σ(1) , Σ(2) , ..., Σ(M ) ). Estimasi parameter untuk β̂ = M1
i=1 β
∑
M
(i)
meter untuk Σ̂ = M1
i=1 Σ .
DAFTAR PUSTAKA
[1] Amalia, F., D.R.S. Saputro, dan T.J.Parmaningsih, Estimasi Parameter Model Regresi Linier
Sederhana Bayes dengan Distribusi Prior Noninformatif, Seminar Nasional 2016 Matematika
dan Pendidikan Matematika, 2016.
[2] Amalia, F., D.R.S. Saputro, and P. Widyaningsih, Parameter Estimation of Multivariate
Multiple Regression Model using Bayesian with Noninformative Jeffreys’ Prior, International
Conference on Science, Mathematics, Environment, and Education (ICoSMEE), 2017, (under
review).
[3] Asriadi, A., Simulasi Stokastik menggunakan Algoritma Metropolis Hastings, JMAP (Jurnal
Matematika dan Pembelajaran) Jurusan Matematika FMIPA UNJ 6 (2007), no 2, pp.45-52.
[4] Bain, L. J. and M. Engelhardt, Introduction to Probability and Mathematical Statistics, second
ed., Buxbury Press, Inc., California, 1992.
[5] Bank Indonesia, [Bank Indonesia], Statistik Ekonomi dan Keuangan Indonesia, Jakarta, 2017
[6] Bolstad, W. M., Introduction to Bayesian Statistics, 2 ed., New Jersey: Wiley, 2007.
[7] Diana, E.M. dan Soehardjoepri, Pendekatan Metode Bayesian untuk Kajian Estimasi Parameter Distribusi Log-Normal untuk Non-Informatif Prior, Jurnal Sains dan Seni ITS 5 (2016),
no 2, pp.14-16.
[8] Gelman,A., J.B.Carlin, H.S.Stern, D.B.Dunson, A.Vehtari, and D.B.Rubin, Bayesian Data
Analysis, 2 ed., New York: Chapman and Hall, 2004.
[9] Harris, P., M. Cox, C. Matthews, I. Smith, and L. Wrigh, A Guide to Bayesian Inference for
Regression Problems, European Metrologu Research Programme (EMRP), (2015), pp. 5-13.
[10] Iswari, A.A.I.A.C., I.W.Sumarjaya, dan I.G.A.M.Srinadi, Analisis Regresi Bayes Linear Sederhana dengan Prior Noninformatif, E-Jurnal Matematika 3 (2014), no.2, pp.38-44.
[11] Johnson, R. and D.W.Wichern, Applied Multivariate Statistical Analysis, 6 ed., Pearson Education, Inc., America, 2007.
[12] Mendes., M., Multivariate Multiple Regression Analysis Based on Principal Component Scores
to Study Relationships between Some Pre- and Post-slaughter Traits of Broilers, Jurnal of
Agricultural Sciences, 17 (2011), pp.77-83
[13] Sinay, M.S. and J.S.J. Hsu, Bayesian Inferensi of a Multivariate Regression Model, Jurnal of
Probability and Statistics, 2014 (2014), pp. 1-13.
[14] Sun, D. and J.O.Berger, Objective Priors for the Multivariate Normal Model, ISBA 8th World
Meeting on Bayesian Statistics, 2006.
[15] Walsh, B., Markov Chain Monte Carlo and Gibbs Sampling, Lecture Notes for EEB 581, 2004.
[16] Yang, R. and J.O.Berger, A Catalog of Noninformative Priors, Technical Report, Dake University, ISDS 97-42, 1998.
8
2017
MODEL REGRESI MULTIVARIAT BAYESIAN
DENGAN DISTRIBUSI PRIOR NONINFORMATIF JEFFREYS
Firda Amalia, Dewi Retno Sari Saputro, Purnami Widyaningsih
Program Studi Matematika FMIPA
Abstrak. Metode Bayesian merupakan metode yang dapat digunakan untuk mengestimasi parameter model regresi multivariat. Dalam metode Bayesian terdapat dua distribusi yaitu distribusi prior dan posterior. Distribusi prior Jeffreys merupakan jenis distribusi prior noninformatif, yaitu distribusi prior yang digunakan ketika tidak diketahui
informasi parameter. Penelitian ini bertujuan untuk mengestimasi parameter model regresi multivariat menggunakan metode Bayesian dengan distribusi prior noninformatif
Jeffreys. Distribusi prior noninformatif Jeffreys dikalikan dengan informasi data sampel
menggunakan teorema Bayes yang hasilnya proporsional dengan distribusi posterior yang
digunakan untuk mengestimasi parameter. Berdasarkan hasil dan pembahasan, estimasi
parameter merupakan nilai ekspektasi dari distribusi posterior marginalnya. Namun
dalam perhitungan estimasi parameter melibatkan integral fungsi yang sulit ditentukan nilai integralnya sehingga digunakan pengambilan sampel dengan algoritme Markov
chain Monte Carlo (MCMC) Gibbs sampling sebagai pendekatan dalam mengestimasi
parameternya.
Kata kunci: model regresi multivariat, metode Bayesian, prior noninformatif Jeffreys,
Gibbs sampling
1. PENDAHULUAN
Model regresi adalah model yang digunakan untuk mendapatkan suatu bentuk hubungan antara variabel respon dengan variabel prediktor yang dipengaruuhi
oleh parameter yang tidak diketahui dalam model. Model regresi dengan satu variabel respon disebut model regresi univariat, sedangkan model regresi dengan dua
atau lebih variabel respon yang saling berkorelasi disebut model regresi multivariat
(Mendes. [12]). Pada model regresi terdapat parameter yang merupakan karakteristik populasi. Untuk mendapatkan nilai parameter dilakukan estimasi parameter.
Menurut Bolstad [6], jika dalam mengestimasi parameter hanya ada informasi sampel, maka digunakan metode klasik. Namun, jika informasi distribusi
awal sampel dijadikan faktor pertimbangan dalam estimasi parameter, maka digunakan metode Bayesian. Dalam metode Bayesian informasi sampel yang digunakan adalah fungsi likelihood dan informasi distribusi awal sampel sebagai distribusi prior. Fungsi likelihood adalah fungsi probabilitas bersama dari sampel random. Metode Bayesian didasarkan pada teorema Bayes. Menurut Harris et al.
[9] perhitungan pada metode Bayesian adalah mengalikan fungsi likelihood dengan
distribusi prior yang hasilnya proporsional dengan distribusi posterior. Distribusi
posterior dipengaruhi oleh pemilihan distribusi prior.
Pemilihan distribusi prior secara umum berdasarkan diketahui atau tidaknya
informasi parameter (Iswari dkk. [10]). Jika informasi parameter diketahui, maka
1
Estimasi Parameter Model . . .
F. Amalia, D.R.S.Saputro, P. Widyaningsih
digunakan distribusi prior informatif. Sebaliknya, jika informasi parameter tidak diketahui, maka digunakan distribusi prior noninformatif. Menurut Yang and Berger
[16], terdapat empat jenis distribusi prior noninformatif yaitu uniform, Jeffreys,
reference, dan informasi data maksimal. Distribusi prior noninformatif Jeffreys merupakan pengembangan distribusi prior noninformatif uniform.
Distribusi prior noninformatif uniform digunakan oleh Sinay and Hsu [13]
untuk mengestimasi parameter model regresi multivariat Bayesian. Berbeda dengan Sinay and Hsu [13] pada penelitian ini digunakan distribusi prior noninformatif Jeffreys yang dapat mengatasi masalah invariant yang tidak dapat diatasi
menggunakan distribusi prior noninformatif uniform. Distribusi prior noninformatif
Jeffreys merupakan prior noninformatif yang biasa digunakan pada model regresi
multivariat Bayesian (Sun and Berger [14]). Penelitian tentang distribusi prior
noninformatif Jeffreys sebelumnya dilakukan oleh Amalia dkk. [1] yang menggunakan distribusi prior noninformatif Jeffreys untuk menentukan estimasi parameter
model regresi linier sederhana. Pada tahun 2017 Amalia et al. [2] mengembangkan penelitian Amalia dkk. [1] dengan menggunakan distribusi prior noninformatif
Jeffreys untuk menentukan estimasi parameter model regresi multivariat, namun
tidak dilakukan penerapannya. Dalam penelitian ini dilakukan estimasi parameter
model regresi multivariat menggunakan metode Bayesian dengan distribusi prior
noninformatif Jeffreys serta penerapannya.
2. MODEL REGRESI MULTIVARIAT
Menurut Johnson and Wichern [11], model regresi multivariat adalah model
regresi yang memiliki m variabel respon Y 1 , Y 2 , ..., Y m dan r variabel prediktor
X 1 , X 2 , ..., X r dengan observasi sebanyak n. Model regresi multivariat adalah
Y 1 = β01 + β11 X 1 + β21 X 2 + ... + βr1 X r + ε1
Y 2 = β02 + β12 X 1 + β22 X 2 + ... + βr2 X r + ε2
..
.
(2.1)
Y m = β0m + β1m X 1 + β2m X 2 + ... + βrm X r + εm .
Model regresi (2.1) dikonstruksikan dalam bentuk matriks sebagai
Y j×m = X j×(r+1) β (r+1)×m + εj×m .
(2.2)
Berdasarkan model (2.2), ε adalah sisaan yang memiliki asumsi E[ε] = 0,
V ar[ε] = Σ , dan Σ adalah matriks variansi berukuran m × m. Berdasarkan
persamaan (2.2) diperoleh X j = (1, Xj1 , ..., Xjr ) sebagai variabel prediktor pada
observasi ke-j, diberikan Y j = (Yj1 , Yj2 , ..., Yjm ) sebagai variabel respon pada observasi ke-j, dengan j = 1, 2, ..., n. Y j merupakan variabel random sehingga memiliki
fungsi densitas probabilitas yang diasumsikan berdistribusi normal multivariat Y j ∼
2
2017
Estimasi Parameter Model . . .
F. Amalia, D.R.S.Saputro, P. Widyaningsih
Nm (X j β, Σ) dengan fungsi densitas probabilitasnya adalah
f (Y j |β, Σ) = (2π)
−m
2
|Σ|
−1
2
1
exp(− (Y j − X j β)′ Σ−1 (Y j − X j β)).
2
(2.3)
3. METODE BAYESIAN
Inti perhitungan metode Bayesian adalah menentukan fungsi likelihood dan
distribusi prior yang kemudian dikalikan dan hasilnya proporsional dengan distribusi
posterior yang digunakan untuk mengestimasi parameter. Fungsi distribusi prior
dinotasikan sebagai f (θ) dengan θ adalah parameter. Sedangkan fungsi likelihood
dinotasikan sebagai f (Y |θ) yaitu fungsi probabilitas bersama dari sampel random Y
apabila θ diketahui. Menurut Gelman et al. [8] fungsi distribusi posterior merupakan fungsi probabilitas bersyarat θ dengan Y diketahui. Fungsi distribusi posterior
dinyatakan sebagai
f (θ|Y ) =
f (θ)f (Y |θ)
f (θ, Y )
=
∝ f (θ)f (Y |θ).
f (Y )
f (Y )
(3.1)
4. HASIL DAN PEMBAHASAN
Pada pembahasan ini diuraikan tentang fungsi likelihood untuk model regresi
multivariat, distribusi prior noninformatif Jeffreys, distribusi posterior, dan estimasi parameter. Setelah dilakukan penjabaran secara teoritis, dilakukan penerapan
estimasi parameter model regresi multivariat Bayesian dengan distribusi prior noninformatif Jeffreys pada data posisi simpanan masyarakat di Provinsi Papua dan
Papua Barat.
4.1. Fungsi Likelihood . Menurut Bain and Engelhardt [4], fungsi likelihood merupakan fungsi kepadatan probabilitas bersama dari j variabel random Yj1 , Yj2 , ..., Yjm
dengan j = 1, 2, ..., n dan dinotasikan sebagai
f (Y |θ) =
n
∏
f (Yj |θ) = f (Y1 |θ)f (Y2 |θ)....f (Yn |θ).
j=1
Berdasarkan fungsi densitas probabilitas (2.3) dikonstruksi fungsi kepadatan probabilitas bersama (fungsi likelihood ) untuk n observasi dengan parameter β dan Σ.
Fungsi likelihood untuk model regresi multivariat adalah
n
∏
−1
−m
1
(2π) 2 |Σ| 2 exp(− (Y j − X j β)′ Σ−1 (Y j − X j β))
f (Y |β, Σ) =
2
j=1
n(Ȳ − X j β)′ (Ȳ − X j β))))
))
( (
−n
−nm
1 −1
n
−1
′
= ((2π) 2 |Σ| 2 exp tr − (Ȳ − X j β) Σ (Ȳ − X j β) − Σ S
2
2
∑
∑
dengan Ȳ = n1 nj=1 Y j dan S = nj=1 (Y j − Ȳ )′ (Y j − Ȳ ).
3
2017
Estimasi Parameter Model . . .
F. Amalia, D.R.S.Saputro, P. Widyaningsih
4.2. Distribusi Prior Noninformatif.
Menurut Harris et al. [9] pengetahuan
tentang distribusi prior dapat diperoleh dari pendapat para ahli atau menggunakan kembali distribusi posterior penelitian sebelumnya. Tetapi jika pengetahuan
tentang distribusi prior tidak pasti, hilang, atau diabaikan, maka digunakan distribusi prior noninformatif. Distribusi prior Jeffreys merupakan salah satu jenis distribusi prior noninformatif dan merupakan akar kuadrat informasi Fisher
√
yang ditulis sebagai f (θ) = I(θ), dengan I(θ) adalah informasi Fisher (Yang and
Berger [16]).[ Berdasarkan
] Bain and Engelhardt [4] informasi Fisher ditulis sebagai
∂ 2 logf (Y |θ)
.
I(θ) = −Eθ
∂θ 2
Terdapat empat langkah dalam menentukan fungsi distribusi prior Jeffryes.
Langkah pertama adalah menentukan fungsi ln likelihood, yaitu
−nm
n
n
1
lnf (Y |β, Σ) = −
ln(2π) − ln|Σ| − (Ȳ − X j β)′ Σ−1 (Ȳ − X j β) − Σ−1 S.
2
2
2
2
Langkah kedua adalah menentukan fungsi distribusi prior noninformatif Jeffreys
untuk β, yaitu
f (β) =
√
[
] √
[
]
1
∂2
−1
−E
−E
−Σ
= Σ− 2
logf
(Y
|β,
Σ)
=
2
∂β
Diberikan model regresi multivariat dengan m dimensi sehingga fungsi distribusi
prior Jeffreys untuk β adalah
1
1
f (β) = f (β1 , ..., βm ) = f (β1 ) × ... × f (βm ) = Σ− 2 × ... × Σ− 2 = Σ− 2 .
m
Langkah ketiga adalah menentukan fungsi distribusi prior noninformatif Jeffreys
untuk Σ, yaitu
√
[
f (Σ) =
] √
[
]
∂2
−E
−E −(Ȳ − X j β)′ Σ−3 (Ȳ − X j β) = Σ−1 .
2 logf (Y |β, Σ) =
∂Σ
Langkah keempat menentukan fungsi distribusi prior noninformatif Jeffreys untuk
f (θ) dengan θ = (β, Σ) diasumsikan β dan Σ independen, untuk model regresi
multivariat m dimensi, fungsi distribusi prior noninformatif Jeffreys untuk model
regresi multivariat adalah f (θ) = f (β)f (Σ) = Σ− 2 Σ−1 = Σ−
m
m+2
2
.
4.3. Distribusi Posterior . Setelah diperoleh fungsi likelihood dan distribusi prior
ditentukan distribusi posterior. Persamaan (3.1) diterapkan untuk menentukan distribusi posterior untuk model regresi multivariat dengan parameter θ = (β, Σ).
Fungsi distribusi posterior untuk model regresi multivariat adalah
f (β, Σ|Y ) ∝ f (β, Σ)f (Y |β, Σ)
∝ Σ−
m+2
2
−nm
−n
((2π) 2 |Σ| 2
( (
))
n
1 −1
′ −1
exp tr − (Ȳ − X j β) Σ (Ȳ − X j β) − Σ S
2
2
4
2017
Estimasi Parameter Model . . .
F. Amalia, D.R.S.Saputro, P. Widyaningsih
)))
( 1
( (
( )−1
Σ − 2
Σ
1
(Ȳ − X j β)
f (β, Σ|Y ) ∝ exp tr − (Ȳ − X j β)′
n
2
n
)))
( (
(
1
−1
− n+m
|Σ| 2 exp tr − SΣ
2
(4.1)
Berdasarkan karakteristik (4.1) fungsi distribusi posterior marginal untuk β dinyata − 1
( )−1
kan sebagai f (β|Y ) = Σ 2 exp(tr(− 1 (Ȳ − X j β)′ Σ
(Ȳ − X j β))) dan fungsi
n
2
n
n+m
distribusi posterior marginal untuk Σ dinyatakan sebagai f (Σ|Y ) = |Σ|− 2 exp(tr
)
( 1
− 2 SΣ−1 ). Setelah diperoleh fungsi distribusi posterior marginal, ditentukan estimasi parameternya.
4.4. Estimasi Parameter.
Estimasi parameter ditentukan dari nilai ekspektasi
variabel random fungsi distribusi posterior marginal dan berupa estimasi titik untuk
mean β dan variansi Σ (Diana dan Soehardjoepri [7]). Diberikan β adalah matriks
parameter regresi berukuran (r+1)×m sehingga estimasi parameter untuk β adalah
β̂ = E[β|Y ] = E[β01 , β11 , ..., β(r+1)×m ]
))
( (
( )−1
∫ ∞ ∫ ∞ ∫ ∞ − 21
Σ
Σ
1
=
(Ȳ − X j β)
...
β exp tr − (Ȳ − X j β)′
n
2
n
−∞ −∞
−∞
(4.2)
dβ(r+1)×m ...dβ11 dβ01
dan estimasi parameter untuk Σ adalah
Σ̂ = E[Σ|Y ] = E[Σ11 , Σ12 , ..., Σmm ]
))
( (
∫ ∞∫ ∞ ∫ ∞
1
−1
− n+m
2
dΣmm ...dΣ12 dΣ11 .
=
...
exp tr − SΣ
Σ|Σ|
2
−∞ −∞
−∞
(4.3)
Pada persamaan (4.2) dan (4.3) terlihat bahwa untuk mengestimasi parameter β dan
Σ melibatkan integral fungsi yang sulit ditentukan nilai integralnya. Oleh karena
itu diperlukan pendekatan dengan melakukan pembangkitan sampel random yang
sesuai dengan karakteristik distribusi posterior marginal masing-masing parameter
menggunakan algoritme MCMC Gibbs sampling.
Menurut Walsh [15] MCMC digunakan untuk membangkitkan sampel random
dari distribusi posterior. Terdapat dua algoritme MCMC yaitu algoritme MetropilisHasting dan Gibbs sampling. Algoritme Gibbs sampling merupakan kejadian khusus
dari Metropolis-Hastings karena parameter yang diestimasi lebih dari satu (Asriadi
[3]). Pada model regresi multivariat Bayesian terdapat dua parameter yang diestimasi sehingga algoritme yang digunakan adalah algoritme Gibbs sampling.
5
2017
Estimasi Parameter Model . . .
F. Amalia, D.R.S.Saputro, P. Widyaningsih
Pada metode Bayesian, parameter dianggap sebagai variabel random sehingga
memiliki sebaran data dan dapat didekati dengan suatu distribusi tertentu. Berdasarkan karakteristik dari fungsi distribusi posterior marginal f (β|Y ) dapat dilakukan pendekatan terhadap fungsi densitas probabilitas normal multivariat se). Sedangkan fungsi distribusi posterior marhingga diperoleh (β|Y ) ∼ Nm (Ȳ , Σ
n
ginal f (Σ|Y ) dilakukan pendekatan terhadap distribusi invers Wishart sehingga
diperoleh (Σ|Y ) ∼ IW (S −1 , n). Langkah selanjutnya adalah membangkitkan sampel random dari distribusi posterior marginal dengan menggunakan algoritme MCMC
Gibbs sampling. Nilai estimasi parameter merupakan nilai rata-rata sampel random
hasil bangkitan dari distribusi posterior marginal.
Berikut algoritme MCMC Gibbs sampling
(1) mengkonstruksi model regresi multivariat sehingga diperoleh β dan Σ,
(2) melakukan inisialisasi nilai β (0) dan Σ(0) berdasarkan nilai β dan Σ yang
diperoleh dari langkah 1,
(3) menentukan nilai Y (1) ∼ Nm (Xβ (0) , Σ(0) ),
|β (0) ),
(4) membangkitkan β (1) |Y (1) ∼ Nm (Ȳ , Σ
n
(5) membangkitkan Σ(1) |Y (1) ∼ IW (S −1 , n|Σ(0) ), dan
(6) mengulangi langkah 3, 4, dan 5 sebanyak M pengulangan hingga diper|β (M −1) ) dan Σ(M ) |Y (M ) ∼
oleh sampel bangkitan β (M ) |Y (M ) ∼ Nm (Ȳ , Σ
n
IW (S −1 , n|Σ(M −1) ).
Hasil algoritme MCMC Gibbs sampling adalah sampel bangkitan berupa barisan
matriks (β (1) , β (2) , ..., β (M ) ) dan (Σ(1) , Σ(2) , ..., Σ(M ) ). Estimasi parameter untuk
∑M (i)
∑M (i)
β̂ = M1
dan estimasi parameter untuk Σ̂ = M1
i=1 β
i=1 Σ .
4.5. Penerapan.
Pada penelitian ini dilakukan estimasi parameter model re-
gresi multivariat Bayesian pada data posisi simpanan masyarakat dalam rupiah di
Provinsi Papua dan Papua Barat dari Januari 2010 hingga April 2017 yang bersumber dari website Bank Indonesia [5]. Variabel respon pada penelitian ini adalah
posisi simpanan masyarakat dalam rupiah di Provinsi Papua sebagai Y1 dan posisi
simpanan masyarakat dalam rupiah di Provinsi Papua Barat sebagai Y2 . Sedangkan
variabel prediktornya adalah faktor-faktor yang memengaruhi posisi simpanan masyarakat, yaitu kurs rupiah terhadap dolar sebagai X1 , banyaknya uang kartal yang
beredar sebagai X2 , dan suku bunga bank sebagai X3 . Sebelum dilakukan estimasi
parameter, dilakukan uji asumsi model regresi multivariat yaitu kelinieran, korelasi
antar variabel respon, dan uji normal multivariat untuk variabel respon.
Telah dilakukan uji asumsi model regresi multivariat dan diperoleh kesimpulan
bahwa data posisi simpanan masyarakat dalam rupiah di Provinsi Papua dan Papua
Barat dari Januari 2010 hingga April 2017 memenuhi asumsi kelinieran, korelasi
antar variabel respon, dan uji normal multivariat untuk variabel respon. Oleh karena
itu data baik dimodelkan menggunakan model regresi multivariat.
6
2017
Estimasi Parameter Model . . .
4.5.1. Estimasi Parameter.
F. Amalia, D.R.S.Saputro, P. Widyaningsih
Setelah semua asumsi regresi multivariat terpenuhi di-
tentukan estimasi parameter β dan Σ menggunakan algoritme MCMC Gibbs sampling. Diberikan nilai awal atau inisialisasi β (0) dan Σ(0) dengan
(
)
1924.71 1.596244 0.0353771 −2161.565
(0)
β =
−1681.133 1.012348 0.0082238 −1310.033
(
)
2430595
44709.81
dan Σ(0) =
.
44709.81 577496.7
Selanjutnya membangkitkan sampel random dari distribusi posterior marginal un|β (i−1) ) dan Σ(i) |Y (i) ∼ IW (S −1 , n|Σ(i−1) ) dengan i =
tuk β (i) |Y (i) ∼ N2 (Ȳ , Σ
n
1, 2, ..., 40000. Dari sampel hasil bangkitan, ditentukan nilai rata-rata untuk β (i) |Y (i)
dan Σ(i) |Y (i) yang merupakan nilai estimasi parameternya. Nilai estimasi parameternya diberikan pada Tabel 1.
b
Tabel 1. Nilai estimasi parameter dan interval kofidensi untuk βb dan Σ
Parameter
β̂01
β̂11
β̂21
β̂31
β̂02
β̂12
β̂22
β̂32
Σ̂11
Σ̂21
Σ̂22
Estimasi Persentil 2.5 Persentil 97.5 Keterangan
1405.43
1381.328
1429.32
Signifikan
1.328982
1.082272
1.572229
Signifikan
0.0430088
0.0355236
0.0507074
Signifikan
-1788.845
-1806.157
-1771.668
Signifikan
-2399.581
-2433.248
-2366.478
Signifikan
0.5335725
0.3818261
0.6789981
Signifikan
0.0201185
0.0156094
0.0247714
Signifikan
-399.6135
-441.4142
-357.0286
Signifikan
1820164
1341990
2474915
Signifikan
452920.7
223688.1
736121.1
Signifikan
661584.4
485329.2
893097.3
Signifikan
Berdasarkan Tabel 1, nampak bahwa semua estimasi parameter pada model
regresi multivariat signifikan, yang artinya bahwa semua parameter mempunyai pengaruh yang signifikan terhadap variabel respon. Estimasi parameter β dan Σ ditulis
sebagai
) (
(
)
β̂
β̂
β̂
β̂
1405.4
1.328982
0.0430088
−1788.845
01
11
21
31
=
βb =
β̂02 β̂12 β̂22 β̂32
−2399.581 0.5335725 0.0201185 −399.6135
(
) (
)
1820164
452920.7
Σ̂
Σ̂
11
12
b =
=
dan Σ
452920.7 661584.4
Σ̂21 Σ̂22
dengan Σ̂12 = Σ̂21 . Hasil estimasi parameter tersebut dikonstruksikan dalam model
regresi multivariat (2.1) dan ditulis sebagai
Ŷ 1 = 1405.4 + 1.328982X 1 + 0.0430088X 2 − 1788.845X 3
Ŷ 2 = −2399.581 + 0.5335725X 1 + 0.0201185X 2 − 399.6135X 3
7
2017
Estimasi Parameter Model . . .
F. Amalia, D.R.S.Saputro, P. Widyaningsih
Berdasarkan sistem persamaan model regresi multivariat tersebut dapat disimpulkan
bahwa kenaikan nilai kurs dan banyaknya uang kartal akan meningkatkan simpanan
rupiah masyarakat di Papua dan Papua Barat, namun meningkatnya suku bunga
akan menurunkan simpanan rupiah masyarakat di Papua dan Papua Barat.
5. Kesimpulan
Estimasi parameter model regresi multivariat menggunakan metode Bayesian
diperoleh dengan menentukan nilai ekspektasi dari variabel random fungsi distribusi posterior marginal f (β|Y) dan f (Σ|Y). Namun dalam perhitungan estimasi
parameter melibatkan integral fungsi yang sulit ditentukan peyelesaiannya sehingga
digunakan pengambilan sampel dengan algoritme MCMC Gibbs sampling sebagai
pendekatan dalam mengestimasi parameternya. Hasil algoritme MCMC Gibbs sampling diperoleh sampel bangkitan berupa barisan matriks (β (1) , β (2) , ..., β (M ) ) dan
∑M (i)
dan estimasi para(Σ(1) , Σ(2) , ..., Σ(M ) ). Estimasi parameter untuk β̂ = M1
i=1 β
∑
M
(i)
meter untuk Σ̂ = M1
i=1 Σ .
DAFTAR PUSTAKA
[1] Amalia, F., D.R.S. Saputro, dan T.J.Parmaningsih, Estimasi Parameter Model Regresi Linier
Sederhana Bayes dengan Distribusi Prior Noninformatif, Seminar Nasional 2016 Matematika
dan Pendidikan Matematika, 2016.
[2] Amalia, F., D.R.S. Saputro, and P. Widyaningsih, Parameter Estimation of Multivariate
Multiple Regression Model using Bayesian with Noninformative Jeffreys’ Prior, International
Conference on Science, Mathematics, Environment, and Education (ICoSMEE), 2017, (under
review).
[3] Asriadi, A., Simulasi Stokastik menggunakan Algoritma Metropolis Hastings, JMAP (Jurnal
Matematika dan Pembelajaran) Jurusan Matematika FMIPA UNJ 6 (2007), no 2, pp.45-52.
[4] Bain, L. J. and M. Engelhardt, Introduction to Probability and Mathematical Statistics, second
ed., Buxbury Press, Inc., California, 1992.
[5] Bank Indonesia, [Bank Indonesia], Statistik Ekonomi dan Keuangan Indonesia, Jakarta, 2017
[6] Bolstad, W. M., Introduction to Bayesian Statistics, 2 ed., New Jersey: Wiley, 2007.
[7] Diana, E.M. dan Soehardjoepri, Pendekatan Metode Bayesian untuk Kajian Estimasi Parameter Distribusi Log-Normal untuk Non-Informatif Prior, Jurnal Sains dan Seni ITS 5 (2016),
no 2, pp.14-16.
[8] Gelman,A., J.B.Carlin, H.S.Stern, D.B.Dunson, A.Vehtari, and D.B.Rubin, Bayesian Data
Analysis, 2 ed., New York: Chapman and Hall, 2004.
[9] Harris, P., M. Cox, C. Matthews, I. Smith, and L. Wrigh, A Guide to Bayesian Inference for
Regression Problems, European Metrologu Research Programme (EMRP), (2015), pp. 5-13.
[10] Iswari, A.A.I.A.C., I.W.Sumarjaya, dan I.G.A.M.Srinadi, Analisis Regresi Bayes Linear Sederhana dengan Prior Noninformatif, E-Jurnal Matematika 3 (2014), no.2, pp.38-44.
[11] Johnson, R. and D.W.Wichern, Applied Multivariate Statistical Analysis, 6 ed., Pearson Education, Inc., America, 2007.
[12] Mendes., M., Multivariate Multiple Regression Analysis Based on Principal Component Scores
to Study Relationships between Some Pre- and Post-slaughter Traits of Broilers, Jurnal of
Agricultural Sciences, 17 (2011), pp.77-83
[13] Sinay, M.S. and J.S.J. Hsu, Bayesian Inferensi of a Multivariate Regression Model, Jurnal of
Probability and Statistics, 2014 (2014), pp. 1-13.
[14] Sun, D. and J.O.Berger, Objective Priors for the Multivariate Normal Model, ISBA 8th World
Meeting on Bayesian Statistics, 2006.
[15] Walsh, B., Markov Chain Monte Carlo and Gibbs Sampling, Lecture Notes for EEB 581, 2004.
[16] Yang, R. and J.O.Berger, A Catalog of Noninformative Priors, Technical Report, Dake University, ISDS 97-42, 1998.
8
2017