Nanang Pradipta : Metode Regresi Ridge Untuk Mengatasi Model Regresi Linier Berganda Yang Mengandung Multikolinieritas, 2009.
USU Repository © 2009
pada gilirannya menghasilkan nilai estimasi parameter yang tidak stabil. Dalam bentuknya yang sederhana adalah sebagi berikut :
Y X
cI X
X c
T T
1
ˆ
−
+ =
β Dimana c adalah sebuah bilangan yang positif atau
≥ c
, umumnya c terletak antara interval
. 1
c
Umumnya sifat dari penafsiran ridge ini memiliki variansi yang minimum sehingga diperoleh nilai VIF-nya yang merupakan diagonal utama dai matriks :
1 1
− −
+ +
cI X
X X
X cI
X X
T T
T
2.10.2 Gambaran Umum Ridge Trace
Ridge Trace adalah plot dari estimator regresi ridge secara bersama dengan berbagai kemungkinan tetapan bias c, konstanta c mencerminkan jumlah bias dalam estimator
. ˆ c
β Bila c = 0 maka estimator
c
β
ˆ
akan bernilai sama dengan kuadrat terkecil β ,
tetapi cenderung lebih stabil dari pada estimator kuadrat terkecil. Pemilihan tetapan bias c merupakan masalah yang perlu diperhatikan. Tetapan
bias yang diinginkan adalah tetapan bias yang menghasilkan bias relatif kecil dan menghasilkan koefisien yang relatif stabil.
2.11 Uji Regresi Linier
Setelah model yang baik diperoleh kemudian model itu akan diperiksa. Pemeriksaan ini ditempuh melalui hipotesis. Untuk mengujinya diperlukan dua macam jumlah
kuadrat sisa JKS yang dapat dihitung dengan rumus :
2
ˆ y
n y
x JKR
T T
− =
β
y x
y y
JKS
T T
T
β
ˆ −
=
2.19
JKS JKR
JKT +
=
Dengan JKT : jumlah kuadrat total. Dengan JKR derajat kebebasannya sebanyak k dan n-k-1 untuk derajat
kebebasan JKS.
F statistiknya dapat dicari dengan rumus :
Nanang Pradipta : Metode Regresi Ridge Untuk Mengatasi Model Regresi Linier Berganda Yang Mengandung Multikolinieritas, 2009.
USU Repository © 2009
1 −
− =
k n
JKS k
JKR F
hitung
2.20
F statistik inilah yang dipakai untuk menguji kelinieran suatu regresi. Jika
Tab hitung
F F
dengan taraf signifikan yang dipilih maka dapat disimpulkan bahwa regresi linier.
2.12 Uji Koefisien Korelasi Ganda
Koefisien korelasi ganda yang disimbolkan dengan refraksi dihitung dengan rumus : JKT
JKR R
=
2
2.21
Jadi statistik yang digunakan untuk menguji hipotesa nol adalah : 1
1
2 2
− −
− =
k n
R k
R F
2.22
Tolak hipotesa nol bahwa koefisien korelasi berarti jika
Tab hitung
F F
dalam hal ini hipotesa bahwa koefisien korelasi ganda berarti harus diterima.
Nanang Pradipta : Metode Regresi Ridge Untuk Mengatasi Model Regresi Linier Berganda Yang Mengandung Multikolinieritas, 2009.
USU Repository © 2009
BAB 3
PEMBAHASAN
3.1 Regresi Ridge
Regresi Ridge merupakan salah satu metode yang digunakan untuk mengatasi masalah multikolinieritas melalui modifikasi terhadap metode kuadrat terkecil. Modifikasi
tersebut ditempuh dengan cara menambah tetapan bias c yang relatif kecil pada diagonal utama matriks X
T
X, sehingga koefisien estimator Ridge dipenuhi dengan besarnya tetapan bias c.
Estimator regresi ridge diperoleh dengan meminimumkan jumlah kuadrat galat untuk model :
ε β +
= X Y
Dengan syarat memenuhi kendala tunggal ρ
β =
∑
= k
j j
1 2
ˆ
Dari persamaan 2.10
∑
− +
+ −
=
ρ β
β β
ε ε
2 2
ˆ ˆ
ˆ 2
j T
T T
T
cI X
X Y
X Y
Y
dengan menggunakan syarat minimum persamaan diatas didiferensialkan terhadap β
ˆ
dan estimasi regresi Ridge diperoleh sebagai berikut :
ˆ 2
ˆ 2
2 ˆ
= +
− −
=
β β
β δ
ε δε
cI X
X Y
X
T T
T
Nanang Pradipta : Metode Regresi Ridge Untuk Mengatasi Model Regresi Linier Berganda Yang Mengandung Multikolinieritas, 2009.
USU Repository © 2009
Y X
cI X
X
T T
= +
β β
ˆ ˆ
Y X
cI X
X
T T
= +
β
ˆ
Y X
cI X
X c
T T
1
ˆ
−
+ =
β
Sifat dari estimator Ridge adalah : 1.
Bias Y
X cI
X X
c E
T T
1
ˆ
−
+ =
β dengan
β
ˆ X
Y =
βˆ
1
X X
cI X
X
T T
−
+ =
2. Variansi Minimum
[ ]
[ ]
T T
T T
T
X cI
X X
X cI
X X
c Var
∑
+ +
=
−1
ˆ β
1 2
1 −
−
+ +
= cI
X X
IX X
cI X
X
T T
T
σ
1 1
2 −
−
+ +
= cI
X X
X X
cI X
X
T T
T
σ Sehingga nilai VIF
merupakan diagonal utama dari matriks
1 1
− −
+ +
cI X
X X
X cI
X X
T T
T
.
3.2 Ridge Trace
