Nanang Pradipta : Metode Regresi Ridge Untuk Mengatasi Model Regresi Linier Berganda Yang Mengandung Multikolinieritas, 2009.
USU Repository © 2009
[ ]
Y X
X X
E E
T T
1
ˆ
−
= β
β β
β β
= =
= =
=
− −
−
I X
X X
X X
X X
X Y
E X
X X
T T
T T
T T
1 1
1
2. Kovarian
2 1
ˆ σ
β
−
= X
X
T
Cov
−
− =
T
E E
E β
β β
β β
ˆ ˆ
ˆ ˆ
ˆ
[ ]
2 1
1 1
1 1
1 1
1 1
σ ε
ε εε
ε ε
β ε
β β
ε β
− −
− −
− −
− −
−
= =
=
=
− +
− +
=
X X
E X
X X
X X
X X
X X
X X
X E
X X
X X
X X
E X
X X
X X
X E
T T
T T
T T
T T
T T
T T
T T
T T
T T
T
2.6 Matriks Korelasi
Misalkan kita ingin mengestimasi parameter dalam model :
i ik
k i
i i
X X
X Y
ε β
β β
β +
+ +
+ +
=
2 2
1 1
i = 1, 2, ... , n Kita dapat menuliskan kembali model ini dengan sebuah perubahan intercept
β sebagai :
i k
ik k
i i
i
X X
X X
X X
Y
ε β
β β
β
+ −
+ +
− +
− +
=
2 2
2 1
1 1
Atau karena
Y =
β
i k
ik k
i i
i
X X
X X
X X
Y Y
ε β
β β
+ −
+ +
− +
− =
− =
2 2
2 1
1 1
Matriks X
T
X untuk model ini adalah :
Nanang Pradipta : Metode Regresi Ridge Untuk Mengatasi Model Regresi Linier Berganda Yang Mengandung Multikolinieritas, 2009.
USU Repository © 2009
=
kk k
k k
k T
S S
S S
S S
S S
S X
X
2 1
2 22
21 1
12 11
Dimana
∑
=
− −
=
n i
j ij
k ik
kj
x x
x x
S
1
Maka bentuk korelasi matriks X
T
X adalah :
= =
1 1
1 1
3 2
1 3
32 31
2 23
21 1
13 12
k k
k k
k k
r r
r r
r r
r r
r r
r r
R C
Dimana
2 1
jj kk
kj kj
S S
S r
= k, j = 1, 2, ... , n dan
1
12 11
= =
= =
kk
r r
r
Transformasi ini dihasilkan dalam sebuah variabel regresi yaitu :
2 2
1 1
i ik
k i
i i
Z b
Z b
Z b
y
ε
+ +
+ +
=
Dengan variabel-variabel barunya adalah :
jj i
ij yy
i i
S n
x x
Z S
n y
y y
1 1
− −
= −
− =
2.17
Hubungan parameter
1
ˆ
β dan
2
ˆ
β dalam model baru dengan parameter β ,
1
β ,
2
β dalam model semula adalah :
Nanang Pradipta : Metode Regresi Ridge Untuk Mengatasi Model Regresi Linier Berganda Yang Mengandung Multikolinieritas, 2009.
USU Repository © 2009 k
k kk
y k
k y
y
x x
x y
S S
S S
S S
β β
β β
β β
β β
β β
− −
− −
=
=
=
=
2 2
1 1
22 2
2 11
1 1
ˆ ˆ
ˆ
2.18
1
1 2
− −
=
∑
=
n y
y S
n i
i y
dan
1
1 2
− −
=
∑
=
n x
x S
n i
i kk
2.7 Multikolinieritas
Istilah multikolinieritas mula-mula ditemukan oleh Ragnar Frisch pada tahun 1934 yang berarti adanya hubungan linier antar sesama variabel bebas X
i
. Maksud dari adanya hubungan linier antara variabel bebas X
i
adalah sebagai berikut : misalkan terdapat dua variabel bebas X
1
dan X
2
. Jika X
1
dapat dinyatakan sebagai fungsi linier dari X
2
atau sebaliknya, maka dikatakan bahwa ada hubungan linier antara X
1
dan X
2
. Misalkan secara substansi diketahui bahwa total pendapatan X
1
adalah penjumlahan pendapatan dari upah X
2
dan pendapatan bukan dari upah X
3
, hubungannya adalah X
1
=X
2
+ X
3
. Bila model ini diestimasi dengan OLS, maka
1
β tidak dapat diperoleh karena
[ ]
1 −
X X
T
tidak dapat dicari, kejadian inilah yang dinamakan multikolinieritas sempurna.
Dalam hal lain, misalkan : Konsumsi =
1
β +
2
β pendapatan +
3
β kekayaan + ε
Ada hubungan positif antara kekayaan dan pendapatan, dalam arti seseorang yang kaya cenderung berpendapatan tinggi. Jika model ini di estimasi dengan OLS,
β dapat ditentukan, tetapi variansi yang dihasilkan besar yang mengakibatkan galatnya
besar dan interval kepercayaannya semakin besar, sehingga β kurang tepat.
Nanang Pradipta : Metode Regresi Ridge Untuk Mengatasi Model Regresi Linier Berganda Yang Mengandung Multikolinieritas, 2009.
USU Repository © 2009
Disimpulkanlah terjadi multikolinieritas yang hampir sempurna. Permasalahan ini membawa dampak yang tidak baik bagi model.
Pada analisis regresi, multikolinieritas dikatakan ada apabila bebarapa kondisi berikut dipenuhi:
a. Dua variabel berkorelasi sempurna oleh karena itu vektor-vektor yang
menggambarkan variabel tersebut adalah kolinier.. b.
Dua variabel bebas hampir berkorelasi sempurna yaitu koefisien korelasinya mendekati
1 ± .
c. Kombinasi linier dari beberapa variabel bebas berkorelasi sempurna atau
mendekati sempurna dengan variabel bebas yang lain. d.
Kombinasi linier dari satu sub-himpunan variabel bebas berkorelasi sempurna dengan suatu kombinasi linier dari sub-himpunan variabel bebas yang lain.
2.8 Pendeteksian Multikolinieritas
