Asumsi Tidak ada multikolinieritas di antara peubah penjelas
ASUMSI TIDAK ADA
MULTIKOLINIERITAS DI
ANTARA PEUBAH
PENJELAS X
Multikolinieritas didefinisikan sebagai hubungan
secara linier di antara beberapa atau semua
peubah penjelas dalam model regresi
Dalam bentuk matematis dinyatakan sebagai,
di mana adalah konstanta yang tidak semuanya
bernilai nol untuk i = 1, 2, …,k.
KONSEKUENSI
MULTIKOLINIERITAS
Peubah penjelas X tidak memberikan informasi
yang baru bagi peubah respon Y.
Koefisien regresi tidak dapat ditentukan secara
unik atau tunggal
KOEFISIEN REGRESI TIDAK DAPAT
DITENTUKAN SECARA UNIK
1.
Perhatikan persamaan normal untuk
mendapatkan koefisien regresi berikut:
Misalkan antara peubah X1i dengan X2i
mempunyai hubungan linier yang dinyatakan
dalam persamaan X1i = cX2i
2.
Pada persamaan ke2 dan ke3 adalah identik,
akibatnya koefisienkoefisien regresi tidak dapat
ditentukan secara unik atau tunggal.
VARIANS SANGAT BESAR
Untuk regresi dengan 2 variabel penjelas
Dengan mensubstitusikan maka
Demikian juga varians untuk
BILA MULTIKOLINIERITAS TINGGI
TAPI TIDAK SEMPURNA
Misalkan maka pendugaan parameter masih
dapat dilakukan, tapi varians parameter duganya
besar.
Varians beta duga dapat ditulis secara alternatif
sebagai
Hal ini menunjukkan semakin tinggi korelasi
antara kedua varabel maka varians pendugaan
parameter akan semakin besar
Efek dari besarnya varians pendugaan parameter
adalah selang kepercayaan dari beta menjadi
sangat lebar.
=
0.95
Peluang menerima H0 yang salah meningkat
PENDETEKSIAN
MULTIKOLINIERITAS
1. Koefisien Korelasi Antar Peubah Penjelas Xi
Cara yang paling mudah dan sederhana untuk
mendeteksi multikolinieritas adalah dengan
melihat koefisien antara dua peubah penjelas.
Adanya kolinieritas seringkali ditunjukkan jika
nilai r cukup besar [terletak pada selang 1 ≤ r ≤
0,5 atau 0,5 ≤ r ≤ 1].
2. VIF (Variance Inflation Factor)
VIF didefinisikan sebagai,
VIFi =
……….(2.5.9)
di mana = koefisien determinasi berganda dari
peubah penjelas Xi dengan seluruh peubah
penjelas lainnya.
Jika nilai VIFi > 10 maka diindikasikan bahwa
telah terjadi multikolinieritas.
TINDAKAN PERBAIKAN
Informasi Apriori
Misalnya kita memiliki model
1.
Jika terdapat informasi bahwa maka kita dapat
merubah regresi menjadi
Dengan
Setelah kita dapatkan kita dapat menemukan
berdasar informasi tentang hubungan antara dan
2.
Menghubungkan data deret waktu dan data cross
sectional
3. Mengeluarkan salah satu variabel yang berkorelasi
Efek samping : bias spesifikasi
4. Transformasi variabel
Jika hubungan berlaku pada saat t, maka berlaku
juga pada saat t1
Transformasi yang dapat dilakukan adalah
Dengan
Efek samping : mungkin menjadi berautokorelasi
Penambahan data baru
Multikolinieritas merupakan ciri sampel jadi
mungkin sampel lain tidak terdapat multikolinier.
Terkadang penambahan data baru dapat
mengurangi multikolinier. Hal ini dapat dijelaskan
dari
5.
Penambahan data akan meningkatkan sehingga
akan mengurangi
6.
7.
Regresi Komponen Utama
Regresi Ridge (Regresi Gulud)
MULTIKOLINIERITAS DI
ANTARA PEUBAH
PENJELAS X
Multikolinieritas didefinisikan sebagai hubungan
secara linier di antara beberapa atau semua
peubah penjelas dalam model regresi
Dalam bentuk matematis dinyatakan sebagai,
di mana adalah konstanta yang tidak semuanya
bernilai nol untuk i = 1, 2, …,k.
KONSEKUENSI
MULTIKOLINIERITAS
Peubah penjelas X tidak memberikan informasi
yang baru bagi peubah respon Y.
Koefisien regresi tidak dapat ditentukan secara
unik atau tunggal
KOEFISIEN REGRESI TIDAK DAPAT
DITENTUKAN SECARA UNIK
1.
Perhatikan persamaan normal untuk
mendapatkan koefisien regresi berikut:
Misalkan antara peubah X1i dengan X2i
mempunyai hubungan linier yang dinyatakan
dalam persamaan X1i = cX2i
2.
Pada persamaan ke2 dan ke3 adalah identik,
akibatnya koefisienkoefisien regresi tidak dapat
ditentukan secara unik atau tunggal.
VARIANS SANGAT BESAR
Untuk regresi dengan 2 variabel penjelas
Dengan mensubstitusikan maka
Demikian juga varians untuk
BILA MULTIKOLINIERITAS TINGGI
TAPI TIDAK SEMPURNA
Misalkan maka pendugaan parameter masih
dapat dilakukan, tapi varians parameter duganya
besar.
Varians beta duga dapat ditulis secara alternatif
sebagai
Hal ini menunjukkan semakin tinggi korelasi
antara kedua varabel maka varians pendugaan
parameter akan semakin besar
Efek dari besarnya varians pendugaan parameter
adalah selang kepercayaan dari beta menjadi
sangat lebar.
=
0.95
Peluang menerima H0 yang salah meningkat
PENDETEKSIAN
MULTIKOLINIERITAS
1. Koefisien Korelasi Antar Peubah Penjelas Xi
Cara yang paling mudah dan sederhana untuk
mendeteksi multikolinieritas adalah dengan
melihat koefisien antara dua peubah penjelas.
Adanya kolinieritas seringkali ditunjukkan jika
nilai r cukup besar [terletak pada selang 1 ≤ r ≤
0,5 atau 0,5 ≤ r ≤ 1].
2. VIF (Variance Inflation Factor)
VIF didefinisikan sebagai,
VIFi =
……….(2.5.9)
di mana = koefisien determinasi berganda dari
peubah penjelas Xi dengan seluruh peubah
penjelas lainnya.
Jika nilai VIFi > 10 maka diindikasikan bahwa
telah terjadi multikolinieritas.
TINDAKAN PERBAIKAN
Informasi Apriori
Misalnya kita memiliki model
1.
Jika terdapat informasi bahwa maka kita dapat
merubah regresi menjadi
Dengan
Setelah kita dapatkan kita dapat menemukan
berdasar informasi tentang hubungan antara dan
2.
Menghubungkan data deret waktu dan data cross
sectional
3. Mengeluarkan salah satu variabel yang berkorelasi
Efek samping : bias spesifikasi
4. Transformasi variabel
Jika hubungan berlaku pada saat t, maka berlaku
juga pada saat t1
Transformasi yang dapat dilakukan adalah
Dengan
Efek samping : mungkin menjadi berautokorelasi
Penambahan data baru
Multikolinieritas merupakan ciri sampel jadi
mungkin sampel lain tidak terdapat multikolinier.
Terkadang penambahan data baru dapat
mengurangi multikolinier. Hal ini dapat dijelaskan
dari
5.
Penambahan data akan meningkatkan sehingga
akan mengurangi
6.
7.
Regresi Komponen Utama
Regresi Ridge (Regresi Gulud)