Pelanggaran asumsi regresi I
ASUMSI
HOMOSKEDASTISITAS
Terdapat
beberapa asumsi klasik yang melandasi analisis regresi linier
berganda yakni
Nilai rata-rata bersyarat dari unsur ε yang tergantung pada nilai
i
tertentu peubah penjelas X adalah nol atau E(εi) = 0, untuk i = 1, 2,
…, n.
Ragam bersyarat dari ε adalah konstan (homoskedastik) atau V(ε )
i
i
= σ2, untuk i = 1, 2, …, n.
Tidak ada autokorelasi dalam galat atau Cov(ε , ε ) = 0 di mana i ≠ j.
i
j
Peubah penjelas X bersifat non-stokastik yaitu tetap dalam
penyampelan berulang atau jika stokastik, didistribusikan secara
independen dari galat atau Cov(Xi, εi) = 0.
Tidak ada multikolinieritas di antara peubah penjelas X atau Cov(Xi,
Xj) = 0 di mana i ≠ j.
E(εi) = 0, untuk i = 1, 2,
…, n
Penyimpangan terhadap asumsi ini
tidaklah sangat kritis dari segi praktis
karena pelanggaran terhadap asumsi ini
hanya mempengaruhi intersep dari
persamaan regresi
Dimisalkan
persamaan regresi dinyatakan
dengan
Misalkan pula E(εi) tergantung pada Xi, tidak
nol tetapi sama dengan suatu konstanta k
Maka
=
=
; di mana α = β0 + k.
Jika asumsi E(εi) = 0 tidak terpenuhi
maka tidak dapat menaksir nilai β0 yang
sebenarnya.
Dalam prakteknya, unsur intersep tidak
terlalu diperhatikan karena umumnya
perhatian lebih besar ditujukan untuk
koefisien-koefisien kemiringan (slope).
Homoskedastisitas atau V(εi)
= σ2, untuk i = 1, 2, …, n.
Homoskedastisitas berarti bahwa varians
tiap unsur disturbance εi, tergantung
(conditional) pada nilai yang dipilih dari
variabel yang menjelaskan adalah suatu
angka konstan yang sama dengan σ2
Secara diagram dapat ditunjukkan
sebagai berikut
Jika kondisi ragam tidak sama untuk
masing-masing i, maka V(εi) = σi2
Secara visual dinyatakan sebagai berikut
Beberapa alasan terjadinya
heteroskedastisitas
1.
Mengikuti error – learning model, karena
manusia belajar maka kesalahan mereka dalam
perilaku menjadi semakin lama semakin kecil.
Dalam kasus ini, σi2 diharapkan untuk menurun.
Contoh kasus adalah suatu penelitian tentang
pengaruh lama jam praktek mengetik terhadap
kesalahan mengetik. Dengan meningkatnya
lama praktek mengetik, maka rata – rata
banyaknya kesalahan pengetikan maupun
variasinya berkurang
2.
3.
Dengan meningkatnya pendapatan,
orang mempunyai lebih banyak
pendapatan yang dapat digunakan
sesuai dengan keinginan sehingga
memiliki lebih banyak space untuk
memilih pembagian pendapatan
mereka.
Jadi σi2 diharapkan meningkat seiring
dengan meningkatnya pendapatan.
Peningkatan dalam teknik pengumpulan
data, σi2 diharapkan untuk menurun
Konsekuensi
Heteroskedastisitas
Jika semua asumsi terpenuhi kecuali
homoskedastisitas, maka penduga OLS
tetap tak bias dan konsisten tetapi
pnduga tersebut menjadi tidak efisien
baik dalam sampel kecil maupun besar
Untuk
model dengan satu variabel penjelas
Penduga OLS dari
Dengan heteroskedastistas
Sedangkan Varians dengan OLS dan asumsi
homoskedastisitas adalah
Dengan
Jika terdapat hereoskedastisitas, misalkan
Maka menjadi
Jadi jika terjadi heteroskedastisitas maka
OLS akan menduga terlalu rendah
Jika terdapat heteroskedastisitas,
secara teori BLUE dari adalah penduga
kuadrat terkecil tertimbang
2. Varians
yang diperoleh dari OLS
dengan asumsi heteroskedastisitas
tidak lagi minimum
3. Akibat dari no. 2, selang kepercayaan
untuk menjadi lebih lebar dan
pengujian signifikansi menjadi kurang
kuat
1.
Pendeteksian
Heteroskedastisitas
Sifat Dasar Masalah
Seringkali sifat masalah yang sedang
dipelajari menyarankan apakah
heteroskedasitas akan dijumpai atau tidak.
Sebagai contoh, analisis mengenai
pengeluaran investasi bisa diperkirakan
akan terdapat heteroskedastistas jika
perusahaan yang kecil, menengah dan
besar disampel secara bersama - sama
1.
Metode
Grafik
Dengan memetakan terhadap , dapat
disimpulkan sebagai heteroskedastisitas
jika pemetaan antara keduanya
mempunyai pola tertentu (sistematis) atau
tidak acak.
Jika model melibatkan dua atau lebih
variabel X dipetakan terhadap setiap
variabel X yang dimasukkan dalam model
Beberapa kemungkinan pola
pemetaan
terhadap :
Pola yang menunjukkan tidak adanya
heteroskedastisitas
Pola yang menunjukkan adanya
heteroskedastisitas
Pengujian Rank Korelasi dari Spearman
Didefinisikan
koefisien korelasi dari
Spearman adalah
rs = 1 – 6
di mana di merupakan selisih rank yang
ditempatkan untuk dua karakteristik yang
berbedaa dari invidual atau fenomena ke-i
.:
Tahapan
dalam pengujian rank korelasi dari Spearman
yaitu:
1. Buat persamaan regresi dan dapatkan nilai galat ei.
2.
3.
Dengan mengabaikan tanda dari ei (nilai mutlak),
kemudian meranking ei dan Xi yang selanjutnya
menghitung selisih rank keduanya, di. Tentukan nilai
rs berdasar persamaan
Gunakan statistik t berikut yang kemudian
dikomparasikan dengan ttabel pada taraf yang
ditetapkan dengan db = n – 2.
t=
Tindakan perbaikan
Jika
diketahui : Metode Kuadrat Terkecil
Tertimbang (Weighted Least Squares)
Perhatikan dua model berikut
1
2
Penduga dari MKT diperoleh dengan
meminimumkan , dengan memberikan
bobot yang sama untuk tiap
Metode Kuadrat Terkecil Tertimbang
meminimumkan
Dimana adalah bobot yang dipilih
sedemikian hingga observasi yang ekstrim
mendapatkan bobot yang lebih rendah
dan adalah penduga kuadrat terkecil
tertimbang.
Jika diketahui maka
Penduga
dari metode Kuadrat Terkecil
Tertimbang adalah sebagai berikut
Dan
Dimana dan
Jika tidak diketahui : Lakukan
transformasi
Asumsi
I : , varians dari proporsional
terhadap kuadrat variabel
Transformasikan dengan cara berikut :
Bagi model asli seluruhnya dengan yaitu:
Dimana adalah error yang telah
ditransformasi
Asumsi
2 , varians dari proporsional
terhadap variabel
Maka model asli dapat ditransformasi
sebagai berikut:
Jika
maka
Asumsi
3 , varians dari proporsional
terhadap kuadrat nilai harapan
Dimana
Jika kita transformasikan model asli
sebagai berikut:
Maka
Namun trnsformasi ini tidak operasional karena
yang mengandung dan yang tidak diketahui.
dapat diduga dengan
Oleh karena itu transformasi ini dilakukan
dalam dua langkah :
1. Lakukan regresi OLS biasa tanpa
memperhatikan heteroskedastisitas dan
mendapatkan
Transformasikan model awal sebagai
2.
berikut:
Dimana
Asumsi
4. Transformasi Log
Kita melakukan regresi
Transformasi ini seringkali mengurangi
heteroskedastisitas karena transformasi ln
dapat memampatkan skala.
Manfaat lain dari transformasi ini bahwa
koefisien kemiringan mengukur elstisitas dari
Y terhadap X, yaitu persentase perubahan Y
untuk setiap persentase perubahan X
HOMOSKEDASTISITAS
Terdapat
beberapa asumsi klasik yang melandasi analisis regresi linier
berganda yakni
Nilai rata-rata bersyarat dari unsur ε yang tergantung pada nilai
i
tertentu peubah penjelas X adalah nol atau E(εi) = 0, untuk i = 1, 2,
…, n.
Ragam bersyarat dari ε adalah konstan (homoskedastik) atau V(ε )
i
i
= σ2, untuk i = 1, 2, …, n.
Tidak ada autokorelasi dalam galat atau Cov(ε , ε ) = 0 di mana i ≠ j.
i
j
Peubah penjelas X bersifat non-stokastik yaitu tetap dalam
penyampelan berulang atau jika stokastik, didistribusikan secara
independen dari galat atau Cov(Xi, εi) = 0.
Tidak ada multikolinieritas di antara peubah penjelas X atau Cov(Xi,
Xj) = 0 di mana i ≠ j.
E(εi) = 0, untuk i = 1, 2,
…, n
Penyimpangan terhadap asumsi ini
tidaklah sangat kritis dari segi praktis
karena pelanggaran terhadap asumsi ini
hanya mempengaruhi intersep dari
persamaan regresi
Dimisalkan
persamaan regresi dinyatakan
dengan
Misalkan pula E(εi) tergantung pada Xi, tidak
nol tetapi sama dengan suatu konstanta k
Maka
=
=
; di mana α = β0 + k.
Jika asumsi E(εi) = 0 tidak terpenuhi
maka tidak dapat menaksir nilai β0 yang
sebenarnya.
Dalam prakteknya, unsur intersep tidak
terlalu diperhatikan karena umumnya
perhatian lebih besar ditujukan untuk
koefisien-koefisien kemiringan (slope).
Homoskedastisitas atau V(εi)
= σ2, untuk i = 1, 2, …, n.
Homoskedastisitas berarti bahwa varians
tiap unsur disturbance εi, tergantung
(conditional) pada nilai yang dipilih dari
variabel yang menjelaskan adalah suatu
angka konstan yang sama dengan σ2
Secara diagram dapat ditunjukkan
sebagai berikut
Jika kondisi ragam tidak sama untuk
masing-masing i, maka V(εi) = σi2
Secara visual dinyatakan sebagai berikut
Beberapa alasan terjadinya
heteroskedastisitas
1.
Mengikuti error – learning model, karena
manusia belajar maka kesalahan mereka dalam
perilaku menjadi semakin lama semakin kecil.
Dalam kasus ini, σi2 diharapkan untuk menurun.
Contoh kasus adalah suatu penelitian tentang
pengaruh lama jam praktek mengetik terhadap
kesalahan mengetik. Dengan meningkatnya
lama praktek mengetik, maka rata – rata
banyaknya kesalahan pengetikan maupun
variasinya berkurang
2.
3.
Dengan meningkatnya pendapatan,
orang mempunyai lebih banyak
pendapatan yang dapat digunakan
sesuai dengan keinginan sehingga
memiliki lebih banyak space untuk
memilih pembagian pendapatan
mereka.
Jadi σi2 diharapkan meningkat seiring
dengan meningkatnya pendapatan.
Peningkatan dalam teknik pengumpulan
data, σi2 diharapkan untuk menurun
Konsekuensi
Heteroskedastisitas
Jika semua asumsi terpenuhi kecuali
homoskedastisitas, maka penduga OLS
tetap tak bias dan konsisten tetapi
pnduga tersebut menjadi tidak efisien
baik dalam sampel kecil maupun besar
Untuk
model dengan satu variabel penjelas
Penduga OLS dari
Dengan heteroskedastistas
Sedangkan Varians dengan OLS dan asumsi
homoskedastisitas adalah
Dengan
Jika terdapat hereoskedastisitas, misalkan
Maka menjadi
Jadi jika terjadi heteroskedastisitas maka
OLS akan menduga terlalu rendah
Jika terdapat heteroskedastisitas,
secara teori BLUE dari adalah penduga
kuadrat terkecil tertimbang
2. Varians
yang diperoleh dari OLS
dengan asumsi heteroskedastisitas
tidak lagi minimum
3. Akibat dari no. 2, selang kepercayaan
untuk menjadi lebih lebar dan
pengujian signifikansi menjadi kurang
kuat
1.
Pendeteksian
Heteroskedastisitas
Sifat Dasar Masalah
Seringkali sifat masalah yang sedang
dipelajari menyarankan apakah
heteroskedasitas akan dijumpai atau tidak.
Sebagai contoh, analisis mengenai
pengeluaran investasi bisa diperkirakan
akan terdapat heteroskedastistas jika
perusahaan yang kecil, menengah dan
besar disampel secara bersama - sama
1.
Metode
Grafik
Dengan memetakan terhadap , dapat
disimpulkan sebagai heteroskedastisitas
jika pemetaan antara keduanya
mempunyai pola tertentu (sistematis) atau
tidak acak.
Jika model melibatkan dua atau lebih
variabel X dipetakan terhadap setiap
variabel X yang dimasukkan dalam model
Beberapa kemungkinan pola
pemetaan
terhadap :
Pola yang menunjukkan tidak adanya
heteroskedastisitas
Pola yang menunjukkan adanya
heteroskedastisitas
Pengujian Rank Korelasi dari Spearman
Didefinisikan
koefisien korelasi dari
Spearman adalah
rs = 1 – 6
di mana di merupakan selisih rank yang
ditempatkan untuk dua karakteristik yang
berbedaa dari invidual atau fenomena ke-i
.:
Tahapan
dalam pengujian rank korelasi dari Spearman
yaitu:
1. Buat persamaan regresi dan dapatkan nilai galat ei.
2.
3.
Dengan mengabaikan tanda dari ei (nilai mutlak),
kemudian meranking ei dan Xi yang selanjutnya
menghitung selisih rank keduanya, di. Tentukan nilai
rs berdasar persamaan
Gunakan statistik t berikut yang kemudian
dikomparasikan dengan ttabel pada taraf yang
ditetapkan dengan db = n – 2.
t=
Tindakan perbaikan
Jika
diketahui : Metode Kuadrat Terkecil
Tertimbang (Weighted Least Squares)
Perhatikan dua model berikut
1
2
Penduga dari MKT diperoleh dengan
meminimumkan , dengan memberikan
bobot yang sama untuk tiap
Metode Kuadrat Terkecil Tertimbang
meminimumkan
Dimana adalah bobot yang dipilih
sedemikian hingga observasi yang ekstrim
mendapatkan bobot yang lebih rendah
dan adalah penduga kuadrat terkecil
tertimbang.
Jika diketahui maka
Penduga
dari metode Kuadrat Terkecil
Tertimbang adalah sebagai berikut
Dan
Dimana dan
Jika tidak diketahui : Lakukan
transformasi
Asumsi
I : , varians dari proporsional
terhadap kuadrat variabel
Transformasikan dengan cara berikut :
Bagi model asli seluruhnya dengan yaitu:
Dimana adalah error yang telah
ditransformasi
Asumsi
2 , varians dari proporsional
terhadap variabel
Maka model asli dapat ditransformasi
sebagai berikut:
Jika
maka
Asumsi
3 , varians dari proporsional
terhadap kuadrat nilai harapan
Dimana
Jika kita transformasikan model asli
sebagai berikut:
Maka
Namun trnsformasi ini tidak operasional karena
yang mengandung dan yang tidak diketahui.
dapat diduga dengan
Oleh karena itu transformasi ini dilakukan
dalam dua langkah :
1. Lakukan regresi OLS biasa tanpa
memperhatikan heteroskedastisitas dan
mendapatkan
Transformasikan model awal sebagai
2.
berikut:
Dimana
Asumsi
4. Transformasi Log
Kita melakukan regresi
Transformasi ini seringkali mengurangi
heteroskedastisitas karena transformasi ln
dapat memampatkan skala.
Manfaat lain dari transformasi ini bahwa
koefisien kemiringan mengukur elstisitas dari
Y terhadap X, yaitu persentase perubahan Y
untuk setiap persentase perubahan X