Analisis dan Eksplorasi Data Praktikum 2
Uji Asumsi Model
Part 1 – Deteksi Pelanggaran Asumsi*
Wahyu Dwi Lesmono
*Akan dibahas sedikit mengenai cara penanggulangannya
Diagram Pengujian Model
Kapan Pengujian Asumsi Model
dilakukan?
Pengujian asumsi model dilakukan apabila
metode penduga parameter yang digunakan
adalah metode OLS (Ordinary Least Square).
Namun tidak menutup kemungkinan jika
metode penduga parameter yang lain harus
dilakukan pengujian asumsi.
Kenapa Perlu dilakukan Uji Asumsi?
Suatu model dapat dikatakan memiliki nilai penduga terbaik
apabila memenuhi kriteria BLUE (Best Linear Unbiased
Estimator) berdasarkan minimisasi iteratif dengan teorema
Gauss-Markov, yaitu:
1. Penduga parameter bersifat efisien (Nilai ragam yang
minimum)
2. Penduga parameter bersifat linear terhadap variabel
bergantung.
3. Penduga parameter bersifat tidak bias (Nilai rata-rata dari
penduga parameter sama dengan nilai parameter itu
sendiri)
Aturan dalam asumsi
1. Hubungan antara variabel bergantung dengan variabel bebas bersifat linear.
2. Variabel bebas bersifat tetap pada setiap observasi (tidak berubahubah/tidak stokastik).
3. Nilai variabel bebas harus bervariasi.
4. Nilai rata-rata residual/galat dengan syarat dari masing-masing variabel
bebasnya adalah 0.
5. Ragam residual/galat adalah konstan atau bersifat homokedastisitas.
6. Tidak ada hubungan antar perbedaan observasi residual (serial correlation).
7. Tidak ada hubungan antara variabel bebas dengan residual.
8. Variabel residual/galat berdistribusi normal.
9. Tidak ada korelasi-korelasi yang sempurna antar variabel bebas.
10.Jumlah observasi harus lebih besar daripada jumlah parameter yang
diestimasi dan jumlah persamaan yang ada dalam sistem.
Definisi Autokorelasi
Autokorelasi (Korelasi Silang atau Korelasi Seri)
merupakan suatu kondisi adanya korelasi antar galat
pada observasi yang berbeda. Suatu model dikatakan
baik apabila bebas dari masalah autokorelasi.
Autokorelasi sering terjadi pada data time series (data
dengan variabel waktu), namun tidak menutup
kemungkinan terjadi pada data cross-sectional (data
antar objek/tanpa variabel waktu).
Faktor Penyebab Autokorelasi
1.
2.
3.
4.
5.
Data mengandung pergerakan naik-turun secara musiman.
Kekeliruan memanipulasi data.
Data yang dianalisis tidak bersifat stasioner.
Data yang digunakan bersifat runtut.
Adanya bias spesifikasi (Mengeluarkan variabel yang
benar dari persamaan model karena alasan-asalan
tertentu).
6. Adanya keterlambatan (Lag)
7. Adanya hubungan variabel pada observasi yang diperoleh
dengan variabel pada observasi sebelumnya.
Indikasi dan Konsekuensi Akibat Autokorelasi
1. Metode penduga masih bersifat linear dan tidak bias
namun tidak efisien sehingga tidak mempunyai ragam
yang minimum. Akibatnya kriteri metode penduga
berubah menjadi LUE (Linear Unbiased Estimation).
2. Nilai standard error pada parameter menjadi
underestimated dan nilai statistik t, F, dan koefisien
determinasi menjadi overestimated sehingga
memberikan kesimpulan yang menyesatkan tentang
arti statistik dan hasil dari koefisien penduga
parameter.
Cara Mendeteksi Adanya Autokorelasi
1. Menggambarkan korelogram autokorelasi
dan autokorelasi parsial.
2. Menggambarkan scatter plot antara residual
dengan residual pada observasi sebelumnya.
3. Menggunakan uji Durbin-Watson atau uji
Godfrey.
Cara Penanggulangan Adanya Autokorelasi
1. Biarkan data apa adanya (Jika datanya Cross-Sectional)
2. Menambahkan data observasi
3. Melakukan transformasi data dengan melakukan lag,
differencing pada variabel bebas, atau transformasi
dengan fungsi tertentu.
4. Menggunakan metode penduga Maximum Likelihood,
Yule-Walker, Full Information Maximum Likelihood, atau
Unconstrained Least Square (ULS).
5. Menggunakan metode koreksi Cochrane-Orchutt.
6. Menggunakan pendekatan autoregressive (AR)
Definisi Heterokesdastisitas
Heterokesdastisitas (Kebalikan dari Homokesdastisitas)
merupakan suatu kondisi terjadinya keragaman
residual/galat dengan observasi dari satu observasi ke
observasi yang lainnya. Suatu model dikatakan baik
apabila rata-rata nilai residualnya adalah nol, residualnya
memiliki ragam yang konstan, dan tidak saling
berhubungan dengan residual observasi yang lainnya.
Permasalahan heterokesdastisitas sering terjadi pada
data cross-sectional dibandingkan data time series.
Faktor Penyebab Heterokesdastisitas
1. Adanya penggolongan antarobjek, baik secara numerik maupun
kategorik, yang menyebabkan nilai penduganya terlalu jauh.
2. Metode penduga dan pengumpulan sampel yang menghasilkan
nilai simpangan baku parameter yang semakin besar.
3. Adanya pencilan pada data sehingga menyebabkan terjadinya
keragaman yang tinggi.
4. Kemiringan (skewness) yang tidak merata.
5. Spesifikasi model yang tidak tepat.
6. Transformasi data yang salah.
7. Model fungsi yang salah.
Indikasi dan Konsekuensi Akibat
Heterokesdastisitas
1. Uji F pada persamaan model yang signifikan namun banyak uji t dari
masing-masing parameter yang tidak signifikan atau sebaliknya
sehingga mengakibatkan nilai simpangan baku dari setiap variabel
bebasnya tidak dapat dipercaya kebenarannya serta mengakibatkan
ragamnya tidak minimum.
2. Nilai penduga parameter model tidak efisien sehingga mengakibatkan
nilai penduganya menjadi LUE (Linear Unbiased Estimation).
3. Nilai residual pada beberapa observasi cukup besar sehingga
mengakibatkan model tidak cocok untuk dilakukan prediksi (crosssectional) atau peramalan (time series).
4. Kesimpulan statistik inferensi akan menyesatkan dan tidak dapat
dipercaya kebenarannya.
Cara Mendeteksi Adanya Heterokesdastisitas
1. Melihat scatter plot/scatter gram antara
kuadrat residual dengan penduga variabel
bergantung atau variabel bebas.
2. Menghitung korelasi antara variabel bebas
dengan variabel residual dengan metode
korelasi Spearman-Rank.
3. Menggunakan uji White, Bresuch-Pagan,
Park, Glejser, atau Goldfeld-Quandt.
Cara Penanggulangan Adanya
Heterokesdastisitas
1. Menggunakan metode penduga Regresi Instrumen
Variabel (IV), Generalized Least Square (GLS), Generalized
Method of Moment (GMM), Feasible GLS (FGLS), dan
Weighted Least Square (WLS) (Jika ragam kelompok
observasinya diketahui).
2. Transformasikan data dengan fungsi yang sesuai.
3. Menggunakan metode koreksi Heteroskedasticity
Consistent Coefficient Covariance (Jika ragam kelompok
observasinya tidak diketahui).
4. Menghitung penduga dengan metode tertentu dengan
simulasi Monte Carlo, Bootstrapping, dan Robust.
Definisi Multikolinearitas
Multikolinearitas merupakan suatu kondisi
adanya korelasi antarvariabel. Suatu model yang
baik “seharusnya” tidak terjadi korelasi di antara
variabel bebasnya.
Secara aljabar, multikolinearitas disebabkan oleh
adanya kombinasi linear dari salah satu atau
masing-masing nilai variabel bebas.
Faktor Penyebab Multikolinearitas
1. Metode pengumpulan data yang digunakan
terbatas pada populasi yang diambil sampelnya.
2. Retriksi yang ada pada model
3. Spesifikasi model yang minim atau berlebihan
4. Model yang overdetermined (Lebih banyak
jumlah parameternya dibandingkan jumlah
observasi)
5. Pergerakan nilai antar variabel yang sama dengan
laju perubahan waktu (untuk data time series)
Indikasi dan Konsekuensi Akibat
Multikolinearitas
1. Nilai koefisien determinasi tinggi namun banyak variabel
bebas yang tidak signifikan atau sebaliknya. Sehingga
menyebabkan selang kepercayaan nilai penduga
parameternya lebih lebar.
2. Nilai standard error yang sangat rendah dibandingkan nilai
penduga parameter atau sebaliknya. Sehingga
menyebabkan terjadi kesesatan prediksi yang tidak ak
3. Nilai ragam dan koragam antar variabel yang cukup besar,
sehingga variabel-variabel tersebut sulit digunakan untuk
estimasi. Walaupun sulit digunakan untuk estimasi,
masalah multikolinearitas masih bersifat BLUE.
Cara Mendeteksi Adanya Multikolinearitas
1. Melihat bentuk scatterplot antar variabel
2. Melihat adanya koefisien korelasi antar variabel bebas
yang tinggi.
3. Melihat adanya koefisien korelasi parsial antar variabel
bebas dengan antar variabel kontrol yang tinggi.
4. Menghitung nilai eigen dan indeks kondisi.
5. Menghitung nilai toleransi dan Variance Inflating
Factor (VIF)
6. Menggunakan regresi Ridge atau regresi Bayesian.
Cara Penanggulangan Adanya
Multikolinearitas
1. Biarkan apa adanya.
2. Mengetahui adanya retriksi secara teoritis terdahulu pada model dari hasil
penduga parameter dan menambahkan retriksi pada model.
3. Mengkombinasikan data cross-sectional dan data time series.
4. Tambahkan jumlah observasi jika memungkinkan.
5. Hilangkan salah satu variabel bebas yang mengandung korelasi yang kuat
terhadap variabel yang lain.
6. Transformasi variabel dengan fungsi resiprokal pada variabel yang memiliki
korelasi kuat.
7. Transformasi variabel dengan melakukan differencing pertama. (Untuk data
time series)
8. Menggunakan analisis faktor.
9. Menggunakan pendekatan regresi Ridge, regresi Bayesian, dan regresi
polinomial ortogonal.
Contoh Kasus 1
Diketahui model regresi berganda yang
didefinisikan sebagai berikut:
Y 0 1 X 1 2 X 2
Dengan menetapkan tingkat kepercayaan
sebesar 95%:
a. Buatlah persamaan Regresinya dengan
metode penduga OLS dan lakukan
pengujian signifikansi modelnya!
b. Apakah metode penduga OLS dari
model tersebut terdapat asumsi yang
dilanggar? Periksalah dengan uji
autokorelasi, heterokedastisitas,
multikolinearitas!
c. Lakukan pengujian normalitas untuk
mengetahui apakah residual dari
model regresi berdistribusi normal!
Y
23.3
24.5
27.2
27.1
24.1
23.4
24.3
24.1
27.2
27.3
27.4
27.3
24.3
23.4
24.1
27.0
23.5
24.3
27.3
23.7
X1
5
6
8
9
7
5
6
7
9
8
8
9
6
5
7
9
5
6
8
7
X2
13
14
17
17
14
13
14
14
17
17
17
17
14
13
14
17
13
14
17
14
-Analyze > Regression > Linear
-Masukkan variabel Y di kotak Dependent dan variabel X1 dan X2
di kotak Independent
-Statistics > Ceklis Estimates, Model Fit, R Squared Change,
Collinearity Diagnostics, Durbin-Watson, Casewise
Diagnostics pilih All cases > Continue
-Plot > Masukkan X sebagai ZPRED dan Y sebagai SRESID >
Standardized Residual Plots pilih Normal Probability Plots >
Continue
-Plot > di kotak Residuals ceklis Unstandardized >
Continue
-Klik OK
-Uji normalitas (nilai statistik):
Analyze > Nonparametric Test > 1-Sample KS
Masukkan Unstandardized Residual ke Test Variable List >
Ceklis Test Distribution Normal > OK
-Uji normalitas (visual):
Analyze > descriptive Statistics > PP Plot atau QQ Plot
Jawaban A
Berdasarkan nilai Adjusted R-Square
menunjukkan nilai 0.994 yang berarti
99.4% variasi dari Y dapat dijelaskan
oleh variasi dari variabel x1 dan x2,
sisanya dijelaskan oleh variabel bebas
lainnya.
N.B: Variabel bebas berpengaruh jika nilai Sig < Taraf Nyata .
Baik uji F maupun uji t
Berdasarkan uji F dapat disimpulkan
bahwa seluruh variabel bebas secara
bersama-sama memberikan pengaruh
terhadap variabel y.
Berdasarkan uji t dapat disimpulkan
bahwa seluruh variabel bebas secara
terpisah memberikan pengaruh
terhadap variabel y.
Model Persamaan Regresinya adalah:
Y 9.261 0.261X 1 1.187 X 2
Jawaban A
Berdasarkan nilai Standard Error of the
Estimate adalah 0.1287 menunjukkan
bahwa variasi Y yang tidak dijelaskan
oleh variabel bebas sebesar 0.1287
satuan.
N.B: Standard Error of the Estimate (SEE) sama dengan Root
Mean Square Error (RMSE)
Berdasarkan uji F dapat disimpulkan
bahwa nilai akar dari mean square
residual yaitu 0.1287 yang
menunjukkan bahwa nilai error yang
mungkin terjadi pada model sebesar
12.87%
Berdasarkan uji t dapat disimpulkan
bahwa nilai simpangan baku untuk
setiap penduga parameternya cukup
kecil sehingga tidak berakibat banyak
penyimpangan dalam menduga
variabel bergantung.
Prosedur Pengujian Autokorelasi dengan
Durbin-Watson
1.
2.
3.
4.
5.
Tentukan banyaknya observasi (n) dan banyaknya variabel bebas pada model (k)
Hitung Durbin-Watson Statistik
Tentukan nilai Durbin-Watson Tabel (dL dan dU) dan selisih nilai 4 dengan Durbin-Watson
batas atas (4-dU) dan batas bawah (4-dL)
Membuat kriteria keputusan dan keputusan
Kesimpulan.
Tidak dapat disimpulkan
Tidak dapat disimpulkan
0
dL
Terjadi autokorelasi positif
dU
2
Tidak terjadi autokorelasi
4-dU
4-dL
4
Terjadi autokorelasi negatif
Jawaban B (Uji Autokorelasi)
Pengujian dengan Durbin-Watson:
-Banyaknya observasi n = 20
-Banyaknya variabel bebas k = 2
-Nilai Durbin-Watson statistik: DW=1.804
-Berdasarkan tabel Durbin Watson, diperoleh:
1. Batas bawah Durbin-Watson tabel:
dL = 1.1004
2. Batas atas Durbin-Watson tabel:
dU = 1.5367
-Nilai 4-dU = 4-1.5367 = 2.4633
-Nilai 4-dL = 4-1.1004 = 2.8996
Jawaban B (Uji Autokorelasi)
Tidak dapat disimpulkan
Tidak dapat disimpulkan
1.804
0
1.1004
Terjadi autokorelasi positif
1.5367
2
Tidak terjadi autokorelasi
2.4633
2.8996
4
Terjadi autokorelasi negatif
Berdasarkan hasil uji Durbin-Watson didapat bahwa nilai Durbin-Watson
statistik berada diantara dL dan 4-dU sehingga metode OLS pada model
regresi tidak mengalami masalah autokorelasi.
Deteksi Heterokesdastisitas Secara Visual
dengan Scatter Plot
Untuk axis merupakan hasil estimasi dan ordinat merupakan kuadrat residual, gambar a tidak mengalami
masalah heterokedastisitas, Gambar b, c, d, e mengalami masalah heterokedastisitas. Tidak adanya
masalah heterokedastisitas apabila scatter plot membentuk pola yang tidak jelas (acak).
Deteksi Heterokesdastisitas Secara
Visual dengan Scatter Plot
Untuk axis merupakan variabel bebas X merupakan kuadrat residual, gambar a tidak mengalami
masalah heterokedastisitas, Gambar b, c, d, e mengalami masalah heterokedastisitas. Tidak adanya
masalah heterokedastisitas apabila scatter plot membentuk pola yang tidak jelas (acak).
Jawaban B (Uji Heterokesdastisitas)
Dari scatter plot standardized predicted value dengan studentized
residual diperoleh pola yang tidak jelas sehingga dapat dikatakan bahwa
metode OLS pada model regresi tidak mengalami masalah
heterokesdastisitas.
Deteksi Multikolinearitas
Untuk mendeteksi adanya multikolinearitas
dapat menggunakan nilai Indeks Kondisi,
Toleransi, atau nilai Variance Inflation Factor
(VIF).
Variance
Inflation Factor Keterangan Multikolinearitas
(VIF)
Conditional
Index (CI)
Toleransi
(TOL)
1 ≤ CI ≤ 15
0.25 ≤ TOL ≤ 1
1 ≤ VIF ≤ 4
Tidak Ada Masalah/Aman
15 < CI ≤ 50
0.1429 ≤ TOL < 0.25
4 < VIF ≤ 7
Sedikit Masalah/Hati-Hati
50 < CI ≤ 100
0.1 ≤ TOL ≤ 0.1429
7 < VIF ≤ 10
Cukup Masalah/Bermasalah
CI > 100
TOL < 0.1
VIF > 10
Masalah Serius/Bencana
Jawaban B (Uji Multikolinearitas)
Hasil nilai Tolerance dan VIF
menunjukkan bahwa variabel X1
dan X2 mengalami cukup
masalah pada multikolinearitas.
Parameter β2 pada indeks kondisi
memiliki nilai diatas 50 dan
proporsi variasi antar parameter
penduganya diatas 0.7 sehingga
metode OLS pada model Regresi
mengalami
cukup
masalah
multikolinearitas khususnya pada
variabel bebas X2 atau parameter
β2.
Jawaban C (Uji Normalitas)
Dengan nilai P-Value = 0.721 > Taraf Nyata = 0.05 maka
residual berdistribusi normal sehingga tidak
mengalami masalah pada normalitas.
Jawaban C (Uji Normalitas)
Berdasarkan P-P plot menunjukkan bahwa residual berdistribusi normal.
Pada normal P-P Plot titik observasinya mendekati garis linear Z dan pada
detrended normal P-P plot titik observasinya menjauhi garis deviasi.
Sehingga residual berdistribusi normal.
Jawaban C (Uji Normalitas)
Berdasarkan Q-Q plot menunjukkan bahwa residual berdistribusi normal. Pada
normal Q-Q Plot titik observasinya mendekati garis linear Z dan pada detrended
normal Q-Q plot titik observasinya menjauhi garis deviasi. Sehingga residual
berdistribusi normal. Karena hanya 1 pencilan observasi residual, maka residual
masih berdistribusi normal.
Contoh Kasus 1 Versi SAS
(Input Program)
Keterangan:
fit untuk menduga parameter dari variabel bergantung
ols untuk metode penduga parameter
dw, dwprob, godfrey untuk uji autokorelasi
collin untuk uji multikolinearitas
white, breusch untuk uji heterokesdatisitas
normal untuk uji normalitas
Yang ada didalam lingkaran memiliki intepretasi yang sama
dengan intepretasi pada SPSS
Model Regresi dengan OLS
seluruhnya tidak
mengalami masalah
heterokesdastisitas, baik
dengan metode White
maupun Breusch-Pagan
Model Regresi dengan
OLS seluruhnya tidak
mengalami masalah
autokorelasi, baik
dengan metode DurbinWatson maupun
Godfrey
Positif
Model Regresi dengan
OLS seluruhnya normal,
baik satu persamaan
maupun sistem
Negatif
Yang ada didalam lingkaran memiliki intepretasi yang sama
dengan intepretasi pada SPSS
Contoh Kasus 2
Penelitian yang dilakukan oleh Winda bertujuan
untuk mengetahui dampak volume maksimal
kebugaran tubuh berdasarkan faktor indeks
massa gizi tubuh (IMT) dan tingkat aktivitas fisik
dari Atlet Bulu Tangkis Himatika 2013. Berikut ini
merupakan data yang diperoleh dan diolah oleh
Winda dari 18 berdasarkan formulasi yang dia
ambil dari literatur statistik kesehatan tertentu.
a. Bentuklah model yang
menggambarkan tujuan
kasus tersebut dan dugalah
parameter model dengan
menggunakan metode OLS!
b. Lakukan pengujian asumsi
model untuk mengetahui
adanya pelanggaran asumsi
autokorelasi,
multikolinearitas, dan
heterokedastisitas pada
model yang telah anda
bentuk!
Kebugaran
Gizi
Aktiv fisik
49.9
51.4
38.85
54.1
52.8
35.7
56.25
46.2
43.9
40.2
35.7
41.8
49.3
46.5
51.9
45.9
37.45
51.1
17.84
18.07
18.96
19.14
20.57
20.77
21.05
21.09
21.3
21.55
21.86
22.31
22.46
23.05
23.41
24.2
25
25.76
2.09
2.08
2.14
2.26
2.14
2.19
2.19
2.18
2.27
2.3
2.52
2.31
2.42
2.44
2.58
2.58
2.38
2.65
Input Data di SAS
Jawaban A
Karena tujuannya ingin mengetahui pengaruh faktor indeks massa gizi
tubuh dan tingkat aktivitas fisik terhadap volume maksimal kebugaran
tubuh berdasarkan. Maka model dapat diformulasikan dengan model
regresi berganda:
V0MAX 0 1 IMT 2 AF
Dengan menggunakan metode OLS diperoleh:
V0MAX 48.7168 1.0224 �
IMT 8.3684 �
AF
Jawaban B
Berdasarkan uji asumsi masalah heterokedastisitas dengan metode White dan
Bresuch-Pagan menunjukkan model tidak mengalami masalah heterokedastisitas.
Uji asumsi masalah autokorelasi dengan metode Durbin-Warson dan Godfrey
menunjukkan bahwa model tidak mengalami masalah autokorelasi
Jawaban B
Berdasarkan nilai kondisi indeks menunjukkan bahwa variabel AF mengalami masalah
multikolinearitas. Selain itu variasi proporsi parameter β3 terhadap parameter β2 dan β3 cukup
tinggi sehingga metode OLS pada model regresi mengalami masalah multikolinearitas.
Namun nilai Adjusted R-Squared yang negatif, persentase RMSE yang cukup besar, dan hasil uji t
yang tidak wajar mengindikasikan adanya masalah Heterokesdatisitas.
Contoh Kasus 3
Y1
10
12
13
15
12
11
15
17
19
Y2 X1 X2 X3
21 3 5 6
29 2 4 7
28 3 6 6
21 3 4 5
23 4 3 5
24 5 2 8
21 4 1 6
22 4 2 6
20 3 3 5
Diketahui suatu sistem persamaan
model yang didefinisikan sebagai
berikut:
Y1 0 1 X 1 2 X 2
Y2 0 1 X 3 2 X 4
Dengan:
1
X4 X2 X3
2
a. Dugalah parameter sistem model dengan
metode OLS!
b. Lakukan pengujian asumsi untuk
mengetahui adanya masalah autokorelasi
heterokedastisitas, dan multikolinearitas!
Input SAS
Jawaban A
Nilai penduga parameter sistem model dengan metode
OLS didapat sebagai berikut:
Y1 23.9245 1.6981X 1 1.2893 X 2
Y2 8.1225 1.3483 X 3 1.1068 X 4
Dari pengujian asumsi menunjukkan bahwa seluruh persamaan dengan penduga OLS
tidak mengalami masalah heterokedastisitas namun y1 mengalami masalah autokorelasi
positif. Berdasarkan kondisi indeks menunjukkan bahwa masing-masing parameternya
tidak mengalami masalah multikolinearitas. Namun walaupun tidak mengalami masalah
multikolinearitas, proporsi variasi yang bernilai besar akan memberikan hubungan kuat
antar variabel bebas untuk menduga variabel bergantungnya.
Check Point
1. Lakukan pengujian asumsi pada Modul ANEDA halaman 52!
2. Lakukan penanggulangan/koreksi masalah pada Contoh Kasus 1
dan Contoh Kasus 2!
Pertanyaan Tugas Besar Individu
1. Apakah yang dimaksud dengan masalah
asumsi endogenitas dan normalitas?
Sebutkan faktor penyebab, indikasi dan
konsekuensi, cara mendeteksi, dan cara
penanggulangan masalah endogenitas dan
normalitas!
2. Apa perbedaan penggunaan grafik P-P Plot
dan Q-Q Plot?
Part 1 – Deteksi Pelanggaran Asumsi*
Wahyu Dwi Lesmono
*Akan dibahas sedikit mengenai cara penanggulangannya
Diagram Pengujian Model
Kapan Pengujian Asumsi Model
dilakukan?
Pengujian asumsi model dilakukan apabila
metode penduga parameter yang digunakan
adalah metode OLS (Ordinary Least Square).
Namun tidak menutup kemungkinan jika
metode penduga parameter yang lain harus
dilakukan pengujian asumsi.
Kenapa Perlu dilakukan Uji Asumsi?
Suatu model dapat dikatakan memiliki nilai penduga terbaik
apabila memenuhi kriteria BLUE (Best Linear Unbiased
Estimator) berdasarkan minimisasi iteratif dengan teorema
Gauss-Markov, yaitu:
1. Penduga parameter bersifat efisien (Nilai ragam yang
minimum)
2. Penduga parameter bersifat linear terhadap variabel
bergantung.
3. Penduga parameter bersifat tidak bias (Nilai rata-rata dari
penduga parameter sama dengan nilai parameter itu
sendiri)
Aturan dalam asumsi
1. Hubungan antara variabel bergantung dengan variabel bebas bersifat linear.
2. Variabel bebas bersifat tetap pada setiap observasi (tidak berubahubah/tidak stokastik).
3. Nilai variabel bebas harus bervariasi.
4. Nilai rata-rata residual/galat dengan syarat dari masing-masing variabel
bebasnya adalah 0.
5. Ragam residual/galat adalah konstan atau bersifat homokedastisitas.
6. Tidak ada hubungan antar perbedaan observasi residual (serial correlation).
7. Tidak ada hubungan antara variabel bebas dengan residual.
8. Variabel residual/galat berdistribusi normal.
9. Tidak ada korelasi-korelasi yang sempurna antar variabel bebas.
10.Jumlah observasi harus lebih besar daripada jumlah parameter yang
diestimasi dan jumlah persamaan yang ada dalam sistem.
Definisi Autokorelasi
Autokorelasi (Korelasi Silang atau Korelasi Seri)
merupakan suatu kondisi adanya korelasi antar galat
pada observasi yang berbeda. Suatu model dikatakan
baik apabila bebas dari masalah autokorelasi.
Autokorelasi sering terjadi pada data time series (data
dengan variabel waktu), namun tidak menutup
kemungkinan terjadi pada data cross-sectional (data
antar objek/tanpa variabel waktu).
Faktor Penyebab Autokorelasi
1.
2.
3.
4.
5.
Data mengandung pergerakan naik-turun secara musiman.
Kekeliruan memanipulasi data.
Data yang dianalisis tidak bersifat stasioner.
Data yang digunakan bersifat runtut.
Adanya bias spesifikasi (Mengeluarkan variabel yang
benar dari persamaan model karena alasan-asalan
tertentu).
6. Adanya keterlambatan (Lag)
7. Adanya hubungan variabel pada observasi yang diperoleh
dengan variabel pada observasi sebelumnya.
Indikasi dan Konsekuensi Akibat Autokorelasi
1. Metode penduga masih bersifat linear dan tidak bias
namun tidak efisien sehingga tidak mempunyai ragam
yang minimum. Akibatnya kriteri metode penduga
berubah menjadi LUE (Linear Unbiased Estimation).
2. Nilai standard error pada parameter menjadi
underestimated dan nilai statistik t, F, dan koefisien
determinasi menjadi overestimated sehingga
memberikan kesimpulan yang menyesatkan tentang
arti statistik dan hasil dari koefisien penduga
parameter.
Cara Mendeteksi Adanya Autokorelasi
1. Menggambarkan korelogram autokorelasi
dan autokorelasi parsial.
2. Menggambarkan scatter plot antara residual
dengan residual pada observasi sebelumnya.
3. Menggunakan uji Durbin-Watson atau uji
Godfrey.
Cara Penanggulangan Adanya Autokorelasi
1. Biarkan data apa adanya (Jika datanya Cross-Sectional)
2. Menambahkan data observasi
3. Melakukan transformasi data dengan melakukan lag,
differencing pada variabel bebas, atau transformasi
dengan fungsi tertentu.
4. Menggunakan metode penduga Maximum Likelihood,
Yule-Walker, Full Information Maximum Likelihood, atau
Unconstrained Least Square (ULS).
5. Menggunakan metode koreksi Cochrane-Orchutt.
6. Menggunakan pendekatan autoregressive (AR)
Definisi Heterokesdastisitas
Heterokesdastisitas (Kebalikan dari Homokesdastisitas)
merupakan suatu kondisi terjadinya keragaman
residual/galat dengan observasi dari satu observasi ke
observasi yang lainnya. Suatu model dikatakan baik
apabila rata-rata nilai residualnya adalah nol, residualnya
memiliki ragam yang konstan, dan tidak saling
berhubungan dengan residual observasi yang lainnya.
Permasalahan heterokesdastisitas sering terjadi pada
data cross-sectional dibandingkan data time series.
Faktor Penyebab Heterokesdastisitas
1. Adanya penggolongan antarobjek, baik secara numerik maupun
kategorik, yang menyebabkan nilai penduganya terlalu jauh.
2. Metode penduga dan pengumpulan sampel yang menghasilkan
nilai simpangan baku parameter yang semakin besar.
3. Adanya pencilan pada data sehingga menyebabkan terjadinya
keragaman yang tinggi.
4. Kemiringan (skewness) yang tidak merata.
5. Spesifikasi model yang tidak tepat.
6. Transformasi data yang salah.
7. Model fungsi yang salah.
Indikasi dan Konsekuensi Akibat
Heterokesdastisitas
1. Uji F pada persamaan model yang signifikan namun banyak uji t dari
masing-masing parameter yang tidak signifikan atau sebaliknya
sehingga mengakibatkan nilai simpangan baku dari setiap variabel
bebasnya tidak dapat dipercaya kebenarannya serta mengakibatkan
ragamnya tidak minimum.
2. Nilai penduga parameter model tidak efisien sehingga mengakibatkan
nilai penduganya menjadi LUE (Linear Unbiased Estimation).
3. Nilai residual pada beberapa observasi cukup besar sehingga
mengakibatkan model tidak cocok untuk dilakukan prediksi (crosssectional) atau peramalan (time series).
4. Kesimpulan statistik inferensi akan menyesatkan dan tidak dapat
dipercaya kebenarannya.
Cara Mendeteksi Adanya Heterokesdastisitas
1. Melihat scatter plot/scatter gram antara
kuadrat residual dengan penduga variabel
bergantung atau variabel bebas.
2. Menghitung korelasi antara variabel bebas
dengan variabel residual dengan metode
korelasi Spearman-Rank.
3. Menggunakan uji White, Bresuch-Pagan,
Park, Glejser, atau Goldfeld-Quandt.
Cara Penanggulangan Adanya
Heterokesdastisitas
1. Menggunakan metode penduga Regresi Instrumen
Variabel (IV), Generalized Least Square (GLS), Generalized
Method of Moment (GMM), Feasible GLS (FGLS), dan
Weighted Least Square (WLS) (Jika ragam kelompok
observasinya diketahui).
2. Transformasikan data dengan fungsi yang sesuai.
3. Menggunakan metode koreksi Heteroskedasticity
Consistent Coefficient Covariance (Jika ragam kelompok
observasinya tidak diketahui).
4. Menghitung penduga dengan metode tertentu dengan
simulasi Monte Carlo, Bootstrapping, dan Robust.
Definisi Multikolinearitas
Multikolinearitas merupakan suatu kondisi
adanya korelasi antarvariabel. Suatu model yang
baik “seharusnya” tidak terjadi korelasi di antara
variabel bebasnya.
Secara aljabar, multikolinearitas disebabkan oleh
adanya kombinasi linear dari salah satu atau
masing-masing nilai variabel bebas.
Faktor Penyebab Multikolinearitas
1. Metode pengumpulan data yang digunakan
terbatas pada populasi yang diambil sampelnya.
2. Retriksi yang ada pada model
3. Spesifikasi model yang minim atau berlebihan
4. Model yang overdetermined (Lebih banyak
jumlah parameternya dibandingkan jumlah
observasi)
5. Pergerakan nilai antar variabel yang sama dengan
laju perubahan waktu (untuk data time series)
Indikasi dan Konsekuensi Akibat
Multikolinearitas
1. Nilai koefisien determinasi tinggi namun banyak variabel
bebas yang tidak signifikan atau sebaliknya. Sehingga
menyebabkan selang kepercayaan nilai penduga
parameternya lebih lebar.
2. Nilai standard error yang sangat rendah dibandingkan nilai
penduga parameter atau sebaliknya. Sehingga
menyebabkan terjadi kesesatan prediksi yang tidak ak
3. Nilai ragam dan koragam antar variabel yang cukup besar,
sehingga variabel-variabel tersebut sulit digunakan untuk
estimasi. Walaupun sulit digunakan untuk estimasi,
masalah multikolinearitas masih bersifat BLUE.
Cara Mendeteksi Adanya Multikolinearitas
1. Melihat bentuk scatterplot antar variabel
2. Melihat adanya koefisien korelasi antar variabel bebas
yang tinggi.
3. Melihat adanya koefisien korelasi parsial antar variabel
bebas dengan antar variabel kontrol yang tinggi.
4. Menghitung nilai eigen dan indeks kondisi.
5. Menghitung nilai toleransi dan Variance Inflating
Factor (VIF)
6. Menggunakan regresi Ridge atau regresi Bayesian.
Cara Penanggulangan Adanya
Multikolinearitas
1. Biarkan apa adanya.
2. Mengetahui adanya retriksi secara teoritis terdahulu pada model dari hasil
penduga parameter dan menambahkan retriksi pada model.
3. Mengkombinasikan data cross-sectional dan data time series.
4. Tambahkan jumlah observasi jika memungkinkan.
5. Hilangkan salah satu variabel bebas yang mengandung korelasi yang kuat
terhadap variabel yang lain.
6. Transformasi variabel dengan fungsi resiprokal pada variabel yang memiliki
korelasi kuat.
7. Transformasi variabel dengan melakukan differencing pertama. (Untuk data
time series)
8. Menggunakan analisis faktor.
9. Menggunakan pendekatan regresi Ridge, regresi Bayesian, dan regresi
polinomial ortogonal.
Contoh Kasus 1
Diketahui model regresi berganda yang
didefinisikan sebagai berikut:
Y 0 1 X 1 2 X 2
Dengan menetapkan tingkat kepercayaan
sebesar 95%:
a. Buatlah persamaan Regresinya dengan
metode penduga OLS dan lakukan
pengujian signifikansi modelnya!
b. Apakah metode penduga OLS dari
model tersebut terdapat asumsi yang
dilanggar? Periksalah dengan uji
autokorelasi, heterokedastisitas,
multikolinearitas!
c. Lakukan pengujian normalitas untuk
mengetahui apakah residual dari
model regresi berdistribusi normal!
Y
23.3
24.5
27.2
27.1
24.1
23.4
24.3
24.1
27.2
27.3
27.4
27.3
24.3
23.4
24.1
27.0
23.5
24.3
27.3
23.7
X1
5
6
8
9
7
5
6
7
9
8
8
9
6
5
7
9
5
6
8
7
X2
13
14
17
17
14
13
14
14
17
17
17
17
14
13
14
17
13
14
17
14
-Analyze > Regression > Linear
-Masukkan variabel Y di kotak Dependent dan variabel X1 dan X2
di kotak Independent
-Statistics > Ceklis Estimates, Model Fit, R Squared Change,
Collinearity Diagnostics, Durbin-Watson, Casewise
Diagnostics pilih All cases > Continue
-Plot > Masukkan X sebagai ZPRED dan Y sebagai SRESID >
Standardized Residual Plots pilih Normal Probability Plots >
Continue
-Plot > di kotak Residuals ceklis Unstandardized >
Continue
-Klik OK
-Uji normalitas (nilai statistik):
Analyze > Nonparametric Test > 1-Sample KS
Masukkan Unstandardized Residual ke Test Variable List >
Ceklis Test Distribution Normal > OK
-Uji normalitas (visual):
Analyze > descriptive Statistics > PP Plot atau QQ Plot
Jawaban A
Berdasarkan nilai Adjusted R-Square
menunjukkan nilai 0.994 yang berarti
99.4% variasi dari Y dapat dijelaskan
oleh variasi dari variabel x1 dan x2,
sisanya dijelaskan oleh variabel bebas
lainnya.
N.B: Variabel bebas berpengaruh jika nilai Sig < Taraf Nyata .
Baik uji F maupun uji t
Berdasarkan uji F dapat disimpulkan
bahwa seluruh variabel bebas secara
bersama-sama memberikan pengaruh
terhadap variabel y.
Berdasarkan uji t dapat disimpulkan
bahwa seluruh variabel bebas secara
terpisah memberikan pengaruh
terhadap variabel y.
Model Persamaan Regresinya adalah:
Y 9.261 0.261X 1 1.187 X 2
Jawaban A
Berdasarkan nilai Standard Error of the
Estimate adalah 0.1287 menunjukkan
bahwa variasi Y yang tidak dijelaskan
oleh variabel bebas sebesar 0.1287
satuan.
N.B: Standard Error of the Estimate (SEE) sama dengan Root
Mean Square Error (RMSE)
Berdasarkan uji F dapat disimpulkan
bahwa nilai akar dari mean square
residual yaitu 0.1287 yang
menunjukkan bahwa nilai error yang
mungkin terjadi pada model sebesar
12.87%
Berdasarkan uji t dapat disimpulkan
bahwa nilai simpangan baku untuk
setiap penduga parameternya cukup
kecil sehingga tidak berakibat banyak
penyimpangan dalam menduga
variabel bergantung.
Prosedur Pengujian Autokorelasi dengan
Durbin-Watson
1.
2.
3.
4.
5.
Tentukan banyaknya observasi (n) dan banyaknya variabel bebas pada model (k)
Hitung Durbin-Watson Statistik
Tentukan nilai Durbin-Watson Tabel (dL dan dU) dan selisih nilai 4 dengan Durbin-Watson
batas atas (4-dU) dan batas bawah (4-dL)
Membuat kriteria keputusan dan keputusan
Kesimpulan.
Tidak dapat disimpulkan
Tidak dapat disimpulkan
0
dL
Terjadi autokorelasi positif
dU
2
Tidak terjadi autokorelasi
4-dU
4-dL
4
Terjadi autokorelasi negatif
Jawaban B (Uji Autokorelasi)
Pengujian dengan Durbin-Watson:
-Banyaknya observasi n = 20
-Banyaknya variabel bebas k = 2
-Nilai Durbin-Watson statistik: DW=1.804
-Berdasarkan tabel Durbin Watson, diperoleh:
1. Batas bawah Durbin-Watson tabel:
dL = 1.1004
2. Batas atas Durbin-Watson tabel:
dU = 1.5367
-Nilai 4-dU = 4-1.5367 = 2.4633
-Nilai 4-dL = 4-1.1004 = 2.8996
Jawaban B (Uji Autokorelasi)
Tidak dapat disimpulkan
Tidak dapat disimpulkan
1.804
0
1.1004
Terjadi autokorelasi positif
1.5367
2
Tidak terjadi autokorelasi
2.4633
2.8996
4
Terjadi autokorelasi negatif
Berdasarkan hasil uji Durbin-Watson didapat bahwa nilai Durbin-Watson
statistik berada diantara dL dan 4-dU sehingga metode OLS pada model
regresi tidak mengalami masalah autokorelasi.
Deteksi Heterokesdastisitas Secara Visual
dengan Scatter Plot
Untuk axis merupakan hasil estimasi dan ordinat merupakan kuadrat residual, gambar a tidak mengalami
masalah heterokedastisitas, Gambar b, c, d, e mengalami masalah heterokedastisitas. Tidak adanya
masalah heterokedastisitas apabila scatter plot membentuk pola yang tidak jelas (acak).
Deteksi Heterokesdastisitas Secara
Visual dengan Scatter Plot
Untuk axis merupakan variabel bebas X merupakan kuadrat residual, gambar a tidak mengalami
masalah heterokedastisitas, Gambar b, c, d, e mengalami masalah heterokedastisitas. Tidak adanya
masalah heterokedastisitas apabila scatter plot membentuk pola yang tidak jelas (acak).
Jawaban B (Uji Heterokesdastisitas)
Dari scatter plot standardized predicted value dengan studentized
residual diperoleh pola yang tidak jelas sehingga dapat dikatakan bahwa
metode OLS pada model regresi tidak mengalami masalah
heterokesdastisitas.
Deteksi Multikolinearitas
Untuk mendeteksi adanya multikolinearitas
dapat menggunakan nilai Indeks Kondisi,
Toleransi, atau nilai Variance Inflation Factor
(VIF).
Variance
Inflation Factor Keterangan Multikolinearitas
(VIF)
Conditional
Index (CI)
Toleransi
(TOL)
1 ≤ CI ≤ 15
0.25 ≤ TOL ≤ 1
1 ≤ VIF ≤ 4
Tidak Ada Masalah/Aman
15 < CI ≤ 50
0.1429 ≤ TOL < 0.25
4 < VIF ≤ 7
Sedikit Masalah/Hati-Hati
50 < CI ≤ 100
0.1 ≤ TOL ≤ 0.1429
7 < VIF ≤ 10
Cukup Masalah/Bermasalah
CI > 100
TOL < 0.1
VIF > 10
Masalah Serius/Bencana
Jawaban B (Uji Multikolinearitas)
Hasil nilai Tolerance dan VIF
menunjukkan bahwa variabel X1
dan X2 mengalami cukup
masalah pada multikolinearitas.
Parameter β2 pada indeks kondisi
memiliki nilai diatas 50 dan
proporsi variasi antar parameter
penduganya diatas 0.7 sehingga
metode OLS pada model Regresi
mengalami
cukup
masalah
multikolinearitas khususnya pada
variabel bebas X2 atau parameter
β2.
Jawaban C (Uji Normalitas)
Dengan nilai P-Value = 0.721 > Taraf Nyata = 0.05 maka
residual berdistribusi normal sehingga tidak
mengalami masalah pada normalitas.
Jawaban C (Uji Normalitas)
Berdasarkan P-P plot menunjukkan bahwa residual berdistribusi normal.
Pada normal P-P Plot titik observasinya mendekati garis linear Z dan pada
detrended normal P-P plot titik observasinya menjauhi garis deviasi.
Sehingga residual berdistribusi normal.
Jawaban C (Uji Normalitas)
Berdasarkan Q-Q plot menunjukkan bahwa residual berdistribusi normal. Pada
normal Q-Q Plot titik observasinya mendekati garis linear Z dan pada detrended
normal Q-Q plot titik observasinya menjauhi garis deviasi. Sehingga residual
berdistribusi normal. Karena hanya 1 pencilan observasi residual, maka residual
masih berdistribusi normal.
Contoh Kasus 1 Versi SAS
(Input Program)
Keterangan:
fit untuk menduga parameter dari variabel bergantung
ols untuk metode penduga parameter
dw, dwprob, godfrey untuk uji autokorelasi
collin untuk uji multikolinearitas
white, breusch untuk uji heterokesdatisitas
normal untuk uji normalitas
Yang ada didalam lingkaran memiliki intepretasi yang sama
dengan intepretasi pada SPSS
Model Regresi dengan OLS
seluruhnya tidak
mengalami masalah
heterokesdastisitas, baik
dengan metode White
maupun Breusch-Pagan
Model Regresi dengan
OLS seluruhnya tidak
mengalami masalah
autokorelasi, baik
dengan metode DurbinWatson maupun
Godfrey
Positif
Model Regresi dengan
OLS seluruhnya normal,
baik satu persamaan
maupun sistem
Negatif
Yang ada didalam lingkaran memiliki intepretasi yang sama
dengan intepretasi pada SPSS
Contoh Kasus 2
Penelitian yang dilakukan oleh Winda bertujuan
untuk mengetahui dampak volume maksimal
kebugaran tubuh berdasarkan faktor indeks
massa gizi tubuh (IMT) dan tingkat aktivitas fisik
dari Atlet Bulu Tangkis Himatika 2013. Berikut ini
merupakan data yang diperoleh dan diolah oleh
Winda dari 18 berdasarkan formulasi yang dia
ambil dari literatur statistik kesehatan tertentu.
a. Bentuklah model yang
menggambarkan tujuan
kasus tersebut dan dugalah
parameter model dengan
menggunakan metode OLS!
b. Lakukan pengujian asumsi
model untuk mengetahui
adanya pelanggaran asumsi
autokorelasi,
multikolinearitas, dan
heterokedastisitas pada
model yang telah anda
bentuk!
Kebugaran
Gizi
Aktiv fisik
49.9
51.4
38.85
54.1
52.8
35.7
56.25
46.2
43.9
40.2
35.7
41.8
49.3
46.5
51.9
45.9
37.45
51.1
17.84
18.07
18.96
19.14
20.57
20.77
21.05
21.09
21.3
21.55
21.86
22.31
22.46
23.05
23.41
24.2
25
25.76
2.09
2.08
2.14
2.26
2.14
2.19
2.19
2.18
2.27
2.3
2.52
2.31
2.42
2.44
2.58
2.58
2.38
2.65
Input Data di SAS
Jawaban A
Karena tujuannya ingin mengetahui pengaruh faktor indeks massa gizi
tubuh dan tingkat aktivitas fisik terhadap volume maksimal kebugaran
tubuh berdasarkan. Maka model dapat diformulasikan dengan model
regresi berganda:
V0MAX 0 1 IMT 2 AF
Dengan menggunakan metode OLS diperoleh:
V0MAX 48.7168 1.0224 �
IMT 8.3684 �
AF
Jawaban B
Berdasarkan uji asumsi masalah heterokedastisitas dengan metode White dan
Bresuch-Pagan menunjukkan model tidak mengalami masalah heterokedastisitas.
Uji asumsi masalah autokorelasi dengan metode Durbin-Warson dan Godfrey
menunjukkan bahwa model tidak mengalami masalah autokorelasi
Jawaban B
Berdasarkan nilai kondisi indeks menunjukkan bahwa variabel AF mengalami masalah
multikolinearitas. Selain itu variasi proporsi parameter β3 terhadap parameter β2 dan β3 cukup
tinggi sehingga metode OLS pada model regresi mengalami masalah multikolinearitas.
Namun nilai Adjusted R-Squared yang negatif, persentase RMSE yang cukup besar, dan hasil uji t
yang tidak wajar mengindikasikan adanya masalah Heterokesdatisitas.
Contoh Kasus 3
Y1
10
12
13
15
12
11
15
17
19
Y2 X1 X2 X3
21 3 5 6
29 2 4 7
28 3 6 6
21 3 4 5
23 4 3 5
24 5 2 8
21 4 1 6
22 4 2 6
20 3 3 5
Diketahui suatu sistem persamaan
model yang didefinisikan sebagai
berikut:
Y1 0 1 X 1 2 X 2
Y2 0 1 X 3 2 X 4
Dengan:
1
X4 X2 X3
2
a. Dugalah parameter sistem model dengan
metode OLS!
b. Lakukan pengujian asumsi untuk
mengetahui adanya masalah autokorelasi
heterokedastisitas, dan multikolinearitas!
Input SAS
Jawaban A
Nilai penduga parameter sistem model dengan metode
OLS didapat sebagai berikut:
Y1 23.9245 1.6981X 1 1.2893 X 2
Y2 8.1225 1.3483 X 3 1.1068 X 4
Dari pengujian asumsi menunjukkan bahwa seluruh persamaan dengan penduga OLS
tidak mengalami masalah heterokedastisitas namun y1 mengalami masalah autokorelasi
positif. Berdasarkan kondisi indeks menunjukkan bahwa masing-masing parameternya
tidak mengalami masalah multikolinearitas. Namun walaupun tidak mengalami masalah
multikolinearitas, proporsi variasi yang bernilai besar akan memberikan hubungan kuat
antar variabel bebas untuk menduga variabel bergantungnya.
Check Point
1. Lakukan pengujian asumsi pada Modul ANEDA halaman 52!
2. Lakukan penanggulangan/koreksi masalah pada Contoh Kasus 1
dan Contoh Kasus 2!
Pertanyaan Tugas Besar Individu
1. Apakah yang dimaksud dengan masalah
asumsi endogenitas dan normalitas?
Sebutkan faktor penyebab, indikasi dan
konsekuensi, cara mendeteksi, dan cara
penanggulangan masalah endogenitas dan
normalitas!
2. Apa perbedaan penggunaan grafik P-P Plot
dan Q-Q Plot?