Analisis dan Eksplorasi Data 2015 2016
Uji Asumsi Penduga Model
Part 1 – Deteksi Pelanggaran Asumsi*
Wahyu Dwi Lesmono, S.Si
*Akan dibahas sedikit mengenai cara penanggula
Diagram Pengujian Model
Kapan Pengujian Asumsi Model
dilakukan?
Pengujian asumsi penduga model dilakukan
apabila metode penduga parameter yang
digunakan adalah metode OLS (Ordinary
Least Square). Namun tidak menutup
kemungkinan jika metode penduga parameter
yang lain harus dilakukan pengujian asumsi.
Pengujian asumsi penduga model dapat
dilakukan setelah melakukan uji signfikansi
model.
Kenapa Perlu dilakukan Uji
Asumsi?
Suatu model dapat dikatakan memiliki nilai penduga
terbaik apabila memenuhi kriteria BLUE (Best Linear
Unbiased Estimator) berdasarkan minimisasi iteratif
dengan teorema Gauss-Markov, yaitu:
1. Penduga parameter bersifat efisien (Nilai ragam
yang minimum)
2. Penduga parameter bersifat linear terhadap
variabel bergantung.
3. Penduga parameter bersifat tidak bias (Nilai ratarata dari penduga parameter sama dengan nilai
parameter itu sendiri)
Aturan dalam asumsi
1. Hubungan antara variabel bergantung dengan variabel bebas bersifat
linear.
2. Variabel bebas bersifat tetap pada setiap observasi (tidak berubahubah/tidak stokastik).
3. Nilai variabel bebas harus bervariasi.
4. Nilai rata-rata residual/galat dengan syarat dari masing-masing
variabel bebasnya adalah 0.
5. Ragam residual/galat adalah konstan atau bersifat homokedastisitas.
6. Tidak ada hubungan antar perbedaan observasi residual (serial
correlation).
7. Tidak ada hubungan antara variabel bebas dengan residual.
8. Variabel residual/galat berdistribusi normal.
9. Tidak ada korelasi-korelasi yang sempurna antar variabel bebas.
10.Jumlah observasi harus lebih besar daripada jumlah parameter yang
diestimasi dan jumlah persamaan yang ada dalam sistem.
Definisi Autokorelasi
Autokorelasi (Korelasi Silang atau Korelasi Seri)
merupakan suatu kondisi adanya korelasi antar
galat pada observasi yang berbeda. Suatu model
dikatakan baik apabila bebas dari masalah
autokorelasi.
Autokorelasi sering terjadi pada data time series
(data dengan variabel waktu), namun tidak
menutup kemungkinan terjadi pada data crosssectional (data antar objek/tanpa variabel
waktu).
Faktor Penyebab
Autokorelasi
1. Data mengandung pergerakan naik-turun secara
musiman.
2. Kekeliruan memanipulasi data.
3. Data yang dianalisis tidak bersifat stasioner.
4. Data yang digunakan bersifat runtut.
5. Adanya bias spesifikasi (Mengeluarkan variabel yang
benar dari persamaan model karena alasan-asalan
tertentu).
6. Adanya keterlambatan (Lag)
7. Adanya hubungan variabel pada observasi yang
diperoleh dengan variabel pada observasi
sebelumnya.
Indikasi dan Konsekuensi Akibat
Autokorelasi
1. Metode penduga masih bersifat linear dan
tidak bias namun tidak efisien sehingga tidak
mempunyai ragam yang minimum. Akibatnya
kriteri metode penduga berubah menjadi LUE
(Linear Unbiased Estimation).
2. Nilai standard error pada parameter menjadi
underestimated dan nilai statistik t, F, dan
koefisien determinasi menjadi overestimated
sehingga memberikan kesimpulan yang
menyesatkan tentang arti statistik dan hasil
dari koefisien penduga parameter.
Cara Mendeteksi Adanya
Autokorelasi
1. Menggambarkan korelogram
autokorelasi dan autokorelasi
parsial.
2. Menggambarkan scatter plot antara
residual dengan residual pada
observasi sebelumnya.
3. Menggunakan uji Durbin-Watson
atau uji Godfrey.
Cara Penanggulangan Adanya
Autokorelasi
1. Biarkan data apa adanya (Jika datanya CrossSectional)
2. Menambahkan data observasi
3. Melakukan transformasi data dengan melakukan
lag, differencing pada variabel bebas, atau
transformasi dengan fungsi tertentu.
4. Menggunakan metode penduga Maximum
Likelihood, Yule-Walker, Full Information Maximum
Likelihood, atau Unconstrained Least Square (ULS).
5. Menggunakan metode koreksi Cochrane-Orchutt.
6. Menggunakan pendekatan autoregressive (AR)
Definisi Heterokesdastisitas
Heterokesdastisitas
(Kebalikan
dari
Homokesdastisitas)
merupakan
suatu
kondisi
terjadinya
keragaman
residual/galat
dengan
observasi dari satu observasi ke observasi yang
lainnya yang TIDAK konstan. Suatu model dikatakan
baik apabila rata-rata nilai residualnya adalah nol,
residualnya memiliki pola ragam yang konstan, dan
tidak saling berhubungan dengan residual observasi
yang lainnya.
Permasalahan heterokesdastisitas sering terjadi pada
data cross-sectional dibandingkan data time series.
Faktor Penyebab
Heterokesdastisitas
1. Adanya penggolongan antarobjek, baik secara
numerik maupun kategorik, yang menyebabkan nilai
penduganya terlalu jauh.
2. Metode penduga dan pengumpulan sampel yang
menghasilkan nilai simpangan baku parameter yang
semakin besar.
3. Adanya pencilan pada data sehingga menyebabkan
terjadinya keragaman yang tinggi.
4. Kemiringan (skewness) yang tidak merata.
5. Spesifikasi model yang tidak tepat.
6. Transformasi data yang salah.
7. Model fungsi yang salah.
Indikasi dan Konsekuensi Akibat
Heterokesdastisitas
1. Uji F pada persamaan model yang signifikan namun banyak
uji t dari masing-masing parameter yang tidak signifikan
atau sebaliknya sehingga mengakibatkan nilai simpangan
baku dari setiap variabel bebasnya tidak dapat dipercaya
kebenarannya serta mengakibatkan ragamnya tidak
minimum.
2. Nilai penduga parameter model tidak efisien sehingga
mengakibatkan nilai penduganya menjadi LUE (Linear
Unbiased Estimation).
3. Nilai residual pada beberapa observasi cukup besar
sehingga mengakibatkan model tidak cocok untuk dilakukan
prediksi (cross-sectional) atau peramalan (time series).
4. Kesimpulan statistik inferensi akan menyesatkan dan tidak
dapat dipercaya kebenarannya.
Cara Mendeteksi Adanya
Heterokesdastisitas
1. Melihat scatter plot/scatter gram
antara kuadrat residual dengan
penduga variabel bergantung atau
variabel bebas.
2. Menghitung korelasi antara variabel
bebas dengan variabel residual
dengan metode korelasi SpearmanRank.
3. Menggunakan uji White, BresuchPagan, Park, Glejser, atau Goldfeld-
Cara Penanggulangan Adanya
Heterokesdastisitas
1. Menggunakan metode penduga Regresi Instrumen
Variabel (IV), Generalized Least Square (GLS),
Generalized Method of Moment (GMM), Feasible
GLS (FGLS), dan Weighted Least Square (WLS) (Jika
ragam kelompok observasinya diketahui).
2. Transformasikan data dengan fungsi yang sesuai.
3. Menggunakan metode koreksi Heteroskedasticity
Consistent Coefficient Covariance (Jika ragam
kelompok observasinya tidak diketahui).
4. Menghitung penduga dengan metode tertentu
dengan simulasi Monte Carlo, Bootstrapping, dan
Robust.
Definisi Multikolinearitas
Multikolinearitas merupakan suatu
kondisi adanya korelasi antarvariabel.
Suatu model yang baik “seharusnya”
tidak terjadi korelasi di antara variabel
bebasnya.
Secara aljabar, multikolinearitas
disebabkan oleh adanya kombinasi
linear dari salah satu atau masingmasing nilai variabel bebas.
Faktor Penyebab
Multikolinearitas
1. Metode pengumpulan data yang digunakan
terbatas pada populasi yang diambil
sampelnya.
2. Retriksi yang ada pada model
3. Spesifikasi model yang minim atau berlebihan
4. Model yang overdetermined (Lebih banyak
jumlah parameternya dibandingkan jumlah
observasi)
5. Pergerakan nilai antar variabel yang sama
dengan laju perubahan waktu (untuk data time
series)
Indikasi dan Konsekuensi Akibat
Multikolinearitas
1. Nilai koefisien determinasi tinggi namun banyak
variabel bebas yang tidak signifikan atau sebaliknya.
Sehingga menyebabkan selang kepercayaan nilai
penduga parameternya lebih lebar.
2. Nilai standard error yang sangat rendah dibandingkan
nilai penduga parameter atau sebaliknya. Sehingga
menyebabkan terjadi kesesatan prediksi yang tidak ak
3. Nilai ragam dan koragam antar variabel yang cukup
besar, sehingga variabel-variabel tersebut sulit
digunakan untuk estimasi. Walaupun sulit digunakan
untuk estimasi, masalah multikolinearitas masih
bersifat BLUE.
Cara Mendeteksi Adanya
Multikolinearitas
1. Melihat bentuk scatterplot antar variabel
2. Melihat adanya koefisien korelasi antar variabel
bebas yang tinggi.
3. Melihat adanya koefisien korelasi parsial antar
variabel bebas dengan antar variabel kontrol
yang tinggi.
4. Menghitung nilai eigen dan indeks kondisi.
5. Menghitung nilai toleransi dan Variance Inflating
Factor (VIF)
6. Menggunakan regresi Ridge atau regresi
Bayesian.
Cara Penanggulangan Adanya
Multikolinearitas
1. Biarkan apa adanya.
2. Mengetahui adanya retriksi secara teoritis terdahulu pada model dari
hasil penduga parameter dan menambahkan retriksi pada model.
3. Mengkombinasikan data cross-sectional dan data time series.
4. Tambahkan jumlah observasi jika memungkinkan.
5. Hilangkan salah satu variabel bebas yang mengandung korelasi yang
kuat terhadap variabel yang lain.
6. Transformasi variabel dengan fungsi resiprokal pada variabel yang
memiliki korelasi kuat.
7. Transformasi variabel dengan melakukan differencing pertama. (Untuk
data time series)
8. Menggunakan analisis faktor.
9. Menggunakan pendekatan regresi Ridge, regresi Bayesian, dan regresi
polinomial ortogonal.
10.Menggunakan metode penduga Partial Least Square (PLS)
Contoh Kasus 1
Diketahui model regresi berganda
yang didefinisikan sebagai berikut:
Y 0 1 X 1 2 X 2
Dengan menetapkan tingkat
kepercayaan sebesar 95%:
a. Buatlah persamaan Regresinya dengan
metode penduga OLS dan lakukan
pengujian signifikansi modelnya!
b. Apakah metode penduga OLS dari
model tersebut terdapat asumsi yang
dilanggar? Periksalah dengan uji
autokorelasi, heterokedastisitas,
multikolinearitas, normalitas, dan
linearitas!
c. Berikan penanggulangan apabila
terdapat asumsi model penduga yang
dilanggar berdasarkan nomor b!
Y
23.3
24.5
27.2
27.1
24.1
23.4
24.3
24.1
27.2
27.3
27.4
27.3
24.3
23.4
24.1
27.0
23.5
24.3
27.3
23.7
X1
5
6
8
9
7
5
6
7
9
8
8
9
6
5
7
9
5
6
8
7
X2
13
14
17
17
14
13
14
14
17
17
17
17
14
13
14
17
13
14
17
14
-Analyze > Regression > Linear
-Masukkan variabel Y di kotak Dependent dan
variabel X1 dan X2 di kotak Independent
-Statistics > Ceklis Estimates, Model Fit, R Squared
Change, Collinearity Diagnostics, Durbin-Watson,
Casewise Diagnostics pilih All cases > Continue
-Plot > Masukkan X sebagai ZPRED dan Y sebagai
SRESID > Standardized Residual Plots pilih
Normal Probability Plots > Continue
-Plot > di kotak Residuals ceklis
Unstandardized > Continue
-Klik OK
-Uji normalitas (nilai statistik):
Analyze > Nonparametric Test > 1-Sample KS
Masukkan Unstandardized Residual ke Test
Variable List > Ceklis Test Distribution
Normal > OK
-Uji normalitas (visual):
Analyze > descriptive Statistics > PP Plot atau
QQ Plot
Stat > Regression > Regression > Fit Regressions Model
Masukkan Y di Responses, serta X1 dan X2 di Continous Predictors
Graphs > Pilih Residual Plots di bagian Four in One > OK
Results > Ceklis semua, pada Display of Results pilih Simple Tables, pada Fits and Diagnostics pilih Only
for Unusual Observations > OK
Storage > Ceklis Residual > OK
Klik OK
Jawaban A (SPSS)
Berdasarkan nilai R-Square
menunjukkan nilai 0.995 yang
berarti 99.5% variasi dari Y
dapat dijelaskan oleh variasi
dari variabel x1 dan x2, sisanya
dijelaskan oleh variabel bebas
lainnya.
Berdasarkan uji F dapat
disimpulkan bahwa seluruh
variabel bebas secara bersamasama memberikan pengaruh
N.B: Variabel bebas berpengaruh jika nilai Sig <
terhadap variabel y.
Taraf Nyata . Baik uji F maupun uji t
Model Persamaan Regresinya
adalah:
Berdasarkan uji t dapat
disimpulkan bahwa seluruh
variabel bebas secara terpisah
memberikan pengaruh
terhadap variabel y.
Y 9.261 0.261X 1 1.187 X 2
Jawaban A (SPSS)
Berdasarkan nilai Standard
Error of the Estimate adalah
0.1287 menunjukkan bahwa
variasi Y yang tidak dijelaskan
oleh variabel bebas sebesar
0.1287 satuan.
Berdasarkan uji F dapat
disimpulkan bahwa nilai akar
dari mean square residual
yaitu 0.1287 yang
menunjukkan bahwa nilai error
N.B: Standard Error of the Estimate (SEE) sama
dengan Root Mean Square Error (RMSE)
yang mungkin terjadi pada
model
sebesaruji
0.1287
satuan.
Berdasarkan
t dapat
disimpulkan bahwa nilai
simpangan baku untuk setiap
penduga parameternya cukup
kecil sehingga tidak berakibat
banyak penyimpangan dalam
menduga variabel bergantung.
Regression Analysis: Y versus X1, X2
Analysis of Variance
Source
Regression
X1
X2
Error
Lack-of-Fit
Pure Error
Total
DF
2
1
1
17
2
15
19
Adj SS
54.3863
0.3685
10.7053
0.2817
0.0417
0.2400
54.6680
Adj MS
27.1932
0.3685
10.7053
0.0166
0.0208
0.0160
F-Value
1641.14
22.24
646.08
P-Value
0.000
0.000
0.000
1.30
0.301
Model Summary
S
0.128723
R-sq
99.48%
R-sq(adj)
99.42%
R-sq(pred)
99.27%
Coefficients
Term
Constant
X1
X2
Coef
9.261
-0.2605
1.1868
SE Coef
0.371
0.0552
0.0467
T-Value
24.99
-4.72
25.42
P-Value
0.000
0.000
0.000
Regression Equation
Y = 9.261 - 0.2605 X1 + 1.1868 X2
Fits and Diagnostics for Unusual Observations
Obs
20
R
Y
23.7000
Fit
24.0532
Resid
-0.3532
Std Resid
-3.03
Large residual
Durbin-Watson Statistic
Durbin-Watson Statistic =
1.80353
R
VIF
7.37
7.37
Jawaban A
(Minitab)
Berdasarkan hasil analisis ragam pada
model regresi yang dibentuk menunjukkan
bahwa seluruh variabel bebas
mempengaruhi variabel bergantungnya.
Baik secara bersama-sama (Source
regression)
secara
terpisah bahwa
Hasil model maupun
summary
menunjukkan
(Source
x1 dan x2).
simpangan
galat
penduga
(S)
menunjukkan 0.1287 yang menunjukkan
bahwa rata-rata jarak dari titik data dari
garis regresi sebesar 0.1287% Y. R-Square
menunjukkan bahwa 99.48% variasi nilai Y
dapat dijelaskan oleh variabel X1 dan X2.
Sisanya dijelaskan oleh variabel yang
lainnya yang tidak disebabkan dalam
model. R-Square Adjusted menunjukkan
bahwa 99.42%
variasi nilai Y dapat
dijelaskan oleh adanya penambahan
variabel X1 dan X2. Sisanya dijelaskan
oleh variabel yang tidak ditambahkan
dalam
model.
R-Square
Prediction
menunjukkan bahwa 99.27% variasi nilai Y
dapat diprediksi berdasarkan perubahan
Regression Analysis: Y versus X1, X2
Analysis of Variance
Source
Regression
X1
X2
Error
Lack-of-Fit
Pure Error
Total
DF
2
1
1
17
2
15
19
Adj SS
54.3863
0.3685
10.7053
0.2817
0.0417
0.2400
54.6680
Adj MS
27.1932
0.3685
10.7053
0.0166
0.0208
0.0160
F-Value
1641.14
22.24
646.08
P-Value
0.000
0.000
0.000
1.30
0.301
Model Summary
S
0.128723
R-sq
99.48%
R-sq(adj)
99.42%
R-sq(pred)
99.27%
Coefficients
Term
Constant
X1
X2
Coef
9.261
-0.2605
1.1868
SE Coef
0.371
0.0552
0.0467
T-Value
24.99
-4.72
25.42
P-Value
0.000
0.000
0.000
Y = 9.261 - 0.2605 X1 + 1.1868 X2
Fits and Diagnostics for Unusual Observations
R
Y
23.7000
7.37
7.37
Hasil uji t koefisien regresi menunjukkan bahwa
setiap perubahan x1 dan x2 secara signifikan
mempengaruhi variabel Y. Selain itu, tanpa
adanya perubahan dari x1 dan x2 secara
signifikan mempengaruhi variabel Y.
Berdasarkan uji t dapat disimpulkan
bahwa nilai simpangan baku untuk
setiap penduga parameternya cukup
kecil sehingga tidak berakibat banyak
penyimpangan dalam menduga variabel
bergantung.
Model Persamaan Regresinya adalah:
Y 9.261 0.261X 1 1.187 X 2
Regression Equation
Obs
20
VIF
Jawaban A
(Minitab)
Fit
24.0532
Resid
-0.3532
Std Resid
-3.03
Large residual
Durbin-Watson Statistic
Durbin-Watson Statistic =
1.80353
R
Hasil fits and diagnostics for unusual
observations menunjukkan bahwa terdapat
nilai residual yang besar pada observasi ke20. Hal tersebut menunjukkan bahwa
observasi ke-20 memberikan penyimpangan
nilai penduga yang cukup besar sehingga
berpotensi adanya pencilan nilai dugaan
pada model.
Deteksi Autokorelasi Secara Visual
dengan Scatter Plot
Catatan:
Waktu sama
halnya dengan
observasi pada
data
Untuk axis merupakan waktu dan ordinat merupakan residual, gambar a, b, c, d
menunjukkan adanya pola tertentu antara waktu dengan residual yang
mengindikasikan adanya masalah autokorelasi pada data. Sementara itu, gambar e
menunjukkan tidak terdapat bentuk pola antara waktu dengan residual yang
menunjukkan bahwa tidak terdapat masalah autokorelasi pada data
Deteksi Autokorelasi Secara Visual
dengan Scatter Plot
Dengan axis adalah waktu dan
ordinat adalah residual. Gambar
a kiri menunjukkan pola hubungan
galat
yang
melandai
setiap
waktunya
sehingga
terdapat
masalah
autokorelasi
positif.
Sementara
Gambar
b
kiri
menunjukkan pola hubungan galat
yang
curam
setiap
waktunya
sehingga
terdapat
masalah
autokorelasi negatif.
Dengan axis adalah waktu pada
periode ke-(t-1) dan ordinat
merupakan waktu pada periode
ke-t. Gambar a kanan menunjukkan
pola menyebar naik ke arah kanan
atas yang menunjukkan adanya
masalah
autokorelasi
positif.
Gambar b kanan menunjukkan pola
menyebar menurun ke arah kanan
Jawaban B (Uji Autokorelasi)
Berdasarkan Line Plot Observation Order dengan Residual menunjukkan
bahwa pola residual antar observasi memiliki pola yang tidak terlalu
tajam dan tidak membentuk pola sistematika tertentu. Sehingga
mengindikasi bahwa model regresi yang dibentuk dengan
menggunakan metode OLS tidak mengalami masalah autokorelasi.
Prosedur Pengujian Autokorelasi
dengan Durbin-Watson
1.
2.
3.
4.
5.
Tentukan banyaknya observasi (n) dan banyaknya variabel bebas pada
model (k)
Hitung Durbin-Watson Statistik
Tentukan nilai Durbin-Watson Tabel (dL dan dU) dan selisih nilai 4 dengan
Durbin-Watson batas atas (4-dU) dan batas bawah (4-dL)
Membuat kriteria keputusan dan keputusan
Kesimpulan.
Tidak dapat
disimpulkan
Tidak dapat
disimpulkan
0
d
L
Terjadi autokorelasi
positif
dU
2
Tidak terjadi
autokorelasi
4-dU
4-dL
4
Terjadi autokorelasi
negatif
Jawaban B (Uji Autokorelasi)
Durbin-Watson Statistic
Durbin-Watson Statistic =
1.80353
Pengujian dengan Durbin-Watson:
-Banyaknya observasi n = 20
-Banyaknya variabel bebas k = 2
-Nilai Durbin-Watson statistik: DW=1.804
-Berdasarkan tabel Durbin Watson,
diperoleh:
1. Batas bawah Durbin-Watson tabel:
dL = 1.1004
2. Batas atas Durbin-Watson tabel:
dU = 1.5367
-Nilai 4-dU = 4-1.5367 = 2.4633
-Nilai 4-dL = 4-1.1004 = 2.8996
Jawaban B (Uji Autokorelasi)
Tidak dapat
disimpulkan
Tidak dapat
disimpulkan
1.80
4
0
1.100
4
Terjadi autokorelasi
positif
1.536
7
2
Tidak terjadi
autokorelasi
2.463
3
2.899
6
4
Terjadi autokorelasi
negatif
Berdasarkan hasil uji Durbin-Watson didapat bahwa nilai DurbinWatson statistik berada diantara dU dan 4-dU sehingga metode
OLS pada model regresi tidak mengalami masalah autokorelasi.
Deteksi Heterokesdastisitas Secara
Visual dengan Scatter Plot
Untuk axis merupakan hasil estimasi dan ordinat merupakan kuadrat residual, gambar a tidak
mengalami masalah heterokedastisitas, Gambar b, c, d, e mengalami masalah heterokedastisitas.
Tidak adanya masalah heterokedastisitas apabila scatter plot membentuk pola yang tidak jelas (acak).
Deteksi Heterokesdastisitas Secara
Visual dengan Scatter Plot
Untuk axis merupakan variabel bebas X merupakan kuadrat residual, gambar a tidak mengalami
masalah heterokedastisitas, Gambar b, c, d, e mengalami masalah heterokedastisitas. Tidak adanya
masalah heterokedastisitas apabila scatter plot membentuk pola yang tidak jelas (acak).
Jawaban B (Uji
Heterokesdastisitas)
Dari scatter plot standardized predicted value dengan studentized
residual dan fitted value dengan residual diperoleh pola yang tidak
jelas sehingga dapat dikatakan bahwa metode OLS pada model
regresi tidak mengalami masalah heterokesdastisitas.
Deteksi Multikolinearitas
Untuk mendeteksi adanya
multikolinearitas dapat menggunakan
nilai Indeks Kondisi, Toleransi, atau
nilai Variance Inflation Factor (VIF).
Conditional
Index (CI)
Toleransi
(TOL)
Variance
Inflation
Factor (VIF)
1 ≤ CI ≤ 15 0.25 ≤ TOL ≤ 1 1 ≤ VIF ≤ 4
15 < CI ≤ 50
50 < CI ≤
100
CI > 100
0.1429 ≤ TOL
4 < VIF ≤ 7
< 0.25
0.1 ≤ TOL ≤
7 < VIF ≤ 10
0.1429
TOL < 0.1
VIF > 10
Keterangan
Multikolinearitas
Tidak Ada
Masalah/Aman
Sedikit Masalah/HatiHati
Cukup
Masalah/Bermasalah
Masalah
Serius/Bencana
Jawaban B (Uji
Multikolinearitas)
Coefficients
Term
Constant
X1
X2
Coef
9.261
-0.2605
1.1868
SE Coef
0.371
0.0552
0.0467
T-Value
24.99
-4.72
25.42
P-Value
0.000
0.000
0.000
VIF
7.37
7.37
Hasil nilai Tolerance dan
VIF menunjukkan bahwa
variabel
X1
dan
X2
mengalami cukup masalah
pada
multikolinearitas.
Parameter β2 pada indeks
kondisi
memiliki
nilai
diatas 50 dan proporsi
variasi antar parameter
penduganya diatas 0.7
sehingga
metode
OLS
pada
model
Regresi
mengalami cukup masalah
Jawaban B (Uji Normalitas)
Dengan nilai P-Value = 0.721 > Taraf Nyata = 0.05
maka residual berdistribusi normal sehingga tidak
mengalami masalah pada normalitas.
Jawaban B (Uji Normalitas)
Berdasarkan
uji
normalitas
dengan
menggunakan
uji
Anderson-Darling
menunjukkan bahwa
residual berdistribusi
normal.
Walaupun
residual
memiliki
distribusi
sedikit
memenceng ke arah
kiri dan meruncing
dan
terdapat
pencilan.
Namun
dengan
pengujian
normalitas
dengan
Anderson-Darling
menunjukkan bahwa
residual berdistribusi
normal
secara
signifikan.
Jawaban B (Uji Normalitas)
Berdasarkan P-P plot menunjukkan bahwa residual berdistribusi
normal. Pada normal P-P Plot titik observasinya mendekati garis
linear Z dan pada detrended normal P-P plot titik observasinya
menjauhi garis deviasi. Sehingga residual berdistribusi normal.
Jawaban B (Uji Normalitas)
Berdasarkan Q-Q plot menunjukkan bahwa residual berdistribusi
normal. Pada normal Q-Q Plot titik observasinya mendekati garis linear
Z dan pada detrended normal Q-Q plot titik observasinya menjauhi
garis deviasi. Sehingga residual berdistribusi normal. Karena hanya 1
pencilan observasi residual, maka residual masih berdistribusi normal.
Jawaban B (Uji Linearitas)
Analysis of Variance
Source
Regression
X1
X2
Error
Lack-of-Fit
Pure Error
Total
DF
2
1
1
17
2
15
19
Adj SS
54.3863
0.3685
10.7053
0.2817
0.0417
0.2400
54.6680
Adj MS
27.1932
0.3685
10.7053
0.0166
0.0208
0.0160
F-Value
1641.14
22.24
646.08
P-Value
0.000
0.000
0.000
1.30
0.301
H0: Model Regresi dari Penduga berbentuk linear
H1: Model Regresi dari Penduga berbentuk nonlinear
Berdasarkan uji Linearitas dari sumber keragaman Lack-of-Fits (ketidakpasan
penduga) menunjukkan bahwa nilai P-Value = 0.301 > Taraf Nyata = 0.05
sehingga terima H0. Sehingga diperoleh kesimpulan bahwa model regresi yang
dibentuk dari penduga OLS berbentuk linear.
Jawaban C
Berdasarkan hasil nomor b, asumsi
yang dilanggar adalah
multikolinearitas. Karena model regresi
yang dibentuk dari definisi (teoritis)
dan data yang diperoleh hanya data
yang tersedia saja, maka
penanggulangan multikolinearitas bisa
diabaikan.
Contoh
Kasus 2
Penelitian yang dilakukan oleh Nina
bertujuan untuk mengetahui dampak
volume maksimal kebugaran tubuh
berdasarkan faktor indeks massa gizi
tubuh (IMT) dan tingkat aktivitas fisik
dari Atlet Bulu Tangkis Himatika 2014.
Berikut ini merupakan data yang
diperoleh dan diolah oleh Nina dari 18
berdasarkan formulasi yang dia ambil
dari literatur statistik kesehatan
tertentu.
a. Bentuklah
model
yang
menggambarkan tujuan kasus
tersebut dan dugalah parameter
model dengan menggunakan
metode OLS!
b. Lakukan pengujian asumsi model
untuk
mengetahui
adanya
pelanggaran asumsi pada model
yang telah anda bentuk pada
poin a!
c.
Berikan cara penanggulangan
Volume
Indeks
Maksimal Massa Tingkat
Kebugaran
Gizi Aktivitas
Tubuh
Tubuh
Fisik
49.9
17.84
2.09
54.1
19.14
2.26
52.8
20.57
2.14
56.25
21.05
2.19
40.2
21.55
2.3
49.3
22.46
2.42
46.5
23.05
2.44
51.9
23.41
2.58
45.9
24.2
2.58
51.1
25.76
2.65
51.4
18.07
2.08
38.85
18.96
2.14
35.7
20.77
2.19
46.2
21.09
2.18
43.9
21.3
2.27
35.7
21.86
2.52
41.8
22.31
2.31
37.45
25
2.38
Jawaban A
Karena tujuannya ingin mengetahui pengaruh faktor indeks
massa gizi tubuh dan tingkat aktivitas fisik terhadap volume
maksimal kebugaran tubuh berdasarkan. Maka model dapat
diformulasikan dengan model regresi berganda:
V0MAX 0 1 IMT 2 AF
Dengan menggunakan metode OLS diperoleh:
V0MAX 48.7168 1.0224 IMT 8.3684 AF
Jawaban B
Karena nilai Adjusted RSquare bernilai negatif,
penduga simpangan baku
yang kecil, namun hanya
parameter intersep (Constant)
yang signifikan maka terdapat
permasalahan yang serius
pada model penduga OLS.
Jawaban B (Uji Autokorelasi)
Berdasarkan Line Plot Observation Order dengan Residual menunjukkan
bahwa pola residual antar observasi memiliki pola yang sedikit tajam
dan menurun. Sehingga mengindikasi bahwa model regresi yang
dibentuk dengan menggunakan metode OLS mengalami masalah
autokorelasi negatif.
Jawaban B (Uji Autokorelasi)
Durbin-Watson Statistic
Durbin-Watson Statistic =
1.33020
Pengujian dengan Durbin-Watson:
-Banyaknya observasi n = 18
-Banyaknya variabel bebas k = 2
-Nilai Durbin-Watson statistik: DW=1.330
-Berdasarkan tabel Durbin Watson,
diperoleh:
1. Batas bawah Durbin-Watson tabel:
dL = 1.0461
2. Batas atas Durbin-Watson tabel:
dU = 1.5353
-Nilai 4-dU = 4-1.5353 = 2.4647
-Nilai 4-dL = 4-1.0461 = 2.9539
Jawaban B (Uji Autokorelasi)
Tidak dapat
disimpulkan
Tidak dapat
disimpulkan
1.3302
0
1.1046
1
Terjadi autokorelasi
positif
1.535
3
2
Tidak terjadi
autokorelasi
2.464
7
2.953
9
4
Terjadi autokorelasi
negatif
Berdasarkan hasil uji Durbin-Watson didapat bahwa nilai Durbin-Watson statistik
berada diantara dL dan dU metode OLS pada model regresi tidak dapat
diperoleh kesimpulan mengenai adanya masalah autokorelasi positif ataupun
tidak.
N.B: Carilah metode pengujian autokorelasi yang lain agar dapat memberikan
kesimpulan yang signifikan
Jawaban B (Uji
Heteroskedastisitas)
Dari scatter plot standardized predicted value dengan studentized
residual dan fitted value dengan residual diperoleh pola yang tidak
jelas sehingga dapat dikatakan bahwa metode OLS pada model
regresi tidak mengalami masalah heterokesdastisitas.
Jawaban B (Uji
Multikolinearitas)
Coefficients
Term
Constant
IMGT
AF
Coef
48.7
-1.02
8.4
SE Coef
21.9
1.44
17.8
T-Value
2.23
-0.71
0.47
P-Value
0.042
0.488
0.646
VIF
3.74
3.74
Hasil nilai Tolerance dan
VIF menunjukkan bahwa
variabel IMGT dan AF tidak
mengalami masalah pada
multikolinearitas. Apabila
model
regresi
yang
dibentuk berdimensi tiga
(terdapat
3
parameter
dalam model), maka nilai
condition index diatas 50.
Hal ini mengindikasikan
bahwa terjadi hubungan
yang
kuat
antar
tiap
perubahan
parameter
Jawaban B (Uji Normalitas)
Berdasarkan
uji
normalitas
dengan
menggunakan
uji
Anderson-Darling
menunjukkan bahwa
residual berdistribusi
normal. Hal tersebut
terlihat
dari
nilai
skewness
dan
kurtosis
yang
mendekati
nol,
bentuk boxplot dan
histogram
yang
berdistribusi normal.
Jawaban B (Uji Normalitas)
Berdasarkan P-P plot menunjukkan bahwa residual berdistribusi
normal. Pada normal P-P Plot titik observasinya mendekati garis
linear Z dan pada detrended normal P-P plot titik observasinya
menjauhi garis deviasi. Sehingga residual berdistribusi normal.
Jawaban B (Uji Normalitas)
Berdasarkan Q-Q plot menunjukkan bahwa residual berdistribusi
normal. Pada normal Q-Q Plot titik observasinya mendekati garis linear
Z dan pada detrended normal Q-Q plot titik observasinya menjauhi
garis deviasi. Sehingga residual berdistribusi normal. Karena hanya 1
pencilan observasi residual, maka residual masih berdistribusi normal.
Jawaban C
Karena model regresi dengan penduga OLS tidak mengalami masalah
autokorelasi, heteroskedastisitas, multikolinearitas, dan normalitas namun tidak
dapat dilakukan uji linearitas dan homogenitas serta nilai Adjusted R-Square
yang bernilai negatif, maka terdapat permasalahan pada metode penduga atau
spesifikasi model.
Untuk permasalahan metode penduga, dapat dilakukan dengan cara
menggunakan metode lain seperti:
1. Instrumen Variabel (IV)
2. Generalized Least Square (GLS)
3. Generalized Method of Moment (GMM)
4. Weighted Least Square (WLS)
5. Feasible GLS (FGLS)
Untuk permasalahan spesifikasi model, karena data yang diperoleh terbatas
pada faktor yang mempengaruhinya, maka dapat dilakukan dengan cara tanpa
mengikutisertakan Intersep (Constant) pada model.
Jawaban C Tanpa Mengikutsertakan Intersep
(Constant) pada Model
Analysis of Variance
Source
Regression
IMGT
AF
Error
Total
DF
2
1
1
16
18
Adj SS
37971.6
64.9
335.1
929.2
38900.8
Adj MS
18985.8
64.9
335.1
58.1
F-Value
326.93
1.12
5.77
P-Value
0.000
0.306
0.029
Model Summary
S
7.62058
R-sq
97.61%
R-sq(adj)
97.31%
R-sq(pred)
96.83%
Coefficients
Term
IMGT
AF
Coef
-1.66
35.2
SE Coef
1.57
14.7
T-Value
-1.06
2.40
Regression Equation
Vol2Max = -1.66 IMGT + 35.2 AF
P-Value
0.306
0.029
VIF
360.18
360.18
Tanpa mengikutsertakan parameter intersep
(Constant) pada model diperoleh bahwa nilai RSquare dan R-Square Adjusted meningkat
secara signifikan menjadi diatas 95%, namun
seluruh variabel bebas mengalami masalah
multikolinearitas yang serius. Sehingga tidak
tepat melakukan spesifikasi model tanpa
mengikutsertakan intersep pada model.
Sehingga masalah terjadi pada metode
penduga
Pertanyaan Tugas Besar Individu
(B)
1. Apakah yang dimaksud dengan masalah asumsi
linearitas? Sebutkan faktor penyebab, indikasi dan
konsekuensi, cara mendeteksi, dan cara
penanggulangan masalah linearitas!
2. Apakah mungkin nilai R-Squared dapat negatif?
Berikan alasan penyebab nilai R-Squared menjadi
negatif!
3. Lakukan penduga model dengan metode OLS pada
modul praktikum ANEDA halaman 52 disertai
dengan intepretasi analisis signifikansi model dan
asumsi model dan penanggulangannya!
Pertanyaan Tugas Besar Individu
(A)
1. Apakah yang dimaksud dengan masalah
asumsi normalitas? Sebutkan faktor penyebab,
indikasi dan konsekuensi, cara mendeteksi, dan
cara penanggulangan masalah normalitas!
2. Jelaskan perbedaan penggunaan serta
penggambaran antara P-P Plot dan Q-Q Plot!
3. Lakukan penduga model dengan metode OLS
pada modul praktikum ANEDA halaman 52
disertai dengan intepretasi analisis signifikansi
model dan asumsi model dan
penanggulangannya!
Part 1 – Deteksi Pelanggaran Asumsi*
Wahyu Dwi Lesmono, S.Si
*Akan dibahas sedikit mengenai cara penanggula
Diagram Pengujian Model
Kapan Pengujian Asumsi Model
dilakukan?
Pengujian asumsi penduga model dilakukan
apabila metode penduga parameter yang
digunakan adalah metode OLS (Ordinary
Least Square). Namun tidak menutup
kemungkinan jika metode penduga parameter
yang lain harus dilakukan pengujian asumsi.
Pengujian asumsi penduga model dapat
dilakukan setelah melakukan uji signfikansi
model.
Kenapa Perlu dilakukan Uji
Asumsi?
Suatu model dapat dikatakan memiliki nilai penduga
terbaik apabila memenuhi kriteria BLUE (Best Linear
Unbiased Estimator) berdasarkan minimisasi iteratif
dengan teorema Gauss-Markov, yaitu:
1. Penduga parameter bersifat efisien (Nilai ragam
yang minimum)
2. Penduga parameter bersifat linear terhadap
variabel bergantung.
3. Penduga parameter bersifat tidak bias (Nilai ratarata dari penduga parameter sama dengan nilai
parameter itu sendiri)
Aturan dalam asumsi
1. Hubungan antara variabel bergantung dengan variabel bebas bersifat
linear.
2. Variabel bebas bersifat tetap pada setiap observasi (tidak berubahubah/tidak stokastik).
3. Nilai variabel bebas harus bervariasi.
4. Nilai rata-rata residual/galat dengan syarat dari masing-masing
variabel bebasnya adalah 0.
5. Ragam residual/galat adalah konstan atau bersifat homokedastisitas.
6. Tidak ada hubungan antar perbedaan observasi residual (serial
correlation).
7. Tidak ada hubungan antara variabel bebas dengan residual.
8. Variabel residual/galat berdistribusi normal.
9. Tidak ada korelasi-korelasi yang sempurna antar variabel bebas.
10.Jumlah observasi harus lebih besar daripada jumlah parameter yang
diestimasi dan jumlah persamaan yang ada dalam sistem.
Definisi Autokorelasi
Autokorelasi (Korelasi Silang atau Korelasi Seri)
merupakan suatu kondisi adanya korelasi antar
galat pada observasi yang berbeda. Suatu model
dikatakan baik apabila bebas dari masalah
autokorelasi.
Autokorelasi sering terjadi pada data time series
(data dengan variabel waktu), namun tidak
menutup kemungkinan terjadi pada data crosssectional (data antar objek/tanpa variabel
waktu).
Faktor Penyebab
Autokorelasi
1. Data mengandung pergerakan naik-turun secara
musiman.
2. Kekeliruan memanipulasi data.
3. Data yang dianalisis tidak bersifat stasioner.
4. Data yang digunakan bersifat runtut.
5. Adanya bias spesifikasi (Mengeluarkan variabel yang
benar dari persamaan model karena alasan-asalan
tertentu).
6. Adanya keterlambatan (Lag)
7. Adanya hubungan variabel pada observasi yang
diperoleh dengan variabel pada observasi
sebelumnya.
Indikasi dan Konsekuensi Akibat
Autokorelasi
1. Metode penduga masih bersifat linear dan
tidak bias namun tidak efisien sehingga tidak
mempunyai ragam yang minimum. Akibatnya
kriteri metode penduga berubah menjadi LUE
(Linear Unbiased Estimation).
2. Nilai standard error pada parameter menjadi
underestimated dan nilai statistik t, F, dan
koefisien determinasi menjadi overestimated
sehingga memberikan kesimpulan yang
menyesatkan tentang arti statistik dan hasil
dari koefisien penduga parameter.
Cara Mendeteksi Adanya
Autokorelasi
1. Menggambarkan korelogram
autokorelasi dan autokorelasi
parsial.
2. Menggambarkan scatter plot antara
residual dengan residual pada
observasi sebelumnya.
3. Menggunakan uji Durbin-Watson
atau uji Godfrey.
Cara Penanggulangan Adanya
Autokorelasi
1. Biarkan data apa adanya (Jika datanya CrossSectional)
2. Menambahkan data observasi
3. Melakukan transformasi data dengan melakukan
lag, differencing pada variabel bebas, atau
transformasi dengan fungsi tertentu.
4. Menggunakan metode penduga Maximum
Likelihood, Yule-Walker, Full Information Maximum
Likelihood, atau Unconstrained Least Square (ULS).
5. Menggunakan metode koreksi Cochrane-Orchutt.
6. Menggunakan pendekatan autoregressive (AR)
Definisi Heterokesdastisitas
Heterokesdastisitas
(Kebalikan
dari
Homokesdastisitas)
merupakan
suatu
kondisi
terjadinya
keragaman
residual/galat
dengan
observasi dari satu observasi ke observasi yang
lainnya yang TIDAK konstan. Suatu model dikatakan
baik apabila rata-rata nilai residualnya adalah nol,
residualnya memiliki pola ragam yang konstan, dan
tidak saling berhubungan dengan residual observasi
yang lainnya.
Permasalahan heterokesdastisitas sering terjadi pada
data cross-sectional dibandingkan data time series.
Faktor Penyebab
Heterokesdastisitas
1. Adanya penggolongan antarobjek, baik secara
numerik maupun kategorik, yang menyebabkan nilai
penduganya terlalu jauh.
2. Metode penduga dan pengumpulan sampel yang
menghasilkan nilai simpangan baku parameter yang
semakin besar.
3. Adanya pencilan pada data sehingga menyebabkan
terjadinya keragaman yang tinggi.
4. Kemiringan (skewness) yang tidak merata.
5. Spesifikasi model yang tidak tepat.
6. Transformasi data yang salah.
7. Model fungsi yang salah.
Indikasi dan Konsekuensi Akibat
Heterokesdastisitas
1. Uji F pada persamaan model yang signifikan namun banyak
uji t dari masing-masing parameter yang tidak signifikan
atau sebaliknya sehingga mengakibatkan nilai simpangan
baku dari setiap variabel bebasnya tidak dapat dipercaya
kebenarannya serta mengakibatkan ragamnya tidak
minimum.
2. Nilai penduga parameter model tidak efisien sehingga
mengakibatkan nilai penduganya menjadi LUE (Linear
Unbiased Estimation).
3. Nilai residual pada beberapa observasi cukup besar
sehingga mengakibatkan model tidak cocok untuk dilakukan
prediksi (cross-sectional) atau peramalan (time series).
4. Kesimpulan statistik inferensi akan menyesatkan dan tidak
dapat dipercaya kebenarannya.
Cara Mendeteksi Adanya
Heterokesdastisitas
1. Melihat scatter plot/scatter gram
antara kuadrat residual dengan
penduga variabel bergantung atau
variabel bebas.
2. Menghitung korelasi antara variabel
bebas dengan variabel residual
dengan metode korelasi SpearmanRank.
3. Menggunakan uji White, BresuchPagan, Park, Glejser, atau Goldfeld-
Cara Penanggulangan Adanya
Heterokesdastisitas
1. Menggunakan metode penduga Regresi Instrumen
Variabel (IV), Generalized Least Square (GLS),
Generalized Method of Moment (GMM), Feasible
GLS (FGLS), dan Weighted Least Square (WLS) (Jika
ragam kelompok observasinya diketahui).
2. Transformasikan data dengan fungsi yang sesuai.
3. Menggunakan metode koreksi Heteroskedasticity
Consistent Coefficient Covariance (Jika ragam
kelompok observasinya tidak diketahui).
4. Menghitung penduga dengan metode tertentu
dengan simulasi Monte Carlo, Bootstrapping, dan
Robust.
Definisi Multikolinearitas
Multikolinearitas merupakan suatu
kondisi adanya korelasi antarvariabel.
Suatu model yang baik “seharusnya”
tidak terjadi korelasi di antara variabel
bebasnya.
Secara aljabar, multikolinearitas
disebabkan oleh adanya kombinasi
linear dari salah satu atau masingmasing nilai variabel bebas.
Faktor Penyebab
Multikolinearitas
1. Metode pengumpulan data yang digunakan
terbatas pada populasi yang diambil
sampelnya.
2. Retriksi yang ada pada model
3. Spesifikasi model yang minim atau berlebihan
4. Model yang overdetermined (Lebih banyak
jumlah parameternya dibandingkan jumlah
observasi)
5. Pergerakan nilai antar variabel yang sama
dengan laju perubahan waktu (untuk data time
series)
Indikasi dan Konsekuensi Akibat
Multikolinearitas
1. Nilai koefisien determinasi tinggi namun banyak
variabel bebas yang tidak signifikan atau sebaliknya.
Sehingga menyebabkan selang kepercayaan nilai
penduga parameternya lebih lebar.
2. Nilai standard error yang sangat rendah dibandingkan
nilai penduga parameter atau sebaliknya. Sehingga
menyebabkan terjadi kesesatan prediksi yang tidak ak
3. Nilai ragam dan koragam antar variabel yang cukup
besar, sehingga variabel-variabel tersebut sulit
digunakan untuk estimasi. Walaupun sulit digunakan
untuk estimasi, masalah multikolinearitas masih
bersifat BLUE.
Cara Mendeteksi Adanya
Multikolinearitas
1. Melihat bentuk scatterplot antar variabel
2. Melihat adanya koefisien korelasi antar variabel
bebas yang tinggi.
3. Melihat adanya koefisien korelasi parsial antar
variabel bebas dengan antar variabel kontrol
yang tinggi.
4. Menghitung nilai eigen dan indeks kondisi.
5. Menghitung nilai toleransi dan Variance Inflating
Factor (VIF)
6. Menggunakan regresi Ridge atau regresi
Bayesian.
Cara Penanggulangan Adanya
Multikolinearitas
1. Biarkan apa adanya.
2. Mengetahui adanya retriksi secara teoritis terdahulu pada model dari
hasil penduga parameter dan menambahkan retriksi pada model.
3. Mengkombinasikan data cross-sectional dan data time series.
4. Tambahkan jumlah observasi jika memungkinkan.
5. Hilangkan salah satu variabel bebas yang mengandung korelasi yang
kuat terhadap variabel yang lain.
6. Transformasi variabel dengan fungsi resiprokal pada variabel yang
memiliki korelasi kuat.
7. Transformasi variabel dengan melakukan differencing pertama. (Untuk
data time series)
8. Menggunakan analisis faktor.
9. Menggunakan pendekatan regresi Ridge, regresi Bayesian, dan regresi
polinomial ortogonal.
10.Menggunakan metode penduga Partial Least Square (PLS)
Contoh Kasus 1
Diketahui model regresi berganda
yang didefinisikan sebagai berikut:
Y 0 1 X 1 2 X 2
Dengan menetapkan tingkat
kepercayaan sebesar 95%:
a. Buatlah persamaan Regresinya dengan
metode penduga OLS dan lakukan
pengujian signifikansi modelnya!
b. Apakah metode penduga OLS dari
model tersebut terdapat asumsi yang
dilanggar? Periksalah dengan uji
autokorelasi, heterokedastisitas,
multikolinearitas, normalitas, dan
linearitas!
c. Berikan penanggulangan apabila
terdapat asumsi model penduga yang
dilanggar berdasarkan nomor b!
Y
23.3
24.5
27.2
27.1
24.1
23.4
24.3
24.1
27.2
27.3
27.4
27.3
24.3
23.4
24.1
27.0
23.5
24.3
27.3
23.7
X1
5
6
8
9
7
5
6
7
9
8
8
9
6
5
7
9
5
6
8
7
X2
13
14
17
17
14
13
14
14
17
17
17
17
14
13
14
17
13
14
17
14
-Analyze > Regression > Linear
-Masukkan variabel Y di kotak Dependent dan
variabel X1 dan X2 di kotak Independent
-Statistics > Ceklis Estimates, Model Fit, R Squared
Change, Collinearity Diagnostics, Durbin-Watson,
Casewise Diagnostics pilih All cases > Continue
-Plot > Masukkan X sebagai ZPRED dan Y sebagai
SRESID > Standardized Residual Plots pilih
Normal Probability Plots > Continue
-Plot > di kotak Residuals ceklis
Unstandardized > Continue
-Klik OK
-Uji normalitas (nilai statistik):
Analyze > Nonparametric Test > 1-Sample KS
Masukkan Unstandardized Residual ke Test
Variable List > Ceklis Test Distribution
Normal > OK
-Uji normalitas (visual):
Analyze > descriptive Statistics > PP Plot atau
QQ Plot
Stat > Regression > Regression > Fit Regressions Model
Masukkan Y di Responses, serta X1 dan X2 di Continous Predictors
Graphs > Pilih Residual Plots di bagian Four in One > OK
Results > Ceklis semua, pada Display of Results pilih Simple Tables, pada Fits and Diagnostics pilih Only
for Unusual Observations > OK
Storage > Ceklis Residual > OK
Klik OK
Jawaban A (SPSS)
Berdasarkan nilai R-Square
menunjukkan nilai 0.995 yang
berarti 99.5% variasi dari Y
dapat dijelaskan oleh variasi
dari variabel x1 dan x2, sisanya
dijelaskan oleh variabel bebas
lainnya.
Berdasarkan uji F dapat
disimpulkan bahwa seluruh
variabel bebas secara bersamasama memberikan pengaruh
N.B: Variabel bebas berpengaruh jika nilai Sig <
terhadap variabel y.
Taraf Nyata . Baik uji F maupun uji t
Model Persamaan Regresinya
adalah:
Berdasarkan uji t dapat
disimpulkan bahwa seluruh
variabel bebas secara terpisah
memberikan pengaruh
terhadap variabel y.
Y 9.261 0.261X 1 1.187 X 2
Jawaban A (SPSS)
Berdasarkan nilai Standard
Error of the Estimate adalah
0.1287 menunjukkan bahwa
variasi Y yang tidak dijelaskan
oleh variabel bebas sebesar
0.1287 satuan.
Berdasarkan uji F dapat
disimpulkan bahwa nilai akar
dari mean square residual
yaitu 0.1287 yang
menunjukkan bahwa nilai error
N.B: Standard Error of the Estimate (SEE) sama
dengan Root Mean Square Error (RMSE)
yang mungkin terjadi pada
model
sebesaruji
0.1287
satuan.
Berdasarkan
t dapat
disimpulkan bahwa nilai
simpangan baku untuk setiap
penduga parameternya cukup
kecil sehingga tidak berakibat
banyak penyimpangan dalam
menduga variabel bergantung.
Regression Analysis: Y versus X1, X2
Analysis of Variance
Source
Regression
X1
X2
Error
Lack-of-Fit
Pure Error
Total
DF
2
1
1
17
2
15
19
Adj SS
54.3863
0.3685
10.7053
0.2817
0.0417
0.2400
54.6680
Adj MS
27.1932
0.3685
10.7053
0.0166
0.0208
0.0160
F-Value
1641.14
22.24
646.08
P-Value
0.000
0.000
0.000
1.30
0.301
Model Summary
S
0.128723
R-sq
99.48%
R-sq(adj)
99.42%
R-sq(pred)
99.27%
Coefficients
Term
Constant
X1
X2
Coef
9.261
-0.2605
1.1868
SE Coef
0.371
0.0552
0.0467
T-Value
24.99
-4.72
25.42
P-Value
0.000
0.000
0.000
Regression Equation
Y = 9.261 - 0.2605 X1 + 1.1868 X2
Fits and Diagnostics for Unusual Observations
Obs
20
R
Y
23.7000
Fit
24.0532
Resid
-0.3532
Std Resid
-3.03
Large residual
Durbin-Watson Statistic
Durbin-Watson Statistic =
1.80353
R
VIF
7.37
7.37
Jawaban A
(Minitab)
Berdasarkan hasil analisis ragam pada
model regresi yang dibentuk menunjukkan
bahwa seluruh variabel bebas
mempengaruhi variabel bergantungnya.
Baik secara bersama-sama (Source
regression)
secara
terpisah bahwa
Hasil model maupun
summary
menunjukkan
(Source
x1 dan x2).
simpangan
galat
penduga
(S)
menunjukkan 0.1287 yang menunjukkan
bahwa rata-rata jarak dari titik data dari
garis regresi sebesar 0.1287% Y. R-Square
menunjukkan bahwa 99.48% variasi nilai Y
dapat dijelaskan oleh variabel X1 dan X2.
Sisanya dijelaskan oleh variabel yang
lainnya yang tidak disebabkan dalam
model. R-Square Adjusted menunjukkan
bahwa 99.42%
variasi nilai Y dapat
dijelaskan oleh adanya penambahan
variabel X1 dan X2. Sisanya dijelaskan
oleh variabel yang tidak ditambahkan
dalam
model.
R-Square
Prediction
menunjukkan bahwa 99.27% variasi nilai Y
dapat diprediksi berdasarkan perubahan
Regression Analysis: Y versus X1, X2
Analysis of Variance
Source
Regression
X1
X2
Error
Lack-of-Fit
Pure Error
Total
DF
2
1
1
17
2
15
19
Adj SS
54.3863
0.3685
10.7053
0.2817
0.0417
0.2400
54.6680
Adj MS
27.1932
0.3685
10.7053
0.0166
0.0208
0.0160
F-Value
1641.14
22.24
646.08
P-Value
0.000
0.000
0.000
1.30
0.301
Model Summary
S
0.128723
R-sq
99.48%
R-sq(adj)
99.42%
R-sq(pred)
99.27%
Coefficients
Term
Constant
X1
X2
Coef
9.261
-0.2605
1.1868
SE Coef
0.371
0.0552
0.0467
T-Value
24.99
-4.72
25.42
P-Value
0.000
0.000
0.000
Y = 9.261 - 0.2605 X1 + 1.1868 X2
Fits and Diagnostics for Unusual Observations
R
Y
23.7000
7.37
7.37
Hasil uji t koefisien regresi menunjukkan bahwa
setiap perubahan x1 dan x2 secara signifikan
mempengaruhi variabel Y. Selain itu, tanpa
adanya perubahan dari x1 dan x2 secara
signifikan mempengaruhi variabel Y.
Berdasarkan uji t dapat disimpulkan
bahwa nilai simpangan baku untuk
setiap penduga parameternya cukup
kecil sehingga tidak berakibat banyak
penyimpangan dalam menduga variabel
bergantung.
Model Persamaan Regresinya adalah:
Y 9.261 0.261X 1 1.187 X 2
Regression Equation
Obs
20
VIF
Jawaban A
(Minitab)
Fit
24.0532
Resid
-0.3532
Std Resid
-3.03
Large residual
Durbin-Watson Statistic
Durbin-Watson Statistic =
1.80353
R
Hasil fits and diagnostics for unusual
observations menunjukkan bahwa terdapat
nilai residual yang besar pada observasi ke20. Hal tersebut menunjukkan bahwa
observasi ke-20 memberikan penyimpangan
nilai penduga yang cukup besar sehingga
berpotensi adanya pencilan nilai dugaan
pada model.
Deteksi Autokorelasi Secara Visual
dengan Scatter Plot
Catatan:
Waktu sama
halnya dengan
observasi pada
data
Untuk axis merupakan waktu dan ordinat merupakan residual, gambar a, b, c, d
menunjukkan adanya pola tertentu antara waktu dengan residual yang
mengindikasikan adanya masalah autokorelasi pada data. Sementara itu, gambar e
menunjukkan tidak terdapat bentuk pola antara waktu dengan residual yang
menunjukkan bahwa tidak terdapat masalah autokorelasi pada data
Deteksi Autokorelasi Secara Visual
dengan Scatter Plot
Dengan axis adalah waktu dan
ordinat adalah residual. Gambar
a kiri menunjukkan pola hubungan
galat
yang
melandai
setiap
waktunya
sehingga
terdapat
masalah
autokorelasi
positif.
Sementara
Gambar
b
kiri
menunjukkan pola hubungan galat
yang
curam
setiap
waktunya
sehingga
terdapat
masalah
autokorelasi negatif.
Dengan axis adalah waktu pada
periode ke-(t-1) dan ordinat
merupakan waktu pada periode
ke-t. Gambar a kanan menunjukkan
pola menyebar naik ke arah kanan
atas yang menunjukkan adanya
masalah
autokorelasi
positif.
Gambar b kanan menunjukkan pola
menyebar menurun ke arah kanan
Jawaban B (Uji Autokorelasi)
Berdasarkan Line Plot Observation Order dengan Residual menunjukkan
bahwa pola residual antar observasi memiliki pola yang tidak terlalu
tajam dan tidak membentuk pola sistematika tertentu. Sehingga
mengindikasi bahwa model regresi yang dibentuk dengan
menggunakan metode OLS tidak mengalami masalah autokorelasi.
Prosedur Pengujian Autokorelasi
dengan Durbin-Watson
1.
2.
3.
4.
5.
Tentukan banyaknya observasi (n) dan banyaknya variabel bebas pada
model (k)
Hitung Durbin-Watson Statistik
Tentukan nilai Durbin-Watson Tabel (dL dan dU) dan selisih nilai 4 dengan
Durbin-Watson batas atas (4-dU) dan batas bawah (4-dL)
Membuat kriteria keputusan dan keputusan
Kesimpulan.
Tidak dapat
disimpulkan
Tidak dapat
disimpulkan
0
d
L
Terjadi autokorelasi
positif
dU
2
Tidak terjadi
autokorelasi
4-dU
4-dL
4
Terjadi autokorelasi
negatif
Jawaban B (Uji Autokorelasi)
Durbin-Watson Statistic
Durbin-Watson Statistic =
1.80353
Pengujian dengan Durbin-Watson:
-Banyaknya observasi n = 20
-Banyaknya variabel bebas k = 2
-Nilai Durbin-Watson statistik: DW=1.804
-Berdasarkan tabel Durbin Watson,
diperoleh:
1. Batas bawah Durbin-Watson tabel:
dL = 1.1004
2. Batas atas Durbin-Watson tabel:
dU = 1.5367
-Nilai 4-dU = 4-1.5367 = 2.4633
-Nilai 4-dL = 4-1.1004 = 2.8996
Jawaban B (Uji Autokorelasi)
Tidak dapat
disimpulkan
Tidak dapat
disimpulkan
1.80
4
0
1.100
4
Terjadi autokorelasi
positif
1.536
7
2
Tidak terjadi
autokorelasi
2.463
3
2.899
6
4
Terjadi autokorelasi
negatif
Berdasarkan hasil uji Durbin-Watson didapat bahwa nilai DurbinWatson statistik berada diantara dU dan 4-dU sehingga metode
OLS pada model regresi tidak mengalami masalah autokorelasi.
Deteksi Heterokesdastisitas Secara
Visual dengan Scatter Plot
Untuk axis merupakan hasil estimasi dan ordinat merupakan kuadrat residual, gambar a tidak
mengalami masalah heterokedastisitas, Gambar b, c, d, e mengalami masalah heterokedastisitas.
Tidak adanya masalah heterokedastisitas apabila scatter plot membentuk pola yang tidak jelas (acak).
Deteksi Heterokesdastisitas Secara
Visual dengan Scatter Plot
Untuk axis merupakan variabel bebas X merupakan kuadrat residual, gambar a tidak mengalami
masalah heterokedastisitas, Gambar b, c, d, e mengalami masalah heterokedastisitas. Tidak adanya
masalah heterokedastisitas apabila scatter plot membentuk pola yang tidak jelas (acak).
Jawaban B (Uji
Heterokesdastisitas)
Dari scatter plot standardized predicted value dengan studentized
residual dan fitted value dengan residual diperoleh pola yang tidak
jelas sehingga dapat dikatakan bahwa metode OLS pada model
regresi tidak mengalami masalah heterokesdastisitas.
Deteksi Multikolinearitas
Untuk mendeteksi adanya
multikolinearitas dapat menggunakan
nilai Indeks Kondisi, Toleransi, atau
nilai Variance Inflation Factor (VIF).
Conditional
Index (CI)
Toleransi
(TOL)
Variance
Inflation
Factor (VIF)
1 ≤ CI ≤ 15 0.25 ≤ TOL ≤ 1 1 ≤ VIF ≤ 4
15 < CI ≤ 50
50 < CI ≤
100
CI > 100
0.1429 ≤ TOL
4 < VIF ≤ 7
< 0.25
0.1 ≤ TOL ≤
7 < VIF ≤ 10
0.1429
TOL < 0.1
VIF > 10
Keterangan
Multikolinearitas
Tidak Ada
Masalah/Aman
Sedikit Masalah/HatiHati
Cukup
Masalah/Bermasalah
Masalah
Serius/Bencana
Jawaban B (Uji
Multikolinearitas)
Coefficients
Term
Constant
X1
X2
Coef
9.261
-0.2605
1.1868
SE Coef
0.371
0.0552
0.0467
T-Value
24.99
-4.72
25.42
P-Value
0.000
0.000
0.000
VIF
7.37
7.37
Hasil nilai Tolerance dan
VIF menunjukkan bahwa
variabel
X1
dan
X2
mengalami cukup masalah
pada
multikolinearitas.
Parameter β2 pada indeks
kondisi
memiliki
nilai
diatas 50 dan proporsi
variasi antar parameter
penduganya diatas 0.7
sehingga
metode
OLS
pada
model
Regresi
mengalami cukup masalah
Jawaban B (Uji Normalitas)
Dengan nilai P-Value = 0.721 > Taraf Nyata = 0.05
maka residual berdistribusi normal sehingga tidak
mengalami masalah pada normalitas.
Jawaban B (Uji Normalitas)
Berdasarkan
uji
normalitas
dengan
menggunakan
uji
Anderson-Darling
menunjukkan bahwa
residual berdistribusi
normal.
Walaupun
residual
memiliki
distribusi
sedikit
memenceng ke arah
kiri dan meruncing
dan
terdapat
pencilan.
Namun
dengan
pengujian
normalitas
dengan
Anderson-Darling
menunjukkan bahwa
residual berdistribusi
normal
secara
signifikan.
Jawaban B (Uji Normalitas)
Berdasarkan P-P plot menunjukkan bahwa residual berdistribusi
normal. Pada normal P-P Plot titik observasinya mendekati garis
linear Z dan pada detrended normal P-P plot titik observasinya
menjauhi garis deviasi. Sehingga residual berdistribusi normal.
Jawaban B (Uji Normalitas)
Berdasarkan Q-Q plot menunjukkan bahwa residual berdistribusi
normal. Pada normal Q-Q Plot titik observasinya mendekati garis linear
Z dan pada detrended normal Q-Q plot titik observasinya menjauhi
garis deviasi. Sehingga residual berdistribusi normal. Karena hanya 1
pencilan observasi residual, maka residual masih berdistribusi normal.
Jawaban B (Uji Linearitas)
Analysis of Variance
Source
Regression
X1
X2
Error
Lack-of-Fit
Pure Error
Total
DF
2
1
1
17
2
15
19
Adj SS
54.3863
0.3685
10.7053
0.2817
0.0417
0.2400
54.6680
Adj MS
27.1932
0.3685
10.7053
0.0166
0.0208
0.0160
F-Value
1641.14
22.24
646.08
P-Value
0.000
0.000
0.000
1.30
0.301
H0: Model Regresi dari Penduga berbentuk linear
H1: Model Regresi dari Penduga berbentuk nonlinear
Berdasarkan uji Linearitas dari sumber keragaman Lack-of-Fits (ketidakpasan
penduga) menunjukkan bahwa nilai P-Value = 0.301 > Taraf Nyata = 0.05
sehingga terima H0. Sehingga diperoleh kesimpulan bahwa model regresi yang
dibentuk dari penduga OLS berbentuk linear.
Jawaban C
Berdasarkan hasil nomor b, asumsi
yang dilanggar adalah
multikolinearitas. Karena model regresi
yang dibentuk dari definisi (teoritis)
dan data yang diperoleh hanya data
yang tersedia saja, maka
penanggulangan multikolinearitas bisa
diabaikan.
Contoh
Kasus 2
Penelitian yang dilakukan oleh Nina
bertujuan untuk mengetahui dampak
volume maksimal kebugaran tubuh
berdasarkan faktor indeks massa gizi
tubuh (IMT) dan tingkat aktivitas fisik
dari Atlet Bulu Tangkis Himatika 2014.
Berikut ini merupakan data yang
diperoleh dan diolah oleh Nina dari 18
berdasarkan formulasi yang dia ambil
dari literatur statistik kesehatan
tertentu.
a. Bentuklah
model
yang
menggambarkan tujuan kasus
tersebut dan dugalah parameter
model dengan menggunakan
metode OLS!
b. Lakukan pengujian asumsi model
untuk
mengetahui
adanya
pelanggaran asumsi pada model
yang telah anda bentuk pada
poin a!
c.
Berikan cara penanggulangan
Volume
Indeks
Maksimal Massa Tingkat
Kebugaran
Gizi Aktivitas
Tubuh
Tubuh
Fisik
49.9
17.84
2.09
54.1
19.14
2.26
52.8
20.57
2.14
56.25
21.05
2.19
40.2
21.55
2.3
49.3
22.46
2.42
46.5
23.05
2.44
51.9
23.41
2.58
45.9
24.2
2.58
51.1
25.76
2.65
51.4
18.07
2.08
38.85
18.96
2.14
35.7
20.77
2.19
46.2
21.09
2.18
43.9
21.3
2.27
35.7
21.86
2.52
41.8
22.31
2.31
37.45
25
2.38
Jawaban A
Karena tujuannya ingin mengetahui pengaruh faktor indeks
massa gizi tubuh dan tingkat aktivitas fisik terhadap volume
maksimal kebugaran tubuh berdasarkan. Maka model dapat
diformulasikan dengan model regresi berganda:
V0MAX 0 1 IMT 2 AF
Dengan menggunakan metode OLS diperoleh:
V0MAX 48.7168 1.0224 IMT 8.3684 AF
Jawaban B
Karena nilai Adjusted RSquare bernilai negatif,
penduga simpangan baku
yang kecil, namun hanya
parameter intersep (Constant)
yang signifikan maka terdapat
permasalahan yang serius
pada model penduga OLS.
Jawaban B (Uji Autokorelasi)
Berdasarkan Line Plot Observation Order dengan Residual menunjukkan
bahwa pola residual antar observasi memiliki pola yang sedikit tajam
dan menurun. Sehingga mengindikasi bahwa model regresi yang
dibentuk dengan menggunakan metode OLS mengalami masalah
autokorelasi negatif.
Jawaban B (Uji Autokorelasi)
Durbin-Watson Statistic
Durbin-Watson Statistic =
1.33020
Pengujian dengan Durbin-Watson:
-Banyaknya observasi n = 18
-Banyaknya variabel bebas k = 2
-Nilai Durbin-Watson statistik: DW=1.330
-Berdasarkan tabel Durbin Watson,
diperoleh:
1. Batas bawah Durbin-Watson tabel:
dL = 1.0461
2. Batas atas Durbin-Watson tabel:
dU = 1.5353
-Nilai 4-dU = 4-1.5353 = 2.4647
-Nilai 4-dL = 4-1.0461 = 2.9539
Jawaban B (Uji Autokorelasi)
Tidak dapat
disimpulkan
Tidak dapat
disimpulkan
1.3302
0
1.1046
1
Terjadi autokorelasi
positif
1.535
3
2
Tidak terjadi
autokorelasi
2.464
7
2.953
9
4
Terjadi autokorelasi
negatif
Berdasarkan hasil uji Durbin-Watson didapat bahwa nilai Durbin-Watson statistik
berada diantara dL dan dU metode OLS pada model regresi tidak dapat
diperoleh kesimpulan mengenai adanya masalah autokorelasi positif ataupun
tidak.
N.B: Carilah metode pengujian autokorelasi yang lain agar dapat memberikan
kesimpulan yang signifikan
Jawaban B (Uji
Heteroskedastisitas)
Dari scatter plot standardized predicted value dengan studentized
residual dan fitted value dengan residual diperoleh pola yang tidak
jelas sehingga dapat dikatakan bahwa metode OLS pada model
regresi tidak mengalami masalah heterokesdastisitas.
Jawaban B (Uji
Multikolinearitas)
Coefficients
Term
Constant
IMGT
AF
Coef
48.7
-1.02
8.4
SE Coef
21.9
1.44
17.8
T-Value
2.23
-0.71
0.47
P-Value
0.042
0.488
0.646
VIF
3.74
3.74
Hasil nilai Tolerance dan
VIF menunjukkan bahwa
variabel IMGT dan AF tidak
mengalami masalah pada
multikolinearitas. Apabila
model
regresi
yang
dibentuk berdimensi tiga
(terdapat
3
parameter
dalam model), maka nilai
condition index diatas 50.
Hal ini mengindikasikan
bahwa terjadi hubungan
yang
kuat
antar
tiap
perubahan
parameter
Jawaban B (Uji Normalitas)
Berdasarkan
uji
normalitas
dengan
menggunakan
uji
Anderson-Darling
menunjukkan bahwa
residual berdistribusi
normal. Hal tersebut
terlihat
dari
nilai
skewness
dan
kurtosis
yang
mendekati
nol,
bentuk boxplot dan
histogram
yang
berdistribusi normal.
Jawaban B (Uji Normalitas)
Berdasarkan P-P plot menunjukkan bahwa residual berdistribusi
normal. Pada normal P-P Plot titik observasinya mendekati garis
linear Z dan pada detrended normal P-P plot titik observasinya
menjauhi garis deviasi. Sehingga residual berdistribusi normal.
Jawaban B (Uji Normalitas)
Berdasarkan Q-Q plot menunjukkan bahwa residual berdistribusi
normal. Pada normal Q-Q Plot titik observasinya mendekati garis linear
Z dan pada detrended normal Q-Q plot titik observasinya menjauhi
garis deviasi. Sehingga residual berdistribusi normal. Karena hanya 1
pencilan observasi residual, maka residual masih berdistribusi normal.
Jawaban C
Karena model regresi dengan penduga OLS tidak mengalami masalah
autokorelasi, heteroskedastisitas, multikolinearitas, dan normalitas namun tidak
dapat dilakukan uji linearitas dan homogenitas serta nilai Adjusted R-Square
yang bernilai negatif, maka terdapat permasalahan pada metode penduga atau
spesifikasi model.
Untuk permasalahan metode penduga, dapat dilakukan dengan cara
menggunakan metode lain seperti:
1. Instrumen Variabel (IV)
2. Generalized Least Square (GLS)
3. Generalized Method of Moment (GMM)
4. Weighted Least Square (WLS)
5. Feasible GLS (FGLS)
Untuk permasalahan spesifikasi model, karena data yang diperoleh terbatas
pada faktor yang mempengaruhinya, maka dapat dilakukan dengan cara tanpa
mengikutisertakan Intersep (Constant) pada model.
Jawaban C Tanpa Mengikutsertakan Intersep
(Constant) pada Model
Analysis of Variance
Source
Regression
IMGT
AF
Error
Total
DF
2
1
1
16
18
Adj SS
37971.6
64.9
335.1
929.2
38900.8
Adj MS
18985.8
64.9
335.1
58.1
F-Value
326.93
1.12
5.77
P-Value
0.000
0.306
0.029
Model Summary
S
7.62058
R-sq
97.61%
R-sq(adj)
97.31%
R-sq(pred)
96.83%
Coefficients
Term
IMGT
AF
Coef
-1.66
35.2
SE Coef
1.57
14.7
T-Value
-1.06
2.40
Regression Equation
Vol2Max = -1.66 IMGT + 35.2 AF
P-Value
0.306
0.029
VIF
360.18
360.18
Tanpa mengikutsertakan parameter intersep
(Constant) pada model diperoleh bahwa nilai RSquare dan R-Square Adjusted meningkat
secara signifikan menjadi diatas 95%, namun
seluruh variabel bebas mengalami masalah
multikolinearitas yang serius. Sehingga tidak
tepat melakukan spesifikasi model tanpa
mengikutsertakan intersep pada model.
Sehingga masalah terjadi pada metode
penduga
Pertanyaan Tugas Besar Individu
(B)
1. Apakah yang dimaksud dengan masalah asumsi
linearitas? Sebutkan faktor penyebab, indikasi dan
konsekuensi, cara mendeteksi, dan cara
penanggulangan masalah linearitas!
2. Apakah mungkin nilai R-Squared dapat negatif?
Berikan alasan penyebab nilai R-Squared menjadi
negatif!
3. Lakukan penduga model dengan metode OLS pada
modul praktikum ANEDA halaman 52 disertai
dengan intepretasi analisis signifikansi model dan
asumsi model dan penanggulangannya!
Pertanyaan Tugas Besar Individu
(A)
1. Apakah yang dimaksud dengan masalah
asumsi normalitas? Sebutkan faktor penyebab,
indikasi dan konsekuensi, cara mendeteksi, dan
cara penanggulangan masalah normalitas!
2. Jelaskan perbedaan penggunaan serta
penggambaran antara P-P Plot dan Q-Q Plot!
3. Lakukan penduga model dengan metode OLS
pada modul praktikum ANEDA halaman 52
disertai dengan intepretasi analisis signifikansi
model dan asumsi model dan
penanggulangannya!