3.2.3 Metode Seleksi Bertahap Stepwise Elimination
Metode ini merupakan gabungan dari metode seleksi maju dan metode seleksi
mundur yang diterapkan secara bergantian. Pada tahap pertama digunakan seleksi maju,
dan tahap kedua digunakan seleksi mundur. Pada setiap tahap jika peubah yang ada dalam
model tidak berpengaruh setelah dimasukkan peubah baru, maka peubah tersebut akan
dikeluarkan dari model. Sebaliknya jika peubah yang ada dalam model masih
berpengaruh setelah peubah lain dimasukkan, maka peubah tersebut akan dipertahankan
sampai pengujian tahap berikutnya.
Didefinisikan k adalah banyaknya peubah bebas x yang akan dimasukkan ke dalam
model. Pada keadaan awal model tidak mengandung peubah bebas, sehingga model
awal dapat ditulis sebagai
=
.
Algoritma stepwise elimination :
Langkah 0:
Menentukan model regresi awal
=
. Langkah 1:
Menentukan matriks korelasi R dari semua peubah yang tersedia.
=
⎣ ⎢
⎢ ⎡
1
⋯
1
⋯ ⋮
⋮ ⋱
⋮ ⋯
1
⎦ ⎥
⎥ ⎤
.
Langkah 2 : Memilih
peubah bebas
, , …,
dengan korelasi
= 1,2, …,
tertinggi terhadap peubah terikat y. Langkah 3:
Masukkan peubah bebas terpilih pertama ke dalam model, misalkan
. Sehingga membentuk suatu model regresi :
= +
.
Langkah 4:
Uji F terhadap peubah terpilih pertama. Jika
maka peubah terpilih dibuang dan proses
dihentikan. Namun jika maka peubah terpilih layak
dipertahankan di dalam model.
Langkah 5:
Memilih peubah bebas dengan kuadrat korelasi parsial
- parsial tertinggi.
Langkah 6:
Masukkan peubah bebas terpilih kedua ke dalam model, misalkan
.
Sehingga membentuk suatu model regresi :
= +
+ .
Langkah 7:
Uji F parsial masing-masing peubah bebas yang terdapat di dalam model.
Langkah 8: Uji F parsial masuk, jika
peubah bebas terpilih kedua
maka proses dihentikan dan model terbaik adalah model sebelumnya. Namun jika
≥ peubah
bebas terpilih layak untuk dipertahankan dalam model.
Langkah 9:
Uji F parsial ke luar, jika nilai terendah
maka peubah bebas yang memiliki F parsial
terendah dibuang
dari model.
Jika terendah
≥ maka peubah
bebas dipertahankan. Langkah 10:
Kembali ke langkah 5 untuk menguji peubah bebas tersisa. Proses dihentikan
jika tidak ada lagi peubah bebas yang dapat dimasukan atau dikeluarkan.
Sembiring 1995
3.2.4 Metode Semua Kemungkinan Regresi All Possible Regression