Analisis Perbandingan Regresi Komponen Utama dan Regresi Ridge untuk Mengatasi Masalah Multikolinieritas pada Model Regresi Linier Berganda

1

BAB 1

PENDAHULUAN

1.1. Latar Belakang

Terdapat banyak model statistika yang digunakan untuk keperluan penelitian.
Salah satu model statistika yang paling sering digunakan dalam menyelesaikan
suatu permasalahan adalah model Regresi Linier (Linear Regression). Model
regresi linier adalah suatu model yang digunakan untuk mengetahui dan
menganalisis hubungan antar variabel. Hubungan tersebut dapat dinotasikan ke
dalam bentuk persamaan yang menghubungkan variabel terikat
atau lebih variabel bebas

dengan satu

. Jika variabel terikat ( ) yang hanya

dihubungkan dengan satu variabel bebas ( ), maka disebut dengan persamaan

regresi linier sederhana (Simple Linear Regression). Sedangkan jika varibel bebas
yang digunakan lebih dari satu, maka persamaan regresinya adalah persamaan
regresi linier berganda (Multiple Linear Regression).
Masalah yang paling sering ditemui diantara persoalan analisis regresi linier
berganda adalah adanya hubungan korelasi yang tinggi atau mendekati sempurna
antar variabel bebas yang disebut dengan Multikolinieritas. Multikolinieritas
merupakan salah satu faktor yang menyebabkan persamaan regresi linier berganda
menjadi tidak efektif dan akurat.
Efek dari multikolinieritas ini menyebabkan penduga parameter regresi
yang dihasilkan dari analisis regresi linier berganda menjadi tidak efisien sehingga
dapat menyebabkan adanya bias dan varians yang besar. Multikolinieritas juga
mengakibatkan penggunaan metode kuadrat terkecil biasa (Ordinary Least
Square, OLS) dalam mengestimasi parameter/koefisien regresi akan terganggu.
Jika multikolinieritas yang hampir sempurna terjadi, meskipun metode kuadrat
terkecil dapat digunakan tetapi galat yang dihasilkan akan menjadi besar.

Universitas Sumatera Utara

2


Multikolinieritas juga dapat menyebabkan hasil-hasil dugaan menjadi peka
terhadap perubahan-perubahan yang kecil.
Ada beberapa cara untuk mengatasi masalah multikolinieritas, salah satunya
adalah dengan mengunakan Regresi Komponen Utama dan Regresi Ridge.
Regresi Komponen Utama merupakan salah satu analisis regresi yang
menggunakan komponen utama dalam mengatasi masalah multikolinieritas pada
regresi berganda. Komponen utama merupakan suatu teknik statistika untuk
mengubah dari sebagian besar variabel asli yang saling berkorelasi satu dengan
yang lainnya menjadi satu kumpulan variabel baru yang lebih kecil dan saling
bebas. Sedangkan Regresi Ridge merupakan modifikasi dari metode kuadrat
terkecil untuk medapatkan pengurangan varians dengan menambahkan tetapan
bias

dalam menstabilkan koefisien.
Berdasarkan penjelasan yang telah diuraikan, penulis tertarik untuk

membandingkan metode Regresi Komponen Utama dan Regresi Ridge sebagai
penyelesaian masalah multikolinieritas pada model regresi linier berganda. Oleh
karena itu penulis mengangkat judul untuk penelitian ini yaitu:“Analisis
Perbandingan Regresi Komponen Utama dan Regresi Ridge untuk

Mengatasi Masalah Multikolinieritas pada Model Regresi Linier Berganda”.

1.2. Perumusan Masalah

Multikolinieritas merupakan masalah yang sangat serius dalam menduga
parameter regresi yang dihasilkan dari analisis regresi linier berganda.
Multikolinieritas menyebabkan ketidakstabilan pada parameter penduga. Oleh
karena itu pada penelitian ini akan dibahas bagaimana cara mengatasi masalah
multikolinieritas dengan regresi komponen utama dan regresi ridge serta untuk
mengetahui metode yang efektif dalam meyelesaikan masalah multikolinieritas

Universitas Sumatera Utara

3

1.3. Batasan Masalah

Peneliti membatasi permasalahan yang akan dibahas mengenai masalah
multikolinieritas yang terjadi pada analisis regresi linier berganda dan
menganggap bahwa uji asumsi klasik yang lainnya tetap terpenuhi.


1.4. Tujuan Penelitian

Tujuan dari penelitian ini adalah sebagai berikut:
1.

Untuk mendeteksi ada atau tidaknya masalah multikolinieritas.

2.

Untuk mengatasi masalah multikolinieritas dengan menggunakan regresi
komponen utama dan regresi ridge.

3.

Untuk mengetahui metode yang efektif dalam

mengatasi masalah

multikolinieritas.


1.5. Manfaat Penelitian

Hasil dari penelitian ini diharapkan dapat memberikan manfaat bagi penulis dan
pembaca, antara lain sebagai berikut:
1.

Memberikan pengetahuan dasar tentang analisis regresi , metode regresi
komponen utama dan regresi ridge.

2.

Memberikan penjelasan tentang akibat mengabaikan multikolinieritas.

3.

Memberikan penjelasan tentang prosedur dari metode regresi komponen
utama dan regresi ridge dalam menyelesaikan masalah multikolinieritas.

4.


Menambah pengetahuan dan wawasan bagi penulis dan pembaca yang lain
tentang penerapan dan perbandingan metode analisis regresi komponen utama
dan regresi ridge untuk menyelesaikan masalah multikolinieritas.

Universitas Sumatera Utara

4

1.6. Metodologi Penelitian

Penelitian ini dibuat berdasarkan studi literatur dan mengikuti langkah-langkah
sebagai berikut:
1.

Mengumpulkan dan mempelajari pustaka-pustaka yang berkenaan dengan
materi penelitian seperti matriks, regresi linier berganda, multikolinieritas,
regresi komponen utama, dan regresi ridge.

2.


Melakukan pengamatan terhadap masalah multikolinieritas.

3.

Menguraikan penyelesaian masalah multikolinieritas dengan metode regresi
komponen utama dan regresi ridge.

4.

Membuat kesimpulan metode yang lebih efektif diantara regresi komponen
utama dan regresi ridge dalam mengatasi masalah multikolinieritas.

Universitas Sumatera Utara