Analisis Perbandingan Regresi Komponen Utama dan Regresi Ridge untuk Mengatasi Masalah Multikolinieritas pada Model Regresi Linier Berganda

ANALISIS PERBANDINGAN REGRESI KOMPONEN UTAMA
DAN REGRESI RIDGE UNTUK MENGATASI MASALAH
MULTIKOLINIERITAS PADA MODEL
REGRESI LINIER BERGANDA

ABSTRAK

Multikolinieritas adalah kondisi dimana dalam sebuah regresi terdapat korelasi
yang sangat tinggi antara variabel bebasnya. Regresi Komponen Utama dan
Regresi Ridge adalah metode untuk mengatasi masalah multikolinieritas yang
terjadi pada analisis regresi linier berganda. Metode Regresi Komponen Utama
pada dasarnya bertujuan untuk menyederhanakan variabel yang diamati dengan
cara menyusutkan (mereduksi) dimensinya. Metode Regresi Ridge adalah metode
yang memberikan tetapan bias yang relatif kecil dengan cara mengalikan tetapan
bias pada diagonal matriks identitas. Berdasarkan contoh data hasil penelitian
bahwasanya Regresi Ridge lebih efektik digunakan jika data berdistribusi normal
dan sebaliknya untuk Regresi Komponen Utama lebih efektif jika digunakan pada
data yang tidak berdistribusi normal.

Kata Kunci: Multikolinieritas, Regresi Komponen Utama, Regresi Ridge,
Regresi Linier Berganda

v
Universitas Sumatera Utara

COMPARISON ANALYSIS OF PRINCIPAL COMPONENT
REGRESSION AND RIDGE REGRESSION TO SOLVE
MULTYCOLINEARITY PROBLEM AT MULTIPLE
LINEAR REGRESSION MODEL

ABSTRACT

Multicolinearity is a condition where there is a regression in a very high
correlation between the independent variables. Principal Component Regression
and Ridge Regression are a methodto overcome multicolinearity problems that
occur on the analysis of multiple linear regression. Principal Component
Regression Method is basically aimed at simplifying the observed variables in a
way to shrink (reduce) its dimensions. Ridge Regression Method is a method
which provides a relatively small constant bias by multiplying the bias constant
on the diagonal identity matrix. Based on research data sample is Ridge
Regression is more effectively used if the data were normally distributed and vice

versa for the Principal Component Regression is more effective when used on
data that are not normally distributed.

Keywords: Multicolinearity, Principal Component Regression, Ridge Regression,
Multiple Linear Regression

vi
Universitas Sumatera Utara