Regresi pertama kali dikenalkan oleh seorang ahli yang bernama Francis Dalton pada tahun 1886. Menurut Dalton, analisis regresi berkenaan dengan memperkirakan nilai
rata-rata dari suatu variabel yang dinamakan “peubah bergantung = dependent variable”, dengan diketahuinya nila-nilai dari variabel-variabel yang lainnya yang
dinamakan “peubah bebas = independent variable”.
Hubungan yang terdapat dalam analisis regeresi pada umumnya dinyatakan dalam bentuk persamaan matematik hyang menyatakan hubungan fungsional antara
variabel-variabel bebas independent variable dan variable tak bebas dependent variable.
Analisis regresi adalah teknik statistika yang berguna untuk memeriksa dan memodelkan hubungan diantara variabel-variabel. Analisis regresi berguna dalam
menelaah hubungan dua variabel atau lebih, dan terutama untuk menelusuri pola hubungan yang modelnya belum diketahui dengan sempurna, sehingga dalam
penerapannya lebih bersifat eksploratif. Secara umum regresi linear terdiri dari dua, yaitu regresi linear sederhana yaitu
dengan satu buah variabel bebas dan satu buah variabel terikat; dan regresi linear berganda dengan beberapa variabel bebas dan satu buah variabel terikat. Analisis
regresi linear merupakan metode statistik yang paling jamak dipergunakan dalam penelitian-penelitian sosial, terutama penelitian ekonomi. Program komputer yang
paling banyak digunakan adalah SPSS.
2.5.1 Regresi Linear Sederhana
Universitas Sumatera Utara
Regresi linear sederhana dipergunakan untuk mengetahui pengaruh antara satu buah variabel bebas terhadap satu buah variabel terikat. Persamaan umumnya adalah:
Y = a + b X.
Dengan Y adalah variabel terikat dan X adalah variabel bebas. Koefisien adalah konstanta intercept yang merupakan titik potong antara garis regresi dengan
sumbu Y pada koordinat kartesius dan b adalah koefisien regresi.
Nilai a dan b dapat diperoleh dengan rumus sebagai berikut: a =
⅀�
�
�⅀�
2�
�−⅀�
�
⅀�
�
�
�
�⅀�
2�
−⅀�
� 2
b =
⅀�
�
�
�
−⅀�
�
⅀�
�
�⅀�
2�
−⅀�
� 2
2.5.2 Regresi Linear Berganda
Regresi linear berganda adalah analisis regresi yang melibatkan hubungan dari dua
atau lebih variabel bebas. Adakalanya persamaan regresi dalam menganalisis hhubungan anatr variabel tidak hanya dipengaruhi oleh faktor atau peubah bebas tapi
dapat pula dipengaruhi oleh dua atau lebih faktor yang mempengaruhinya, maka regresi linear yang mengandung lebih dari satu peubah bebas digunakan regresi linear
berganda. Jadi model ini dikembangkan untuk mengestimasi nilai variabel tak bebas y dengan menggunakan lebih dari satu variabel
�
1
, �
2,
… �
�
.
Untuk keperluan analisis, variabel bebas akan dinyatakan dengan
1 ...
, 2
, 1
≥ k
x x
x
k
sedangkan variabel tidak bebas dintakan dengan Y.
k k
o
x a
x a
x a
a Y
+ +
+ +
=
Λ
....
2 2
1 1
dengan :
Universitas Sumatera Utara
=
Λ
Y variabel tidak bebas dependen
=
k o
a a
,..., koefisien regresi
=
k
x x
,...,
1
variabel bebas indpenden Koefisien-koefisien
k o
a a
,..., dapat dihitung dengan menggunakan persamaan :
... ........
... ...
...
2 2
1 1
2 2
2 2
2 1
1 2
2 1
2 1
2 2
1 1
1 1
2 2
1 1
1
∑ ∑
∑ ∑
∑ ∑
∑ ∑
∑ ∑
∑ ∑
∑ ∑
∑ ∑
∑ ∑
∑
+ +
+ +
= +
+ +
+ =
+ +
+ +
= +
+ +
+ =
ki k
ki i
ki i
ki o
i ki
ki i
k i
i i
i o
i i
ki i
k i
i i
i o
i i
ki k
i i
o
X a
X X
a X
X a
X a
Y X
X X
a X
a X
X a
X a
Y X
X X
a X
X a
X a
X a
Y X
X a
X a
X a
n a
Y
Untuk mendapatkan nilai �
, �
1
, �
2, …,
�
k
dari persamaan diatas disusun menurut datanya dan kemudian diselesaikan dengan metode eliminasi dan subsitusi.
2.6 Kesalahan Standar Estimasi Untuk mengetahui ketepatan persamaan estimasi dapat digunakan kesalahan standar
estimasi standard error of estimate. Besarnya kesalahan standar estimasi menunjukkan ketepatan persamaan estimasi untuk menjelaskan nilai variabel tidak
bebas yang sesungguhnya Algifari, 2000. Semakin kecil nilai kesalahan standar estimasi, makin tinggi ketepatan persamaan estimasi yang dihasilkan untuk
menjelaskan nilai variable tidak bebas sesungguhnya. Sebaliknya, semakin besar nilai kesalahan standar estimasi, makin rendah ketepatan persamaan estimasi yang
dihasilkan untuk menjelaskan nilai variable tidak bebas sesungguhnya. Kesalahan standar estimasi dapat ditentukan dengan rumus :
1
2 ,...,
2 ,
1 ,
− −
=
∑
Λ
k n
Y Y
S
i k
y
Dengan : Y
i
adalah nilai data sebenarnya,
Λ i
Y
adalah nilai taksiran.
Universitas Sumatera Utara
2.7 Uji Keberartian Regresi