Sifat hubungan antar variabel dalam persamaan regresi merupakan hubungan sebab akibat. Oleh karena itu, sebelum menggunakan persamaan regresi
dalam menjelaskan hubungan antara dua atau lebih variabel, maka perlu diyakini terlebih dahulu bahwa secara teoritis atau perkiraan sebelumnya dua atau lebih
variabel tersebut memang memiliki hubungan sebab akibat.
Analisis regresi dibedakan menjadi dua, yaitu analisis regresi linier sederhana dan analisis regresi linier berganda.
2.2 Regresi Linier Sederhana
Pada regresi linier sederhana hanya terdapat satu variabel bebas variabel independen X yang dihubungkan dengan satu variabel tak bebas variabel
dependen Y. Bentuk umum regresi sederhana menunjukkan antara dua variabel, yaitu variabel X sebagai variabel bebas dan variabel Y sebagai variabel tak bebas
adalah : Y = a + bX
dimana : Y = Variabel tak bebas dependen
X = Variabel bebas independen a = Parameter intercept
b = Parameter koefisen regresi variabel bebas
Universitas Sumatera Utara
2.3 Regresi Linier Berganda
Regresi berganda adalah regersi di mana variabel terikatnya Y dihubungkan dijelaskan oleh lebih dari satu variabel, mungkin dua, tiga, dan seterusnya variabel
bebas x
1
, x
2
, x
3, ...,
x
n
menunjukkan hubungan regresi berganda. Penambahan variabel bebas ini diharapkan dapat lebih menjelaskan karakteristik hubungan yang
ada, walaupun masih saja ada variabel yang terabaikan.
Model regresi linier ganda atas x
1
, x
2
, x
3, ...,
x
k
akan ditaksir oleh:
k k
o
x x
x Y
β β
β β
+ +
+ +
=
Λ
....
2 2
1 1
dengan: Ŷ = variabel tidak bebas variabel dependen
=
k o
β β
,..., koefisien regresi
=
k
x x ,...,
1
variabel bebas independen
Koefisien-koefisien
k o
β β
,..., dapat dihitung dengan menggunakan persamaan :
... ........
... ...
...
2 2
1 1
2 2
2 2
2 1
1 2
2 1
2 1
2 2
1 1
1 1
2 2
1 1
1
∑ ∑
∑ ∑
∑ ∑
∑ ∑
∑ ∑
∑ ∑
∑ ∑
∑ ∑
∑ ∑
∑
+ +
+ +
= +
+ +
+ =
+ +
+ +
= +
+ +
+ =
ki k
ki i
ki i
ki o
i ki
ki i
k i
i i
i o
i i
ki i
k i
i i
i o
i i
ki k
i i
o
X X
X X
X X
Y X
X X
X X
X X
Y X
X X
X X
X X
Y X
X X
X n
Y
β β
β β
β β
β β
β β
β β
β β
β β
Universitas Sumatera Utara
2.4 Kesalahan Standar Estimasi
Besarnya kesalahan standar estimasi untuk menjelaskan nilai variabel dependen yang sesungguhnya. Semakin kecil nilai kesalahan standar estimasi makin tinggi
ketepatan persamaan estimasi yang dihasilkan untuk menjelaskan nilai variabel dependen yang sesungguhnya. Dan sebaliknya, semakin besar nilai kesalahan
standar estimasi makin rendah ketepatan persamaan estimasi yang dihasilkan untuk menjelaskan nilai variabel
dependen yang sesungguhnya.
Untuk mengetahui ketepatan persamaan estimasi dapat digunakan kesalahan standar estimasi. Kesalahan standar estimasi diberi simbol S. Kesalahan
standar estimasi dapat ditentukan dengan rumus:
1
2 ,...,
2 ,
1 ,
− −
=
∑
Λ
k n
Y Y
S
i k
y
dengan : S
= standar estimasi Y
i
= nilai data sebenarnya Ŷ
= nilai taksiran n
= banyak data k
= banyak variabel bebas variabel independent
Universitas Sumatera Utara
2.5 Koefisien Determinasi
