Variabel bebas merupakan variabel yang peubah tanpa adanya pengaruh variabel-variabel lain, tetapi perubahan yang terjadi pada variabel bebas akan
mengakibatkan terjadinya perubahan pada variabel lain. Variabel tak bebas merupakan variabel yang hanya akan berubah manakala terjadi perubahan pada
variabel atau variabel yang lain. Analisis regresi berguna untuk mendapatkan hubungan fungsional antara dua variabel bebas terhadap variabel tak bebas atau
meramalkan pengaruh variabel bebas terhadap variabel tak bebas. Asumsi agar analisis regresi dapat digunakan adalah :
1. Variabel yang dicari hubungan fungsionalnya mempunyai data yang
berdistribusi normal. 2.
Variabel bebas tidak acak, sedangkan variabel tak bebas harus acak. 3.
Variabel yang dihubungkan mempunyai pasangan sama dari subjek yang sama.
4. Variabel yang dihubungkan mempunyai data interval atau rasio.
2.2.1 Regresi Linier Sederhana
Regresi linier sederhana merupakan prosedur untuk mendapatkan hubungan matematis dalam bentuk suatu persamaan antara variabel tak bebas tunggal dengan
variabel bebas tunggal. Regresi linier sederhana hanya ada satu peubah bebas X. Bentuk-bentuk model umum regresi sederhana dalah hubungan variabel-variabel X
dan Y sebenarnya dinyatakan :
i i
i
X b
b Y
ε
+ +
=
1
Universitas Sumatera Utara
Dimana : Y = Variabel bebas
X = Variabel tak bebas
b
= intercept Y dari garis, yaitu titik dimana garis itu memotong sumbu Y
1
b
= Kemiringan Garis
i
ε = Kesalahan pengganggu
Menentukan titik taksiran Y nilai tunggal Y atau taksiran selang kepercayaan selang keyakinan dengan satu nilai X baru yakni X
, model regresi taksiran menghasilkan :
i i
X Y
1
ˆ
β β
+ =
Dimana :
i
Yˆ
= Nilai taksiran untuk Y β = Penaksir untuk
b
1
β = Penaksir untuk
1
b
Untuk menentukan
b
dan
1
b
adalah :
∑ ∑
∑ ∑ ∑ ∑
− −
=
2 2
2 2
1 i
i i
i i
i i
X X
n Y
X X
Y X
b
∑ ∑
∑ ∑ ∑
− −
=
2 2
i i
i i
i i
X X
n Y
X Y
X n
b
Universitas Sumatera Utara
2.2.2 Regresi Linier Berganda
Regresi linier berganda terdapat sejumlah sebut k buah, k
≥
1 peubah bebas yang dihubungkan dengan Y linier atau perangkat satu dalam semua peubah bebas X
1
, X
2
,…,X
k
maka bentuk persamaan umum multipel regresi adalah :
Dimana :
i
Y = Pengamatan ke – i pada variabel tak bebas
ik
X = Pengamatan ke – i pada variabel bebas
k
b = Koefisien regresi variabel bebas
ik
X
i
ε = Pengamatan ke –i variabel gangguan
Regresi berganda berguna untuk mendapatkan pengaruh dua variabel bebas atau untuk mencari hubungan fungsional dua variabel tak bebas atau lebih. Dengan
taksiran :
ki k
i i
i
X X
X Y
β β
β β
+ +
+ +
= ...
ˆ
2 2
1 1
Dimana :
i
Yˆ
= nilai taksiran untuk Y β = Penaksir untuk
b
1
β = Penaksir untuk
1
b
k
β = Penaksir untuk
k
b
Universitas Sumatera Utara
Untuk memudahkan pengolahan data, maka data-data dapat dimasukkan ke dalam tabel. Bentuk umum dari tabel untuk variabel penduga yang lebih dari satu
adalah seperti bentuk tabel di bawah ini:
Tabel 2.2 Bentuk Umum Tabel Data Regresi Linier Berganda
NO OBSERVASI
RESPON Y
I
VARIABEL BEBAS
X
1
VARIABEL BEBAS
X
2
VARIABEL BEBAS
VARIABEL BEBAS
X
K
1 Y
1
X
11
X
21
... X
k1
2 Y
2
X
12
X
22
... X
k2
3 Y
3
X
13
X
23
... X
k3
. .
. .
... .
. .
. .
... .
. .
. .
... .
n Y
i
X
1n
X
2n
... X
kn
Penduga b , b
1
, b
2
, ..., b
n
dilakukan berdasarkan metode kuadrat terkecil dengan meminimumkan jumlah kuadrat galat, seperti berikut :
Min
2 i
∈ ∑ = min Q =
2 2
1 1
n n
i
X b
X b
X b
b y
− −
− −
∑ ,
dimana Q =
2 i
∈ ∑
Untuk menentukan syarat perlu agar Q minimum, maka perlu ditentukan turunan parsial Q terhadap b
, b
1
, b
2
, ..., b
n
sebagai berikut : 2
2 2
1 1
ni n
i i
i
X b
X b
X b
b Y
b q
− −
− −
∑ =
∂ ∂
-1 = 0
2
2 2
1 1
1 ni
n i
i i
X b
X b
X b
b Y
b q
− −
− −
∑ =
∂ ∂
-X
1i
= 0 2
2 2
1 1
2 ni
n i
i i
X b
X b
X b
b Y
b q
− −
− −
∑ =
∂ ∂
-X
2i
= 0 ............................................................................................
2
2 2
1 1
ni n
i i
i n
X b
X b
X b
b Y
b q
− −
− −
∑ =
∂ ∂
-X
ni
= 0
Universitas Sumatera Utara
Penyelesaian terhadap hasil turunan parsial diatas akan menghasilkan gugus persamaan normal berikut :
i i
i i
Y X
b X
b X
b nb
∑ =
∑ +
∑ +
∑ +
3 3
2 2
1 1
i i
i i
i i
i
Y X
X X
b X
X b
X b
X b
1 3
1 3
2 1
2 2
1 1
1
∑ =
∑ +
∑ +
∑ +
∑
i i
i i
i i
i
Y X
X X
b X
b X
X b
X b
2 3
2 3
2 2
2 1
2 1
2
∑ =
∑ +
∑ +
∑ +
∑
i i
i i
i i
i
Y X
X b
X X
b X
X b
X b
3 2
3 3
2 3
2 1
3 1
3
∑ =
∑ +
∑ +
∑ +
∑
Dalam notasi matriks maka persamaan di atas dapat ditulis sebagai berikut :
∑ ∑
∑ ∑
∑ ∑
∑ ∑
∑ ∑
∑ ∑
∑ ∑
∑
2 3
2 3
1 3
3 3
2 2
2 1
2 2
3 1
2 1
2 1
1 3
2 1
X X
X X
X X
X X
X X
X X
X X
X X
X X
X X
X n
i i
i i
i i
i i
i i
i i
i i
i i
i i
i i
3 2
1
b b
b b
=
∑ ∑
∑ ∑
i i
i i
i i
Y X
Y X
Y X
Y
3 21
1
X X
b Y
X Maka dapat ditentukan bahwa :
1
Y X
X X
b
−
=
Matriks
X X
dalam persamaan diatas dapat ditentukan secara langsung dari nilai-nilai pengamatan, sebagai berikut :
X X
=
n n
n
X X
X X
X X
X X
X
3 32
31 2
22 21
1 12
11
... ...
... 1
... 1
1
n n
n
X X
X X
X X
X X
X
3 2
1 32
22 12
31 21
11
1 .
. .
. .
. .
. 1
1
Universitas Sumatera Utara
Serta matriks Y
X dapat dibentuk secara langsung dari nilai-nilai
pengamatan, sebagai berikut :
Y X
=
n n
n
X X
X X
X X
X X
X
3 32
31 2
22 21
1 12
11
... ...
... 1
... 1
1
4 3
2 1
Y Y
Y Y
dimana
1 −
X X
adalah kebalikan invers matriks dari X
X dan
X adalah matriks transpose dari matriks X.
det 1
1
X X
Adj X
X X
X =
−
Adapun untuk menghitung kekeliruan baku taksiran dari persamaan regresi antara variabel independent dengan variabel dependent yang bertujuan untuk
mengetahui seberapa besar kekeliruan dari persamaan regresi adalah :
1 ˆ
2 2
... 12
.
− −
− =
∑
k n
Y Y
S
k y
2.3 Uji Keberartian Regresi Linier Uji F
