Materi Statistika

Regresi
Eni Sumarminingsih, SSi, MM

Analisis

regresi linier merupakan analisis
yang digunakan untuk mengetahui dan
mempelajari suatu model hubungan
fungsional linier antara peubah respon
(Y) dengan peubah penjelas (X)
Peubah respon : peubah yang nilainilainya ditentukan berdasarkan nilainilai dari satu atau lebih peubah penjelas
Peubah penjelas : peubah yang nilainilainya dapat ditentukan atau diatur
atau yang nilainya dapat diamati

Model Umum
 
Secara
umum model regresi linier
sederhana didefinisikan sebagai

dengan i = 1, 2, 3, …, n

Pendugaan Parameter
 
Model
duga regresi sebagai berikut

b0 dan b1 secara berurutan adalah
nilai duga untuk β0 dan β1.
Nilai b0 dan b1 didapatkan dengan
menggunakan metode kuadrat
terkecil (MKT) yakni metode
pendugaan dengan
meminimumkan jumlah kuadrat
galat (JKgalat/S):

 

S akan mempunyai nilai minimum
jika turunan parsial pertama
terhadap β0 dan β1 adalah nol

 
dengan
mensubstitusikan (b0, b1)
untuk (β0, β1) dan dengan
penyederhanaan dua persamaan
turunan parsial tersebut diperoleh

Persamaan ini disebut dengan
persamaan-persamaan normal yang
darinya didapatkan penyelesaian
berikut:

 

 
Jika
SXY =

=

SXX = =
SYY = =
Maka b1 = SXY / SXX

Contoh
No.

Y

X

1

0.971

3.0

2

0.979

4.7

3

0.982

8.3

4

0.971

9.3

5

0.957

9.9

6

0.961

11.0

7

0.956

12.3

8

0.972

12.5

9

0.889

12.6

10

0.961

15.6

No.

Y

X

11

0.982

16.7

12

0.975

18.8

13

0.942

18.8

14

0.932

18.9

15

0.908

21.7

16

0.970

21.9

17

0.985

22.8

18

0.933

24.2

19

0.858

24.2

20

0.987

25.8


; 

 
SXX = =
 
SXY =
 
=

b1 = SXY / SXX = -1,3536 / 866,93 =
-0,00156
 
= 0,978
Jadi persamaan regresinya adalah
 

Tabel Analisis Ragam Regresi
Linier Sederhana
Sumber
Keragaman

Derajat Bebas
(db)

Jumlah Kuadrat
(JK)

Kuadrat Tengah
(KT)

Model

1

KTM =

Galat

n–2

KTG=JKGalat/dbGalat

Total

n–1

 

Sumber
Keragaman

Derajat Bebas
(db)

Jumlah Kuadrat
(JK)

Kuadrat Tengah
(KT)

Model

1

0,002114

0,002114

Galat

18

0,020461

0,001137

Total

19

0,022575

 

 
Asumsi
yang melandasi model
regresi , dengan i = 1, 2, …, n,
adalah

Uji Hipotesis Keberartian Kemiringan
(Slope) b1

0 : β1 = β1-0
H
lawan
H1: β1 ≠ β1-0
Dengan statistik uji:
thitung =
S(b1) = 0,00114521
S2= KTG

thitung
  =
karena |thitung| kurang dari t 0,02518,
maka diputuskan untuk menerima
H0 dan menyimpulkan bahwa tidak
ada hubungan linier dengan resiko
kesalahan sebesar 5%.

Uji Hipotesis Keberartian
Intersep b0
 : β = β
H
0
0
0-0

lawan
H1: β0 ≠ β0-0
Dengan statistik uji:
thitung =
S(b0) =

Uji F untuk Keberartian Persamaan Regresi

Untuk menguji apakah suatu
persamaan regresi “berarti” sebagai
model prediksi, secara keseluruhan
dapat diuji dengan uji-F yakni
F = KTM/S2 = KTmodel/Ktgalat
yang mengikuti sebaran F dengan
derajat bebas db = (1, n – 2) pada
taraf nyata α. Adapun hipotesis pada
uji-F tersebut adalah H0 : 0 = β1 = 0
lawan H1 : minimal ada satu βi ≠ 0.

Pada contoh, diperoleh nilai F =
1,8593 dan F 0.05(1, 18) = 4,41387.
Dikarenakan nilai F < F 0.05(1, 18)
maka H0 diterima dan
menyimpulkan model tersebut
tidak layak untuk dijadikan model
prediksi

Koefisien Determinasi R2, Suatu Ukuran
“Kebaikan-Suai” (Goodness of Fit)

 
Didefinisikan,
R2 = b1SXY / SYY

yang mengukur proporsi
keragaman atau variasi total di
sekitar nilai tengah yang dapat
dijelaskan oleh model regresi
tersebut

 
Pada
contoh model, didapatkan nilai
R2 ,
R2 = 0,002114 / 0,022575 = 0,09364
Artinya, persamaan regresi yang
diperoleh , hanya mampu
menjelaskan sebesar 9,364% dari
keragaman total dalam data.
R2 dapat mencapai nilai 1 atau 100%
jika model yang dihasilkan sangat
presisif.