regresi linier sederhana1

Regresi Linier Sederhana

Diah Indriani
Bagian Biostatistika dan Kependudukan
Fakultas Kesehatan Masyarakat
Universitas Airlangga

1

Definisi Pengaruh
Jika terdapat 2 variabel, misalkan X dan Y
yang data-datanya diplot seperti gambar
dibawah
Y

Y

2

X

X

Y

Y

X

X

Y

X
3

Definisi Pengaruh
Maka plot data yang membentuk suatu pola
tertentu menunjukkan bahwa variabel X dan Y
membentuk suatu hubungan
X

Y

hubungan

X

Y

pengaruh

4

Definisi Pengaruh
Jika sudah jelas arah hubungannya
Mana variabel yang mempengaruhi ?
Mana variabel yang dipengaruhi ?
Maka disebut Pengaruh
Jika belum jelas variabel yang dipengaruhi /
mempengaruhi (belum jelas arah hubungannya),

maka disebut Hubungan
5

Regresi Linier Y Terhadap X
Jika pola yang membentuk hubungan X dan Y
membentuk suatu garis lurus, maka disebut
Pengaruh Linier
Dimana :
variabel X
variabel bebas (independent)
variabel Y
variabel terikat (dependent)
Nilai-nilai Y ditentukan oleh nilai-nilai X
Variabel Y dipengaruhi oleh variabel X
Variabel X mempengaruhi variabel Y
6

Regresi Linier Y Terhadap X
Plot antara X dan Y
Y

Garis lurus tersebut
membentuk persamaan :
Y = a + bX
a disebut intersep
b disebut slope
X

7

Intersep
Bila X = 0 maka Y = a

Bila a = 0 maka garis akan
melalui titik (0,0)

Y

a

Y

.
X
8

X

Slope
Slope = kemiringan
Y = a + bX
Perubahan 1 satuan pada X mengakibatkan
perubahan b satuan pada Y, sehingga Y
mengukur kemiringan/slope garis tersebut.
9

Slope
Y

b satuan

α
1 satuan

X
10

Slope
Bila b positif
Bertambahnya nilai X mengakibatkan
bertambahnya nilai Y
Bila b negatif
Bertambahnya nilai X mengakibatkan
berkurangnya nilai Y
11

Regresi Linier Sederhana
Model regresi linier yang hanya melibatkan
satu variabel bebas (X). Model regresinya
sbb:

Y = α + βX
Dimana :
Y
= variabel terikat
X
= variable bebas
α, β = parameter regresi
12

Regresi Linier Sederhana
Sehingga setiap pasangan pengamatan (Xi, Yi)
dalam sampel akan memenuhi persamaan

Yi = α + β X i + ε i
Dimana :

εi

= sisaan / galat / eror
Atau dalam persamaan dugaannya

Yi = a + bX i + ei
13

Sisaan / Galat / Eror
Adalah penyimpangan model regresi dari nilai yang sebenarnya

Y

. . .

e10

e8

.
.e .
e
1

e3

. . .
e5

e6

e9

e7

.e

4

2

X
14

Metode Pendugaan Parameter
Regresi

α, β

parameter regresi yang akan diduga dari
data sampel

a, b

penduga parameter regresi

Metode

Metode Kuadrat Terkecil (MKT)
(suatu metode pendugaan parameter dengan
n
meminimumkan ∑ ei 2 / Jumlah Kuadrat Eror / SSE )
i =1

15

Metode Pendugaan Parameter
Regresi

Yi = a + bX i + ei
n

n

SSE

ei = Yi − a − bX i

∑ ei = ∑ (Yi − a − bX i )2
2

i =1

i =1

Nilai dugaan a dan b diperoleh dari proses sbb :
1. Dilakukan turunan pertama terhadap a dan b
n
∂ (∑ ei )
= −2∑ (Yi − a − bX i )
∂a
i =1
2

n
∂ (∑ ei )
= −2∑ (Yi − a − bX i )X i
∂b
i =1
2

16

Metode Pendugaan Parameter
Regresi
2. Kedua persamaan hasil penurunan disamkan
dengan nol
n

n

na + b∑ X i = ∑ Yi
n

i =1

n

i =1

n

a ∑ X i + b∑ X i = ∑ X iYi
2

i =1

i =1

i =1

n
 n 
 n
n∑ X iYi −  ∑ X i  ∑ Yi 
 i =1  i =1 
b = i =1 n

 n
2
n∑ X i −  ∑ X i 
i =1
 i =1 

a = Y − bX

17

Metode Pendugaan Parameter
Regresi
Penduga Parameter Regresi α, β
n
 n
 n 
n∑ X iYi −  ∑ X i  ∑ Yi 
 i =1  i =1 
b = i =1
2
n

 n
2
n∑ X i −  ∑ X i 
i =1
 i =1 

Dimana :
X = rata-rata Xi
18

Y

a = Y − bX

= rata-rata Yi

Uji Model Regresi
Dilakukan dengan pendekatan analisis variansi dengan
menguraikan komponen-komponen total keragaman
dari variabel terikat
SST = SSR + SSE
SST = Sum of Square Total / Jumlah Kuadrat Total
SSR = Sum of Square Regression / Jumlah Kuadrat Regresi
SSE = Sum of Square Eror / Jumlah Kuadrat Eror
19

Uji Model Regresi
SST = Jyy
SSR = b Jxy
SSE = SST – SSR = Jyy– b Jxy

Jyy

 n 
 ∑ Yi 
n
2
 i =1 
= ∑ Yi − n
i =1
20

2

 n
 n 
 ∑ X i  ∑ Yi 
n
 i =1  i =1 
Jxy = ∑ X iYi −
n
i =1

Uji Model Regresi
Tahapan uji keberartian model regresi sbb:
1. Hipotesis =
H0 : β = 0
H1 : β ≠ 0
dimana
β = matriks [ β0, β1]

21

Uji Model Regresi
2. Tabel Analisis Ragam
Komponen
Regresi

SS

db

Regresi

SSR

1

Eror

SSE

n – 2 s2 = SSE / n-2

Total

SST

n–1

22

MS

Fhitung

MSR = SSR/1 MSR / s2

Uji Model Regresi
3. Pengambilan Keputusan
H0 ditolak jika Fhitung > Ftabel(1 , n-2)
pada taraf kepercayaan α

23

Uji Parsial Parameter Regresi
Uji parsial untuk menguji apakah parameter β
berarti pada model secara parsial
Tahapan Ujinya :
1. Hipotesis =
H0 : β = 0
H1 : β ≠ 0
24

Uji Parsial Parameter Regresi
2. Statistik Uji =

t=
Dimana

b − β0
s / J xx


 n


X
∑
i

n
2
J xx = ∑ X i −  i =1 
n
i =1

2

s=

SSE
n−2

25

Uji Parsial Parameter Regresi
3. Pengambilan Keputusan =
H0 ditolak jika thitung > t α/2(db= n-2)
pada taraf kepercayaan α

26

Uji Intersep Model Regresi
Uji parsial untuk menguji apakah parameter α
berarti pada model secara parsial
Tahapan Ujinya :
1. Hipotesis =
H0 : α = 0
H1 : α ≠ 0
27

Uji Intersep Model Regresi
2. Statistik Uji =

t=

a −α
n

s ∑ X i / n J xx
2

i =1

Dimana


 n

X
∑
i


n
2
i =1


J xx = ∑ X i −
n
i =1
28

2

s=

SSE
n−2

Uji Intersep Model Regresi
3. Pengambilan Keputusan =

thitung > t
H0 ditolak jika
pada taraf kepercayaan α

α/2(db= n-2)

29

Selang Kepercayaan Untuk β
Selang kepercayaan untuk parameter β
dalam persamaan regresi Y = α + βX

 t s
t s
P b − α / 2 < β < b + α / 2  = (1 − α )100%
J xx
J xx 


30

Selang Kepercayaan Untuk α
Selang kepercayaan untuk parameter α
dalam persamaan regresi Y = α + βX
n
n


2
t
s
t
s
X

∑ i
∑ Xi2 
α /2
α /2
i =1
i =1
 = (1 − α )100%
P a −