Materi Ekonometrika untuk S2

Regresi
Eni Sumarminingsih, SSi, MM

Analisis

regresi linier merupakan analisis
yang digunakan untuk mengetahui dan
mempelajari suatu model hubungan
fungsional linier antara peubah respon
(Y) dengan peubah penjelas (X)
Peubah respon : peubah yang nilainilainya ditentukan berdasarkan nilainilai dari satu atau lebih peubah penjelas
Peubah penjelas : peubah yang nilainilainya dapat ditentukan atau diatur
atau yang nilainya dapat diamati

Model Umum
 
Secara
umum model regresi linier
sederhana didefinisikan sebagai

dengan i = 1, 2, 3, …, n

Pendugaan Parameter
 
Model
duga regresi sebagai berikut

b0 dan b1 secara berurutan adalah
nilai duga untuk β0 dan β1.
Nilai b0 dan b1 didapatkan dengan
menggunakan metode kuadrat
terkecil (MKT) yakni metode
pendugaan dengan
meminimumkan jumlah kuadrat
galat (JKgalat/S):

 

S akan mempunyai nilai minimum
jika turunan parsial pertama
terhadap β0 dan β1 adalah nol

 
dengan
mensubstitusikan (b0, b1)
untuk (β0, β1) dan dengan
penyederhanaan dua persamaan
turunan parsial tersebut diperoleh

Persamaan ini disebut dengan
persamaan-persamaan normal yang
darinya didapatkan penyelesaian
berikut:

 

 
Jika
SXY =

=

SXX = =
SYY = =
Maka b1 = SXY / SXX

Contoh
No.

Y

X

1

0.971

3.0

2

0.979

4.7

3

0.982

8.3

4

0.971

9.3

5

0.957

9.9

6

0.961

11.0

7

0.956

12.3

8

0.972

12.5

9

0.889

12.6

10

0.961

15.6

No.

Y

X

11

0.982

16.7

12

0.975

18.8

13

0.942

18.8

14

0.932

18.9

15

0.908

21.7

16

0.970

21.9

17

0.985

22.8

18

0.933

24.2

19

0.858

24.2

20

0.987

25.8


; 

 
SXX = =
 
SXY =
 
=

b1 = SXY / SXX = -1,3536 / 866,93 =
-0,00156
 
= 0,978
Jadi persamaan regresinya adalah
 

Tabel Analisis Ragam Regresi
Linier Sederhana
Sumber
Keragaman

Derajat Bebas

(db)

Jumlah Kuadrat
(JK)

Kuadrat Tengah
(KT)

Model

1

KTM =

Galat

n–2

KTG=JKGalat/dbGalat

Total

n–1

 

Sumber
Keragaman

Derajat Bebas
(db)

Jumlah Kuadrat
(JK)

Kuadrat Tengah
(KT)

Model

1

0,002114

0,002114

Galat

18

0,020461

0,001137

Total

19

0,022575

 

 
Asumsi
yang melandasi model
regresi , dengan i = 1, 2, …, n,
adalah

REGRESI LINIER BERGANDA
 
Model
Umum

Yang diduga dengan

Pendugaan Parameter
Menggunakan
Metode MKT


 

Dari proses peminimuman JKGalat didapatkan persamaan normal
sebagai berikut:

 
 
 
……………………………………………………………………………………
…
 

 
Dalam
notasi matriks,  
 
dengan,
 
; ; ;

 
JK
Galat dalam notasi mastriks
dinyatakan sebagai,
 

=
 

 
Dengan
prosedur yang sama yaitu MKT
dengan menurunkan secara parsial
terhadap b dan menyamakannya
dengan nol, diperoleh:
 
=0

Analisis Ragam dalam Notasi
Matriks
SK

db

JK

KT

Model

k–1

KTM = JKModel/dbModel

Galat

n–k

KTG=JKGalat/dbGalat

Total

n–1

 

Asumsi Regresi Linier
Klasik

Terdapat
beberapa asumsi klasik yang melandasi analisis

regresi linier berganda yakni
1. Nilai rata-rata bersyarat dari unsur εi yang tergantung
pada nilai tertentu peubah penjelas X adalah nol atau E(εi)
= 0, untuk i = 1, 2, …, n.
2. Ragam bersyarat dari εi adalah konstan (homoskedastik)
atau V(εi) = σ2, untuk i = 1, 2, …, n.
3. Tidak ada autokorelasi dalam galat atau Cov(εi, εj) = 0 di
mana i ≠ j.
4. Peubah penjelas X bersifat non-stokastik yaitu tetap dalam
penyampelan berulang atau jika stokastik, didistribusikan
secara independen dari galat atau Cov(Xi, εi) = 0.
5. Tidak ada multikolinieritas di antara peubah penjelas X
atau Cov(Xi, Xj) = 0 di mana i ≠ j.

 

6.