Regresi piecewise untuk masalah intervensi - USD Repository

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI

REGRESI PIECEWISE UNTUK MASALAH INTERVENSI
SKRIPSI
Diajukan untuk Memenuhi Salah Satu Syarat
Memperoleh Gelar Sarjana Sains
Program Studi Matematika

Disusun oleh :
DIMAS ADI SETIAWAN
NIM : 093114011
PROGRAM STUDI MATEMATIKA JURUSAN MATEMATIKA
FAKULTAS SAINS DAN TEKNOLOGI
UNIVERSITAS SANATA DHARMA
YOGYAKARTA
2013

i

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN

TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI

HALAMAN PERSEMBAHAN

Tulisan ini dipersembahkan untuk Orang tua, sahabat, teman, dan orang yang
selalu mendukung dalam proses penulisan.
Teruntuk :
TUHAN YESUS KRISTUS yang selalu ada di saat penulis membutuhkan
pertolongan-Nya.
Ibu Lusia Luveniasmi dan Bapak Ambrosius Sarjono yang telah membesarkan,
mendidik dengan penuh cintak kasih, kesabaran dan doa,…

Cosmas Jerry Anggoro yang telah menemani dalam proses penulisan skripsi ini,
dan dukungannya..

v

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI

ABSTRAK

Regresi piecewise merupakan pengembangan dari model regresi linier
sederhana ke dalam model regresi linier berganda yang menggunakan variabel
dummy. Regresi piecewise adalah salah satu model regresi linier berganda
yang cocok untuk masalah data pada jangkauan nilai variabel yang berbeda.
Pada model regresi piecewise terdapat breakpoint yang digunakan untuk
menentukan garis regresi untuk setiap perubahan kemiringan pada fungsi

linier. Model regresi piecewise dengan k breakpoint dapat dituliskan sebagai
berikut:
𝑌𝑖 = 𝛼1 + 𝛽1 𝑋𝑖 + 𝛽2 (𝑋𝑖 − 𝑋1∗ )𝐷1𝑖 + 𝛽3 (𝑋𝑖 − 𝑋2∗ )𝐷2𝑖 + ⋯
∗
)𝐷𝑘𝑖 + 𝑢𝑖
+ 𝛽𝑘 (𝑋𝑖 − 𝑋𝑘−1

1, 𝑗𝑖𝑘𝑎 𝑋𝑖 > 𝑋1∗
𝐷1𝑖 = {
0,
𝑙𝑎𝑖𝑛𝑛𝑦𝑎

𝐷2𝑖 = {
⋮

1, 𝑗𝑖𝑘𝑎 𝑋𝑖 > 𝑋2∗
0,
𝑙𝑎𝑖𝑛𝑛𝑦𝑎

∗

1, 𝑗𝑖𝑘𝑎 𝑋𝑖 > 𝑋𝑘−1
𝐷𝑘𝑖 = {
0,
𝑙𝑎𝑖𝑛𝑛𝑦𝑎

Asumsi dalam regresi berganda dapat digunakan dalam menguji
regresi piecewise, kecuali asumsi tidak ada multikolinearitas karena dalam
regresi piecewise hanya ada satu variabel bebas saja.

vi

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI

ABSTRACT
Piecewise regression is a development of the simple linear regression

model to the multiple linear regression model using dummy variables.
Piecewise regression is one of multiple linear regression model

that

appropriate for different range of variable values. In piecewise regression
model there are breakpoints that are used to determine the slope of the
regression for each change in linear functions. Piecewise regression models
contain k breakpoints can be written as follows:
𝑌𝑖 = 𝛼1 + 𝛽1 𝑋𝑖 + 𝛽2 (𝑋𝑖 − 𝑋1∗ )𝐷1𝑖 + 𝛽3 (𝑋𝑖 − 𝑋2∗ )𝐷2𝑖 + ⋯
∗
)𝐷𝑘𝑖 + 𝑢𝑖
+ 𝛽𝑘 (𝑋𝑖 − 𝑋𝑘−1

1, 𝑋𝑖 > 𝑋1∗
𝐷1𝑖 = {
0, 𝑜𝑡ℎ𝑒𝑟𝑠
𝐷2𝑖 = {

⋮

1, 𝑋𝑖 > 𝑋2∗
0, 𝑜𝑡ℎ𝑒𝑟𝑠

𝐷𝑘𝑖 = {

∗
1, 𝑋𝑖 > 𝑋𝑘−1
0, 𝑜𝑡ℎ𝑒𝑟𝑠

Assumptions in multiple regression can be used to test the piecewise
regression model, except no multicollinearity assumption because there is
only one independent variable in the model.

vii

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK

TIDAKTERPUJI
TERPUJI

KATA PENGANTAR

Segala puji dan syukur penulis panjatkan kepada Tuhan Yesus Kristus,
Guru Yang Agung atas petunjuk dan pertolongan-Nya sehingga penulis dapat
menyelesaikan skripsi ini.
Skripsi ini penulis susun untuk memenuhi salah satu syarat memperoleh
gelar Sarjana Program Studi Matematika, Jurusan Matematika, Fakultas Sains dan
Teknologi di Universitas Sanata Dharma Yogyakarta.
Dalam proses penyusunan skripsi ini ada banyak kesulitan dan hambatan
yang penulis alami. Namun dengan bantuan berbagai pihak semua kesulitan dan
hambatan tersebut dapat teratasi dengan baik. Untuk itu, pada kesempatan ini
penulis dengan penuh ketulusan ingin mengucapkan terima kasih kepada :
1. Ir. Ig. Aris Dwiatmoko, M.Sc, selaku Dosen pembimbing yang telah
membimbing dengan sabar dan memberikan masukan dan koreksi yang
sangat bermanfaat selama proses penyusunan skripsi ini.
2. Paulina Heruningsih Prima Rosa, S.Si., M.Sc., selaku Dekan Fakultas Sains
dan Teknologi.

3. Lusia Krismiyati Budiasih, S.Si., M.Si., selaku Ketua Program Studi
Matematika dan Dosen Pembimbing Akademik.

viii

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI

4. Y. G. Hartono, S.Si., M.Sc., selaku Dosen penguji yang telah memberikan
masukan-masukan dan koreksi.
5. Ch. Enny Murwaningtyas, S.Si., M.Si,

selaku Dosen penguji yang telah

memberikan masukan-masukan dan koreksi.
6. Bapak dan Ibu Dosen Program Studi Matematika yang telah memberikan ilmu

yang berguna kepada penulis.
7. Bapak Zaerilus Tukija, Bapak Ignatius Tri Widaryanta, dan Ibu Erna Linda
Santyas Rahayu yang telah memberikan pelaayanan administrasi selama
penulis kuliah.
8. Perpustakaan Universitas Sanata Dharma yang memberikan fasilitas dan
kemudahan kepada penulis.
9. Ibu Lusia Luveniasmi, Bapak Ambrosius Sarjono yang selalu mendoakan
anak-anaknya dimanapun berada dan Cosmas Jerry Anggoro yang selalu
menemani saat penulis mengerjakan skripsi ini. Luciana Putri Renliastuti yang
selalu memberikan semangat kepada penulis.
10. Teman-teman program matematika angkatan 2009: Sekar, Yohana, Erlika,
Ida, Etik, Doweek, Jojo,Ochi dan angkatan 2008: Etus, Moyo, Widi terima
kasih atas segala bantuan, dukungan dan kebersamaannya selama ini.
11. Semua pihak yang telah mendukung, yang tidak dapat penulis sebutkan satu
persatu.

ix

PLAGIAT
PLAGIATMERUPAKAN

MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI

DAFTAR ISI

Halaman
HALAMAN JUDUL..........................................................................................

i

HALAMAN PERSETUJUAN PEMBIMBING ................................................

iii

HALAMAN PENGESAHAN............................................................................

iv

HALAMAN KEASLIAN KARYA ...................................................................

v

HALAMAN PERSEMBAHAN.........................................................................

vi

ABSTRAK .........................................................................................................

vii

ABSTRACT .......................................................................................................

viii

KATA PENGANTAR .......................................................................................

ix

LEMBAR PERNYATAAN PERSETUJUAN PUBLIKASI ............................

xii

DAFTAR ISI ......................................................................................................

xiii

DAFTAR GAMBAR .........................................................................................

xvii

DAFTAR TABEL . ............................................................................................

xviii

xii

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI

BAB I PENDAHULUAN .................................................................................

1

A. Latar Belakang Masalah ........................................................................

1

B. Rumusan Masalah .................................................................................

4

C. Tujuan Penulisan ....................................................................................

4

D. Batasan Masalah.....................................................................................

4

E. Manfaat Penulisan .................................................................................

5

F. Sistematika Penulisan ...........................................................................

5

BAB II REGRESI BERGANDA ......................................................................

7

A. Model Regresi Berganda ......................................................................

7

B. Model Linier .........................................................................................

8

1. Linier dalam variabel ............................................................... .......

9

2. Linier dalam parameter ............................................................ .......

9

C. Pendugaan Model Regresi ....................................................................

10

D. Matriks Variansi-Kovariansi dari 𝛽̂ ......................................................

13

E. Koefisien Determinasi (R2) .....................................................................

15

F. Asumsi-asumsi dalam Regresi ...............................................................

20

1. Tidak ada heteroskedastisitas .................................................... ......

20

2. Tidak ada otokorelasi ............................................................... .......

23

3. Tidak ada multikolinieritas ....................................................... ......

26

4. Asumsi kenormalan galat .......................................................... ......

28

xiii

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI

G. Regresi dengan Variabel Dummy ..................................................... .....

36

H. Masalah Intervensi ......................................................................... .......

39

BAB III REGRESI PIECEWISE ...................................................................... ..

42

A. Pengantar ...............................................................................................

42

B. Model Regresi Piecewise ......................................................................

45

1. Model regresi piecewise untuk satu breakpoint ..............................

46

2. Model regresi piecewise untuk dua breakpoint ...............................

46

3. Model regresi piecewise untuk k breakpoint ................................ ..

47

C. Asumsi Regresi Piecewise ....................................................................

49

1. Kebebasan galat ..............................................................................

49

2. Kenormalan galat ............................................................................

50

3. Galat memiliki variansi homogen ...................................................

51

D. Potensi Pencilan (Outlier) .....................................................................

53

E. Pendugaan Model Regresi Piecewise ....................................................

60

F. Pengujian Model Regresi Piecewise .....................................................

67

1. Kebebasan galat (tidak ada otokorelasi) .........................................

67

2. Kenormalan galat ............................................................................

68

3. Galat memiliki variansi homogen ...................................................

69

BAB IV APLIKASI REGRESI PIECEWISE ...................................................

71

A. Pendahuluan ..........................................................................................

71

xiv

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI

B. Contoh 4.1 ..............................................................................................

72

C. Menentukan Titik Patahan (breakpoint) ...............................................

72

D. Menentukan Model Regresi Piecewise .................................................

74

1. Persamaan garis regresi sebelum titik ke 12 ...................................

74

2. Persamaan garis regresi antara titik ke 13-64 ............................. .....

74

3. Persamaan garis regresi antara titik ke 65-87 ...............................

75

4. Persamaan garis regresi setelah titik ke 87 .....................................

75

E. Menentukan Model Regresi Piecewise yang
Kontinu Pada Breakpoint .................................................................

75

1. Mencari titik 𝑋1 ∗ ......................................................................

76

a. Menentukan persamaan garis regresi sebelum titik ke 14 ....

76

b. Menentukan persamaan garis regresi antara titik ke 15-64...

77

2. Mencari titik 𝑋2 ∗ .........................................................................

77
78

a. Menentukan persamaan garis regresi pada titik 65-89.........

78

b. Menentukan persamaan garis regresi antara titik 90-108.....

79

3. Mencari titik 𝑋3 ∗ ..........................................................................

F. Menentukan Model Regresi Piecewise ....................................................

80

G. Pengujian Model Regresi Piecewise ..................................................... .

81

1. Kebebasan galat (tidak ada otokorelasi) .........................................

82

2. Tidak ada Heteroskedastisitas .........................................................

83

3. Kenormalan galat ...........................................................................

84

xv

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI

H. Potensi Outlier ....................................................................................

87

I. Pengggunaan Model untuk mepredikisi.............................................

88

J. Contoh 4.2 ...........................................................................................

90

BAB V PENUTUP
A. Kesimpulan..........................................................................................

101

B. Saran....................................................................................................

101

DAFTAR PUSTAKA
LAMPIRAN

xvi

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI

DAFTAR GAMBAR
Gambar 1.1 Regresi piecewise antara pelepasan (discharge) (X) dan data angkutan
(Y) bedload di St.louis ......................................................................................

3

Gambar 2.1 Homoskedastisitas .......................................................................

20

Gambar 2.2 Heteroskedastisitas ........................................................................

21

Gambar 2.3 Grafik Saham..................................................................................

40

Gambar 3.1 Hubungan antara penjualan tiket (Y) pada saat hari biasa dengan saat
mendekati liburan (X) .....................................................................................

43

Gambar 3.2 Hubungan kurs rupiah terhadap USD ...........................................

44

Gambar 3.3 Scatterplot galat tidak normal .......................................................

51

Gambar 3.4 Scatterplot galat normal ................................................................

58

Gambar 3.5 Galat bersifat homogen ...................................................................

52

Gambar 3.6 Galat tidak bersifat homogen .......................................................

53

Gambar 3.7 Scatterplot data contoh 3.1 .............................................................

57

Gambar 3.8 Scatterplot data simulasi Regresi Piecewise .................................

62

Gambar 4.1 Grafik Kurs Rupiah ........................................................................

72

Gambar 4.2 Garis hubungan persamaan garis regresi ........................................

87

Gambar 4.3 Scatterplot data penjualan dengan komisi penjualan .....................

90

xvii

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI

DAFTAR TABEL

Tabel 2.1 Perhitungan statistik uji Kolmogorov-Smirnov ................................ 31
Tabel 3.1 Data simulasi ...................................................................................... 57
Tabel 3.2 Data simulasi 0-7 .............................................................................. 61
Tabel 3.3 Data simulasi 8-14 ............................................................................. 61
Tabel 4.1 nilai kurs rupiah pada 5 hari ke depan ............................................... 89

xviii

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI

BAB I
PENDAHULUAN

A. Latar Belakang Masalah
Peramalan erat kaitannya dengan statistika. Terdapat dua jenis
model peramalan yang utama, yaitu: model deret berkala (time series) dan
model regresi (kausal). Tujuan model peramalan deret berkala adalah
menemukan pola dalam deret data, mengekstrapolasikan pola dalam data
dan mengekstrapolasikan pola tersebut ke masa depan. Model regresi
mengasumsikan bahwa faktor yang diramalkan menunjukkan suatu
hubungan sebab-akibat dengan satu atau lebih variabel bebas. Tujuan dari
model regresi adalah menemukan bentuk hubungan tersebut dan
menggunakannya untuk meramalkan nilai mendatang dari variabel tak
bebas. Analisis regresi berfokus pada pembelajaran yang berkaitan dengan
satu variabel, variabel tak bebas, satu atau lebih variabel tak bebas,
variabel explanatory, dengan maksud untuk menaksir atau meramalkan
nilai rata-rata hitung atau nilai rata-rata variabel tak bebas. Analisis regresi
juga digunakan untuk menganalisis hubungan antar variabel. Hubungan
tersebut dapat ditulis dalam model persamaaan yang menghubungkan
variabel tak bebas Y dengan satu atau lebih variabel bebas X.
Model regresi linier dapat dikategorikan menjadi: model regresi
sederhana, model regresi berganda. Model regresi sederhana adalah model

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
2

yang terdapat hubungan variabel tak bebas Y dengan satu varibel bebas
X. Model regresi berganda adalah model yang terdapat hubungan antara
variabel tak bebas Y dengan lebih dari satu variabel bebas X. Model
regresi berganda dapat memuat variabel dummy, yaitu variabel yang
bersifat kualitatif. Variabel ini tidak bisa diukur, maka yang dapat
dilakukan adalah memberikan nilai yang berfungsi sebagai atribut atau
kategori misalnya 0 dan 1.
Analisis regresi juga dapat dikategorikan untuk memodelkan
kasus-kasus yang dipengaruhi oleh faktor-faktor dari luar. Faktor-faktor
dari luar tersebut disebut intervensi, misalnya: bencana alam, kebijakan
pemerintah, dan lain sebagainya. Ada beberapa contoh kasus intervensi,
misalnya: kurs rupiah terhadap USD pada bulan Agustus 2011 hingga
November 2011. Dalam kasus ini terjadi nilai rupiah meninggi,
dikarenakan terjadi krisis ekonomi didunia sehingga terjadi penurunan
nilai dollar Amerika. Kasus seperti ini dapat dimodelkan dengan model
regresi piecewise. Model regresi piecewise merupakan pengembangan dari
model regresi linier sederhana ke dalam model regresi linier berganda
yang menggunakan variabel dummy. Ketika menganalisa hubungan antara
variabel respon Y dan variabel tak bebas X, untuk jangkauan (range) yang
berbeda dari X, dapat terjadi hubungan linier yang berbeda. Pada kasus
yang demikian, model linier sederhana tidak dapat memberikan penjelasan
yang lengkap. Regresi piecewise adalah bentuk dari regresi linier berganda
yang cocok terhadap masalah data pada jangkauan dari nilai variabel x

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
3

yang berbeda (Ryan, Sandra E.; Porth, Laurie S. 2007). Pada gambar di
bawah ini diberikan contoh penerapan regresi piecewise.

𝑋∗

Gambar 1.1 Regresi piecewise antara pelepasan (discharge) (X)
dan data angkutan (Y) bedload di St.louis
Pada gambar 1, 𝑋 ∗ disebut dengan titik patahan (breakpoints).

Breakpoints adalah nilai dari X di mana ada perubahan kemiringan fungsi

linier. Nilai dari breakpoint bisa diketahui atau mungkin tidak diketahui
sebelum dilakukan analisis, tetapi pada umumnya nilai dari breakpoint
tidak diketahui dan harus dilakukan estimasi parameter. Fungsi regresi
pada breakpoint

mungkin tidak kontinu, tetapi model dapat ditulis

sedemikian sehingga fungsi itu kontinu pada semua titik termasuk
breakpoint.

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
4

B. Rumusan Masalah
Berdasarkan uraian di atas, maka permasalahan dalam tugas akhir
ini adalah sebagai berikut:
1. Apa yang dimaksud dengan masalah intervensi
2. Apa yang dimaksud dengan regresi piecewise?
3. Bagaimana menerapkan regresi piecewise dalam analisis regresi yang
mengandung unsur-unsur intervensi?
C. Tujuan Penulisan
Berdasarkan rumusan masalah di atas, tujuan dari penulisan tugas
akhir ini adalah sebagai berikut:
1. Memahami apa yang dimaksud dengan regresi piecewise.
2. Dapat menggunakan

regresi piecewise dalam analisis regresi yang

mengandung unsur-unsur intervensi.
D. Batasan Masalah
Agar penulisan mencapai tujuan yang dimaksud, maka perlu ada
batasan mengenai permasalahan

yang diangkat. Adapun batasan

masalahnya adalah sebagai berikut:
1. Regresi piecewise yang dibahas terbatas pada model regresi piecewise
linear yang ditujukan untuk memprediksi, sedangkan uji hipotesis tidak
dibahas.

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
5

2. Tidak semua materi prasayarat regresi dibahas secara rinci kecuali
untuk beberapa topik yang berhubungan langsung dengan regresi
piecewise.

E. Manfaat Penulisan
Adapun manfaat yang diharapkan penulis dalam tugas akhir ini adalah
sebagai berikut:
1. Mengetahui bahwa analisis regresi juga dapat dipengaruhi oleh adanya
pengaruh dari luar.
2. Dapat memberi masukan kepada para pengambil keputusan terkait
dengan masalah adanya pengaruh dari luar dalam analisis regresi.

F. Sistematika Penulisan
BAB I Pendahuluan
A. Latar Belakang Masalah
B. Rumusan Masalah
C. Tujuan Penulisan
D. Pembatasan Masalah
E. Manfaat Penulisan
F. Sistematika Penulisan
BAB II Analisis Regresi
A. Model Regresi Berganda
B. Model Linier

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
6

C. Penduga Model Regresi
̂
D. Matriks Variansi-Kovariansi dari 𝜷
E. Koefisien Determinasi (R2)
F. Pengujian Hipotesis
G. Asumsi-asumsi dalam Regresi
H. Regresi dengan Variabel Dummy
I. Masalah Intervensi
BAB III Regresi Piecewise
A. Pengantar
B. Model Regresi Piecewise
C. Asumsi-asumsi Regresi Piecewise
D. Potensi Outlier
E. Pendugaan Model Regresi Piecewise
F. Pengujian Hipotesis Regresi Piecewise
BAB IV Aplikasi Regresi Piecewise
A. Data
B. Model Regresi Piecewise
C. Analisis Regresi Piecewise
BAB V Penutup
A. Kesimpulan
B. Saran

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI

BAB II
ANALISIS REGRESI
Bagian ini hanya membahas regresi berganda beserta penduganya,
pendugaan

model

regresi,

matrik

variansi-kovariansi,

koefisien

determinasi, regresi dengan variabel dummy, masalah intervensi, dan
asumsi-asumsi dalam model regresi.
A. Model Regresi Berganda
Model regresi berganda merupakan model yang menggambarkan
hubungan antara satu variabel tak bebas Y dengan beberapa variabel
bebas 𝑋2 , … , 𝑋𝑘 . Persamaan Fungsi Regresi Populasi (FRP) k-variabel
meliputi hubungan antara variabel tak bebas Y dengan k-variabel bebas
𝑋2 , … , 𝑋𝑘 , dapat ditulis sebagai berikut:

𝑌𝑖 = 𝛽1 + 𝛽2 𝑋2𝑖 + 𝛽3 𝑋3𝑖 + ⋯ + 𝛽𝑘 𝑋𝑘𝑖 + 𝑢𝑖

di mana,
𝑌𝑖

: variabel tak bebas

𝛽𝑗

: koefisien regresi dari variabel bebas ke-j

𝛽1

: konstanta

𝑋𝑗𝑖

: nilai variabel bebas ke-j pada pengamatan ke-i

𝑢𝑖

n
𝑖

𝑗

: galat (error) ke-i
: ukuran sampel
: 1, 2,..., n
: 2,..., n

(2.1)

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
8

Salah satu cara menduga parameter regresi berganda adalah dengan
menggunakan pendekatan matriks. Model pada persamaan (2.1) dapat
ditulis dalam bentuk matriks, sebagai berikut:

𝑌1
1
𝑌
1
[ 2] = [
⋮
⋮
𝑌𝑛
1

𝑋21
𝑋22
⋮
𝑋2𝑛

𝑋31
𝑋32
⋮
𝑋3𝑛

𝑢1
… 𝑋𝑘1 𝛽1
𝑢2
… 𝑋𝑘2 𝛽2
]
[
]+[
…
⋮]
⋮
⋮
⋯ 𝑋𝑘𝑛 𝛽𝑘 𝑢𝑛

(2.2)

Persamaan (2.2) dapat ditulis dalam notasi matriks sebagai berikut:

di mana,

𝒚 = 𝑿𝜷 + 𝒖

(2.3)

𝒚

: vektor kolom n x 1dari variabel tak bebas

𝜷

: vektor kolom k x1 dari parameter yang tidak diketahui

𝑿

: matriks n x k dari variabel bebas dan konstanta

𝒖

: vektor kolom n x 1 dari galat

B. Model Linier
Analisis regresi merupakan suatu metode yang digunakan untuk
menganalisis

hubungan antar variabel. Hubungan

tersebut dapat

diekspresikan dalam model persamaan yang menghubungkan variabel tak
bebas Y dengan satu atau lebih variabel bebas X. Dalam analisis regresi
ada dua istilah linier, yaitu: linier dalam variabel dan linier dalam
parameter.

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
9

1. Linier dalam variabel
Penafsiran linieritas ini mengisyaratkan bahwa nilai harapan
bersyarat, 𝐸(𝑌|𝑋𝑖 ) adalah fungsi linier dari variabel bebas, 𝑋𝑖 . Contoh

model yang bukan linier dalam variabel: 𝐸(𝑌|𝑋𝑖 ) = 𝛽1 + 𝛽2 𝑋𝑖2 .
Persamaan tersebut bukan merupakan fungsi linier sebab variabel bebas X

berpangkat dua. Dengan kata lain, suatu fungsi dikatakan linier dalam
variabel, jika 𝑋𝑖 hanya berpangkat satu.
2. Linier dalam parameter

Penafsiran linieritas ini mengisyaratkan bahwa nilai harapan,
E(Y|X), adalah fungsi linier dari parameter 𝛽𝑖 , jika 𝛽𝑖 nampak hanya
dengan pangkat satu dan tidak dikalikan atau dibagi dengan parameter

lain. Contoh model yang bukan merupakan fungsi linier dalam parameter:
𝐸(𝑌|𝑋𝑖 ) = 𝛽1 + 𝛽2 𝛽3 𝑋𝑖 . Persamaan tersebut bukan fungsi linier dalam

parameter karena 𝛽2 berpangkat 𝛽3 , tetapi fungsi tersebut linier dalam

variabel bebas, 𝑋𝑖 .

Istilah regresi linier sederhana ditunjukkan pada penggunaan satu

variabel tak bebas sebagai fungsi linier dari satu variabel bebasnya. Secara
umum, model regresi disimbolkan sebagai berikut ini:
𝐸(𝑌|𝑋𝑖 ) = 𝑓(𝑋𝑖 )

(2.4)

di mana 𝐸(𝑌|𝑋𝑖 ) adalah suatu fungsi linier dari 𝑋𝑖 , 𝑓(𝑋𝑖 ) menunjukkan

fungsi dari variabel bebas 𝑋𝑖 . Persamaan (2.4) disebut Fungsi Regresi
Populasi (FRP). Bila 𝑓(𝑋𝑖 ) merupakan fungsi linier maka

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
10

𝑓(𝑋𝑖 ) = 𝛽1 + 𝛽2 𝑋𝑖

(2.5)

Dengan demikian, persamaan FRP dapat ditulis sebagai berikut ini:
𝐸(𝑌|𝑋𝑖 ) = 𝛽1 + 𝛽2 𝑋𝑖

(2.6)

Pengertian dari persamaan (2.6) adalah nilai rata-rata bersyarat Y
dengan X tertentu merupakan fungsi linier dari 𝑋𝑖 , dan persamaan tersebut

adalah Fungsi Regresi Populasi Linier atau FRP Linier. Dalam suatu
model regresi akan ditentukan parameter yang tidak diketahui besarnya
atau dikenal dengan parameter regresi, yaitu 𝛽1 dan 𝛽2 , 𝛽1 adalah intersep
dan 𝛽2 adalah koefisien kemiringan.

Persamaan regresi merupakan fungsi linier dalam parameter

maupun variabel. Pada skripsi ini hanya dibahas model liner dalam
parameter. Dapat dilihat dari persamaan (2.1), bahwa parameter dari
persamaan regresi hanya berpangkat satu. Selain linier dalam parameter,
persamaan (2.1) juga linier dalam variabel. Dapat dilihat bahwa variabel
dalam persamaan regresi (2.1) hanya berpangkat satu.
C. Pendugaan Model Regresi
Untuk mendapatkan penduga dari parameter regresi dilakukan
pendugaan dengan Metode Kuadrat Terkecil (MKT) dengan menggunakan
̂ merupakan pendugaan dari koefisien regresi
persamaan (2.3). Andaikan 𝜷

̂ ) diperoleh dengan meminimumkan jumlah kuadrat
𝛽. Penduga MKT (𝜷

galat ∑ 𝑢𝑖2 .

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
11

Persamaaan (2.3) dapat ditulis menjadi:
̂ +𝒖
̂
𝒚 = 𝑿𝜷

̂
̂ = 𝒚 − 𝑿𝜷
𝒖

(2.7)

̂ =𝒚−𝒚
̂
𝒖

(2.8)

̂ )𝟐
∑ 𝑢̂𝑖2 = (𝒚 − 𝑿𝜷

(2.9)

Dari persamaan (2.7) dapat juga ditulis sebagai barikut:

Sehingga pendugaan MKT dengan meminimumkan jumlah kuadrat galat
dapat ditulis menjadi:

Meminimunkan jumlah kuadrat galat ∑𝑛𝑖 𝑢̂𝑖2 sama dengan meminimumkan
̂𝑻𝒖
̂ karena
𝒖

̂𝑻𝒖
̂ = [𝑢̂1
𝒖

𝑢̂2

…

𝑢̂1
𝑢̂
𝑢̂𝑛 ] [ 2 ]
⋮
𝑢̂𝑛

2
2
2
= 𝑢̂1 + 𝑢̂2 + ⋯ + 𝑢̂𝑛

=

∑𝑛𝑖 𝑢̂𝑖2

(2.10)

Sehingga dari persamaan (2.10) didapatkan:
̂𝑻𝒖
̂ = (𝒚 − 𝑿𝜷
𝒖
̂ )𝑻 (𝒚 − 𝑿𝜷
̂)

̂ 𝑻 𝑿𝑻 ) (𝒚 − 𝑿𝜷
̂)
= (𝒚𝑻 − 𝜷

̂ − (𝑿𝜷
̂ )𝑻 𝒚 + (𝑿𝜷
̂ )𝑻 𝑿𝜷
̂
= 𝒚𝑻 𝒚 − 𝒚𝑻 𝑿𝜷
=

̂ )𝑻 𝒚 − (𝑿𝜷
̂ )𝑻 𝒚 + (𝑿𝜷
̂ )𝑻 𝑿𝜷
̂)
𝒚𝑻 𝒚 − (𝑿𝜷

̂ )𝑻 𝒚 + (𝑿𝜷
̂ )𝑻 𝑿𝜷
̂
= 𝒚𝑻 𝒚 − 𝟐(𝑿𝜷

̂ dilakukan dengan mendiferensialkan 𝒖
̂ , dan
̂𝑻𝒖
̂ terhadap 𝜷
Pendugaan 𝜷

menyamakannya dengan nol.

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
12

̂𝑻𝒖
̂)
𝜕(𝒖
= 0
̂
𝜕𝜷

̂ )𝑻 𝒚+(𝑿𝜷
̂ )𝑻 𝑿𝜷
̂)
𝜕(𝒚𝑻 𝒚−𝟐(𝑿𝜷
= 0
̂
𝜕𝜷

̂ )𝑻 𝒚 𝜕(𝑿𝜷
̂ )𝑻 𝑿𝜷
̂
𝜕𝒚𝑻 𝒚 2𝜕(𝑿𝜷
−
+
=
̂
̂
̂
𝜕𝜷
𝜕𝜷
𝜕𝜷

0

̂= 0
0- 𝟐𝑿𝑻 𝒚 + 𝟐𝑿𝑻 𝑿𝜷

̂ = 𝟐𝑿𝑻 𝒚
𝟐𝑿𝑻 𝑿𝜷
̂ = 𝑿𝑻 𝒚
𝑿𝑻 𝑿𝜷

̂ = (𝑿𝑻 𝑿)−𝟏 𝑿𝑻 𝒚
𝜷

(2.11)

̂
D. Matriks Variansi-Kovariansi dari 𝜷

Perhitungan nilai variansi-kovariansi dari komponen-komponen

̂ sangat berguna untuk pengambilan kesimpulan statistis
vektor 𝜷

(statistical inference). Definisi matriks variansi-kovariansi dari 𝛽̂ adalah:
̂ )=𝑬 {[𝜷
̂ − 𝜷][𝜷
̂ − 𝜷]𝑻 }
Var-cov(𝜷

(2.12)

Dari persamaan (2.12), dapat ditulis ke dalam bentuk matriks sebagai
berikut:

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
13

 var( ˆ1 )
cov( ˆ1 , ˆ2 )

cov( ˆ2 , ˆ1 )
var( ˆ2 )
Var  cov( ˆ )  




ˆ ˆ
ˆ ˆ
cov(  k , 1 ) cov(  k ,  2 )

 cov( ˆ1 , ˆk ) 

 cov( ˆ2 , ˆk )




var( ˆk ) 


Dengan mensubtitusikan 𝒚 = 𝑿𝜷 + 𝒖 ke dalam persamaan (2.11), maka
didapatkan:

̂ = (𝑿𝑻 𝑿)−𝟏 𝑿𝑻 𝒚
𝜷

= (𝑿𝑻 𝑿)−𝟏 𝑿𝑻 (𝑿𝜷 + 𝒖)

= (𝑿𝑻 𝑿)−𝟏 𝑿𝑻 𝑿𝜷 + (𝑿𝑻 𝑿)−𝟏 𝑿𝑻 𝒖
= 𝜷+(𝑿𝑻 𝑿)−𝟏 𝑿𝑻 𝒖

̂ − 𝜷 = (𝑿𝑻 𝑿)−𝟏 𝑿𝑻 𝒖
𝜷

(2.13)

Persamaan (2.13) dapat disubtitusikan ke dalam persamaan (2.12), sebagai
berikut:
̂)
Var-cov(𝜷

̂ − 𝜷][𝜷
̂ − 𝜷]𝑻 }
= 𝑬 {[𝜷

= 𝑬{[(𝑿𝑻 𝑿)−𝟏 𝑿𝑻 𝒖][(𝑿𝑻 𝑿)−𝟏 𝑿𝑻 𝒖]𝑻 }
𝑻
−𝟏 𝑻
𝑻
𝑻
−𝟏
= 𝑬[(𝑿 𝑿) 𝑿 𝒖𝒖 𝑿(𝑿 𝑿)

𝑻
−𝟏 𝑻
𝑻
𝑻
−𝟏
𝑻
𝟐
= (𝑿 𝑿) 𝑿 𝑬(𝒖𝒖 )𝑿(𝑿 𝑿) , 𝑬(𝒖𝒖 ) = 𝝈 𝑰
𝑻
−𝟏 𝑻 𝟐
𝑻
−𝟏
= (𝑿 𝑿) 𝑿 𝝈 𝑰𝑿(𝑿 𝑿)
𝟐
𝑻
−𝟏
= 𝝈 (𝑿 𝑿)

(2.14)

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
14

Dari persamaan (2.14) 𝜎 2 tidak diketahui, sehingga diduga dengan

𝜎̂ 2 . Dalam kasus dua variabel dan tiga variabel penduga untuk 𝜎̂ 2 adalah
sebagai berikut:

𝜎̂ 2 =

∑ 𝑢̂𝑖2
∑ 𝑢̂𝑖2
dan 𝜎̂ 2 =
𝑛−3
𝑛−2

Pada kasus k-variabel penduga untuk 𝜎̂ 2 adalah sebagai berikut:
∑ 𝑢̂𝑖2
𝜎̂ =
𝑛−𝑘
2

(2.15)

̂𝑻𝒖
̂ , dimana 𝑢̂𝑖 = 𝑌𝑖 − 𝑌̂𝑖 ,
Dengan mengingat bahwa ∑ 𝑢̂𝑖2 = 𝒖

maka 𝑌𝑖 = 𝑌̂𝑖 + 𝑢̂𝑖 .

̂ )𝑻 𝒚 + (𝑿𝜷
̂ )𝑻 𝑿𝜷
̂ dan (𝑿𝑻 𝑿)𝜷
̂ = 𝑿𝑻 𝒚
̂𝑻𝒖
̂ = 𝒚𝑻 𝒚 − 𝟐(𝑿𝜷
Karena 𝒖

̂𝑻𝒖
̂ dapat ditulis menjadi:
maka 𝒖
̂𝑻𝒖
̂ =
𝒖
=
=
=

̂ )𝑻 𝒚 + (𝑿𝜷
̂ )𝑻 𝑿𝜷
̂
𝒚𝑻 𝒚 − 𝟐(𝑿𝜷
̂ 𝑻 𝑿𝑻 𝒚 + 𝜷
̂ 𝑻 𝑿𝑻 𝑿𝜷
̂
𝒚𝑻 𝒚 − 𝟐𝜷
̂ 𝑻 𝑿𝑻 𝒚 + 𝜷
̂ 𝑻 𝑿𝑻 𝒚
𝒚𝑻 𝒚 − 𝟐𝜷
̂ 𝑻 𝑿𝑻 𝒚
𝒚𝑻 𝒚 − 𝜷

(2.16)

Dengan mensubtitusikan persamaan (2.16) ke dalam persamaan
(2.15) maka diperoleh:
𝜎̂ 2 =

̂ 𝑻 𝑿𝑻 𝒚
𝒚𝑻 𝒚 − 𝜷
𝑛−𝑘

̂ ), yaitu:
Jadi diperoleh rumus untuk mencari Var-cov(𝜷
̂) =
Var-cov(𝜷

̂ 𝑻 𝑿𝑻 𝒚
𝒚𝑻 𝒚−𝜷
𝑛−𝑘

(𝑿𝑻 𝑿)−𝟏

(2.17)

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
15

E. Koefisien Determinasi (R2)
̂ , langkah selanjutnya adalah
Setelah menentukan var-cov dari 𝜷

menentukan seberapa besar data dapat dijelaskan dengan model regresi.

diberikan diagram Venn untuk memberikan gambaran mengenai konsep
koefisien determinasi.

Pada diagram Venn diatas, lingkaran Y mewakili variasi dalam
variabel bebas Y dan lingkaran X mewakili variasi dalam variabel penjelas
X. Irisan menunjukkan bagian variasi yang dapat dijelaskan.

Pada

diagram Venn (a) adalah kondisi awal variasi. Diagram venn (b)
menunjukkan adanya irisan antara kedua lingkaran X dan Y tersebut. Hal
ini menunjukkan bahwa sebagian variasi dari Y dapat dijelaskan oleh
variasi X. Semakin besar irisan yang ditunjukkan pada diagram Venn
(c),(d), (e) semakin besar pula variasi Y yang dijelaskan oleh variasi X.
Ketika lingkaran Y dan lingkaran X itu berhimpit seperti tampak pada
diagram venn (f), hal ini menunjukkan bahwa 100 persen dari variasi Y
dapat dijelaskan oleh variasi X. R2 semata-mata merupakan ukuran dari

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
16

irisan antara variasi Y dan variasi X. Pada

gambar diagram Venn

menunjukkan bahwa irisan antara varisi Y dan variasi X meningkat, ini
berarti meningkat pula proporsi variasi Y yang dapat dijelaskan oleh X.
Ketika lingkaran Y dan lingkaran X berhimpit, ini dapat dikatakan bahwa
nilai R2 =1, karena 100 persen dari variasi Y dapat dijelaskan oleh X.
Sebaliknya, ketika lingkaran Y dan lingkaran X tidak berhimpit dan tidak
beririsan, ini dapat dikatakan bahwa nilai R2 =0, artinya variasi Y tidak
dapat dijelaskan oleh X.
Koefisien determinasi adalah koefisien yang menjelaskan besarnya
persentase variansi Y yang dapat dijelaskan dengan model. Koefisien
determinasi dapat digunakan untuk menentukan kebaikan model. Untuk
menghitung 𝑅2 , diberikan persamaan

𝑦𝑖 = 𝑦̂𝑖 + 𝑢̂𝑖

(2.18)

Dengan mengkuadratkan dan menjumlahkan persamaan (2.18), maka
persamaan (2.18) dapat ditulis menjadi:
∑ 𝑦𝑖2

=

∑(𝑦̂𝑖 + 𝑢̂𝑖 )2

=

𝛽̂22 ∑ 𝑥𝑖2 + ∑ 𝑢̂𝑖2 ,

(2.19)

Sebelum membuktikan persamaan (2.19), selebihnya akan dibuktikan
dahulu bahwa ∑ 𝑦̂𝑖 𝑢̂𝑖 = 0 dan diberikan bahwa 𝑦̂𝑖 = 𝛽̂2 𝑥𝑖 dan 𝛽̂2 =
∑ 𝑥𝑖 𝑦𝑖 ⁄∑ 𝑥𝑖2 , maka

∑ 𝑦̂𝑖 𝑢̂𝑖

=

∑ 𝛽̂2 𝑥𝑖 𝑢̂𝑖

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
17

=

𝛽̂2 ∑ 𝑥𝑖 𝑢̂𝑖

=

𝛽̂2 ∑ 𝑥𝑖 ( 𝑦𝑖 − 𝑦̂𝑖 )

=

𝛽̂2 ∑ 𝑥𝑖 ( 𝑦𝑖 − 𝛽̂2 𝑥𝑖 )

=

𝛽̂2 ∑ 𝑥𝑖 𝑦𝑖 − 𝛽̂22 ∑ 𝑥𝑖2

=

𝛽̂22 ∑ 𝑥𝑖2 − 𝛽̂22 ∑ 𝑥𝑖2

=

0

Setelah membuktikan ∑ 𝑦̂𝑖 𝑢̂𝑖 = 0, selanjutnya akan dibuktikan untuk

persamaan (2.19):

∑ 𝑦𝑖2

=

∑(𝑦̂𝑖 + 𝑢̂𝑖 )2

=

∑(𝑦𝑖2 + 2𝑦̂𝑖 𝑢̂𝑖 + 𝑢̂𝑖2 )

=

∑ 𝑦̂𝑖2 + 2 ∑ 𝑦̂𝑖 𝑢̂𝑖 + ∑ 𝑢̂𝑖2 , ∑ 𝑦̂𝑖 𝑢̂𝑖 = 0

=

∑ 𝑦̂𝑖2 + ∑ 𝑢̂𝑖2

=

𝛽̂22 ∑ 𝑥𝑖2 + ∑ 𝑢̂𝑖2

(2.20)

Ruas kanan pada persamaan (2.20) terdiri dari dua komponen
jumlah kuadrat yaitu:

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
18

1.

𝛽̂22 ∑ 𝑥𝑖2 yang disebut sebagai jumlah kuadrat dari regresi atau jumlah
kuadrat yang dapat dijelaskan oleh regresi (ESS) dan

2.

∑ 𝑢̂𝑖2 yang disebut sebagai jumlah kuadrat galat (RSS)

Dengan kata lain, komponen jumlah kuadrat total (TSS) dapat diuraikan
menjadi ESS dan RSS, yaitu
TSS = ESS + RSS

(2.21)

Persamaan (2.21) dapat dipakai untuk mendefinisikan konsep koefisien
determinasi, yaitu:
𝑅2

=

=

∑(𝑌̂𝑖 − 𝑌̅𝑖 )2
,
∑(𝑌𝑖 − 𝑌̅𝑖 )2
𝐸𝑆𝑆
𝑇𝑆𝑆

(2.22)

Dalam notasi matrik TSS dan ESS dapat ditulis menjadi,
TSS= ∑ 𝑦𝑖2

=

∑(𝑌𝑖 − 𝑌̅𝑖 )2
2
∑ 𝑌𝑖2 − ∑ 𝑌̅𝑖

∑ 𝑌𝑖2 − 𝑛 𝑌̅ 2
𝒚𝑻 𝒚 − 𝑛𝑌̅ 2

Dan dalam model 𝑌 = 𝛽1 + 𝛽2 𝑋2𝑖 + 𝑢𝑖 , ESS dapat ditulis menjadi
ESS

=

∑(𝑌𝑖 − 𝑌̅𝑖 )2

(2.24)

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
19

=

𝛽̂22 ∑ 𝑥𝑖2

Dalam kasus tiga variabel diberikan 𝑌 = 𝛽1 + 𝛽2 𝑋2𝑖 + 𝛽3 𝑋3𝑖 + 𝑢𝑖 , ESS

dapat ditulis menjadi:
ESS

=

∑(𝑌𝑖 − 𝑌̅𝑖 )2

=

𝛽̂2 ∑ 𝑦𝑖 𝑥2𝑖 + 𝛽̂3 ∑ 𝑦𝑖 𝑥3𝑖

Dalam kasus k-variabel diberikan 𝑌 = 𝛽1 + 𝛽2 𝑋2𝑖 + 𝛽3 𝑋3𝑖 + ⋯ +

𝛽𝑘 𝑋𝑘𝑖 + 𝑢𝑖 , ESS dapat ditulis menjadi:
ESS

=

∑(𝑌𝑖 − 𝑌̅𝑖 )2

=

𝛽̂2 ∑ 𝑦𝑖 𝑥2𝑖 + 𝛽̂3 ∑ 𝑦𝑖 𝑥3𝑖 + ⋯ + 𝛽̂𝑘 ∑ 𝑦𝑖 𝑥𝑘𝑖

=

̂ 𝑻 𝑿𝑻 𝒚 − 𝑛𝑌̅ 2
𝜷

Secara umum koefisien determinasi (𝑅2 ) didefinisikan sebagai berikut:
𝑅2

=

=

Setelah menentukan

𝐸𝑆𝑆
𝑇𝑆𝑆

̂ 𝑻 𝑿𝑻 𝒚 − 𝑛𝑌̅ 2
𝜷
𝒚𝑻 𝒚 − 𝑛𝑌̅ 2

koefisien determinasi 𝑅2 , lanjutkan dengan

pengujian hipotesis untuk menguji apakah ada pengaruh X terhadap Y.

F. Asumsi-asumsi dalam Regresi

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
20

Dalam menguji model regresi terdapat asumsi-asumsi berikut ini:
1.

Tidak ada Heteroskedastisitas

2.

Tidak ada Otokorelasi

3.

Tidak ada Multikolinieritas

4.

Kenormalan galat
Selanjutnya akan dijelaskan lebih lanjut mengenai asumsi-asumsi

dalam regresi.
1.

Tidak ada Heteroskedastisitas
Asumsi ini dapat juga disebut dengan asumsi homoskedastisitas.

Homoskedastisitas merupakan salah satu asumsi penting dari model
regresi linier.

Dalam model regresi linier, varian galat harus bersifat

homoskedastisitas, artinya variansi dari variabel galat 𝑢𝑖 adalah suatu
angka konstan yang sama dengan 𝜎 2 ditulis sebagai berikut:
𝐸(𝑢𝑖2 ) = 𝜎 2

𝑖 = 1, 2, … , 𝑛

(2.29)

Diberikan gambar model regresi dua variabel yang menunjukkan
homoskedastisitas:

tabungan

pendapatan

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
21

Gambar 2.1. Homoskedastistas
Pada gambar di atas menunjukkan hubungan antara variabel respon Y
dengan variabel bebas X. Variabel respon Y adalah tabungan, variabel
respon X adalah pendapatan. Terlihat bahwa variansi dari 𝑌𝑖 (yang sama
dengan variansi 𝑢𝑖 ) tergantung pada nilai 𝑋𝑖 , tetapi variansi tetap sama.

Diberikan gambar untuk masalah heteroskedastisitas:

tabungan

pendapatan

Gambar 2.2. Heteroskedastisitas
Dari gambar di atas menunjukkan bahwa variansi dari 𝑌𝑖 meningkat
dengan meningkatnya X. Keadaan ini yang menyebabkan variansi tidak
sama, jadi terdapat heteroskedstisitas.
Definisi 2.4:
𝐸(𝑢𝑖2 ) = 𝜎𝑖2

𝑖 = 1, 2, … 𝑛

(2.30)

Pada umumnya, heteroskedastisitas sering terjadi pada model-model
yang menggunakan data cross- sectional dari pada data runtun waktu. Di
mana galat yang bersifat heteroskedastisitas berubah seiring perubahan

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
22

pengamatan ke-i. Konsekuensi dari keberadaan heteroskedastisitas adalah
metode MKT akan menghasilkan penduga yang bias untuk nilai variasi
galat dan degan demikian untuk variasi koefisien regresi. Akibatnya uji t,
uji F dan estimasi nilai variabel dependen menjadi tidak valid.
Cara mendeteksi adanya heteroskedastisitas adalah dengan
menggunakan uji Rank Spearman (Gujarati, 406). Langkah pengujiannya
sebagai berikut:
1.
2.

Dapatkan nilai 𝑢𝑖 dari model regresi

Dengan mengabaikan tanda dari ui, yang berarti mendapatkan nilai
absolut |ui|, dapatkan nilai korelasi Rank Spearman antara nilai absolut
ini dengan setiap variabel independen dalam model dengan rumus:

  d i2 
r s  1  6 n(n 2  1) 


rs adalah koefisien korelasi Rank Spearman, di selisih ranking, dan n
adalah banyaknya data atau pengamatan.
3.

Uji Rank Spearman
a. Hipotesis
𝐻𝑜 = tidak ada masalah heteroskedastisitas
𝐻1 = ada masalah heteroskedastisitas

b. Tingkat signifikansi 𝛼

c. Kriteria pengujian

H0 diterima bila -t(/2, N-2)  statistik t  t(/2, N-2)

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
23

H0 ditolak bila statistik t < - t(/2, N-2) atau t > t(/2, N-2)
d. Menghitung statistik t (t-hitung) masing-masing nilai korelasi
Rank Spearman dengan rumus sbb:

t

r

s

n2
2

1 rs

e. Membuat Kesimpulan
Masalah heteroskedastisitas terkait dengan variansi dari galat (error)
yang tidak konstan. Metode tranformasi logaritma sering digunakan untuk
mengatasi masalah heterskedastisitas.
2.

Tidak ada Otokorelasi
Otokorelasi adalah sebuah kasus khusus dari korelasi. Otokorelasi

dapat didefinisikan sebagai korelasi antara galat dari pengamatan, baik
dalam bentuk observasi deret waktu atau observasi cross-sectional
(Gujarati, 442). Untuk mendefinisikan otokorelasi, terlebih dahulu
didefinisikan nilai kovarian sebagai berikut:
Definisi 2.2:

Cov(𝑢𝑖 , 𝑢𝑗 ) =
=
dengan 𝑖 ≠ 𝑗.

𝐸[𝑢𝑖 − 𝐸(𝑢𝑖 )][𝑢𝑗 − 𝐸(𝑢𝑗 )]
𝐸(𝑢𝑖 , 𝑢𝑗 )

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
24

Sementara itu untuk nilai otokorelasi populasi (𝜌)didefinisikan
sebagai berikut:
Definisi 2.3:

𝜌 =
=

dengan 𝑖 ≠ 𝑗.

Bagian penyebut

𝐶𝑜𝑣(𝑢𝑖 , 𝑢𝑗 )

√𝑣𝑎𝑟(𝑢𝑖 )√𝑣𝑎𝑟(𝑢𝑗 )
𝐸(𝑢𝑖 , 𝑢𝑗 )
𝑣𝑎𝑟(𝑢𝑖 )

dapat berubah

menjadi

𝑣𝑎𝑟(𝑢𝑖 )

karena

berdasarkan asumsi homoskedastisitas, di mana variansi galat diasumsikan
konstan. Karena pada model regresi diasumsikan tidak ada otokorelasi,
maka diharapkan nilai 𝜌 = 0 atau

𝐸(𝑢𝑖 ,𝑢𝑗 )
var(𝑢𝑖 )

= 0. Maka dengan kata lain

𝐸(𝑢𝑖 , 𝑢𝑗 ) = 0. Sementara kita tahu bahwa 𝐸(𝑢𝑖 , 𝑢𝑗 ) = Cov(𝑢𝑖 , 𝑢𝑗 ). Jadi

supaya asumsi tidak adanya otokorelasi dapat dipenuhi, maka nilai

kovarian antar galat harus sama dengan nol. Konsekuensi dari keberadaan
otokorelasi adalah metode regresi MKT akan menghasilkan penduga yang
terlalu rendah untuk nilai variasi ut dan karenanya menghasilkan penduga
yang terlalu tinggi untuk R2. Bahkan ketika penduga nilai variasi ut tidak
terlalu rendah, maka penduga dari nilai variasi dari koefisien regresi
mungkin akan terlalu rendah dan karenanya uji signifikansi dari uji t dan
uji F tidak valid lagi atau menghasilkan konklusi yang menyesatkan.

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
25

Salah satu cara mendeteksi adanya otokorelasi dapat dilakukan
dengan menggunakan uji Durbin-Watson (Gujarati, 467). Diberikan rumus
untuk uji Durbin-Watson:
2
∑𝑁
𝑡=2(𝑢𝑡 − 𝑢𝑡−1 )
𝑑=
∑𝑁
𝑡=1 𝑢𝑡

Dimana,
𝑢𝑡

: nilai galat yang diperoleh dari proses MKT biasa

𝑢𝑡−1

: nilai galat yang mundur sebanyak satu satuan waktu

Setelah

mendapatkan

nilai

𝑑,

langkah

selanjutnya

adalah

membandingkan nilai 𝑑 dengan nilai-nilai kritis dari DL dan DU dari tabel
statistik Durbin-Watson. Kriteria pengujiannya adalah sebagai berikut:
1. Jika 𝑑 < 4dL, berarti ada otokorelasi posiitif
2. Jika 𝑑 > 4dL, berarti ada otokorelasi negatif

3. Jika dU < 𝑑 < 4 – dU, berarti tidak ada otokorelasi positif atau negatif

4. Jika dL ≤ 𝑑 ≤ dU atau 4 – dU ≤ 𝑑 ≤ 4 – dL, pengujian tidak
meyakinkan

Kriteria pengujian tersebut dapat dilihat pada gambar dibawah ini:

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
26

Masalah otokorelasi dapat di tangani dengan cara melakukan
tranformasi

pembedaan

pertama

pada

data.

Proses

pembedaan

(diferencing) dapat ditulis sebagai berikut:
𝑌𝑡 − 𝑌𝑡−1 = 𝛽2 (𝑋𝑡 − 𝑋𝑡−1 ) + (𝑢𝑡 − 𝑢𝑡−1)
∆𝑌𝑡 = 𝛽2 ∆𝑋𝑡 + 𝑣𝑡

3. Tidak ada Multikolinieritas
Istilah multikolinieritas mula-mula ditemukan oleh Ragnar Frisch.
Multikolinieritas terjadi jika ada hubungan linier yang sempurna diantara
beberapa atau semua variabel-varibel bebas dalam regresi (Gujarati, 342).
Untuk regresi dengan k-variabel bebas 𝑋1 , 𝑋2 , … , 𝑋𝑘 (di mana 𝑋1 =1 untuk

semua pengamatan yang memungkinkan unsur intersep), suatu hubungan
linier dikatakan ada apabila kondisi berikut ini dipenuhi:
𝜆1 𝑋1 + 𝜆2 𝑋2 + ⋯ + 𝜆𝑘 𝑋𝑘 = 0

(2.25)

di mana 𝜆1 , 𝜆2 , … , 𝜆𝑘 adalah konstanta yang tidak semua bernilai nol.

Persamaan

(2.25)

merupakan

persamaan

yang

mengandung

multikolinieritas sempurna. Diberikan persamaan yang mengandung
multikolinieritas tetapi tidak sempurna, sebagai berikut:
𝜆1 𝑋1 + 𝜆2 𝑋2 + ⋯ + 𝜆𝑘 𝑋𝑘 + 𝑢𝑖 = 0

(2.26)

di mana 𝑢𝑖 adalah galat stokastik.

Untuk melihat perbedaan antara multikolinieritas yang sempurna dan
kurang sempurna, asumsikan salah satu nilai 𝜆 ≠ 0, sebagai contoh
asumsikan bahwa 𝜆2 ≠ 0. Maka persamaan (2.25) dapat ditulis menjadi:

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
27

𝜆

𝜆

𝜆

𝑋2𝑖 = − 𝜆1 𝑋1𝑖 − 𝜆3 𝑋3𝑖 − ⋯ − 𝜆𝑘 𝜆𝑘𝑖
2

2

(2.27)

2

persamaan di atas menunjukan bahwa 𝑋2 berhubungan linier secara pasti

dengan variabel lain atau 𝑋2 dapat diperoleh dari kombinasi linier dari

variabel X lainnya. Persamaan (2.25) mengandung multikolinieritas yang
sempurna. Pada keadaan seperti ini, koefisien dari korelasi antara variabel
𝑋2 dan kombinasi linier di sisi kanan pada persamaan (2.27) sama dengan
satu.

Pada persamaan (2.26), diasumsikan bahwa 𝜆2 ≠ 0. Maka persamaan
dapat ditulis menjadi:

𝜆

𝜆

𝜆

1

𝑋2𝑖 = − 𝜆1 𝑋1𝑖 − 𝜆3 𝑋3𝑖 − ⋯ − 𝜆𝑘 𝜆𝑘𝑖 + 𝜆 𝑢𝑖
2

2

2

2

(2.28)

Persamaan di atas menunjukkan bahwa 𝑋2 tidak ada kombinasi linier
yang pasti dari X lainnya dikarenakan 𝑋2 juga ditentukan
stokastik 𝑢𝑖 .

Diberikan cotoh data yang mengandung multikolinieritas:
𝑋3∗

𝑋2

𝑋3

10

50

52

15

75

75

90

97

120

129

18
24

oleh galat

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
28

30

150

152

jelas bahwa 𝑋3𝑖 = 5𝑋2𝑖 . Jadi, ada multikolinieritas sempurna antara 𝑋2

dan 𝑋3 karena koefisien korelasi sama dengan satu. Variabel 𝑋3∗ diperoleh

dari 𝑋3 dengan hanya menambahkan bilangan 2, 0, 7, 9, 2. Analisis regresi
mengasumsikan tidak adanya multikolinieritas. Jika asumsi tidak dipenuhi

maka kita akan mengalami kesulitan saat pendugaan koefisien regresi.
Efek dari adanya multikolinieritas adalah standard error dari koefisien
regresi tinggi sehingga model buruk bila dipakai untuk memprediksi.
Salah satu cara mendeteksi adanya multikolinieritas adalah dengan
cara menghitung

Variance Inflation Factor (VIF) pada model regresi

(Gujarati, 351). Langkah-langkahnya yaitu:
1. Lakukan regresi 𝑋𝑖 dengan X yang lain dan hitunglah koefisien
determinasi (𝑅2 ).

2. Hitung VIF 𝛽̂𝑖 = 1⁄(1 − 𝑅𝑖2 ) .

3. Bila ada VIF >10, maka ada multikolinieritas.
Salah satu cara untuk menanggulangi adanya multikolinieritas
adalah dengan menghilangkan salah satu variabel yang berkorelasi. Jika
ada variabel yang VIF>10 maka variabel dapt dihilangkan dari model
regresi.

4.

Asumsi kenormalan galat

PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
29

Regresi linier mengasumsikan bahwa galat 𝑢𝑖 mengikuti distribusi

normal (Gujarati, 108) dengan

Rata-rata
Variansi

:𝐸(𝑢𝑖 ) = 0

: 𝐸(𝑢𝑖 ) = 𝜎 2

Cov (𝑢𝑖 , 𝑢𝑗 ): 𝐸(𝑢𝑖 , 𝑢𝑗 ) = 0

(2.31)
(2.32)
𝑖≠𝑗

(2.33)

Asumsi ini dapat ditulis menjadi:
𝑢𝑖 ~ 𝑁(0, 𝜎 2 )

(2.34)

Kenormalan galat dapat di dieteksi menggunakan uji KolmogorovSmirnov dan melihat pada scatterplot galat. Jika plot galat mengikuti garis
lurus kenormalan maka mengindikasikan bahwa data berdistribusi normal.
Pengujian yang paling sering digunakan untuk mendeteksi kenormalam
galat adalah uji Kolmogorov-Smirnov. Berikut ini merupakan Langkahlangkah pengujian Kolmogorov-Smirnov:

a. Pengujian hipotesis
𝐻0 : 𝐹(𝑋) = 𝐹0 (𝑋) (data berdistribusi normal)

𝐻1 : 𝐹(𝑋) ≠ 𝐹0 (𝑋) (data tidak berdistribusi normal)

b. Menentukan tingkat signifikansi 𝛼
c. Menentukan stastistik uji

Dengan,

𝐷ℎ𝑖𝑡𝑢𝑛𝑔 = 𝑚𝑎𝑘𝑠𝑖𝑚𝑢𝑚|𝐹𝑛 (𝑋) − 𝐹0 (𝑋)|

𝐹𝑛 (𝑋) =fungsi distri