Regresi linear intrinsik.
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
ABSTRAK
Model regresi linear tersebut secara umum dapat ditulis sebagai berikut
�� = �0 + �1 �1� + �2 �2� + … + �� ��� + ��
Pendugaan model dapat dilakukan dengan Metode Kuadrat Terkecil. Masalah
akan muncul ketika model yang dihadapi adalah model linear intrinsik dan model
nonlinear. Model Linear Intrinsik adalah suatu model regresi nonlinear yang dapat
ditransformasikan menjadi model regresi linear yang ekivalen. Oleh karena itu,
Metode Kuadrat Terkecil tidak dapat langsung digunakan. Namun, karena model
linear intrinsik dapat ditransformasikan menjadi model linear, sedangkan model
nonlinear tidak dapat ditranformasikan, maka pendugaan model linear intrinsik
dapat menggunakan metode kuadrat terkecil sebagaimana model linear biasa.
Kriteria dalam memilih model linear terbaik adalah dengan melihat besarnya
2
� yang paling tinggi, standar error yang paling rendah, signifikansi dari koefisien
regresi dan pemenuhan asumsi-asumsi.
Kata kunci: Regresi Linear, Regresi Nonlinear, Linear Intrinsik, Metode Kuadrat
Terkecil.
viii
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
ABSTRACT
Generally, linear regression model can be written as
�� = �0 + �1 �1� + �2 �2� + … + �� ��� + ��
The estimation of the model can be done by using Least Squares Method. Problem
will appear when facing intrinsic linear model and nonlinear model. Intrinsic
linear model is a nonlinear regression model which can be transformed into
equivalent linear regression model. Because of that, the least squares method can
not be used directly. Intrinsic linear model can be transformed into linear model,
while nonlinear model can not be transformed, so intrinsic linear model estimation
can use the Least Squares Method, as well as common linear model.
The criteria to choose the best linear model is by seeing the highest � 2 , the
lowest standar error, the signification of regression coefficient, and the fulfillment
of the assumptions of the model.
Key words: Linear Regression, Nonlinear Regression, Intrinsic Linear, Least
Squares Method.
ix
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
REGRESI LINEAR INTRINSIK
MAKALAH
Diajukan Untuk Memenuhi Salah Satu Syarat
Memperoleh Gelar Sarjana Matematika
Program Studi Matematika
Oleh:
FLORIANUS HERY PURWOATMOKO
NIM: 083114005
PROGRAM STUDI MATEMATIKA JURUSAN MATEMATIKA
FAKULTAS SAINS DAN TEKNOLOGI
UNIVERSITAS SANATA DHARMA
YOGYAKARTA
2015
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
REGRESI LINEAR INTRINSIK
MAKALAH
Diajukan Untuk Memenuhi Salah Satu Syarat
Memperoleh Gelar Sarjana Matematika
Program Studi Matematika
Oleh:
FLORIANUS HERY PURWOATMOKO
NIM: 083114005
PROGRAM STUDI MATEMATIKA JURUSAN MATEMATIKA
FAKULTAS SAINS DAN TEKNOLOGI
UNIVERSITAS SANATA DHARMA
YOGYAKARTA
2015
i
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
INTRINSICALLY LINEAR REGRESSION
A PAPER
Presented As Partial Fulfillment of the Requirements
To Obtain the Bachelor of Mathematics Study Program
Written by :
FLORIANUS HERY PURWOATMOKO
Student ID: 083114005
MATHEMATICS STUDY PROGRAM MATHEMATICS DEPARTEMENT
FACULTY OF SCIENCE AND TECHNOLOGY
SANATA DHARMA UNIVERSITY
YOGYAKARTA
2015
ii
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
iii
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
iv
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
PERNYATAAN KEASLIAN TULISAN
Saya menyatakan dengan sesungguhnya bahwa makalah yang saya tulis ini tidak
memuat karya atau bagian karya orang lain, kecuali yang telah disebutkan dalam
kutipan dan daftar pustaka, sebagaimana layaknya karya ilmiah.
Yogyakarta, 5 Agustus 2015
Penulis
Florianus Hery Purwoatmoko
v
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
HALAMAN PERSEMBAHAN
Karya ini penulis persembahkan kepada :
Tuhan Yesus dan Bunda Maria atas kasih dan rahmat-Nya yang melimpah.
Kedua orangtua, Bapak I Made Dwi Wanto dan Ibu Ketut Sudanti, adik Yosep,
segenap keluarga serta sabahat-sahabat semuanya.
Terimakasih atas semua dukungannya.
vi
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
LEMBAR PERNYATAAN PERSETUJUAN
PUBLIKASI KARYA ILMIAH UNTUK KEPENTINGAN AKADEMIS
Saya yang bertandatangan di bawah ini:
Nama
: Florianus Hery Purwoatmoko
NIM
: 083224005
Demi pengembangan ilmu pengetahuan, saya memberikan kepada perpustakaan
Universitas Sanata Dharma karya ilmiah saya yang berjudul:
ANALISIS REGRESI INTRINSIK
Dengan demikian saya memberikan kepada perpustakaan Universitas Sanata
Dharma hak untuk menyimpan, mengalihkan dalam bentuk media lain, mengelola
dalam bentuk pangkalan data, mendistribusikannya secara terbatas, dan
mempublikasikannya di internet atau media lain untuk kepentingan akademis
tanpa perlu meminta ijin dari saya maupun royalty kepada saya selama tetap
mencantumkan nama saya sebagai penulis.
Demikiaan pernyataan ini saya buat dengan sebenarnya,
Dibuat di Yogyakarta.
Pada tanggal : 5 Agustus 2015
Yang menyatakan
Florianus Hery Purwoatmoko
vii
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
ABSTRAK
Model regresi linear tersebut secara umum dapat ditulis sebagai berikut
�� = �0 + �1 �1� + �2 �2� + … + �� ��� + ��
Pendugaan model dapat dilakukan dengan Metode Kuadrat Terkecil. Masalah
akan muncul ketika model yang dihadapi adalah model linear intrinsik dan model
nonlinear. Model Linear Intrinsik adalah suatu model regresi nonlinear yang dapat
ditransformasikan menjadi model regresi linear yang ekivalen. Oleh karena itu,
Metode Kuadrat Terkecil tidak dapat langsung digunakan. Namun, karena model
linear intrinsik dapat ditransformasikan menjadi model linear, sedangkan model
nonlinear tidak dapat ditranformasikan, maka pendugaan model linear intrinsik
dapat menggunakan metode kuadrat terkecil sebagaimana model linear biasa.
Kriteria dalam memilih model linear terbaik adalah dengan melihat besarnya
2
� yang paling tinggi, standar error yang paling rendah, signifikansi dari koefisien
regresi dan pemenuhan asumsi-asumsi.
Kata kunci: Regresi Linear, Regresi Nonlinear, Linear Intrinsik, Metode Kuadrat
Terkecil.
viii
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
ABSTRACT
Generally, linear regression model can be written as
�� = �0 + �1 �1� + �2 �2� + … + �� ��� + ��
The estimation of the model can be done by using Least Squares Method. Problem
will appear when facing intrinsic linear model and nonlinear model. Intrinsic
linear model is a nonlinear regression model which can be transformed into
equivalent linear regression model. Because of that, the least squares method can
not be used directly. Intrinsic linear model can be transformed into linear model,
while nonlinear model can not be transformed, so intrinsic linear model estimation
can use the Least Squares Method, as well as common linear model.
The criteria to choose the best linear model is by seeing the highest � 2 , the
lowest standar error, the signification of regression coefficient, and the fulfillment
of the assumptions of the model.
Key words: Linear Regression, Nonlinear Regression, Intrinsic Linear, Least
Squares Method.
ix
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
KATA PENGANTAR
Syukur Kepada Tuhan Yang Maha Esa atas segala cinta dan kasih-Nya yang
berlimpah sehingga penulis dapat menyelesaikan makalah ini untuk memenuhi
tugas akhir dalam menempuh gelar Sarjana (S1) di UniversitasSanata Dharma
Yogyakarta.
Selama penulisan makalah ini, penulis menyadari banyak pihak yang telah
berperan besar dalam memberikan dukungan, bimbingan dan bantuannya. Oleh
karenaitu, penulis mengucapkan terimakasih yang sebesar-besarnya kepada :
1. Bapak Ir. Ig. Aris Dwiatmoko, M.Sc., selaku dosen pembimbing makalah
yang telah membimbing dan mendampingi penulis selama penulisan
makalah ini.
2. P.H. Prima Rosa, S.Si., M.Sc, selaku Dekan Fakultas Sains dan Teknologi
Universitas Sanata Dharma Yogyakarta.
3. Y.G. Hartono, M.Sc., Ph.D.,selaku Ketua Program Studi Matematika
Universitas Sanata Dharma Yogyakarta.
4. MV. Any Herawati, M.Si. selaku dosen penguji yang telah banyak
memberikan masukan.
5. Bapak Z. Tukija yang telah membantu proses administrasi.
6. Perpustakaan USD yang telah membantu menyediakan bahan dan fasilitas
selama penulisan makalah.
x
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
7. Mas Susilo selaku laboran yang telah membantu menyediakan fasilitas di
laboratorium.
8. Bapak I Made Dwi Wanto dan Ibu Ketut Sudanti, selaku orang tua penulis,
adik Yosep, dan semua keluarga atas semua dukungan, doa, dan bantuan
bagi penulis.
9. Teman terdekat Yuliana Marsheyla yang dengan sabar dan setia
memberikan
semangat,
doa
dan
perhatian
bagi
penulis
dalam
menyelesaikan makalah ini.
10. Teman-teman Atmo, Etus, Theo, Wowok, dan yang lainnya yang selalu
memberikan dukungan dan bantuan dalam penulisan makalah ini
11. Teman-teman di Prodi Matematika yang telah berjuang bersama.
12. Semua pihak yang telah membantu dalam penulisa makalah ini.
Penulis menyadari masih adanya kekurangan-kekurangan dalam karya tulis ini.
Kritik dan saran yang membangun demi kesempurnaan makalah ini merupakan
kehormatan bagi penulis.
Yogyakarta,
Penulis
Florianus Hery Purwoatmoko
xi
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
DAFTAR ISI
Halaman
HALAMAN JUDUL .................................................................................... i
HALAMAN PERSETUJUAN ..................................................................... iii
HALAMAN PENGESAHAN ...................................................................... iv
HALAMAN PERNYATAAN KEASLIAN TULISAN ...............................
v
HALAMAN PERSEMBAHAN .................................................................... vi
ABSTRAK .................................................................................................. viii
ABSTRACT ................................................................................................ ix
KATA PENGANTAR ................................................................................. x
DAFTAR ISI ............................................................................................... xii
DAFTAR TABEL ....................................................................................... xv
DAFTAR GAMBAR .................................................................................... xvi
BAB I PENDAHULUAN ............................................................................
1
A. Latar Belakang Masalah ...................................................................
1
B. Perumusan Masalah ..........................................................................
2
C. Pembatasan Masalah ........................................................................
2
D. Tujuan Penulisan ..............................................................................
2
xii
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
E. Manfaat Penulisan ............................................................................
3
F. Metode Penulisan .............................................................................
3
G. Sistematika Penulisan .......................................................................
3
BAB II LANDASAN TEORI ......................................................................
5
A. Model Regresi Linear ........................................................................
5
B. Metode Kuadrat Terkecil ...................................................................
6
C. Sifat Pendugaan Kuadrat Terkecil dan Penduga dari � 2 .....................
10
D. Uji Hipotesis dalam Regresi Berganda ..............................................
12
a) Uji Signifikansi Regresi .........................................................
13
b) Koefisien Determinasi (�� ) ...................................................
14
c) Pengujian Terhadap Koefisien Regresi Individu.....................
19
d) Selang Kepercayaan dalam Regresi Berganda ........................
20
e) Asumsi-Asumsi Model Regresi..............................................
22
BAB III MODEL LINEAR INTRINSIK.......................................................
35
A. Munculnya Gagasan Regresi Linear Intrinsik ....................................
35
a) Regresi Nonlinear ..................................................................
36
b) Macam-Macam Model Linear Intrinsik ..................................
39
B. Tahap-TahapPengenalan Model Berdasarkan Data ............................
45
BAB VIPENUTUP .......................................................................................
61
A. Kesimpulan ......................................................................................
61
B. Saran ................................................................................................
61
xiii
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
DAFTAR PUSTAKA ..................................................................................
62
LAMPIRAN ................................................................................................
62
xiv
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
DAFTAR TABEL
Tabel 2.1.......................................................................................................
7
Tabel 2.2.......................................................................................................
14
Tabel 2.3.......................................................................................................
29
Tabel 3.1.......................................................................................................
47
Tabel 3.2.......................................................................................................
50
Tabel 3.3.......................................................................................................
54
xv
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
DAFTAR GAMBAR
Gambar 3.1 ...................................................................................................
43
Gambar 3.2 ...................................................................................................
43
Gambar 3.3 ...................................................................................................
48
Gambar 3.4 ...................................................................................................
48
Gambar 3.5 ...................................................................................................
49
Gambar 3.6 ...................................................................................................
51
Gambar 3.7 ...................................................................................................
51
Gambar 3.8 ...................................................................................................
53
Gambar 3.9 ...................................................................................................
54
Gambar 3.10a ...............................................................................................
56
Gambar 3.10b ...............................................................................................
57
xvi
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
BAB I
PENDAHULUAN
A. Latar Belakang Masalah
Istilah analisis regresi pertama kali diperkenalkan oleh Sir Francis Galton
(1822-1911), yang merupakan seorang antropolog dan ahli meteorologi dari
Inggris. Analisis regresi adalah suatu metode untuk menganalisa data dan
mengambil kesimpulan yang bermakna tentang hubungan antara dua variabel
atau lebih. Variabel-variabel yang dimaksudkan adalah variabel tak bebas (�)
dan variabel bebas (�).
Yang dimaksud dengan variabel bebas adalah variabel yang nilainya
dapat diatur atau ditentukan. Akibat perubahan yang disengaja atau yang
terjadi pada variabel bebas, dapat berpengaruh terhadap variabel yang lain
yaitu variabel tak bebas. Sebagai contoh, hubungan antara variabel intelegensi
(�) dan variabel hasil belajar (�) dapat dimodelkan dengan persamaan regresi
berupa � = �1 + �2 � + � . Secara umum model regresi linier tidak hanya
menjelaskan hubungan orde pertama, tetapi juga model polinomial dan
hubungan yang lebih kompleks lainnya. Model regresi linier tersebut secara
umum dapat ditulis sebagai berikut
�� = �0 + �1 �1� + �2 �2� + … + �� ��� + ��
Model seperti ini dikatakan model regresi linear karena model tersebut linear
dalam parameter yang tidak diketahui �� , � = 1,2, … , � dan � = 1, 2, … , �.
Pendugaan model tersebut dapat dilakukan dengan Motede Kuadrat Terkecil.
1
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
2
Masalah akan muncul ketika model yang dihadapi adalah model linear
intrinsik dan model nonlinear. Metode kuadrat terkecil tidak dapat langsung
digunakan, namun, karena model linear intrinsik dapat ditransformasikan
menjadi
model
linear,
sedangkan
model
nonlinear
tidak
dapat
ditranformasikan, maka pendugaan model linear intrinsik dapat menggunakan
Metode Kuadrat Terkecil sebagaimana model linear biasa.
B. Perumusan Masalah
Perumusan masalah dalam penduga model regresi linear intrinsik adalah
1. Apa yang dimaksud dengan regresi linear intrinsik?
2. Bagaimana langkah-langkah dalam menduga model regresi linear
intrinsik?
3. Bagaimana menentukan baik tidaknya hasil pendugaan model regresi
linear intrinsik?
C. Pembatasan Masalah
1. Dalam tugas akhir ini, pembahasan akan ditekankan pada pendugaan
model yang linear intrinsik.
2. Materi prasyarat yang dibahas hanya yang berkaitan langsung dengan
materi pokok.
D. Tujuan Penulisan
Tujuan dari penulisan tugas akhir ini adalah untuk mengetahui secara
lebih mendalam tentang pendugaan model regresi linear intrinsik dan kegunaan
dari pendugaan model tersebut.
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
3
E. Manfaat Penulisan
Manfaat dari penulisan ini adalah bahwa pendugaan model regresi linear
intrinsik dapat digunakan untuk menyelesaikan masalah yang berkaitan dengan
linear intrinsik.
F. Metode Penulisan
Metode yang dipakai dalam penulisan ini adalah motede pustaka. Artinya,
penulis mengacu pada literatur pokok tentang pendugaan model linear intrinsik
serta literatur lain yang juga berkaitan dengan linear intrinsik dan literaturliteratur mengenai materi yang menjadi landasan teorinya.
G. Sistematika Penulisan
BAB I. PENDAHULUAN
A. Latar Belakang Masalah
B. Perumusan Masalah
C. Pembatasan Masalah
D. Tujuan Penulisan
E. Manfaat Penulisan
F. Metode Penulisan
G. Sistematika Penulisan
BAB II. LANDASAN TEORI
A. Model Regresi Linear
B. Metode Kuadrat Terkecil
C. Sifat Pendugaan Kuadrat Terkecil dan Penduga dari � 2
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
D. Uji Hipotesis dan Regresi Berganda
BAB III. MODEL LINEAR INTRINSIK
A. Munculnya Gagasan Regresi Linear Intrinsik
B. Tahap-Tahap Pengenalan Model Berdasarkan Data
BAB IV. PENUTUP
A. Kesimpulan
B. Saran
4
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
BAB II
LANDASAN TEORI
2.1 Model Regresi Linear
Analisis regresi adalah suatu kumpulan dari teknik statistika untuk
memodelkan dan menyelidiki hubungan antara variabel tak bebas � dan
himpunan variabel bebas �1 , �2 , ⋯ , �� . Banyak aplikasi dari analisis regresi di
banyak bidang termasuk teknik, ilmu kimia atau fisika, kehidupan dan ilmu
biologi, ilmu sosial, manajemen dan ilmu ekonomi. Bentuk model regresi yang
sangat penting adalah model regresi linear yang berbentuk
(2.1)
� = �0 + �1 �1 + �2 �2 + … + �� �� + �
dimana variabel tak bebas merupakan fungsi linear dari variabel bebas
�1 , �2 , … , �� parameter yang tidak diketahui atau koefisien regresi yaitu �0 , �1
... �� dan � (galat). Model regresi linear digunakan sangat luas sebagai model
empiris untuk mendekati beberapa fungsi yang kompleks dan fungsi yang tidak
diketahui sebagai hubungan antara variabel tak bebas dan variabel bebas.
Model regresi linear meliputi tidak hanya hubungan orde pertama, seperti
persamaan
(2.2)
� = �0 + �1 �1 + �2 �2 + … + �� �� + �
tetapi juga model polinomial dan hubungan yang lebih kompleks lainnya.
Bahkan model regresi linear dapat ditulis sebagai berikut
� = �0 + �1 �1 + �2 �2 + … + �� �� + �
(2.3)
di mana �� merupakan fungsi dari variabel�1 , �2 , … , �� , termasuk ekspresi
seperti � �� , ��� , dan sin−1 (�� ). Alasan bahwa model ini disebut model regresi
linear adalah karena model tersebut linear dalam parameter �� yang tidak
5
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
6
diketahui, � = 1,2, . . . , �. Model lain yang sering dijumpai dalam aplikasi
adalah model polinomial yang berbentuk � = �0 + �1 � + �2 � 2 + �
(2.4)
Model regresi linear dalam persamaan (2.2) dapat ditulis kembali dalam bentuk
(2.5)
� = �(�, �) + �
Dengan � (�, �) = �0 + �1 �1 + �2 �2 + ⋯ + �� �� dan �′ = [�1 , �2 , ⋯ , �� ].
Definisi 2.1 Model Linear
Model regresi linear adalah model regresi yang linear dalam parameter �� yang
tidak diketahui, (� = 1, 2, ⋯ , �). Secara umum, model linear ditulis dalam
bentuk
� = � (�, �) = �� + �1 �1 + �2 �2 + ⋯ + �� �� + ε.
Karena
nilai
harapan dari galat model adalah nol, nilai harapan dari variabel respon
� (�) = �[� (�, �) + �]
= �(�, �)
�(�, �)disebut fungsi ekspektasi dari model yang hanya merupakan fungsi
linear dari parameter yang tidak diketahui.
Pada bab ini, akan dibahas teknik untuk menduga parameter pada model
regresi berganda. Akan dibahas juga metode standar pembuatan selang
kepercayaan untuk model tersebut serta Metode Kuadrat Terkecil.
2.2 Metode Kuadrat Terkecil
Metode Kuadrat Terkecil secara khusus digunakan untuk menduga
koefisien regresi pada model regresi linear berganda. Misal ada � > �
pengamatan. Pengamatan dari variabel tak bebas disimbolkan dengan �1 ,�2 , ...,
�� . Untuk setiap variabel tak bebas �, dipunyai pengamatan untuk setiap
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
7
variabel bebas, misal ��� yang menyatakan pengamatan ke � dari variabel � ke
�. Data ditunjukkan pada tabel 2.1. Misal � adalah galat, �2 menyatakan
variansi, �(�) menyatakan rata-rata galat, dan var(� ) menyatakan variansi
galat. Pada pengamatan ini diasumsikan bahwa �(�) = 0 dan var(� ) = �2 dan
{�� } menyatakan variabel acak yang tidak berkorelasi.
�1
�11
�12
…
�1�
�2
�21
�22
…
�2�
⋮
⋮
⋮
��
��1
��2
⋮
…
���
Tabel 2.1 Struktur Data untuk Regresi Linear Berganda
Persamaan 2.1 akan ditulis berdasarkan pengamatan yang terdapat pada tabel
2.1 yaitu
�� = �0 + �1 �� 1 + �2 �� 2 + … + �� �� � + ��
= �0 + ∑��=1 �� ��� + �� , � = 1, 2, ⋯ , �
(2.6)
Metode Kuadrat Terkecil diterapkan pada persamaan 2.6 bertujuan untuk
menentukan penduga � sedemikian sehingga jumlah kuadrat galat �� , yaitu �
menjadi minimum.
� = ∑��=1 ��2
= ∑��=1 ��� − �0 − ∑��=1 �� ��� �
2
(2.7)
Fungsi � diminimalkan terhadap �0 , �1 ... ��. Misal �0 , �1 , … �� adalah
penduga kuadrat terkecil bagi parameter �0 , �1 , ⋯ , �� . Penduga kuadrat
terkecil tersebut harus memenuhi
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
dan
��
�
��0 �0, �1,⋯, ��
= −2 ∑��=1 ��� − �0 − ∑��=1 �� ��� � = 0 (2.8a)
��
�
��� �0, �1,⋯, ��
= −2 ∑��=1 ��� − �0 − ∑��=1 �� ��� � �� � = 0(2.8b)
8
Penyederhanaan persamaan (2.8a) dan (2.8b) dan mensubstitusikan �0 , �1 , … ��
sebagi solusi, menghasilkan
�
�
�
�=1
�=1
�=1
��0 + �1 � ��1 + �2 � ��2 + … + �� � ���
�
�
�=1
�=1
�
�
= � ��
�
�=1
�
�0 � ��1 + �1 � �2�1 + �2 � ��1 ��2 + ∙∙∙ +�� � ��1 ��� = � ��1 ��
�
⋮
�
⋮
�=1
�
⋮
�0 � ��� + �1 � ��� �� 1 + �2 � ��� ��2 + ∙∙∙
�=1
�=1
�=1
�=1
⋮
�=1
�
+�� � ��2�
�=1
⋮
�
= � ��� ��
�=1
(2.9)
Persamaan 2.9 disebut persamaan kuadrat terkecil normal, selanjutnya
persamaan tersebut akan disebut persamaan normal. Perhatikan bahwa
persamaan normal memiliki � = � + 1 persamaan. Solusi untuk persamaan
normal akan menjadi penduga kuadrat terkecil dari koefisien regresi yaitu
�0 , �1 , … �� .
Penyelesaikan persamaan normal akan lebih mudah jika persamaan-
persamaan tersebut dinyatakan dengan notasi matriks. Sekarang akan dibuat
matriks dari persamaan normal yang merepresentasikan persamaan (2.9).
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
⎡ �
⎢
⎢ �
⎢
⎢� ��1
⎢ �=1
⋮
⎢
⎢ �
⎢� ���
⎣ �=1
�
� ��1
� �12
�=1
�=1
�=1
�
�
� �2�
⋮
� ��� ��1
�=1
�
�
�=1
�
� ��1 ��2
�
⋮
� ��� ��2
�=1
�
⋯ � ���
�=1
�
⋯ � ��1 ���
�=1
�
2
⋯ � ���
9
⋮
�=1
⎤
⎡ �� ⎤
� ⎥
⎥
⎢
�=1
⎥ �
⎢ �
⎥
⎥ 0
⎢
⎥
⎥ ��1 � = ⎢� ��1 �� ⎥
⎥ ⋮
⎢ �=1
⎥
⋮
⎢
⎥
⎥ ��
⎢ �
⎥
⎥
⎢� ��� �� ⎥
⎥
⎣ �=1
⎦
⎦
(2.10)
Model ini jika ditulis dengan notasi matriks, menjadi
�′ �� = �′�
(2.11)
dimana
1 �11
�1
⎡
��
1 �21
� = � ⋮ �, � = ⎢
⋮
⎢⋮
��
⎣1 ��1
�12
�22
⋮
��2
⋯
⋯
⋯
�1�
�2� ⎤
⎥, � =
⋮ ⎥
��� ⎦
�0
�
� 1 �.
⋮
��
Secara umum � adalah vektor pengamatan yang berukuran(� × 1). � adalah
matriks yang berukuran (� × �) dan setiap entrinya adalah variabel bebas, �
adalah vektor berukuran (� × 1) yang setiap entrinya adalah koefisien regresi.
Persamaan (2.11) memberikan persamaan normal dalam bentuk matriks.
Persamaan tersebut identik dengan persamaan (2.9). Selama kolom dari
matriks � tidak kolinear, �′ � definit positif, sehingga cara untuk
menyelesaikan persamaan normal adalah dengan mengalikan kedua sisi pada
persamaan (2.11) dengan invers dari �′ �. Dengan demikian penduga kuadrat
terkecil dari � adalah b, yaitu
� = (�′�)−1 �′�
(2.12)
Dengan demikian penduga model regresi yang sesuai adalah
� = ��
�
(2.13)
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
10
Penduga skalar pada persamaan (2.13) adalah
�� = �0 + ∑��=1 �� ���
�
, � = 1, 2, … , �
�� adalah residual, yaitu selisih antara pengamatan �� dan nilai
M i s a l � � = �� − �
��� . Vektor residual yang berukuran (� × 1) ditampilkan dalam bentuk
�=�−�
(2.14)
2.3. Sifat Pendugaan Kuadrat Terkecil dan Penduga dari ��
Metode kuadrat terkecil menghasilkan penduga takbias bagi parameter �
yaitu penduga yang nilai harapannya sama dengan parameter yang diduga. Bila
� adalah penduga kuadrat terkecil, sifat ini dapat ditunjukkan dengan mencari
nilai harapan � sebagai berikut:
� (�) = �[(�′�)−1 �′�]
= �[(�′�)−1 �′(�� + �)]
= �[(�′�)−1 �′ �� + (�′�)−1 �′�]
=�
Karena � (�) = � dan (�′�)−1 �′� = � maka � adalah penduga takbias dari
�. Sifat variansi � dinyatakan oleh matriks kovariansi berikut
��� (�) = �{[� − � (�)][� − � (�)]′}
Kovariansi matriks � adalah matriks simetris (� × �) yang elemen baris ke �
kolom ke � (untuk seterusnya ditulis ke ��) adalah variansi dari(�� ) dan elemen
yang ke �� adalah kovariansi antara �� dan �� . Kovariansi matriks �
��� (�) = � 2 (�′�)−1
(2.15)
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
11
Penduga kuadrat terkecil juga merupakan penduga takbias linear terbaik.
Artinya, � adalah yang terbaik dalam penduga takbias dengan variansi
minimum di antara semua fungsi linear dari pengamatan.
Sifat-sifat di atas biasanya diperlukan untuk memperkirakan � 2 . Untuk
mengembangkan penduga dari parameter jumlah kuadrat galat (��� ),
��� = ∑��=1(�� − ��� )2
= ∑��=1 ��2
= �′�
Dengan subtitusi � = � − � = � − ��, diperoleh
��� = (� − ��)′(� − ��)
= �′ � − �′ �′ � − �′ �� + �′�′��
= �′ � − 2�′ �′ � + �′�′��
Karena �′�� = �′�, persamaan terakhir menjadi
��� = �′ � − �′�′�
(2.16)
Persamaan (2.16) disebut jumlah kuadrat galat, dan memiliki derajat bebas
� − � yang terkait dengan itu. Secara khusus untuk � = 2,
� (��� ) = �[∑��=1(�� − ��� )2 ] = �[∑��=1(�� − �0 − �1 �� )2 ]
= �[∑��=1(�� − �� + �1 �̅ − �1 �� )2 ]
= �[∑��=1[(�� − ��) − �1 (�� − �̅ )]2 ]
Karena
= �[∑��=1(�� − ��)2 + �12 ∑��=1(�� − �̅ )2 − 2�1 ∑��=1(�� − �̅ )(�� − ��)]
∑��=1(�� − �̅ )(�� − ��) = ∑��=1(�� − �̅ )2 �1 ,
terakhir di atas menjadi −�12 ∑��=1(�� − �̅ )2 . Jadi,
maka
dua
persamaan
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
12
∑��=1(�� − ��)2 = ∑��=1 ��2 − 2�� 2
dan oleh karena itu
�[∑��=1(�� − ��1 )2 ] = �[∑��=1 ��2 − ��� 2 − �11 ∑��=1(�� − �̅ )2 ]
= ∑��=1 � (��2 ) − �� (�� 2 ) − ∑��=1(�� − �̅ )2 � (�12 )
Catat bahwa untuk setiap variabel acak �, � (� 2 ) = �(�) + [�(�)]2, maka
�[∑��=1(�� − ��1 )2 ] = ∑��=1{�(�� ) + [�(�� )]2 } − �{� (��) + [�(��)]2 } −
2
�
∑��=1(�� − �̅ )2 {�(�1 ) + [�(�1 )]2 }
= �� + �(�0 + �1 �� )2 − � �
�=1
�
− �(�� − �̅ )2 �
�=1
yang disederhanakan menjadi
�2
+ (�� + �1 �̅ )2 �
�
�2
+ �12 �
∑��=1(�� − �̅ )2
� (��� ) = � 2 (� − 2)
Sehingga penduga takbias dari � 2 diberikan oleh
��
�
�� 2 = �−2
(2.17)
2.4 Uji Hipotesis dalam Regresi Berganda
Dalam masalah regresi linear berganda, suatu uji hipotesis tentang model
parameter membantu dalam mengukur keberartian model. Pada bagian ini akan
dibahas beberapa prosedur pengujian hipotesis yang penting. Prosedur ini
mengasumsikan galat �� dalam model adalah berdistribusi normal dan
independen dengan rata-rata nol dan variansi konstan � 2 tetapi tidak diketahui,
disingkat �~��� (0, � 2 ). Dengan asumsi ini pengamatan �� normal dan
terdistribusi independen dengan rata-rata �0 + ∑��=1 �� ��� dan variansi � 2
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
13
2.4.1 Uji Signifikansi Regresi
Ada 2 (dua) macam uji signifkansi regresi yaitu menguji pengaruh bersama
variabel bebas dan pengaruh individual. Uji signifikansi regresi adalah uji
untuk menentukan apakah ada hubungan linier antara variabel respon � dan
subset dari variabel bebas �1 , �2 , … , �� . Hipotesis yang sesuai adalah
�0 ∶ �1 = �2 = ⋯ = �� = 0
untuk sedikitnya satu �
�1 ∶ �� ≠ 0
(2.18)
Penolakan �0 di (2.18) menunjukkan bahwa setidaknya ada satu variabel bebas
�1 , �2 , … , �� berkontribusi secara signifikan terhadap model. Prosedur
pengujian melibatkan partisi jumlah kuadrat total (��� ) menjadi jumlah
kuadrat model (��� ) dan jumlah kuadrat galat (��� ), yaitu
��� = ��� + ���
(2.19)
Sekarang jika hipotesis nol �0 ∶ �1 = �2 = ⋯ = �� = 0 adalah benar, maka
��� / � 2 berdistribusi ��2 , di mana derajat bebas untuk � 2 sama dengan
banyaknya variabel bebas dalam model. Juga dapat ditunjukkan bahwa
2
��� / � 2 berdistribusi sebagai ��−�−1
dan ��� dan ��� independen. Bukti ini
dapat ditemukan di prosedur uji untuk �0 ∶ �1 = �2 = ⋯ = �� = 0 adalah
menghitung
�0 =
��� /�
��� /(�−�−1)
=
���
���
(2.20)
dan menolak �0 jika �0 melebihi ��,�,�−�−1 . Uji ini biasanya dirangkum dalam
sebuah tabel seperti Tabel 2.2. Prosedur uji ini disebut analisis varians karena
didasarkan pada dekomposisi dari total variabilitas variabel respon �.
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
Sumber
variansi
Regresi
Galat
Total
Dimana ��� =
Jumlah
kuadrat
���
���
���
���
�
Derajat
bebas
�
�−�−1
�−1
Tabel 2.2
dan ��� =
���
Rata-rata
kuadrat
���
���
�0
��� /���
. Karena ��� = ∑��=1 ��2 −
�−�−1
�∑�
�=1 �� �
�′ � − (∑��=1 �� )2 /�, persamaan 2.16 di atas dapat ditulis ulang sebagai
a ta u
��� = �′ � −
�∑�
�=1 �� �
�
2
− ��′ �′ � −
�∑�
�=1 �� �
�
14
2
�
2
=
�
��� = ��� − ���
Oleh karena itu jumlah kuadrat regresi adalah
′
′
��� = � � � −
�∑�
�=1 �� �
�
Jumlah kuadrat galat adalah
��� = �′ � − �′�′�
2
(2.21)
(2.22)
Dan jumlah kuadrat total adalah
��� = �′� −
�∑�
�=1 �� �
�
2
(2.23)
2.4.2 Koefisien Determinasi (�� )
Koefisien determinasi (� 2 ) adalah koefisien yang menjelaskan besarnya
presentase variansi Y yang dapat dijelaskan dengan model. Koefisien
determinasi dapat digunakan untuk menjelaskan kebaikan model.Diberikan
diagram Venn untuk memberikan gambaran mengenai konsep koefisien
determinasi.
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
15
Pada diagram Venn di atas, lingkaran Y mewakili variansi dalam variabel
bebas Y dan lingkaran X mewakili variansi dalam variabel penjelas X. Irisan
menunjukan bagian variansi yang dapat dijelaskan. Pada diagram Venn (a)
adalah kondisi awal variansi. Diagram Venn (b) menunjukan adanya irisan
antara kedua lingkaran X dan Y tersebut. Hal ini menunjukan bahwa sebagian
variansi dari Y dapat dijelaskan oleh variansi X. Semakin besar irisan yang
ditunjukan pada diagram Venn (c), (d), (e) semakin besar pula variansi Y yang
dijelaskan oleh variansi X. Ketika lingkaran Y dan lingkaran X itu berhimpit
seperti tampak pada diagram Venn (f), hal ini menunjukan bahwa 100 persen
dari variansi Y dapat dijelaskan oleh variansi X. � 2 semata-mata merupakan
ukuran dari irisan antara variansi Y dan variansi X. Pada gambar diagram Venn
menunjukan bahwa irisan antara variansi Y dan variansi X meningkat, ini
berarti meningkat pula proporsi variansi Y yang dapat dijelaskan oleh X.
Ketika lingkaran Y dan lingkaran X berhimpit, dapat dikatakan bahwa nilai
� 2 = 1, karena 100 persen dari variansi Y dapat dijelaskan oleh X. Sebaliknya,
ketika lingkaran Y dan lingkaran X tidak berhimpit dan tidak beririsan, dapat
dikatakan � 2 = 0, artinya variansi Y tidak dapat dijelaskan oleh X.
Dengan demikian, untuk menghitung � 2 dapat menggunakan persamaan
�� = ��� + �̂�
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
16
atau dalam bentuk simpangan
(2.24)
�� = ��� + �̂�
Dengan mengkuadratkan dan menjumlahkan persamaan (2.24), maka
didapatkan persamaan sebagai berikut
∑ �� 2 = ∑(��� + �̂� )2
(2.25)
Sebelum membuktikan persamaan (2.27), akan dibuktikan bahwa ∑ ��� �̂� = 0
dan diberikan bahwa ��� = �̂1 �� , maka
� ��� �̂� = � �̂1 �� �̂�
= �̂1 � �� �̂�
= �̂1 � �� (�� − ��� )
= �̂1 � �� (�� − �̂1 �� )
= �̂1 � �� �� − �̂1 � �� �̂1 ��
= �̂1 �̂1 � �� 2 − �̂12 � �� 2
= �̂12 � �� 2 − �̂12 � �� 2
=0
(2.26)
Diberikan persamaan
�� = �̂0 + �̂1��
(2.27)
Selanjutnya dengan mengurangkan persamaan (2.14) dari persamaan �� = �̂0 +
�̂1 �� + �� didapatkan persamaan baru
�� − �� = (�0 − �̂0 ) + �1 (�� − ��) + ��
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
17
�� = �1 �� + ��
Sehingga�� dapat diduga dengan ��� = �̂1 �� .
Selanjutnya akan dibuktikan
∑ �� 2 = ∑(��� + �̂� )2
= ∑ ���2 + ∑ 2��� �̂� + ∑ �̂�2
= ∑(�̂1 �� )2 + 2 ∑ ��� �̂� + ∑ �̂�2
= �12 ∑ ���2 + ∑ �̂�2
(2.28)
Berbagai jumlah kuadrat yang muncul dalam persamaan (2.28) dapat
digambarkan sebagai berikut:
1. ∑ �� 2 = ∑(�� − ��)2 disebut sebagai jumlah kuadrat total (��� )
2. �12 ∑ ���2 disebut sebagai jumlah kuadrat regresi atau jumlah kuadrat
yang dapat dijelaskan oleh regresi (��� ) dan
3. ∑ �̂12 disebut jumlah kuadrat galat (��� )
Dengan kata lain, persamaaan (2.24) dapat ditulis ulang menjadi
��� = ��� + ���
(2.29)
Koefisien determinasi didefinisikan sebagai:
�2 =
���
���
(2.30)
Dalam kasus dua variabel,
�2 =
�12 ∑ �� 2
�
∑ �� 2
�2 =
�2 ∑ �� �2� +�
�3 ∑ �� �3�
�
∑ �� 2
Dalam kasus tiga variabel,
Dengan menggeneralisasikan, kita mendapatkan untuk kasus � − 1 variabel
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
�2 =
18
�� ∑ �� ���
�3 ∑ �� �3� +⋯+�
�2 ∑ �� �2� +�
�
∑ �� 2
∑ �� 2 = ∑(�� − ��)2
= ∑ �� 2 − ∑ �� 2
= ∑ �� 2 − ��� 2
= �′� − ��� 2
�̂2 ∑ �� �2� + �̂3 ∑ �� �3� + ⋯ + �̂� ∑ �� ��� = �′�′� − ��� 2
Dalam notasi matriks � 2 dapat ditulis menjadi
�2 =
�′�′� − ��� 2
�′� − ��� 2
Koefisien determinasi berganda � 2 didefinisikan sebagai
�2 =
���
���
=1−
���
���
(2.31)
� 2 adalah ukuran dari besarnya pengurangan variabilitas � diperoleh dengan
menggunakan variabel bebas �1 , �2 , … , �� dalam model. Dari pemeriksaan
analisis persamaan identitas variansi, tampak bahwa0 ≤ � 2 ≤ 1. Namun, nilai
besar � 2 tidak selalu berarti bahwa model regresi adalah yang terbaik.
Menambahkan variabel pada model tidak dapat menurunkan � 2 , terlepas dari
apakah variabel tambahan tersebut signifikan atau tidak secara statistik.
Karena � 2 nilainya tidak dapat menurun jika ditambahkan variabel bebas
dalam model, beberapa model regresi lebih suka menggunakan statistik � 2
yang disesuaikan (adjusted � 2 ), didefinisikan sebagai
�� /(�−�)
�−1
��2�� = 1 − ��� /(�−1) = 1 − ��−�� (1 − � 2 )
�
(2.32)
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
19
Secara umum, statistik � 2 yang disesuaikan tidak meningkat dengan variabel
yang ditambahkan ke model. Bahkan, jika ada penambahan variabel yang tidak
penting, nilai ��2�� akan berkurang.
2.4.3 Pengujian Terhadap Koefisien Regresi Individu
Hipotesis tentang koefisien regresi masing-masing sering menarik untuk
diuji. Uji tersebut akan berguna dalam menentukan nilai dari masing-masing
variabel bebas dalam model regresi. Sebagai contoh, model mungkin lebih
efektif dengan masuknya variabel tambahan, atau mungkin dengan
penghapusan satu atau lebih variabel yang sudah ada dalam model.
Menambahkan variabel ke model regresi tidak dapat menyebabkan jumlah
kuadrat regresi menurun dan jumlah kuadrat galat tidak bisa meningkat. Harus
diputuskan apakah ada penambahan jumlah kuadrat regresi yang cukup untuk
menjamin menggunakan variabel tambahan dalam model. Selanjutnya,
menambahkan variabel tak penting untuk model dapat meningkatkan rata-rata
kuadrat galat, sehingga mengurangi keberartian model.
Untuk menguji signifikansi dari setiap koefisien regresi individual, �� ,
ditempuh langkah-langkah sebagai berikut:
1. Tetapkan �0 ∶ �� = ��0
�� > ��0 (��� ℎ�������� ������� )
2. Tetapkan salah satu dari �1 ∶ ��� < ��0 (��� ℎ�������� �������)
�� ≠ ��0 (��� ℎ�������� ��� ���� )
3. Tetapkan Statistik uji � =
�� −��
� 2 ���
��
.
di mana ��� adalah elemen diagonal (�′�)−1 sesuai dengan �� .
(2.33)
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
20
4. Tetapkan daerah penolakan �0 sesuai dengan �1 pada (2) :
� > ��
� � < ��
|�| > ��
2
(�����ℎ ��������� ℎ�������� ������� )
(�����ℎ ��������� ℎ�������� ������� )
(�����ℎ ��������� ℎ�������� ��� ���� )
5. Lakukan perhitungan
6. Buat kesimpulan
Catatan : �� memiliki derajat bebas � − (� + 1).
Penyebut dalam persamaan (2.33), ��� 2 ��� , sering disebut standard error dari
koefisien regresi �� ,yaitu
(2.34)
����� � = ��� 2 ���
Oleh karena itu cara yang sama untuk menulis statistik uji dalam persamaan
(2.33) adalah
��
�0 = ����
(2.35)
��
2.4.4 Selang Kepercayaan dalam Regresi Berganda
Selang kepercayaan ini diperlukan untuk membangun penduga interval
kepercayaan untuk koefisien regresi ��� �. Pengembangan prosedur untuk
memperoleh selang kepercayaan ini memerlukan asumsi galat {�� } berdistribusi
normal dan independen dengan rata-rata nol dan variansi � 2 .
Karena penduga kuadrat terkecil � adalah kombinasi linear dari
pengamatan, maka � terdistribusi normal dengan vektor rata-rata � dan matriks
kovariansi � 2 (�′�)−� . Kemudian masing-masing dari statistik
�=
�� −��
� 2 ���
��
,
� = 0, 1, … , �
(2.36)
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
Berdistribusi
dengan derajat bebas
dari matriks
, dan
, di mana
21
adalah elemen ke
adalah penduga varians galat, yang diperoleh dari
Persamaan (2.17).
Pembentukan selang kepercayaan bagi
didasarkan pada statistik
yang berdistribusi t-student dengan derajat bebas
.
Dari gambar di atas, dapat diduga
Maka selang kepercayaan
untuk koefisien regresi
,
, adalah
(2.37)
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
22
2.5 Asumsi-Asumsi Model Regresi
Asumsi 1 Nilai rata-rata bersyarat dari unsur galat populasi �� , tergantung pada
nilai tertentu variabel yang menjelaskan (�) adalah nol
Asumsi 2 Varians bersyarat dari �� adalah konstan atau homokedastik
Asumsi 3 Tidak ada otokorelasi dalam galat
Asumsi 4 Variabel yang menjelaskan adalah nonstokastik (tetap dalam
penyampelan berulang) atau, jika stokastik, berdistribusi secara independen dari
galat ��
Asumsi 5 Tidak ada multikolinearitas di antara variabel bebas �
Asumsi 6 � berdistribusi secara normal dengan rata-rata dan variansi yang
diberikan oleh asumsi 1 dan 2.
Penyimpangan pada asumsi 1, mungkin tidak sangat kritis dari segi praktis karena
hal itu mungkin hanya mempengaruhi intersep dari regresi. Hal ini dapat dilihat
sebagai berikut : misal, model dua variabel �� = �0 + �1 �1 + �� dan misal � (�� )
tergantung pada �� , tidak nol tetapi sama dengan konstanta �. Jadi, dengan
mengambil harapan bersyarat dari model tersebut, diperoleh
� (�� |�� ) = �0 + �1 �1 + � (�� |�� )
= �0 + �1 �1 + �
= � + �1 �1
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
23
di mana � = �0 + �. Jadi, jika asumsi 1 tidak dipenuhi, akan terlihat bahwa
penakfsiran �0 tidak dapat dilakukan. Tetapi karena dalam prakteknya unsur
intersep biasanya tidak begitu penting, maka perhatian terhadap hal itu tidak
terlalu banyak. Untuk sebagian besar tujuan, besaran yang berarti adalah koefisien
kemiringan �1, yang tetap tidak terpengaruh, bahkan jika asumsi 1 tidak
terpenuhi.
Pelanggaran terhadap asumsi 2 dapat juga disebut heterokedastisitas. Pada
umumnya, heterokedastisitas sering terjadi pada model-model yang menggunakan
data cross-sectional dari pada data runtun waktu, dimana galat yang bersifat
heterokedastisitas berubah seiring perubahan ke-i. Konsekuensi dari keberadaan
heterokedastisitas adalah pendugaan metode kuadrat terkecil menjadi tak bias dan
konsisten (Gujarati, 2009).
Salah satu cara mendeteksi adanya heterokedastisitas adalah dengan
menggunakan uji Rank Spearman. Berikut langkah-langkahnya :
1. Dapatkan nilai �� dari regresi
2. Dapatkan nilai korelasi Rank Spearman antara |�� | dengan setiap
variabel bebas dalam model dengan rumus
∑ ��2
�� = 1 − 6 �
�
�(�2 − 1)
Dengan �� adalah koefisien korelasi Rank Spearman, �� selisih
ranking, dan n adalah banyaknya data atau pengamatan.
3. Menghitung statistik ���ℎ����� � masing-masing nilai korelasi Rank
Spearman dengan rumus
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
4. Uji Rank Spearman
�ℎ����� =
24
�� √� − 2
�1 − ��2
a. Hipotesis
�0 : tidak ada masalah heterokedastisitas
�1 : ada masalah heterokedastisitas
b. Penentuan tingkat signifikansi (� = 0.05)
c. Kriteria pengujian
�
�
�0 diterima bila −� � , � − 2� ≤ �ℎ���� ≤ � � , � − 2�
�0 ditolak
bila
�
� � , � − 2�
2
�
�ℎ���� < −� � , � − 2�
2
2
atau
�ℎ���� >
2
d. Membuat keputusan.
Masalah heterokedastisitas terkait dengan variansi dan galat yang tidak
konstan. Metode transformasi logaritma sering digunakan untuk mengatasi
masalah heterokedastisitas.
Asumsi 3 mengatakan bahwa tidak ada otokorelasi antar galat. Otokorelasi
adalah suatu keadaan di mana galat dalam periode tertentu, misal �� , berkorelasi
dengan galat dari periode lainnya, misal �� . Salah satu cara mendeteksi adanya
otokorelasi menggunakan uji Durbin-Watson , dengan statistik uji
��
2
∑�
�=2(�� − ��−1 )
�=
∑�
�=1 ��
: nilai galat yang diperoleh dari proses pendugaan metode kuadrat terkecil.
��−1 : nilai galat yang mundur sebanyak satu satuan waktu.
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
25
Setelah mendapatkan nilai d, langkah selanjutnya adalah membandingkan nilai d
dengan nilai-nilai kritis dari �� dan �� dari tabel statistik Durbin-Watson.
Kriteria pengujian:
1. Jika � < �� , maka ada otokorelasi positif
2. Jika � > 4 − ��, maka ada otokorelasi negatif
3. Jika �� < � < 4 − �� , maka tidak ada otokorelasi
4. Jika �� ≤ � ≤ �� atau 4 − �� ≤ � ≤ 4 − ��, maka disebut daerah
keragu-raguan.
Masalah otokorelasi dapat ditangani dengan cara melakukan transformasi
pembedaan pertama pada data. Persamaan �� = �0 + �1 �1� + �� hubungan berlaku
pada saat � , maka harus berlaku juga pada � − 1 sehingga mempunyai persamaan
��−1 = �0 + �1 �1�−1 + ��−1 . Dengan mengurangi persamaan pertama dengan
persamaan kedua, maka diperoleh persamaan �� − ��−1 = �1 (�1� − �1�−1 ) + �� ,
di mana �� = �� − ��−1.
Asumsi 4 menyatakan bahwa pendekatan untuk model regresi adalah bersyarat,
tergantung nilai tertentu dari variabel �. Oleh karena itu, stategi praktis untuk
diikuti adalah dengan mengasumsikan bahwa untuk masalah yang ada nilai
variabel yang menjelaskan adalah tertentu meskipun variabel itu sendiri
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
26
sebenarnya stokastik (Gujarati, 2009). Jadi, hasil dari analis
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
ABSTRAK
Model regresi linear tersebut secara umum dapat ditulis sebagai berikut
�� = �0 + �1 �1� + �2 �2� + … + �� ��� + ��
Pendugaan model dapat dilakukan dengan Metode Kuadrat Terkecil. Masalah
akan muncul ketika model yang dihadapi adalah model linear intrinsik dan model
nonlinear. Model Linear Intrinsik adalah suatu model regresi nonlinear yang dapat
ditransformasikan menjadi model regresi linear yang ekivalen. Oleh karena itu,
Metode Kuadrat Terkecil tidak dapat langsung digunakan. Namun, karena model
linear intrinsik dapat ditransformasikan menjadi model linear, sedangkan model
nonlinear tidak dapat ditranformasikan, maka pendugaan model linear intrinsik
dapat menggunakan metode kuadrat terkecil sebagaimana model linear biasa.
Kriteria dalam memilih model linear terbaik adalah dengan melihat besarnya
2
� yang paling tinggi, standar error yang paling rendah, signifikansi dari koefisien
regresi dan pemenuhan asumsi-asumsi.
Kata kunci: Regresi Linear, Regresi Nonlinear, Linear Intrinsik, Metode Kuadrat
Terkecil.
viii
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
ABSTRACT
Generally, linear regression model can be written as
�� = �0 + �1 �1� + �2 �2� + … + �� ��� + ��
The estimation of the model can be done by using Least Squares Method. Problem
will appear when facing intrinsic linear model and nonlinear model. Intrinsic
linear model is a nonlinear regression model which can be transformed into
equivalent linear regression model. Because of that, the least squares method can
not be used directly. Intrinsic linear model can be transformed into linear model,
while nonlinear model can not be transformed, so intrinsic linear model estimation
can use the Least Squares Method, as well as common linear model.
The criteria to choose the best linear model is by seeing the highest � 2 , the
lowest standar error, the signification of regression coefficient, and the fulfillment
of the assumptions of the model.
Key words: Linear Regression, Nonlinear Regression, Intrinsic Linear, Least
Squares Method.
ix
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
REGRESI LINEAR INTRINSIK
MAKALAH
Diajukan Untuk Memenuhi Salah Satu Syarat
Memperoleh Gelar Sarjana Matematika
Program Studi Matematika
Oleh:
FLORIANUS HERY PURWOATMOKO
NIM: 083114005
PROGRAM STUDI MATEMATIKA JURUSAN MATEMATIKA
FAKULTAS SAINS DAN TEKNOLOGI
UNIVERSITAS SANATA DHARMA
YOGYAKARTA
2015
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
REGRESI LINEAR INTRINSIK
MAKALAH
Diajukan Untuk Memenuhi Salah Satu Syarat
Memperoleh Gelar Sarjana Matematika
Program Studi Matematika
Oleh:
FLORIANUS HERY PURWOATMOKO
NIM: 083114005
PROGRAM STUDI MATEMATIKA JURUSAN MATEMATIKA
FAKULTAS SAINS DAN TEKNOLOGI
UNIVERSITAS SANATA DHARMA
YOGYAKARTA
2015
i
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
INTRINSICALLY LINEAR REGRESSION
A PAPER
Presented As Partial Fulfillment of the Requirements
To Obtain the Bachelor of Mathematics Study Program
Written by :
FLORIANUS HERY PURWOATMOKO
Student ID: 083114005
MATHEMATICS STUDY PROGRAM MATHEMATICS DEPARTEMENT
FACULTY OF SCIENCE AND TECHNOLOGY
SANATA DHARMA UNIVERSITY
YOGYAKARTA
2015
ii
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
iii
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
iv
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
PERNYATAAN KEASLIAN TULISAN
Saya menyatakan dengan sesungguhnya bahwa makalah yang saya tulis ini tidak
memuat karya atau bagian karya orang lain, kecuali yang telah disebutkan dalam
kutipan dan daftar pustaka, sebagaimana layaknya karya ilmiah.
Yogyakarta, 5 Agustus 2015
Penulis
Florianus Hery Purwoatmoko
v
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
HALAMAN PERSEMBAHAN
Karya ini penulis persembahkan kepada :
Tuhan Yesus dan Bunda Maria atas kasih dan rahmat-Nya yang melimpah.
Kedua orangtua, Bapak I Made Dwi Wanto dan Ibu Ketut Sudanti, adik Yosep,
segenap keluarga serta sabahat-sahabat semuanya.
Terimakasih atas semua dukungannya.
vi
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
LEMBAR PERNYATAAN PERSETUJUAN
PUBLIKASI KARYA ILMIAH UNTUK KEPENTINGAN AKADEMIS
Saya yang bertandatangan di bawah ini:
Nama
: Florianus Hery Purwoatmoko
NIM
: 083224005
Demi pengembangan ilmu pengetahuan, saya memberikan kepada perpustakaan
Universitas Sanata Dharma karya ilmiah saya yang berjudul:
ANALISIS REGRESI INTRINSIK
Dengan demikian saya memberikan kepada perpustakaan Universitas Sanata
Dharma hak untuk menyimpan, mengalihkan dalam bentuk media lain, mengelola
dalam bentuk pangkalan data, mendistribusikannya secara terbatas, dan
mempublikasikannya di internet atau media lain untuk kepentingan akademis
tanpa perlu meminta ijin dari saya maupun royalty kepada saya selama tetap
mencantumkan nama saya sebagai penulis.
Demikiaan pernyataan ini saya buat dengan sebenarnya,
Dibuat di Yogyakarta.
Pada tanggal : 5 Agustus 2015
Yang menyatakan
Florianus Hery Purwoatmoko
vii
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
ABSTRAK
Model regresi linear tersebut secara umum dapat ditulis sebagai berikut
�� = �0 + �1 �1� + �2 �2� + … + �� ��� + ��
Pendugaan model dapat dilakukan dengan Metode Kuadrat Terkecil. Masalah
akan muncul ketika model yang dihadapi adalah model linear intrinsik dan model
nonlinear. Model Linear Intrinsik adalah suatu model regresi nonlinear yang dapat
ditransformasikan menjadi model regresi linear yang ekivalen. Oleh karena itu,
Metode Kuadrat Terkecil tidak dapat langsung digunakan. Namun, karena model
linear intrinsik dapat ditransformasikan menjadi model linear, sedangkan model
nonlinear tidak dapat ditranformasikan, maka pendugaan model linear intrinsik
dapat menggunakan metode kuadrat terkecil sebagaimana model linear biasa.
Kriteria dalam memilih model linear terbaik adalah dengan melihat besarnya
2
� yang paling tinggi, standar error yang paling rendah, signifikansi dari koefisien
regresi dan pemenuhan asumsi-asumsi.
Kata kunci: Regresi Linear, Regresi Nonlinear, Linear Intrinsik, Metode Kuadrat
Terkecil.
viii
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
ABSTRACT
Generally, linear regression model can be written as
�� = �0 + �1 �1� + �2 �2� + … + �� ��� + ��
The estimation of the model can be done by using Least Squares Method. Problem
will appear when facing intrinsic linear model and nonlinear model. Intrinsic
linear model is a nonlinear regression model which can be transformed into
equivalent linear regression model. Because of that, the least squares method can
not be used directly. Intrinsic linear model can be transformed into linear model,
while nonlinear model can not be transformed, so intrinsic linear model estimation
can use the Least Squares Method, as well as common linear model.
The criteria to choose the best linear model is by seeing the highest � 2 , the
lowest standar error, the signification of regression coefficient, and the fulfillment
of the assumptions of the model.
Key words: Linear Regression, Nonlinear Regression, Intrinsic Linear, Least
Squares Method.
ix
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
KATA PENGANTAR
Syukur Kepada Tuhan Yang Maha Esa atas segala cinta dan kasih-Nya yang
berlimpah sehingga penulis dapat menyelesaikan makalah ini untuk memenuhi
tugas akhir dalam menempuh gelar Sarjana (S1) di UniversitasSanata Dharma
Yogyakarta.
Selama penulisan makalah ini, penulis menyadari banyak pihak yang telah
berperan besar dalam memberikan dukungan, bimbingan dan bantuannya. Oleh
karenaitu, penulis mengucapkan terimakasih yang sebesar-besarnya kepada :
1. Bapak Ir. Ig. Aris Dwiatmoko, M.Sc., selaku dosen pembimbing makalah
yang telah membimbing dan mendampingi penulis selama penulisan
makalah ini.
2. P.H. Prima Rosa, S.Si., M.Sc, selaku Dekan Fakultas Sains dan Teknologi
Universitas Sanata Dharma Yogyakarta.
3. Y.G. Hartono, M.Sc., Ph.D.,selaku Ketua Program Studi Matematika
Universitas Sanata Dharma Yogyakarta.
4. MV. Any Herawati, M.Si. selaku dosen penguji yang telah banyak
memberikan masukan.
5. Bapak Z. Tukija yang telah membantu proses administrasi.
6. Perpustakaan USD yang telah membantu menyediakan bahan dan fasilitas
selama penulisan makalah.
x
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
7. Mas Susilo selaku laboran yang telah membantu menyediakan fasilitas di
laboratorium.
8. Bapak I Made Dwi Wanto dan Ibu Ketut Sudanti, selaku orang tua penulis,
adik Yosep, dan semua keluarga atas semua dukungan, doa, dan bantuan
bagi penulis.
9. Teman terdekat Yuliana Marsheyla yang dengan sabar dan setia
memberikan
semangat,
doa
dan
perhatian
bagi
penulis
dalam
menyelesaikan makalah ini.
10. Teman-teman Atmo, Etus, Theo, Wowok, dan yang lainnya yang selalu
memberikan dukungan dan bantuan dalam penulisan makalah ini
11. Teman-teman di Prodi Matematika yang telah berjuang bersama.
12. Semua pihak yang telah membantu dalam penulisa makalah ini.
Penulis menyadari masih adanya kekurangan-kekurangan dalam karya tulis ini.
Kritik dan saran yang membangun demi kesempurnaan makalah ini merupakan
kehormatan bagi penulis.
Yogyakarta,
Penulis
Florianus Hery Purwoatmoko
xi
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
DAFTAR ISI
Halaman
HALAMAN JUDUL .................................................................................... i
HALAMAN PERSETUJUAN ..................................................................... iii
HALAMAN PENGESAHAN ...................................................................... iv
HALAMAN PERNYATAAN KEASLIAN TULISAN ...............................
v
HALAMAN PERSEMBAHAN .................................................................... vi
ABSTRAK .................................................................................................. viii
ABSTRACT ................................................................................................ ix
KATA PENGANTAR ................................................................................. x
DAFTAR ISI ............................................................................................... xii
DAFTAR TABEL ....................................................................................... xv
DAFTAR GAMBAR .................................................................................... xvi
BAB I PENDAHULUAN ............................................................................
1
A. Latar Belakang Masalah ...................................................................
1
B. Perumusan Masalah ..........................................................................
2
C. Pembatasan Masalah ........................................................................
2
D. Tujuan Penulisan ..............................................................................
2
xii
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
E. Manfaat Penulisan ............................................................................
3
F. Metode Penulisan .............................................................................
3
G. Sistematika Penulisan .......................................................................
3
BAB II LANDASAN TEORI ......................................................................
5
A. Model Regresi Linear ........................................................................
5
B. Metode Kuadrat Terkecil ...................................................................
6
C. Sifat Pendugaan Kuadrat Terkecil dan Penduga dari � 2 .....................
10
D. Uji Hipotesis dalam Regresi Berganda ..............................................
12
a) Uji Signifikansi Regresi .........................................................
13
b) Koefisien Determinasi (�� ) ...................................................
14
c) Pengujian Terhadap Koefisien Regresi Individu.....................
19
d) Selang Kepercayaan dalam Regresi Berganda ........................
20
e) Asumsi-Asumsi Model Regresi..............................................
22
BAB III MODEL LINEAR INTRINSIK.......................................................
35
A. Munculnya Gagasan Regresi Linear Intrinsik ....................................
35
a) Regresi Nonlinear ..................................................................
36
b) Macam-Macam Model Linear Intrinsik ..................................
39
B. Tahap-TahapPengenalan Model Berdasarkan Data ............................
45
BAB VIPENUTUP .......................................................................................
61
A. Kesimpulan ......................................................................................
61
B. Saran ................................................................................................
61
xiii
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
DAFTAR PUSTAKA ..................................................................................
62
LAMPIRAN ................................................................................................
62
xiv
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
DAFTAR TABEL
Tabel 2.1.......................................................................................................
7
Tabel 2.2.......................................................................................................
14
Tabel 2.3.......................................................................................................
29
Tabel 3.1.......................................................................................................
47
Tabel 3.2.......................................................................................................
50
Tabel 3.3.......................................................................................................
54
xv
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
DAFTAR GAMBAR
Gambar 3.1 ...................................................................................................
43
Gambar 3.2 ...................................................................................................
43
Gambar 3.3 ...................................................................................................
48
Gambar 3.4 ...................................................................................................
48
Gambar 3.5 ...................................................................................................
49
Gambar 3.6 ...................................................................................................
51
Gambar 3.7 ...................................................................................................
51
Gambar 3.8 ...................................................................................................
53
Gambar 3.9 ...................................................................................................
54
Gambar 3.10a ...............................................................................................
56
Gambar 3.10b ...............................................................................................
57
xvi
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
BAB I
PENDAHULUAN
A. Latar Belakang Masalah
Istilah analisis regresi pertama kali diperkenalkan oleh Sir Francis Galton
(1822-1911), yang merupakan seorang antropolog dan ahli meteorologi dari
Inggris. Analisis regresi adalah suatu metode untuk menganalisa data dan
mengambil kesimpulan yang bermakna tentang hubungan antara dua variabel
atau lebih. Variabel-variabel yang dimaksudkan adalah variabel tak bebas (�)
dan variabel bebas (�).
Yang dimaksud dengan variabel bebas adalah variabel yang nilainya
dapat diatur atau ditentukan. Akibat perubahan yang disengaja atau yang
terjadi pada variabel bebas, dapat berpengaruh terhadap variabel yang lain
yaitu variabel tak bebas. Sebagai contoh, hubungan antara variabel intelegensi
(�) dan variabel hasil belajar (�) dapat dimodelkan dengan persamaan regresi
berupa � = �1 + �2 � + � . Secara umum model regresi linier tidak hanya
menjelaskan hubungan orde pertama, tetapi juga model polinomial dan
hubungan yang lebih kompleks lainnya. Model regresi linier tersebut secara
umum dapat ditulis sebagai berikut
�� = �0 + �1 �1� + �2 �2� + … + �� ��� + ��
Model seperti ini dikatakan model regresi linear karena model tersebut linear
dalam parameter yang tidak diketahui �� , � = 1,2, … , � dan � = 1, 2, … , �.
Pendugaan model tersebut dapat dilakukan dengan Motede Kuadrat Terkecil.
1
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
2
Masalah akan muncul ketika model yang dihadapi adalah model linear
intrinsik dan model nonlinear. Metode kuadrat terkecil tidak dapat langsung
digunakan, namun, karena model linear intrinsik dapat ditransformasikan
menjadi
model
linear,
sedangkan
model
nonlinear
tidak
dapat
ditranformasikan, maka pendugaan model linear intrinsik dapat menggunakan
Metode Kuadrat Terkecil sebagaimana model linear biasa.
B. Perumusan Masalah
Perumusan masalah dalam penduga model regresi linear intrinsik adalah
1. Apa yang dimaksud dengan regresi linear intrinsik?
2. Bagaimana langkah-langkah dalam menduga model regresi linear
intrinsik?
3. Bagaimana menentukan baik tidaknya hasil pendugaan model regresi
linear intrinsik?
C. Pembatasan Masalah
1. Dalam tugas akhir ini, pembahasan akan ditekankan pada pendugaan
model yang linear intrinsik.
2. Materi prasyarat yang dibahas hanya yang berkaitan langsung dengan
materi pokok.
D. Tujuan Penulisan
Tujuan dari penulisan tugas akhir ini adalah untuk mengetahui secara
lebih mendalam tentang pendugaan model regresi linear intrinsik dan kegunaan
dari pendugaan model tersebut.
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
3
E. Manfaat Penulisan
Manfaat dari penulisan ini adalah bahwa pendugaan model regresi linear
intrinsik dapat digunakan untuk menyelesaikan masalah yang berkaitan dengan
linear intrinsik.
F. Metode Penulisan
Metode yang dipakai dalam penulisan ini adalah motede pustaka. Artinya,
penulis mengacu pada literatur pokok tentang pendugaan model linear intrinsik
serta literatur lain yang juga berkaitan dengan linear intrinsik dan literaturliteratur mengenai materi yang menjadi landasan teorinya.
G. Sistematika Penulisan
BAB I. PENDAHULUAN
A. Latar Belakang Masalah
B. Perumusan Masalah
C. Pembatasan Masalah
D. Tujuan Penulisan
E. Manfaat Penulisan
F. Metode Penulisan
G. Sistematika Penulisan
BAB II. LANDASAN TEORI
A. Model Regresi Linear
B. Metode Kuadrat Terkecil
C. Sifat Pendugaan Kuadrat Terkecil dan Penduga dari � 2
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
D. Uji Hipotesis dan Regresi Berganda
BAB III. MODEL LINEAR INTRINSIK
A. Munculnya Gagasan Regresi Linear Intrinsik
B. Tahap-Tahap Pengenalan Model Berdasarkan Data
BAB IV. PENUTUP
A. Kesimpulan
B. Saran
4
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
BAB II
LANDASAN TEORI
2.1 Model Regresi Linear
Analisis regresi adalah suatu kumpulan dari teknik statistika untuk
memodelkan dan menyelidiki hubungan antara variabel tak bebas � dan
himpunan variabel bebas �1 , �2 , ⋯ , �� . Banyak aplikasi dari analisis regresi di
banyak bidang termasuk teknik, ilmu kimia atau fisika, kehidupan dan ilmu
biologi, ilmu sosial, manajemen dan ilmu ekonomi. Bentuk model regresi yang
sangat penting adalah model regresi linear yang berbentuk
(2.1)
� = �0 + �1 �1 + �2 �2 + … + �� �� + �
dimana variabel tak bebas merupakan fungsi linear dari variabel bebas
�1 , �2 , … , �� parameter yang tidak diketahui atau koefisien regresi yaitu �0 , �1
... �� dan � (galat). Model regresi linear digunakan sangat luas sebagai model
empiris untuk mendekati beberapa fungsi yang kompleks dan fungsi yang tidak
diketahui sebagai hubungan antara variabel tak bebas dan variabel bebas.
Model regresi linear meliputi tidak hanya hubungan orde pertama, seperti
persamaan
(2.2)
� = �0 + �1 �1 + �2 �2 + … + �� �� + �
tetapi juga model polinomial dan hubungan yang lebih kompleks lainnya.
Bahkan model regresi linear dapat ditulis sebagai berikut
� = �0 + �1 �1 + �2 �2 + … + �� �� + �
(2.3)
di mana �� merupakan fungsi dari variabel�1 , �2 , … , �� , termasuk ekspresi
seperti � �� , ��� , dan sin−1 (�� ). Alasan bahwa model ini disebut model regresi
linear adalah karena model tersebut linear dalam parameter �� yang tidak
5
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
6
diketahui, � = 1,2, . . . , �. Model lain yang sering dijumpai dalam aplikasi
adalah model polinomial yang berbentuk � = �0 + �1 � + �2 � 2 + �
(2.4)
Model regresi linear dalam persamaan (2.2) dapat ditulis kembali dalam bentuk
(2.5)
� = �(�, �) + �
Dengan � (�, �) = �0 + �1 �1 + �2 �2 + ⋯ + �� �� dan �′ = [�1 , �2 , ⋯ , �� ].
Definisi 2.1 Model Linear
Model regresi linear adalah model regresi yang linear dalam parameter �� yang
tidak diketahui, (� = 1, 2, ⋯ , �). Secara umum, model linear ditulis dalam
bentuk
� = � (�, �) = �� + �1 �1 + �2 �2 + ⋯ + �� �� + ε.
Karena
nilai
harapan dari galat model adalah nol, nilai harapan dari variabel respon
� (�) = �[� (�, �) + �]
= �(�, �)
�(�, �)disebut fungsi ekspektasi dari model yang hanya merupakan fungsi
linear dari parameter yang tidak diketahui.
Pada bab ini, akan dibahas teknik untuk menduga parameter pada model
regresi berganda. Akan dibahas juga metode standar pembuatan selang
kepercayaan untuk model tersebut serta Metode Kuadrat Terkecil.
2.2 Metode Kuadrat Terkecil
Metode Kuadrat Terkecil secara khusus digunakan untuk menduga
koefisien regresi pada model regresi linear berganda. Misal ada � > �
pengamatan. Pengamatan dari variabel tak bebas disimbolkan dengan �1 ,�2 , ...,
�� . Untuk setiap variabel tak bebas �, dipunyai pengamatan untuk setiap
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
7
variabel bebas, misal ��� yang menyatakan pengamatan ke � dari variabel � ke
�. Data ditunjukkan pada tabel 2.1. Misal � adalah galat, �2 menyatakan
variansi, �(�) menyatakan rata-rata galat, dan var(� ) menyatakan variansi
galat. Pada pengamatan ini diasumsikan bahwa �(�) = 0 dan var(� ) = �2 dan
{�� } menyatakan variabel acak yang tidak berkorelasi.
�1
�11
�12
…
�1�
�2
�21
�22
…
�2�
⋮
⋮
⋮
��
��1
��2
⋮
…
���
Tabel 2.1 Struktur Data untuk Regresi Linear Berganda
Persamaan 2.1 akan ditulis berdasarkan pengamatan yang terdapat pada tabel
2.1 yaitu
�� = �0 + �1 �� 1 + �2 �� 2 + … + �� �� � + ��
= �0 + ∑��=1 �� ��� + �� , � = 1, 2, ⋯ , �
(2.6)
Metode Kuadrat Terkecil diterapkan pada persamaan 2.6 bertujuan untuk
menentukan penduga � sedemikian sehingga jumlah kuadrat galat �� , yaitu �
menjadi minimum.
� = ∑��=1 ��2
= ∑��=1 ��� − �0 − ∑��=1 �� ��� �
2
(2.7)
Fungsi � diminimalkan terhadap �0 , �1 ... ��. Misal �0 , �1 , … �� adalah
penduga kuadrat terkecil bagi parameter �0 , �1 , ⋯ , �� . Penduga kuadrat
terkecil tersebut harus memenuhi
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
dan
��
�
��0 �0, �1,⋯, ��
= −2 ∑��=1 ��� − �0 − ∑��=1 �� ��� � = 0 (2.8a)
��
�
��� �0, �1,⋯, ��
= −2 ∑��=1 ��� − �0 − ∑��=1 �� ��� � �� � = 0(2.8b)
8
Penyederhanaan persamaan (2.8a) dan (2.8b) dan mensubstitusikan �0 , �1 , … ��
sebagi solusi, menghasilkan
�
�
�
�=1
�=1
�=1
��0 + �1 � ��1 + �2 � ��2 + … + �� � ���
�
�
�=1
�=1
�
�
= � ��
�
�=1
�
�0 � ��1 + �1 � �2�1 + �2 � ��1 ��2 + ∙∙∙ +�� � ��1 ��� = � ��1 ��
�
⋮
�
⋮
�=1
�
⋮
�0 � ��� + �1 � ��� �� 1 + �2 � ��� ��2 + ∙∙∙
�=1
�=1
�=1
�=1
⋮
�=1
�
+�� � ��2�
�=1
⋮
�
= � ��� ��
�=1
(2.9)
Persamaan 2.9 disebut persamaan kuadrat terkecil normal, selanjutnya
persamaan tersebut akan disebut persamaan normal. Perhatikan bahwa
persamaan normal memiliki � = � + 1 persamaan. Solusi untuk persamaan
normal akan menjadi penduga kuadrat terkecil dari koefisien regresi yaitu
�0 , �1 , … �� .
Penyelesaikan persamaan normal akan lebih mudah jika persamaan-
persamaan tersebut dinyatakan dengan notasi matriks. Sekarang akan dibuat
matriks dari persamaan normal yang merepresentasikan persamaan (2.9).
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
⎡ �
⎢
⎢ �
⎢
⎢� ��1
⎢ �=1
⋮
⎢
⎢ �
⎢� ���
⎣ �=1
�
� ��1
� �12
�=1
�=1
�=1
�
�
� �2�
⋮
� ��� ��1
�=1
�
�
�=1
�
� ��1 ��2
�
⋮
� ��� ��2
�=1
�
⋯ � ���
�=1
�
⋯ � ��1 ���
�=1
�
2
⋯ � ���
9
⋮
�=1
⎤
⎡ �� ⎤
� ⎥
⎥
⎢
�=1
⎥ �
⎢ �
⎥
⎥ 0
⎢
⎥
⎥ ��1 � = ⎢� ��1 �� ⎥
⎥ ⋮
⎢ �=1
⎥
⋮
⎢
⎥
⎥ ��
⎢ �
⎥
⎥
⎢� ��� �� ⎥
⎥
⎣ �=1
⎦
⎦
(2.10)
Model ini jika ditulis dengan notasi matriks, menjadi
�′ �� = �′�
(2.11)
dimana
1 �11
�1
⎡
��
1 �21
� = � ⋮ �, � = ⎢
⋮
⎢⋮
��
⎣1 ��1
�12
�22
⋮
��2
⋯
⋯
⋯
�1�
�2� ⎤
⎥, � =
⋮ ⎥
��� ⎦
�0
�
� 1 �.
⋮
��
Secara umum � adalah vektor pengamatan yang berukuran(� × 1). � adalah
matriks yang berukuran (� × �) dan setiap entrinya adalah variabel bebas, �
adalah vektor berukuran (� × 1) yang setiap entrinya adalah koefisien regresi.
Persamaan (2.11) memberikan persamaan normal dalam bentuk matriks.
Persamaan tersebut identik dengan persamaan (2.9). Selama kolom dari
matriks � tidak kolinear, �′ � definit positif, sehingga cara untuk
menyelesaikan persamaan normal adalah dengan mengalikan kedua sisi pada
persamaan (2.11) dengan invers dari �′ �. Dengan demikian penduga kuadrat
terkecil dari � adalah b, yaitu
� = (�′�)−1 �′�
(2.12)
Dengan demikian penduga model regresi yang sesuai adalah
� = ��
�
(2.13)
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
10
Penduga skalar pada persamaan (2.13) adalah
�� = �0 + ∑��=1 �� ���
�
, � = 1, 2, … , �
�� adalah residual, yaitu selisih antara pengamatan �� dan nilai
M i s a l � � = �� − �
��� . Vektor residual yang berukuran (� × 1) ditampilkan dalam bentuk
�=�−�
(2.14)
2.3. Sifat Pendugaan Kuadrat Terkecil dan Penduga dari ��
Metode kuadrat terkecil menghasilkan penduga takbias bagi parameter �
yaitu penduga yang nilai harapannya sama dengan parameter yang diduga. Bila
� adalah penduga kuadrat terkecil, sifat ini dapat ditunjukkan dengan mencari
nilai harapan � sebagai berikut:
� (�) = �[(�′�)−1 �′�]
= �[(�′�)−1 �′(�� + �)]
= �[(�′�)−1 �′ �� + (�′�)−1 �′�]
=�
Karena � (�) = � dan (�′�)−1 �′� = � maka � adalah penduga takbias dari
�. Sifat variansi � dinyatakan oleh matriks kovariansi berikut
��� (�) = �{[� − � (�)][� − � (�)]′}
Kovariansi matriks � adalah matriks simetris (� × �) yang elemen baris ke �
kolom ke � (untuk seterusnya ditulis ke ��) adalah variansi dari(�� ) dan elemen
yang ke �� adalah kovariansi antara �� dan �� . Kovariansi matriks �
��� (�) = � 2 (�′�)−1
(2.15)
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
11
Penduga kuadrat terkecil juga merupakan penduga takbias linear terbaik.
Artinya, � adalah yang terbaik dalam penduga takbias dengan variansi
minimum di antara semua fungsi linear dari pengamatan.
Sifat-sifat di atas biasanya diperlukan untuk memperkirakan � 2 . Untuk
mengembangkan penduga dari parameter jumlah kuadrat galat (��� ),
��� = ∑��=1(�� − ��� )2
= ∑��=1 ��2
= �′�
Dengan subtitusi � = � − � = � − ��, diperoleh
��� = (� − ��)′(� − ��)
= �′ � − �′ �′ � − �′ �� + �′�′��
= �′ � − 2�′ �′ � + �′�′��
Karena �′�� = �′�, persamaan terakhir menjadi
��� = �′ � − �′�′�
(2.16)
Persamaan (2.16) disebut jumlah kuadrat galat, dan memiliki derajat bebas
� − � yang terkait dengan itu. Secara khusus untuk � = 2,
� (��� ) = �[∑��=1(�� − ��� )2 ] = �[∑��=1(�� − �0 − �1 �� )2 ]
= �[∑��=1(�� − �� + �1 �̅ − �1 �� )2 ]
= �[∑��=1[(�� − ��) − �1 (�� − �̅ )]2 ]
Karena
= �[∑��=1(�� − ��)2 + �12 ∑��=1(�� − �̅ )2 − 2�1 ∑��=1(�� − �̅ )(�� − ��)]
∑��=1(�� − �̅ )(�� − ��) = ∑��=1(�� − �̅ )2 �1 ,
terakhir di atas menjadi −�12 ∑��=1(�� − �̅ )2 . Jadi,
maka
dua
persamaan
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
12
∑��=1(�� − ��)2 = ∑��=1 ��2 − 2�� 2
dan oleh karena itu
�[∑��=1(�� − ��1 )2 ] = �[∑��=1 ��2 − ��� 2 − �11 ∑��=1(�� − �̅ )2 ]
= ∑��=1 � (��2 ) − �� (�� 2 ) − ∑��=1(�� − �̅ )2 � (�12 )
Catat bahwa untuk setiap variabel acak �, � (� 2 ) = �(�) + [�(�)]2, maka
�[∑��=1(�� − ��1 )2 ] = ∑��=1{�(�� ) + [�(�� )]2 } − �{� (��) + [�(��)]2 } −
2
�
∑��=1(�� − �̅ )2 {�(�1 ) + [�(�1 )]2 }
= �� + �(�0 + �1 �� )2 − � �
�=1
�
− �(�� − �̅ )2 �
�=1
yang disederhanakan menjadi
�2
+ (�� + �1 �̅ )2 �
�
�2
+ �12 �
∑��=1(�� − �̅ )2
� (��� ) = � 2 (� − 2)
Sehingga penduga takbias dari � 2 diberikan oleh
��
�
�� 2 = �−2
(2.17)
2.4 Uji Hipotesis dalam Regresi Berganda
Dalam masalah regresi linear berganda, suatu uji hipotesis tentang model
parameter membantu dalam mengukur keberartian model. Pada bagian ini akan
dibahas beberapa prosedur pengujian hipotesis yang penting. Prosedur ini
mengasumsikan galat �� dalam model adalah berdistribusi normal dan
independen dengan rata-rata nol dan variansi konstan � 2 tetapi tidak diketahui,
disingkat �~��� (0, � 2 ). Dengan asumsi ini pengamatan �� normal dan
terdistribusi independen dengan rata-rata �0 + ∑��=1 �� ��� dan variansi � 2
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
13
2.4.1 Uji Signifikansi Regresi
Ada 2 (dua) macam uji signifkansi regresi yaitu menguji pengaruh bersama
variabel bebas dan pengaruh individual. Uji signifikansi regresi adalah uji
untuk menentukan apakah ada hubungan linier antara variabel respon � dan
subset dari variabel bebas �1 , �2 , … , �� . Hipotesis yang sesuai adalah
�0 ∶ �1 = �2 = ⋯ = �� = 0
untuk sedikitnya satu �
�1 ∶ �� ≠ 0
(2.18)
Penolakan �0 di (2.18) menunjukkan bahwa setidaknya ada satu variabel bebas
�1 , �2 , … , �� berkontribusi secara signifikan terhadap model. Prosedur
pengujian melibatkan partisi jumlah kuadrat total (��� ) menjadi jumlah
kuadrat model (��� ) dan jumlah kuadrat galat (��� ), yaitu
��� = ��� + ���
(2.19)
Sekarang jika hipotesis nol �0 ∶ �1 = �2 = ⋯ = �� = 0 adalah benar, maka
��� / � 2 berdistribusi ��2 , di mana derajat bebas untuk � 2 sama dengan
banyaknya variabel bebas dalam model. Juga dapat ditunjukkan bahwa
2
��� / � 2 berdistribusi sebagai ��−�−1
dan ��� dan ��� independen. Bukti ini
dapat ditemukan di prosedur uji untuk �0 ∶ �1 = �2 = ⋯ = �� = 0 adalah
menghitung
�0 =
��� /�
��� /(�−�−1)
=
���
���
(2.20)
dan menolak �0 jika �0 melebihi ��,�,�−�−1 . Uji ini biasanya dirangkum dalam
sebuah tabel seperti Tabel 2.2. Prosedur uji ini disebut analisis varians karena
didasarkan pada dekomposisi dari total variabilitas variabel respon �.
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
Sumber
variansi
Regresi
Galat
Total
Dimana ��� =
Jumlah
kuadrat
���
���
���
���
�
Derajat
bebas
�
�−�−1
�−1
Tabel 2.2
dan ��� =
���
Rata-rata
kuadrat
���
���
�0
��� /���
. Karena ��� = ∑��=1 ��2 −
�−�−1
�∑�
�=1 �� �
�′ � − (∑��=1 �� )2 /�, persamaan 2.16 di atas dapat ditulis ulang sebagai
a ta u
��� = �′ � −
�∑�
�=1 �� �
�
2
− ��′ �′ � −
�∑�
�=1 �� �
�
14
2
�
2
=
�
��� = ��� − ���
Oleh karena itu jumlah kuadrat regresi adalah
′
′
��� = � � � −
�∑�
�=1 �� �
�
Jumlah kuadrat galat adalah
��� = �′ � − �′�′�
2
(2.21)
(2.22)
Dan jumlah kuadrat total adalah
��� = �′� −
�∑�
�=1 �� �
�
2
(2.23)
2.4.2 Koefisien Determinasi (�� )
Koefisien determinasi (� 2 ) adalah koefisien yang menjelaskan besarnya
presentase variansi Y yang dapat dijelaskan dengan model. Koefisien
determinasi dapat digunakan untuk menjelaskan kebaikan model.Diberikan
diagram Venn untuk memberikan gambaran mengenai konsep koefisien
determinasi.
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
15
Pada diagram Venn di atas, lingkaran Y mewakili variansi dalam variabel
bebas Y dan lingkaran X mewakili variansi dalam variabel penjelas X. Irisan
menunjukan bagian variansi yang dapat dijelaskan. Pada diagram Venn (a)
adalah kondisi awal variansi. Diagram Venn (b) menunjukan adanya irisan
antara kedua lingkaran X dan Y tersebut. Hal ini menunjukan bahwa sebagian
variansi dari Y dapat dijelaskan oleh variansi X. Semakin besar irisan yang
ditunjukan pada diagram Venn (c), (d), (e) semakin besar pula variansi Y yang
dijelaskan oleh variansi X. Ketika lingkaran Y dan lingkaran X itu berhimpit
seperti tampak pada diagram Venn (f), hal ini menunjukan bahwa 100 persen
dari variansi Y dapat dijelaskan oleh variansi X. � 2 semata-mata merupakan
ukuran dari irisan antara variansi Y dan variansi X. Pada gambar diagram Venn
menunjukan bahwa irisan antara variansi Y dan variansi X meningkat, ini
berarti meningkat pula proporsi variansi Y yang dapat dijelaskan oleh X.
Ketika lingkaran Y dan lingkaran X berhimpit, dapat dikatakan bahwa nilai
� 2 = 1, karena 100 persen dari variansi Y dapat dijelaskan oleh X. Sebaliknya,
ketika lingkaran Y dan lingkaran X tidak berhimpit dan tidak beririsan, dapat
dikatakan � 2 = 0, artinya variansi Y tidak dapat dijelaskan oleh X.
Dengan demikian, untuk menghitung � 2 dapat menggunakan persamaan
�� = ��� + �̂�
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
16
atau dalam bentuk simpangan
(2.24)
�� = ��� + �̂�
Dengan mengkuadratkan dan menjumlahkan persamaan (2.24), maka
didapatkan persamaan sebagai berikut
∑ �� 2 = ∑(��� + �̂� )2
(2.25)
Sebelum membuktikan persamaan (2.27), akan dibuktikan bahwa ∑ ��� �̂� = 0
dan diberikan bahwa ��� = �̂1 �� , maka
� ��� �̂� = � �̂1 �� �̂�
= �̂1 � �� �̂�
= �̂1 � �� (�� − ��� )
= �̂1 � �� (�� − �̂1 �� )
= �̂1 � �� �� − �̂1 � �� �̂1 ��
= �̂1 �̂1 � �� 2 − �̂12 � �� 2
= �̂12 � �� 2 − �̂12 � �� 2
=0
(2.26)
Diberikan persamaan
�� = �̂0 + �̂1��
(2.27)
Selanjutnya dengan mengurangkan persamaan (2.14) dari persamaan �� = �̂0 +
�̂1 �� + �� didapatkan persamaan baru
�� − �� = (�0 − �̂0 ) + �1 (�� − ��) + ��
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
17
�� = �1 �� + ��
Sehingga�� dapat diduga dengan ��� = �̂1 �� .
Selanjutnya akan dibuktikan
∑ �� 2 = ∑(��� + �̂� )2
= ∑ ���2 + ∑ 2��� �̂� + ∑ �̂�2
= ∑(�̂1 �� )2 + 2 ∑ ��� �̂� + ∑ �̂�2
= �12 ∑ ���2 + ∑ �̂�2
(2.28)
Berbagai jumlah kuadrat yang muncul dalam persamaan (2.28) dapat
digambarkan sebagai berikut:
1. ∑ �� 2 = ∑(�� − ��)2 disebut sebagai jumlah kuadrat total (��� )
2. �12 ∑ ���2 disebut sebagai jumlah kuadrat regresi atau jumlah kuadrat
yang dapat dijelaskan oleh regresi (��� ) dan
3. ∑ �̂12 disebut jumlah kuadrat galat (��� )
Dengan kata lain, persamaaan (2.24) dapat ditulis ulang menjadi
��� = ��� + ���
(2.29)
Koefisien determinasi didefinisikan sebagai:
�2 =
���
���
(2.30)
Dalam kasus dua variabel,
�2 =
�12 ∑ �� 2
�
∑ �� 2
�2 =
�2 ∑ �� �2� +�
�3 ∑ �� �3�
�
∑ �� 2
Dalam kasus tiga variabel,
Dengan menggeneralisasikan, kita mendapatkan untuk kasus � − 1 variabel
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
�2 =
18
�� ∑ �� ���
�3 ∑ �� �3� +⋯+�
�2 ∑ �� �2� +�
�
∑ �� 2
∑ �� 2 = ∑(�� − ��)2
= ∑ �� 2 − ∑ �� 2
= ∑ �� 2 − ��� 2
= �′� − ��� 2
�̂2 ∑ �� �2� + �̂3 ∑ �� �3� + ⋯ + �̂� ∑ �� ��� = �′�′� − ��� 2
Dalam notasi matriks � 2 dapat ditulis menjadi
�2 =
�′�′� − ��� 2
�′� − ��� 2
Koefisien determinasi berganda � 2 didefinisikan sebagai
�2 =
���
���
=1−
���
���
(2.31)
� 2 adalah ukuran dari besarnya pengurangan variabilitas � diperoleh dengan
menggunakan variabel bebas �1 , �2 , … , �� dalam model. Dari pemeriksaan
analisis persamaan identitas variansi, tampak bahwa0 ≤ � 2 ≤ 1. Namun, nilai
besar � 2 tidak selalu berarti bahwa model regresi adalah yang terbaik.
Menambahkan variabel pada model tidak dapat menurunkan � 2 , terlepas dari
apakah variabel tambahan tersebut signifikan atau tidak secara statistik.
Karena � 2 nilainya tidak dapat menurun jika ditambahkan variabel bebas
dalam model, beberapa model regresi lebih suka menggunakan statistik � 2
yang disesuaikan (adjusted � 2 ), didefinisikan sebagai
�� /(�−�)
�−1
��2�� = 1 − ��� /(�−1) = 1 − ��−�� (1 − � 2 )
�
(2.32)
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
19
Secara umum, statistik � 2 yang disesuaikan tidak meningkat dengan variabel
yang ditambahkan ke model. Bahkan, jika ada penambahan variabel yang tidak
penting, nilai ��2�� akan berkurang.
2.4.3 Pengujian Terhadap Koefisien Regresi Individu
Hipotesis tentang koefisien regresi masing-masing sering menarik untuk
diuji. Uji tersebut akan berguna dalam menentukan nilai dari masing-masing
variabel bebas dalam model regresi. Sebagai contoh, model mungkin lebih
efektif dengan masuknya variabel tambahan, atau mungkin dengan
penghapusan satu atau lebih variabel yang sudah ada dalam model.
Menambahkan variabel ke model regresi tidak dapat menyebabkan jumlah
kuadrat regresi menurun dan jumlah kuadrat galat tidak bisa meningkat. Harus
diputuskan apakah ada penambahan jumlah kuadrat regresi yang cukup untuk
menjamin menggunakan variabel tambahan dalam model. Selanjutnya,
menambahkan variabel tak penting untuk model dapat meningkatkan rata-rata
kuadrat galat, sehingga mengurangi keberartian model.
Untuk menguji signifikansi dari setiap koefisien regresi individual, �� ,
ditempuh langkah-langkah sebagai berikut:
1. Tetapkan �0 ∶ �� = ��0
�� > ��0 (��� ℎ�������� ������� )
2. Tetapkan salah satu dari �1 ∶ ��� < ��0 (��� ℎ�������� �������)
�� ≠ ��0 (��� ℎ�������� ��� ���� )
3. Tetapkan Statistik uji � =
�� −��
� 2 ���
��
.
di mana ��� adalah elemen diagonal (�′�)−1 sesuai dengan �� .
(2.33)
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
20
4. Tetapkan daerah penolakan �0 sesuai dengan �1 pada (2) :
� > ��
� � < ��
|�| > ��
2
(�����ℎ ��������� ℎ�������� ������� )
(�����ℎ ��������� ℎ�������� ������� )
(�����ℎ ��������� ℎ�������� ��� ���� )
5. Lakukan perhitungan
6. Buat kesimpulan
Catatan : �� memiliki derajat bebas � − (� + 1).
Penyebut dalam persamaan (2.33), ��� 2 ��� , sering disebut standard error dari
koefisien regresi �� ,yaitu
(2.34)
����� � = ��� 2 ���
Oleh karena itu cara yang sama untuk menulis statistik uji dalam persamaan
(2.33) adalah
��
�0 = ����
(2.35)
��
2.4.4 Selang Kepercayaan dalam Regresi Berganda
Selang kepercayaan ini diperlukan untuk membangun penduga interval
kepercayaan untuk koefisien regresi ��� �. Pengembangan prosedur untuk
memperoleh selang kepercayaan ini memerlukan asumsi galat {�� } berdistribusi
normal dan independen dengan rata-rata nol dan variansi � 2 .
Karena penduga kuadrat terkecil � adalah kombinasi linear dari
pengamatan, maka � terdistribusi normal dengan vektor rata-rata � dan matriks
kovariansi � 2 (�′�)−� . Kemudian masing-masing dari statistik
�=
�� −��
� 2 ���
��
,
� = 0, 1, … , �
(2.36)
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
Berdistribusi
dengan derajat bebas
dari matriks
, dan
, di mana
21
adalah elemen ke
adalah penduga varians galat, yang diperoleh dari
Persamaan (2.17).
Pembentukan selang kepercayaan bagi
didasarkan pada statistik
yang berdistribusi t-student dengan derajat bebas
.
Dari gambar di atas, dapat diduga
Maka selang kepercayaan
untuk koefisien regresi
,
, adalah
(2.37)
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
22
2.5 Asumsi-Asumsi Model Regresi
Asumsi 1 Nilai rata-rata bersyarat dari unsur galat populasi �� , tergantung pada
nilai tertentu variabel yang menjelaskan (�) adalah nol
Asumsi 2 Varians bersyarat dari �� adalah konstan atau homokedastik
Asumsi 3 Tidak ada otokorelasi dalam galat
Asumsi 4 Variabel yang menjelaskan adalah nonstokastik (tetap dalam
penyampelan berulang) atau, jika stokastik, berdistribusi secara independen dari
galat ��
Asumsi 5 Tidak ada multikolinearitas di antara variabel bebas �
Asumsi 6 � berdistribusi secara normal dengan rata-rata dan variansi yang
diberikan oleh asumsi 1 dan 2.
Penyimpangan pada asumsi 1, mungkin tidak sangat kritis dari segi praktis karena
hal itu mungkin hanya mempengaruhi intersep dari regresi. Hal ini dapat dilihat
sebagai berikut : misal, model dua variabel �� = �0 + �1 �1 + �� dan misal � (�� )
tergantung pada �� , tidak nol tetapi sama dengan konstanta �. Jadi, dengan
mengambil harapan bersyarat dari model tersebut, diperoleh
� (�� |�� ) = �0 + �1 �1 + � (�� |�� )
= �0 + �1 �1 + �
= � + �1 �1
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
23
di mana � = �0 + �. Jadi, jika asumsi 1 tidak dipenuhi, akan terlihat bahwa
penakfsiran �0 tidak dapat dilakukan. Tetapi karena dalam prakteknya unsur
intersep biasanya tidak begitu penting, maka perhatian terhadap hal itu tidak
terlalu banyak. Untuk sebagian besar tujuan, besaran yang berarti adalah koefisien
kemiringan �1, yang tetap tidak terpengaruh, bahkan jika asumsi 1 tidak
terpenuhi.
Pelanggaran terhadap asumsi 2 dapat juga disebut heterokedastisitas. Pada
umumnya, heterokedastisitas sering terjadi pada model-model yang menggunakan
data cross-sectional dari pada data runtun waktu, dimana galat yang bersifat
heterokedastisitas berubah seiring perubahan ke-i. Konsekuensi dari keberadaan
heterokedastisitas adalah pendugaan metode kuadrat terkecil menjadi tak bias dan
konsisten (Gujarati, 2009).
Salah satu cara mendeteksi adanya heterokedastisitas adalah dengan
menggunakan uji Rank Spearman. Berikut langkah-langkahnya :
1. Dapatkan nilai �� dari regresi
2. Dapatkan nilai korelasi Rank Spearman antara |�� | dengan setiap
variabel bebas dalam model dengan rumus
∑ ��2
�� = 1 − 6 �
�
�(�2 − 1)
Dengan �� adalah koefisien korelasi Rank Spearman, �� selisih
ranking, dan n adalah banyaknya data atau pengamatan.
3. Menghitung statistik ���ℎ����� � masing-masing nilai korelasi Rank
Spearman dengan rumus
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
4. Uji Rank Spearman
�ℎ����� =
24
�� √� − 2
�1 − ��2
a. Hipotesis
�0 : tidak ada masalah heterokedastisitas
�1 : ada masalah heterokedastisitas
b. Penentuan tingkat signifikansi (� = 0.05)
c. Kriteria pengujian
�
�
�0 diterima bila −� � , � − 2� ≤ �ℎ���� ≤ � � , � − 2�
�0 ditolak
bila
�
� � , � − 2�
2
�
�ℎ���� < −� � , � − 2�
2
2
atau
�ℎ���� >
2
d. Membuat keputusan.
Masalah heterokedastisitas terkait dengan variansi dan galat yang tidak
konstan. Metode transformasi logaritma sering digunakan untuk mengatasi
masalah heterokedastisitas.
Asumsi 3 mengatakan bahwa tidak ada otokorelasi antar galat. Otokorelasi
adalah suatu keadaan di mana galat dalam periode tertentu, misal �� , berkorelasi
dengan galat dari periode lainnya, misal �� . Salah satu cara mendeteksi adanya
otokorelasi menggunakan uji Durbin-Watson , dengan statistik uji
��
2
∑�
�=2(�� − ��−1 )
�=
∑�
�=1 ��
: nilai galat yang diperoleh dari proses pendugaan metode kuadrat terkecil.
��−1 : nilai galat yang mundur sebanyak satu satuan waktu.
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
25
Setelah mendapatkan nilai d, langkah selanjutnya adalah membandingkan nilai d
dengan nilai-nilai kritis dari �� dan �� dari tabel statistik Durbin-Watson.
Kriteria pengujian:
1. Jika � < �� , maka ada otokorelasi positif
2. Jika � > 4 − ��, maka ada otokorelasi negatif
3. Jika �� < � < 4 − �� , maka tidak ada otokorelasi
4. Jika �� ≤ � ≤ �� atau 4 − �� ≤ � ≤ 4 − ��, maka disebut daerah
keragu-raguan.
Masalah otokorelasi dapat ditangani dengan cara melakukan transformasi
pembedaan pertama pada data. Persamaan �� = �0 + �1 �1� + �� hubungan berlaku
pada saat � , maka harus berlaku juga pada � − 1 sehingga mempunyai persamaan
��−1 = �0 + �1 �1�−1 + ��−1 . Dengan mengurangi persamaan pertama dengan
persamaan kedua, maka diperoleh persamaan �� − ��−1 = �1 (�1� − �1�−1 ) + �� ,
di mana �� = �� − ��−1.
Asumsi 4 menyatakan bahwa pendekatan untuk model regresi adalah bersyarat,
tergantung nilai tertentu dari variabel �. Oleh karena itu, stategi praktis untuk
diikuti adalah dengan mengasumsikan bahwa untuk masalah yang ada nilai
variabel yang menjelaskan adalah tertentu meskipun variabel itu sendiri
PLAGIAT
PLAGIATMERUPAKAN
MERUPAKANTINDAKAN
TINDAKANTIDAK
TIDAKTERPUJI
TERPUJI
26
sebenarnya stokastik (Gujarati, 2009). Jadi, hasil dari analis