regres-linier.ppt 206KB Mar 29 2010 04:55:27 AM
REGRESI
LINIER
Pada umumnya ilmu ekonomi mempelajari
hubungan-hubungan
antara
variabel
ekonomi.
Hubungan-hubungan
yang
fungsional
tersebut
mendefinisikan
ketergantungan
variabel
terikat
pada
variabel-variabel bebas dalam bentuk yang
spesifik --- linear, kuadratik, logaritma,
eksponensial atau hiperbola.
Hubungan antara X dan Y yang berbentuk Y
= f(x) dikatakan “deterministik” (pasti) atau
“nir-stokastik”, jika setiap nilai variabel
bebas (X) terdapat satu nilai variabel terikat
(Y). Sedangkan suatu hubungan antara X
dan Y dikatakan “stokastik”, jika suatu nilai X
Dalam kasus stokastik, setiap nilai X
tertentu, variabel terikat (Y) dapat memiliki
beberapa nilai dengan probabilitas yang
tertentu.
MODEL REGRESI LINIER SEDERHANA
Bentuk paling sederhana dari hubungan
stokastik antara dua variabel X dan Y disebut
Yi
linear”
X i ei
“model
regresi
Alasan penyisipan faktor “e” antara lain
adalah :
a. Karena kesalahan persamaan
b. Karena kesalahan
(kesalahan dalam
dalam
pengukuran
variabel) --- faktor gangguan dapat
mewakili
kesalahan-kesalahan
dalam
pengukuran
baik
dalam
pencatatan,
pengumpulan maupun pengolahan data.
• Karena
ketidaksempurnaan
spesifikasi
bentuk matematis model --- mungkin
persamaan yang sebenarnya bukan linear
atau kesalahan yang berkaitan dengan
Bentuk persamaan di atas merupakan bentuk
jumlah persamaan model.
persamaan yang paling sederhana. Dengan
menambahkan satu atau lebih variabel
bebas, pada model persamaan regresi linear
sederhana akan berbentuk model regresi
linear berganda.
Pembentukan model empiris akan sangat
ditentukan oleh bentuk model teoritis yang
melandasi kerangka analisa serta keberadaan
data / fakta yang terjadi pada keadaan
realitanya. Sejumlah model linear tersaji, baik
linear dalam variabel dan linear dalam
parameter, dapat diturunkan menjadi model
estimasi. Adapun bentuk-bentukalternatif
model terpilih dapat dirumuskan sebagai
berikut : a) Model linear, b) Model Log Linear,
Model
Equation
Slope Lin Log,
Elasticity
c)
Model Log
Lin, d) Model
Model
Reciprocal
Linear
Y = 1 +
2
2(X/Y)
2X
Log
Linear
LnY = 1 +
2LnX
2(X/Y) A2
Log Lin
LnY = 1 + 2X 2(Y)
Lin Log
Y = 1 + 2lnX
A2(X)
2(1/X) 2(1/Y)
2
Reciproc
Y
=
+
(1/X
) -2(1/XY)
1
2
ASUMSI-ASUMSI KLASIK DAN KONSEKUENSINYA
al
2(1/X)
Sejumlah asumsi terhadap penggunaan
pendekatan OLS (Ordinary Least Square)
sebagai salah satu alat estimasi guna
mencapai parameter yang BLUE (Best Linear
Un-biased Estimator) antara lain adalah :
Tetapnya
nilai
varian
(asumsi
homoskedastisitas),
tidak
berkorelasinya
non otokorelasi) dan asumsi normalitas.
ASUMSI HOMOSKEDASTISITAS
Salah satu asumsi klasik dalam model regresi
linear adalah bahwa variabel pengganggu (e)
mempunyai varians yang sama dari satu
pengamatan ke pengamatan lainnya, yakni
sebesar 2. Apabila variansnya berbeda
disebut heteroske-dastisitas. Kondisi hetero
ini timbul apabila kita menggunakan data
cross section.
Cara mengetahui Heteroskedastisitas : (a)
dengan cara me-lihat nature of problem, yaitu
sifat dari masalah yang di-teliti, misalnya
grafik (graphical method) yaitu
menyusun scatter diagram antara :
e denganYˆi
2
i
Atau
antara
dengan
2
i
e denganX i
Apabila scatter diagram itu semakin melebar
atau me-nyempit, maka ada kemungkinan
terjadi
heteroskedasti-sitas,
(c)
melalui
pengujian-pengujian.
Untuk pengujian dapat dilakukan dengan :*)
• Data yang tidak dikelompokkan : Uji Park,
Uji Gleyser dan Uji korelasi jenjang
Spearman
• Data yang dikelompokkan : Uji Chi-Square
*) berdasarkan uji Park, hasil analisis regres
untuk menak-sir model Yi = + Xi + i
diperoleh = 36,429; R2 = 0,845; = 0,0589
dengan Sb = 0,011 dan tb hitung = 5,231;
artinya ada hubungan yang bermakna antara
X dengan Y. Sedangkan berdasarkan hasil
regres untuk menaksir ln e2i dengan
menggunakan ln Xi (model ln e2i = + Xi +
i) diperoleh = - 0,076; R2 = 0,027; =
0,394 dengan Sb = 1,067 dan tb hitung =
0,370; artinya tidak ada hubungan yang
bermakna antara ln e2i dengan ln Xi yang
berarti tidak terjadi heteroskedastisitas dan
model tersebut dapat dipergunakan untuk
Berdasarkan uji Korelasi Rank Spearman
(dapat diterap-kan pada sampel yang
berukuran kecil) dengan rumus2 :
di
rs 1 6 2
n n 1
Yang dikorelasikan adalah antara kesalahan
pengganggu (dalam nilai mutlak) dengan
variabel X. Apabila korelasi jenjang Spearman
mendekati 1 dan mempunyai makna melalui
uji t, maka dianggap ada heteroskedastisitas.
n 2
Uji t untuk korelasi ini adalahrs:
t
1 r
2
s
Diperoleh hasil : t hitung lebih kecil dari pada
t tabel, maka hipotesis yang menyatakan ada
heteroskedastisitas ditolak (Ha ditolak, Ho
diterima).
Untuk regresi berganda, pengujian dilakukan
untuk
sewtiap
X
terhadap
variabel
pengganggu secara terpisah.
Apabila ada pengaruh heteroskedastisitas, di
mana varians berbeda, maka model itu akan :
• Mempunyai koefisien regresi yang masih
BLUE
• Varians b tidak lagi minimum
• Kemampuan prediksi rendah
• Terjadi misleading, misalnya t, F, R tinggi
tapi heteros-kedastis atau t, F dan R
rendah
yang
jugabisa
heteroske-dastis.
Jalan
keluar
yang
ditempuh apabila ada
heteroske-dastis
transformasi model.
adalah
melakukan
OTOKORELASI
Dalam suatu model regresi asumsi yang
harus
dipenuhi
adalah
tidak
adanya
oyokorelasi antara kesalahan peng-ganggu
periode t dengan kesalahan pengganggu
pada pe-riode (t – 1) atau tidak ada serial
korelasi.
Sebab-sebab terjadinya otokorelasi antara
lain adalah : (1) kelambanan : besar
kemungkinan terjadi pada data histo-ris.
Perubahan situasi ekonomi biasanya tidak
terjadi de-ngan segera, biasa lamban, dan
tergantng besarnya penga-ruh variabelvariabel yang ikut menentukan panjangnya si-
variabel penjelas); (3) kesalahan spesifikasi
bentuk model matematis yang dipilih
sebagai model empiris : misalnya yang
seharusnya model itu non linier, tetapi
dipaksa
secara
linier,
maka
akan
menimbulkan otokorelasi pada kesa-lahan
pengganggu; (4) pengaruh time lag :
apabila variabel dependen tidak hanya
dipengaruhi oleh variabel indepen-den, tetapi
juga oleh variabel dependen pada periode
sebe-lumnya.
Pengujian Nonotokorelasi
Cara untuk menguji apakah model tersebut
bersifat
otoko-relasi
atau
tidak
dapat
Untuk mendeteksi adanya otokorelasi Durbin –
Watson mempergunakan rumus :
2
e e
d
e
t
t 1
t 2
2
t
t 1
Cara pengujian : (a) Uji otokorelasi positif, (b)
Uji otokore-lasi negatif, (c) Uji otokorelasi dua
sisi.
Uji otokorelasi positif
Durbin – Watson menyatakan bahwa apabila
angka statis-tik d 0, maka ada otokorelasi
positif.
Ho : Tidak otokorelasi positif
Ha : Ada otokorelasi positif
Di mana :
d < dL berarti d adalah bermakna (signifikan)
sehingga menerima hipotesis alternatif yang
menyatakan ada otokorelasi positif.
d > dU berarti d adalah tidak bermakna (tidak
signifikan)
sehingga menerima hipotesis
nol yang menyatakan
tidak ada otokorelasi
positif.
Uji otokorelasi negatif
Pada kasus otokorelasi negatif , pengujiannya
adalah :
d > 4 – dL berarti d adalah bermakna
(signifikan) sehingga
menerima hipotesis
alternatif yang menyatakan ada
otokorelasi
negatif.
d < 4 – dU berarti d adalah tidak bermakna
(tidak signifikan) sehingga menerima
hipotesis nol yang
menyatakan tidak ada
otokorelasi negatif.
4 – dU < d < 4 – dL berarti pengujian tidak
dapat membe- rikan keputusan (inconclusive
Uji otokorelasi dua sisi
Pada kasus otokorelasi uji dua sisi ,
pengujiannya adalah :
d < dL berarti d adalah bermakna (signifikan)
sehingga
me- nerima
hipotesis
yang
menyatakan ada otokorelasi.
d > 4 – dL berarti d adalah bermakna
(signifikan) sehingga
menerima hipotesis
yang menyatakan ada otokore- lasi.
dU < d < 4 – dU berarti ?????
MULTIKOLINEARITAS
Multikolinearitas atau kolinearitas ganda
merupakan suatu keadaan di mana hubungan
linier yang sempurna antara variabel-variabel
penjelas atau variabel bebas.
Untuk mendeteksi atau mengetahui suatu
model regres mempunyai kolinearitas ganda
1)
Berdasarkan
atau
tidak dapat tanda-tanda
dilakukan : : (a) koefisien
determinasi gan-da tinggi; (b) koefisien
korelasi tinggi; (c) nilai F hitung tinggi; (d)
tidak satupun (sedikit sekali) variabelvariabel bebasnya memiliki uji t yang
siginifikan.
2) Jika hanya ada dua variabel bebas, apabila
model tersebut mempunyai lebih dari dua
variabel bebas, dan diperolej korelasi
antara dua variabel rendah tidak berati
model tersebut tidak ada kolinearitas
ganda.
3. Apabila nilai determinan dari (X – X) adalah
sangat kecil, dapat dijadikan petunjuk
terjadinya kolinearitas ganda dan apabila
sama dengan nol, berati kolinearitas ganda
itu adalah sempurna.
4. Apbila koefisien determinasi gandanya
tinggi,
tetapi
koefisien
determinasi
partialnya rendah dibandingkan dengan
koefisien determinasi simultannya, berarti
ada kolineraitas ganda.
Akibat adanya multikolinearitas antara lain
adalah :
1. Dengan
semakin
meningkatnya
kolinearitas,
probabili-tas
melakukan
kesalahan tipe 2 pada hipotesis (meneri-ma
hipotesis yang pada hakekatnya salah)
akan semakin besar.
2. Pengujian masing-masing koefisien regresi
tidak satupun yang bermakna --- atau
hanya
satu
yang
bermakna
(walaupun
Terapi
yang
dapat
digunakan
dengan
adanya
koefisien
determinasinya
tinggi)
multikoli-nearitas antara lain adalah :
1. Mengadakan penggabungan antara data
cross-section dan time series, yang disebut
dengan pooling data
2. Mengeluarkan salah satu variabel bebasnya
dari model.
3. Mentransformasi variabel yang ada dalam
model.
4. Menambah data baru atau memperbesar
ukukran sampel.
LINIER
Pada umumnya ilmu ekonomi mempelajari
hubungan-hubungan
antara
variabel
ekonomi.
Hubungan-hubungan
yang
fungsional
tersebut
mendefinisikan
ketergantungan
variabel
terikat
pada
variabel-variabel bebas dalam bentuk yang
spesifik --- linear, kuadratik, logaritma,
eksponensial atau hiperbola.
Hubungan antara X dan Y yang berbentuk Y
= f(x) dikatakan “deterministik” (pasti) atau
“nir-stokastik”, jika setiap nilai variabel
bebas (X) terdapat satu nilai variabel terikat
(Y). Sedangkan suatu hubungan antara X
dan Y dikatakan “stokastik”, jika suatu nilai X
Dalam kasus stokastik, setiap nilai X
tertentu, variabel terikat (Y) dapat memiliki
beberapa nilai dengan probabilitas yang
tertentu.
MODEL REGRESI LINIER SEDERHANA
Bentuk paling sederhana dari hubungan
stokastik antara dua variabel X dan Y disebut
Yi
linear”
X i ei
“model
regresi
Alasan penyisipan faktor “e” antara lain
adalah :
a. Karena kesalahan persamaan
b. Karena kesalahan
(kesalahan dalam
dalam
pengukuran
variabel) --- faktor gangguan dapat
mewakili
kesalahan-kesalahan
dalam
pengukuran
baik
dalam
pencatatan,
pengumpulan maupun pengolahan data.
• Karena
ketidaksempurnaan
spesifikasi
bentuk matematis model --- mungkin
persamaan yang sebenarnya bukan linear
atau kesalahan yang berkaitan dengan
Bentuk persamaan di atas merupakan bentuk
jumlah persamaan model.
persamaan yang paling sederhana. Dengan
menambahkan satu atau lebih variabel
bebas, pada model persamaan regresi linear
sederhana akan berbentuk model regresi
linear berganda.
Pembentukan model empiris akan sangat
ditentukan oleh bentuk model teoritis yang
melandasi kerangka analisa serta keberadaan
data / fakta yang terjadi pada keadaan
realitanya. Sejumlah model linear tersaji, baik
linear dalam variabel dan linear dalam
parameter, dapat diturunkan menjadi model
estimasi. Adapun bentuk-bentukalternatif
model terpilih dapat dirumuskan sebagai
berikut : a) Model linear, b) Model Log Linear,
Model
Equation
Slope Lin Log,
Elasticity
c)
Model Log
Lin, d) Model
Model
Reciprocal
Linear
Y = 1 +
2
2(X/Y)
2X
Log
Linear
LnY = 1 +
2LnX
2(X/Y) A2
Log Lin
LnY = 1 + 2X 2(Y)
Lin Log
Y = 1 + 2lnX
A2(X)
2(1/X) 2(1/Y)
2
Reciproc
Y
=
+
(1/X
) -2(1/XY)
1
2
ASUMSI-ASUMSI KLASIK DAN KONSEKUENSINYA
al
2(1/X)
Sejumlah asumsi terhadap penggunaan
pendekatan OLS (Ordinary Least Square)
sebagai salah satu alat estimasi guna
mencapai parameter yang BLUE (Best Linear
Un-biased Estimator) antara lain adalah :
Tetapnya
nilai
varian
(asumsi
homoskedastisitas),
tidak
berkorelasinya
non otokorelasi) dan asumsi normalitas.
ASUMSI HOMOSKEDASTISITAS
Salah satu asumsi klasik dalam model regresi
linear adalah bahwa variabel pengganggu (e)
mempunyai varians yang sama dari satu
pengamatan ke pengamatan lainnya, yakni
sebesar 2. Apabila variansnya berbeda
disebut heteroske-dastisitas. Kondisi hetero
ini timbul apabila kita menggunakan data
cross section.
Cara mengetahui Heteroskedastisitas : (a)
dengan cara me-lihat nature of problem, yaitu
sifat dari masalah yang di-teliti, misalnya
grafik (graphical method) yaitu
menyusun scatter diagram antara :
e denganYˆi
2
i
Atau
antara
dengan
2
i
e denganX i
Apabila scatter diagram itu semakin melebar
atau me-nyempit, maka ada kemungkinan
terjadi
heteroskedasti-sitas,
(c)
melalui
pengujian-pengujian.
Untuk pengujian dapat dilakukan dengan :*)
• Data yang tidak dikelompokkan : Uji Park,
Uji Gleyser dan Uji korelasi jenjang
Spearman
• Data yang dikelompokkan : Uji Chi-Square
*) berdasarkan uji Park, hasil analisis regres
untuk menak-sir model Yi = + Xi + i
diperoleh = 36,429; R2 = 0,845; = 0,0589
dengan Sb = 0,011 dan tb hitung = 5,231;
artinya ada hubungan yang bermakna antara
X dengan Y. Sedangkan berdasarkan hasil
regres untuk menaksir ln e2i dengan
menggunakan ln Xi (model ln e2i = + Xi +
i) diperoleh = - 0,076; R2 = 0,027; =
0,394 dengan Sb = 1,067 dan tb hitung =
0,370; artinya tidak ada hubungan yang
bermakna antara ln e2i dengan ln Xi yang
berarti tidak terjadi heteroskedastisitas dan
model tersebut dapat dipergunakan untuk
Berdasarkan uji Korelasi Rank Spearman
(dapat diterap-kan pada sampel yang
berukuran kecil) dengan rumus2 :
di
rs 1 6 2
n n 1
Yang dikorelasikan adalah antara kesalahan
pengganggu (dalam nilai mutlak) dengan
variabel X. Apabila korelasi jenjang Spearman
mendekati 1 dan mempunyai makna melalui
uji t, maka dianggap ada heteroskedastisitas.
n 2
Uji t untuk korelasi ini adalahrs:
t
1 r
2
s
Diperoleh hasil : t hitung lebih kecil dari pada
t tabel, maka hipotesis yang menyatakan ada
heteroskedastisitas ditolak (Ha ditolak, Ho
diterima).
Untuk regresi berganda, pengujian dilakukan
untuk
sewtiap
X
terhadap
variabel
pengganggu secara terpisah.
Apabila ada pengaruh heteroskedastisitas, di
mana varians berbeda, maka model itu akan :
• Mempunyai koefisien regresi yang masih
BLUE
• Varians b tidak lagi minimum
• Kemampuan prediksi rendah
• Terjadi misleading, misalnya t, F, R tinggi
tapi heteros-kedastis atau t, F dan R
rendah
yang
jugabisa
heteroske-dastis.
Jalan
keluar
yang
ditempuh apabila ada
heteroske-dastis
transformasi model.
adalah
melakukan
OTOKORELASI
Dalam suatu model regresi asumsi yang
harus
dipenuhi
adalah
tidak
adanya
oyokorelasi antara kesalahan peng-ganggu
periode t dengan kesalahan pengganggu
pada pe-riode (t – 1) atau tidak ada serial
korelasi.
Sebab-sebab terjadinya otokorelasi antara
lain adalah : (1) kelambanan : besar
kemungkinan terjadi pada data histo-ris.
Perubahan situasi ekonomi biasanya tidak
terjadi de-ngan segera, biasa lamban, dan
tergantng besarnya penga-ruh variabelvariabel yang ikut menentukan panjangnya si-
variabel penjelas); (3) kesalahan spesifikasi
bentuk model matematis yang dipilih
sebagai model empiris : misalnya yang
seharusnya model itu non linier, tetapi
dipaksa
secara
linier,
maka
akan
menimbulkan otokorelasi pada kesa-lahan
pengganggu; (4) pengaruh time lag :
apabila variabel dependen tidak hanya
dipengaruhi oleh variabel indepen-den, tetapi
juga oleh variabel dependen pada periode
sebe-lumnya.
Pengujian Nonotokorelasi
Cara untuk menguji apakah model tersebut
bersifat
otoko-relasi
atau
tidak
dapat
Untuk mendeteksi adanya otokorelasi Durbin –
Watson mempergunakan rumus :
2
e e
d
e
t
t 1
t 2
2
t
t 1
Cara pengujian : (a) Uji otokorelasi positif, (b)
Uji otokore-lasi negatif, (c) Uji otokorelasi dua
sisi.
Uji otokorelasi positif
Durbin – Watson menyatakan bahwa apabila
angka statis-tik d 0, maka ada otokorelasi
positif.
Ho : Tidak otokorelasi positif
Ha : Ada otokorelasi positif
Di mana :
d < dL berarti d adalah bermakna (signifikan)
sehingga menerima hipotesis alternatif yang
menyatakan ada otokorelasi positif.
d > dU berarti d adalah tidak bermakna (tidak
signifikan)
sehingga menerima hipotesis
nol yang menyatakan
tidak ada otokorelasi
positif.
Uji otokorelasi negatif
Pada kasus otokorelasi negatif , pengujiannya
adalah :
d > 4 – dL berarti d adalah bermakna
(signifikan) sehingga
menerima hipotesis
alternatif yang menyatakan ada
otokorelasi
negatif.
d < 4 – dU berarti d adalah tidak bermakna
(tidak signifikan) sehingga menerima
hipotesis nol yang
menyatakan tidak ada
otokorelasi negatif.
4 – dU < d < 4 – dL berarti pengujian tidak
dapat membe- rikan keputusan (inconclusive
Uji otokorelasi dua sisi
Pada kasus otokorelasi uji dua sisi ,
pengujiannya adalah :
d < dL berarti d adalah bermakna (signifikan)
sehingga
me- nerima
hipotesis
yang
menyatakan ada otokorelasi.
d > 4 – dL berarti d adalah bermakna
(signifikan) sehingga
menerima hipotesis
yang menyatakan ada otokore- lasi.
dU < d < 4 – dU berarti ?????
MULTIKOLINEARITAS
Multikolinearitas atau kolinearitas ganda
merupakan suatu keadaan di mana hubungan
linier yang sempurna antara variabel-variabel
penjelas atau variabel bebas.
Untuk mendeteksi atau mengetahui suatu
model regres mempunyai kolinearitas ganda
1)
Berdasarkan
atau
tidak dapat tanda-tanda
dilakukan : : (a) koefisien
determinasi gan-da tinggi; (b) koefisien
korelasi tinggi; (c) nilai F hitung tinggi; (d)
tidak satupun (sedikit sekali) variabelvariabel bebasnya memiliki uji t yang
siginifikan.
2) Jika hanya ada dua variabel bebas, apabila
model tersebut mempunyai lebih dari dua
variabel bebas, dan diperolej korelasi
antara dua variabel rendah tidak berati
model tersebut tidak ada kolinearitas
ganda.
3. Apabila nilai determinan dari (X – X) adalah
sangat kecil, dapat dijadikan petunjuk
terjadinya kolinearitas ganda dan apabila
sama dengan nol, berati kolinearitas ganda
itu adalah sempurna.
4. Apbila koefisien determinasi gandanya
tinggi,
tetapi
koefisien
determinasi
partialnya rendah dibandingkan dengan
koefisien determinasi simultannya, berarti
ada kolineraitas ganda.
Akibat adanya multikolinearitas antara lain
adalah :
1. Dengan
semakin
meningkatnya
kolinearitas,
probabili-tas
melakukan
kesalahan tipe 2 pada hipotesis (meneri-ma
hipotesis yang pada hakekatnya salah)
akan semakin besar.
2. Pengujian masing-masing koefisien regresi
tidak satupun yang bermakna --- atau
hanya
satu
yang
bermakna
(walaupun
Terapi
yang
dapat
digunakan
dengan
adanya
koefisien
determinasinya
tinggi)
multikoli-nearitas antara lain adalah :
1. Mengadakan penggabungan antara data
cross-section dan time series, yang disebut
dengan pooling data
2. Mengeluarkan salah satu variabel bebasnya
dari model.
3. Mentransformasi variabel yang ada dalam
model.
4. Menambah data baru atau memperbesar
ukukran sampel.