Ketakstabilan Parameter Dalam Regresi Quantile
KETAKSTABILAN PARAMETER DALAM REGRESI
QUANTILE
TESIS
Oleh
RUSLY SIAGIAN/MT
077021070
SEKOLAH PASCASARJANA
UNIVERSITAS SUMATERA UTARA
MEDAN
2009
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
KETAKSTABILAN PARAMETER DALAM REGRESI
QUANTILE
TESIS
Untuk Memperoleh Gelar Magister Sains dalam
Program Studi Magister Matematika pada Sekolah Pascasarjana
Universitas Sumatera Utara
Oleh
RUSLY SIAGIAN/MT
077021070
SEKOLAH PASCASARJANA
UNIVERSITAS SUMATERA UTARA
MEDAN
2009
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
Judul Tesis
Nama Mahasiswa
Nomor Pokok
Program Studi
:
:
:
:
KETAKSTABILAN PARAMETER DALAM REGRESI QUANTILE
Rusly Siagian
077021070
Matematika
Menyetujui,
Komisi Pembimbing
(Dr. Sutarman, M.Sc)
Ketua
Ketua Program Studi
(Prof. Dr. Herman Mawengkang, M.Sc)
Tanggal lulus:
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
(Dr. Tulus, M.Si)
Anggota
Direktur
(Prof. Dr. Ir. T.Chairun Nisa. B,M.Sc)
Telah diuji pada
PANITIA PENGUJI TESIS
Ketua
:
Dr. Sutarman, M.Sc
Anggota
:
Dr. Tulus, M.Si
Dr. Saib Suwilo, M.Sc
Drs. Open Darnius , M.Sc
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
ABSTRAK
Thesis ini menganalisis pengujian tingkah laku untuk perubahan struktur berdasarkan estimasi regresi quantile. Penelitian ini merupakan kasus perubahan estimasi pada konjungsi dengan distribusi bebas dan identik (iid) dan error yang tidak
iid. Selanjutnya membandingkan hipotesis null dan alternatif pada model, dimana
hipotesis null dalam keadaan stabil, ketika hipotesis alternatif mengijinkan koefisien regresi berubah pada respon. Pengujian menyebabkan peningkatan fungsi
objektif dan kesalahan dari gambar ketika kendala yang tidak pengting dibuat.
Sebagai contoh juga diajukan dengan data real yang berkorelasi serial dan mempelajari Monte Carlo untuk menghitung error yang tidak normal dan tidak iid,
kemudian menganalisis tingkah laku pengujian.
Kata kunci: uji rasio kemungkinan, regresi kuartil, ketangguhan, perubahan struktur
i
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
ABSTRACT
The paper analyzes the behavior of a test for structural break based on quantile
regression estimates. It considers the case of an estimated break in conjunction
with independent and identically distributed (i.i.d.) and non-i.i.d. errors. It
compares the null and the alternative models, where the null imposes stability,
while the alternative allows the regression coefficients to change in response to the
break. The test relies on the increase of the objective function and the worsening
of the fit when unnecessary constraints are imposed. An example with serially
correlated real data and a Monte Carlo study taking into account non-normal and
non-i.i.d. errors analyze the behavior of the test.
Keyword: likelihood ratio test, quantile regression, robustnees, structural
ii
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
KATA PENGANTAR
Penulis mengucapkan puji syukur kepada Tuhan Yang Maha Esa atas berkat
dan karuniaNya sehingga penulis tesis yang berjudul ”Ketakstabilan Parameter dalam Regresi Quantile” dapat dirampungkan.
Tesis ini merupakan tugas akhir pada Sekolah Pascasarjana Program Studi
Magister Matematika, Universitas Sumatera Utara. Pada kesempatan ini, penulis
menyampaikan ucapan terima kasih dan penghargaan yang sebesar-besarnya kepada :
Gubernus Sumatera Utara dan Kepala Bappeda Provinsi Sumatera Utara beserta stafnya yang telah memberikan beasiswa kepada penulis serta
Kepala Dinas Pendidikan Kota Medan yang telah memberikan izin kepada
penulis untuk mengikuti perkuliahan di Sekolah Pascasarjana Program Studi Magister Matematika, Universitas Sumatera Utara.
Prof. Dr. Chairuddin P. Lubis, DTM&H, Sp. Ak. Selaku Rektor
Universitas Sumatera Utara dan Prof. Dr. Ir. T. Chairun Nisa B, M.Sc selaku Direktur Sekolah Pascasarjana Universitas Sumatera utara yang telah memberikan kesempatan kepada penulis untuk mengikuti perkuliahan pada Sekolah
Pascasarjana pada Program Studi Magister Matematika Universitas Sumatera
Utara Medan.
Prof. Dr. Herman Mawengkang, selaku Ketua Program Studi Matematika SPs USU yang dengan penuh kesabaran memotivasi dan membimbing penulis
serta memberikan buku dan jurnal-jurnal yang berkaitan dengan penelitian yang
penulis lakukan sehingga tesis ini dapat selesai.
iii
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
Dr. Sutarman, MSc, selaku pembimbing I yang dengan penuh kesabaran
memotivasi dan membimbing penulis untuk penelitian yang penulis lakukan sehingga tesis ini dapat selesai.
Dr. Tulus, MSi, selaku pembimbing II yang dengan penuh kesabaran
memberikan dukungan moral, kritik dan saran sehingga penulis dapat menyelesaikan tesis ini.
Dr. Saib Suwilo, MSc, selaku pembanding dan Sekretaris Program Studi
Matematika SPs USU dengan penuh kesabaran memberikan dukungan moral,
kritik dan saran sehingga penulis dapar menyelesaikan tesis ini.
Drs. Open Darnius, MSc selaku pembanding yang telah banyak memberikan saran, masukan dan arahan yang membangun terhadap kesempurnaan
penulisan tesis ini.
Seluruh staf Pengajar pada SPs USU yang dengan sungguh-sungguh
telah berusaha memberikan ilmunya kepada penulis selama mengikuti perkuliahan.
Seluruh Staf Administrasi SPs USU, teristimewa Sdri Misiani, S,Si
dan Sdri Sri Rayani Tanjung, S.Si yang telah memberikan bantuan dan pelayanan yang baik kepada penulis.
Rekan-rekan seperjuangan, mahasiswa angkatan ketiga, atas kerja
sama, kebersamaan dan bantuannya dalam mengatasi berbagai masalah selama
perkuliahan berlangsung.
Secara khusus penulis ingin menyampaikan terima kasih dan saying yang
iv
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
mendalam kepada suami tercinta Tupal Pangaribuan, SE dan ananda tersayang Junita Pangaribuan, Meri Pangaribuan dan Hasahatan Agung
Parlinggoman Pangaribuan yang senantiasa mendoakan, mendorong dan melayani
dengan penuh kasih, sabar serta memberikan pengorbanan yang tidak terbatas
kepada penulis selama mengikuti perkuliahan.
Pada kesempatan ini penulis menyampaikan terima kasih kepada seluruh
Keluarga Besar SMA Negeri 15 Medan yang terus mendoakan dan memotivasi serta membantu penulis selama mengikuti pendidikan di SPs Program Studi
Magister Matematika Universitas Sumatera Utara, Medan.
Semoga tesis ini bermanfaat bagi para pembaca dan pihak-pihak yang memerlukannya.
Medan, Mei 2009
Penulis,
Rusly Siagian
v
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
RIWAYAT HIDUP
Rusly Siagian, dilahirkan di Gomparsigombo Kabupaten Tobasa pada tanggal 15 Oktober 1964, merupakan anak ke tujuh dan sembilan orang bersaudara,
putrid dari Alm. St. Ojak Siagian dan Torsi br. Hutagaol almarhumah. Menamatkan Pendidikan SD Negeri I Simare-mare pada tahun 1976, SMP Negeri XVII
Kodya Medan pada tahun 1980 dan SMA Laboratory School IKIP Medan 1983,
tahun 1984 diterima Kuliah di IKIP Medan Jurusan Matematika Program D3
dan menamatkan kuliah tahun 1988. Pada tanggal 30 Juni 1988 dengan nomor
03718/105/01/C1/88.3. menjadi Calon Pegawai Negeri Sipil (CPNS) di SMA
Negeri Simamora Nabolak Siborong-borong Kabupaten Tapanuli Utara. Menjadi
Pegawai Negeri Sipil (PNS) pada tahun 1990 dengan nomor 0310/15/C1/90.3.
Tahun 1991 pindah tugas menjadi guru Negeri diperbantukan pada SMA Swasta
Budi Luhur Medan. Penulis menikah pada tanggal 26 e September 1992
vi
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
DAFTAR ISI
Halaman
ABSTRAK . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
i
ABSTRACT . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
ii
KATA PENGANTAR . . . . . . . . . . . . . . . . . . . . . . . . .
iii
RIWAYAT HIDUP . . . . . . . . . . . . . . . . . . . . . . . . . .
vi
DAFTAR ISI . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
vii
BAB 1 PENDAHULUAN . . . . . . . . . . . . . . . . . . . . . . .
1
1.1 Latar Belakang . . . . . . . . . . . . . . . . . . . . . .
1
1.2 Perumusan Masalah . . . . . . . . . . . . . . . . . . . .
4
1.3 Tujuan Penelitian . . . . . . . . . . . . . . . . . . . . .
4
1.4 Kontribusi Penelitian . . . . . . . . . . . . . . . . . . .
4
1.5 Metodologi Penelitian . . . . . . . . . . . . . . . . . . .
5
BAB 2 TINJAUAN PUSTAKA . . . . . . . . . . . . . . . . . . . .
6
BAB 3 LANDASAN TEORI . . . . . . . . . . . . . . . . . . . . .
10
3.1 Metode Kuadrat Terkecil . . . . . . . . . . . . . . . . .
10
3.2 Ketakstabilan Parameter . . . . . . . . . . . . . . . . .
15
BAB 4 KETAKSTABILAN PARAMETER DALAM REGRESI QUANTILE . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
23
4.1 Regresi Quantile
. . . . . . . . . . . . . . . . . . . . .
23
4.2 Contoh Data . . . . . . . . . . . . . . . . . . . . . . .
29
4.3 Eksperimen Monte Carlo . . . . . . . . . . . . . . . . .
32
vii
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
4.4 Hasil Simulasi . . . . . . . . . . . . . . . . . . . . . . .
34
BAB 5 KESIMPULAN . . . . . . . . . . . . . . . . . . . . . . . .
42
DAFTAR PUSTAKA . . . . . . . . . . . . . . . . . . . . . . . . .
43
viii
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
BAB 1
PENDAHULUAN
1.1 Latar Belakang
Dalam regresi linear terdapat beberapa metode estimasi parameter. Satu
diantaranya adalah Metode Kuadrat Terkecil. Metode ini paling sering digunakan karena mudah dalam perhitungan. Namun demikian, metode ini sangat
dipengaruhi oleh kehadiran outlier. Outlier dapat menyebabkan hasil estimasi
parameter menjadi tidak stabil. Outlier biasanya terjadi akibat kesalahan memasukkan data, kesalahan catatan atau transmisi, dan kesalahan penempatan dari
titik desimal (Rousseeuw, 1987).
Salah satu alat analisis statistik yang dapat menyelesaikan masalah tersebut adalah regresi quantile. Regresi quantile ini merupakan metode yang berguna
sekali dalam mengestimasi parameter, metode ini tidak mudah terpengaruh oleh
kehadiran outlier sehingga outlier menjauh dan tidak mengganggu kestabilan data yang diperoleh. Metode ini adalah alat yang penting untuk menganalisa data
yang terkontaminasi oleh kehadiran outlier. Selain itu, metode ini dapat memberikan hasil yang tepat dan stabil pada kehadiran outlier serta dapat membatasi
pengaruh dari outlier (Furno, 2007).
Model yang stabil merupakan hal yang penting untuk prediksi dan inferens.
Karena model parametrik secara lengkap menggambarkan parameternya. Model
yang stabil sama dengan parameternya yang stabil. Model yang tidak stabil
secara sederhana mungkin disebabkan oleh kelalaian variabel yang penting atau
1
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
2
beberapa jenis pertukaran (Hansen, 1992).
Penelitian tentang regresi quantile telah difokuskan pada interpretabilitas
dari estimasi regresi quantile berdasarkan spesifikasi yang salah dan pada pengujian prosedur untuk memeriksa spesifikasi yang benar dari persamaan yang diestimasi (Furno, 2007). Kim dan White (2003) mendefinisikan konsistensi estimator
regresi quantile pada batasan klas dari model yang salah dispesifikasi, sehingga
dipenuhi asumsi linearitas. Kim dan White juga mendefinisikan pengujian spesifikasi berdasarkan informasi persamaan matriks. Sebagai alternatif, pengujian
spesifikasi dapat dibangun pada residual. Dalam hal ini, perbandingan antara
model parametrik dan nonparametrik. Hal ini membutuhkan teknik smoothing
untuk menghitung regresi quantile nonparametrik (Koenker dan Machado, 1999).
Selanjutnya Angrist et al (2006) menunjukkan bahwa regresi quantile merupakan perkiraan linear terbaik untuk memilih quantile bersyarat pada masalah
spesifikasi yang salah menggunakan fungsi kerugian kesalahan kuadrat rata-rata
terboboti, hanya metode kuadrat terkecil yang menyediakan rata-rata kesalahan
kuadrat terbaik dari perkiraan linear untuk rata-rata bersyarat berdasarkan spesifikasi yang salah. Kemudian, Angrist et al (2006) mendefinisikan distribusi
asimptot dari estimator regresi quantile pada spesifikasi yang salah. Dikarenakan
spesifikasi yang salah tersebut, tentunya pengujian prosedur tidak berdistribusi
bebas, daerah kepercayaan dapat ditemukan dengan pengambilan sampel ulang
melalui bootstrap. Pada implementasi yang empiris, dijelaskan aturan yang sangat menonjol untuk sinyal pada sruktur yang berubah. Regresi quantile mengestimasi pada quantile yang dipilih melebihi periode sampel yang berbeda dan perlu diperhatikan pada interval kepercayaan dari persamaan yang diestimasi tidak
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
3
lengkap dan tidak mempunyai daerah yang umum dan hal ini merupakan bukti
dari struktur yang berubah.
Sama halnya dengan Bai (1995) menyediakan konsistensi dari estimator regresi quantile dalam kehadiran struktur yang berubah, terkecuali pada masalah
estimasi yang berubah untuk error yang independen dan identik maupun error
yang tidak independen dan identik. Bai mengijinkan pengujian resmi untuk struktur yang berubah berdasarkan estimasi regresi quantile, dan mengembangkan
aturan yang sangat menonjol terdiri dalam inspeksi secara grafik dari interval
kepercayaan yang tidak lengkap. Kemudian menganalisis model dengan hipotesis
nol dan alternatif. Hipotesis nol dalam keadaan stabil ketika hipotesis alternatif
mengijinkan koefisien regresi berubah pada responnya. Berdasarkan hipotesis
nol yang diestimasi hanya satu persamaan pada seluruh sampel. Berdasarkan
hipotesis alternatif diestimasi dua persamaan yang berbeda yang satu sebelum
mengalami perubahan dan yang satu setelah mengalami perubahan. Kemudian
dibandingkan fungsi objektif berdasarkan hipotesis nol dan alternatif, dan pengujian menunjukkan peningkatan fungsi objektif serta membuat keadaan gambar
menjadi lebih buruk ketika kendala tidak penting sudah ditentukan.
Perkembangan dari pengujian untuk perubahan struktur pada regresi quantile menyediakan alat yang sangat fleksibel untuk menyelidiki tingkah laku dari
model tidak hanya pada pusat distribusi bersyarat tetapi juga pada ekornya. Sehingga untuk menganalisis kehadiran dari perubahan bisa dilakukan lebih dari
satu titik yaitu pembuktian jika perubahan mempunyai pengaruh yang konstan
pada quantile atau jika perubahan tersebut berubah berdasarkan tingkatan yang
dipilih dari variabel terikat. Mungkin timbulnya permasalahan terjadi pada pen-
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
4
garuh perubahan di pusat distribusi bersyarat membatalkan hak untuk pengaruh
yang berlawanan dari perubahan pada ekor distribusi dan atau pada sub sampel
dari model tanpa kendala. Selanjutnya regresi quantile yang tegar berkenaan
dengan nilai yang ganjil pada variabel terikat diijinkan untuk menghilangkan
berturut-turut outlier dan perubahan yang biasanya dianggap sendiri, sehingga
mencegah kesimpulan yang tidak benar (Furno, 2007).
1.2 Perumusan Masalah
Adapun permasalahan dalam penelitian ini adalah bagaimana tatacara mengestimasi ketakstabilan parameter dalam regresi quantile.
1.3 Tujuan Penelitian
Adapun tujuan dalam penelitian ini adalah untuk menganalisis tingkah laku
dari pengujian pada perubahan struktur konjungsi dengan distribusi independen
dan identik dan error yang tidak berdistribusi independen dan identik berdasarkan
estimasi regresi quantile. Selanjutnya penelitian ini juga akan membandingkan
hasil estimasi ini dengan metode kuadrat terkecil.
1.4 Kontribusi Penelitian
Adapun kontribusi dalam penelitian ini adalah dapat membantu peneliti
untuk menggunakan regresi quantile sebagai salah satu alternatif alat analisis yang
bisa digunakan untuk mengestimasi ketakstabilan parameter yang disebabkan oleh
perubahan struktur atau outlier.
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
5
1.5 Metodologi Penelitian
Penelitian ini bersifat literatur dan dilakukan dengan mengumpulkan informasi dari referensi beberapa buku dan jurnal. Penelitian ini pada awalnya memperkenalkan tentang analisis regresi dengan metode kuadrat terkecil, dilanjutkan
dengan regresi quantile dan ketakstabilan parameter. Kemudian akan dijelaskan
ketakstabilan parameter dalam regresi quantile yang disertai contoh kasus. Lalu
akan diperlihatkan perbandingan hasil antara metode kuadrat terkecil dengan
regresi quantile dan pengambilan kesimpulan.
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
BAB 2
TINJAUAN PUSTAKA
Referensi pengujian pada perubahan struktur berdasarkan metode kuadrat
terkecil banyak telah diteliti, diantaranya adalah Huskova dan Picek (2005) mempresentasikan pengujian perubahan struktur berubah berdasarkan bootsrap estimator M. Pendekatannya tidak meluas sampai ke regresi quantile. Gagliardini
et al (2005) mendiskusikan pengujian ketegaran dari perubahan struktur yang
asimptotnya ekivalen dengan uji Wald, perkalian Lagrange dan Likelihood ratio
tetapi tidak memfokuskan pada regresi quantile.
Furno (2006) mendefinisikan pengujian resmi terhadap perubahan struktur dengan menggunakan regresi quantile. Dengan implementasi pengujian yang
berulang-ulang maka akan dapat mengontrol kestabilan keduanya terhadap waktu
dan berkenaan dengan variabel bebasnya pada persamaan pendidikan, sehingga
dapat dicari penjelasan yang mendalam dari perubahan. Ditemukan bahwa ketika
model kembali ke pendidikan di Italy lebih dari satu persamaan, dengan membagi
sampel dalam kategori jenis kelamin dan daerahnya. Ternyata estimasinya menjadi lebih stabil, secara khusus regresi menggambarkan gaji wanita. Jenis kelamin
dan daerah memisahkan kenaikan dari perubahan masalah koefisien.
Adapun model regresi linear standar adalah sebagai berikut: Yt = Xt β + εt
dimana Yt adalah variabel terikat, Xt adalah matriks untuk k variabel bebas
dan εt adalah residu yang bebas dan identik mempunyai fungsi kepadatan sangat
positif dan kontinu pada median dalam ukuran sampel n. Pengujian perubahan
struktur berdasarkan estimasi metode kuadrat terkecil (Chow, 1960) didefinisikan
6
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
7
sebagai berikut:
C=
˜−u
ˆ0u
ˆ]/d1
[˜
u0 u
u
ˆ0u
ˆ/d2
(2.1)
Bentuk u
˜u
˜ adalah jumlah kuadrat residu dari model dengan kendala, yang
menentukan stabilitas dari koefisien regresi dengan pengestimasian model pada seluruh sampel. Bentuk u
ˆu
ˆ adalah jumlah kuadrat residu dari model tanpa
kendala, dan mengijinkan fleksibelitas pada koefisien regresi. Supaya perubahan
terjadi pada koefisien yang diestimasi, maka sampel dibagi menjadi dua sub sampel yaitu sebelum dan sesudah perubahan. u
ˆu
ˆ adalah jumlah kuadrat residu dari
P
P
u
ˆ2t +
u
ˆ2t , dan
model dihitung pada tiap-tiap dua sub sampel, u
ˆu
ˆ=
t=1,...,n1
t=n1 +1,...,n
merepresentasikan estimasi fungsi objektif dari model tanpa kendala, dimana n1
adalah titik perubahan yang dipilih. Derajat kebebasan pada derajat pembilang
diberikan dengan jumlah kendala yaitu d1 = k, berdasarkan hipotesis nol yang
ditentukan stabilitas pada k koefisien yang diestimasi. Pada derajat penyebut
maka derajat kebebasannya adalah d2 = n2k, karena diestimasi dua regresi yang
berbeda pada dua sub sampel, untuk pembuktian jika koefisien merubah sampel
terhadap kehadiran dari struktur yang berubah. Ketika jumlah kuadrat residu
dari model dengan kendala berkembang, maka hipotesis nol dari struktur yang
tidak berubah ditolak. Fungsi C pada persamaan (2.1) didistribusikan sebagai
distribusi Fd1 ,d2 berdasarkan asumsi dari error yang berdistribusi nornal, bebas
dan identik.
Godfrey dan Orme (2000) menganalisis tingkah laku dari uji F terhadap kehadiran distribusi error dan tidak normal. Ditemukan bahwa fungsi C merupakan
fungsi ukuran kecil dengan error berdistribusi uniform dan merupakan fungsi ukuran besar dengan error distribusi t-student, log normal dan khi kuadrat. Andrew
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
8
(2003) menyelidiki tingkah laku dari uji F dengan error yang dikorelasikan berurut. Ditemukan bahwa korelasi berurutan menyebabkan uji F sangat menolak
hipotesis nol, kecuali dengan error yang berdistribusi normal
Untuk mencegah asumsi distribusi diajukan regresi quantil dengan pengujian
C 1 sebagai berikut:
[V˜ (b(θ)) − Vˆ (b(θ))]/d1
C1 =
=
Vˆ (b(θ))/d2
!
V˜ (b(θ))
−1
Vˆ (b(θ))
d2
d1
(2.2)
Derajat pembilangnya adalah perbedaaan antara fungsi objektif regresi quantile
dengan kendala dan tanpa kendala, disesuaikan dengan jumlah kendala. Derajat penyebut merupakan estimasi fungsi objektif regresi quantile untuk model
tanpa kendala, disesuaikan dengan derajat kebebasannya. Fungsi objektif dari
estimator regresi quantile untuk pemilihan quantile θ diberikan sebagai berikut
P
P
: V (b(θ)) = yt >xt b θ|yt − xtb|+ yt thitung, H0 ditolak maka koefisien regresi signifikan ke H1 .
2. Nilai p
Jika p < 0, 05 maka koefisien regresi akan signifikan pada level 5
3. Untuk mengetahui hubungan antara variabel terikat dan variabel bebas
diperlukan koefisien determinasi (R2 ), koefisien determinasi didefinisikan sebagai proporsi dari varians
P 2pada Y yang dapat diterangkan oleh X:
SSE
e
= 1 − P i2 , tanpa konstanta untuk i = 1, 2, ..., n
R2 = 1 −
SST
yi
P 2
SSE
ei
2
R =1−
=1−P
, dengan konstanta untuk i = 1, 2, ..., n
SSTm
(yi − y¯)2
1X
Y¯ =
yi , untuk i = 1, 2, ..., n
n
dengan :
SSE = Sum Square Error
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
15
SST = Sum Square Total
SSTm = Sum Square Total Corrected for The Mean
Hipotesis untuk R2 yaitu:
Jika H0 : R2 = 0
H1 : R2 6= 0
4. Uji F untuk signifikan menyeluruhP
:
R2/
yˆi2/
(p − 1)
(p − 1)
=P 2
, untuk i = 1, 2, ..., n
F(p−1),(n−p) =
2
(1 − R )/
ei/
(n − p)
(n − p)
(SSTm − SSE)/
(p − 1)
=
SSE/
(n − p)
Jika Fhitung > Ftabel pada level signifikan dan derajat kebebasan sehingga
H0 ditolak, maka hipotesis menerima parameter regresi yang tidak sama
dengan nol. Maka R2 signifikan ke tidak nol.
Formula F yang terdapat kostanta adalah sebagai berikut: Fp,(n−p)
R2/
p
=
=
(1 − R2 )/
(n − p)
(SST − SSE)/
p
SSE/
(n − p)
3.2 Ketakstabilan Parameter
Model yang stabil merupakan hal yang penting untuk prediksi dan inferens.
Karena model parametrik secara lengkap menggambarkan parameternya. Model yang stabil sama dengan parameternya yang stabil. Model yang tidak stabil
secara sederhana mungkin disebabkan oleh kelalaian variabel yang penting atau
beberapa jenis pertukaran (Hansen, 1992). Umumnya ketika model tidak stabil
akan sulit menginterpretasikan hasil regresi. Model yang tidak stabil juga meru-
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
16
pakan kepentingan khusus dalam kebijakan analisis untuk mengetahui jika model
adalah tidak beragam untuk memungkinkan gangguan kebijakan. Engle et al.
(1983) memasukkan ke parameter gangguan tidak beragam dalam definisi dari
super exogeneity, kondisinya adalah argumentasi yang diperlukan prasyarat untuk input kebijakan percobaan, diperlukan kondisi untuk super exogeneity dengan
kekonstanan parameter sampel.
Karena kebutuhan akan parameter yang baik dengan model yang stabil,
telah banyak literatur yang telah dikembangkan untuk menguji kestabilan parameter ini. Jumlah dan jenisnya dari prosedur ini sangat mengejutkan akan tetapi
sayangnya semua pengujian tidak sama kebanyakan dikembangkan dari kriteria
ad hoc yang kurang baik. Idealnya, harus ada ujian yang dikenal luas dan memiliki kekuatan maksimal terhadap alternatif yang menarik untuk semua tes yang
ukuran sama (Hansen, 1992).
Dalam prakteknya, jarang ada tes ideal. Teori Asimptotik mungkin diperlukan untuk perkiraan distribusi null, dan perbandingan kekuatan langsung mungkin
mustahil. Salah satu potensi masalah dengan model regresi time series adalah
perkiraan parameter yang dapat berubah dari waktu ke waktu. Bentuk model kesalahan spesifikasi, parameter yang tidak konstan mungkin terdapat konsekuensi
jika terdeteksi. Oleh sebab itu banyak mengaplikasikan ekonometri secara rutin
mengaplikasikan pengujian untuk perubahan parameter. Pengujian yang paling
umum adalah uji sampel split atau pengujian Chow (Chow, 1960).
Ini adalah tes sederhana untuk diterapkan, dan distribusi teori yang dikembangkan dengan baik dan perlu menentukan priori dari waktu (satu kali) perubahan struktural yang terjadi di bawah alternatif. Sulit untuk melihat bagaima-
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
17
na setiap pilihan yang tidak acak dapat dilakukan secara independen dari data.
Dalam prakteknya, pemilihan yang baik breakpoint yang dipilih dengan peristiwa
atau setelah plot time series telah diperiksa. Hal ini menunjukkan bahwa titik
break yang dipilih bergantung pada data yang kritis dan nilai-nilai konvensional
itu tidak valid. Sehingga dapat disimpulkan bahwa pengaruhnya dapat menyesatkan (Hansen, 1992).
Alternatif pengujian prosedur yang diajukan oleh Quandt (1960), yang disarankan menentukan alternatif hipotesa sebagai satu struktural break dari waktu
yang tidak diketahui. Kesulitan dengan tes Quandt adalah teori distribusi yang
tidak diketahui sampai sekarang. Teori distributi untuk uji statistik ini berlaku
untuk regressor terikat yang disajikan mandiri oleh Andrews (1990), Chu (1989),
dan Hansen (1990). Chu juga menganggap hal yang sederhana dari trend waktu
linear.
Pengujian yang lain dibangun dalam literatur statistik yang menentukan
koefisien di bawah sebagai alternatif hipotesa acak berjalan. Hasil pekerjaan tidak
menganggap model dengan regressor yang terikat. Artikel tersebut melakukan
perluasan. Pengujian statistik yang disebutkan sebelumnya diperiksa dalam konteks cointegrasi regresi, sehingga sepenuhnya menggunakan metode perkiraan
yang dimodifikasi dari Phillips dan Hansen (1990). The asymptotik distribusi
dari pengujian statistik tergantung pada proses stochastik menjelaskan regressor. Muncul sebagai kesimpulan yang penting perlu untuk mengetahui proses
stochastik regressor sebelum dapat menerapkan tes.
Hansen (1990) dijelaskan umum untuk menguji teori ketidakstabilan parameter dalam model ekonometrik. Pengujian statistik dapat diturunkan sebagai uji
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
18
pengali Langrange dengan benar dikhususkan masalah likelihood. Dalam bagian
ini, dijelaskan pengujian statistik dalam konteks sepenuhnya dimodifikasi perkiraan dari model regresi yang diintegrasikan. Berikut persamaan model regresi
berganda yang terintegrasi yaitu (Hansen, 1992):
yt = Axt + u1t, t = 1, 2, ..., n
(3.4)
persamaan (3.4) dapat dimodifikasi untuk memasukkan parameter ketidakstabilan
oleh A yang tergantung pada waktu sebagai berikut:
yt = Atxt + ut .
(3.5)
untuk semua uji, hipotesis nul merupakan koefisien At dalam (3.5) adalah konstan
meskipun pengujian berbeda dalam perlakuan dari hipotesis alternatif.
Pengujian pertama, dua model At merupakan perubahan struktur tunggal
pada waktu t, dimana 1 < t < n:
Ai = A1, i 6 t
= A2, i > t.
hipotesis nul nya adalah H0 : A1 = A2. Untuk pengujian pertama, perubahan
struktur didasarkan pada hipotesis alternatif H1 : A1 6= A2 dengan t diketahui,
dengan uji statistik sebagai berikut:
ˆ 1.2 ⊗ Vnt )−1 vec(Snt )
Fnt = vec(Snt )(Ω
n
o
ˆ −1
= tr Snt V −1 Snt Ω
nt
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
1.2
19
dimana
Snt =
t
X
sˆi
i=1
−1
Vnt = Mnt Mnt Mnn
Mnt
Mnt =
t
X
xi xi
i=1
Pengujian kedua, waktu terhadap perubahan struktur dinyatakan tidak diketahui : H2 : A1 6= A2 , [t/n] ∈ =, dimana = merupakan subhimpunan yang kompak
dari (0,1) dan [·] dinotasikan sebagai bagian integer, pengujian statistik ini adalah
sebagai berikut (Hansen, 1992):
SupF = sup Fnt
t/n∈=
pengujian model ketiga dan keempat parameter At sebagai proses At = At1 +
εt ; E(εt |=t−1) = 0, E(εt εt ) = δ 2Gt . Dalam konteks ini, hipotesis nul dapat ditulis sebagai kendala dengan varians perbedaannya adalah nol, H0 : δ 2 = 0, dan
ˆ 1·2 ⊗ Vnt )−1 ; t/n ∈ = dengan
hipotesis alternatifnya adalah H3 : δ 2 > 0, Gt = (Ω
uji statistiknya adalah:
MeanF =
1 X
Fnt,
n∗
dimana n∗ =
t/n∈=
X
1
t/n∈=
ˆ 1·2 ⊗ Mnn )−1 dengan
hipotesis alternatif terakhir adalah: H4 : δ 2 > 0, Gt = (Ω
uji statistiknya adalah:
(
−1
Lc = tr Mnn
n
X
ˆ −1 S 0
St Ω
1·2 t
)
t=1
Uji Fnt (t tetap) dihitung secara sederhana sesuai dengan uji Chow atau uji
sampel split. Pengujian ini sama perhitungannya dengan estimasi A1 dan A2 pada
dua subsampel dan pengujian ini sama dengan uji Wald menggunakan estimasi
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
20
varians untuk estimasi sampel yang penuh. Hal ini mudah dilihat jika terdapat
kasus yang khusus dari estimasi kuadrat terkecil untuk persamaan tunggal (m1 =
1), sehingga
−1
Snt
Mnt
=
t
X
xi x0i
1
=
t
X
1
xi x0i
!−1
!−1
t
X
xi u
ˆi
1
t
X
xi yi −
1
t
X
xi x0i
!−1
1
t
X
ˆ = Aˆt − Aˆ
xi x0i A
1
Sehingga nilai dari bagian pertama sampel dievaluasi pada estimasi dari
sampel penuh, proporsional terhadap perbedaan antara estimasi yang hanya diperoleh dari bagian pertama sampel dan sampel penuh adalah proporsional untuk
perbedaan antara estimasi yang diperoleh dari bagian pertama sampel dan sampel
penuh. Berdasarkan statistik Fnt adalah ekuivalen terhadap statistik Wald yang
ˆ Perbedaannya hanya berdasarkan
merupakan tes ekuivalennya dari Aˆt dan A.
pemilihan estimasi varians. Hal ini diketahui bahwa Statistik Wald adalah ekuivalen secara aljabar terhadap statistik Chow klasik, yang berdasarkan perbedaan
antara estimasi yang mengandung dua sub sampel. Sebagai contoh, lihat Snow
dan Im (1991).
Teori distribusi dibentuk untuk tes ini (Chi-Squared asimtotik) adalah hanya
valid ketika t dapat dipilih secara bebas dari sampel. Hal ini asumsi terbatas
pada prakteknya dan mungkin akan valid hanya ketika t dipilih dengan cara bebas, seperti t = n/2. Pada kejadian ini, tes mungkin memiliki kekuatan rendah
melawan banyak alternatif lainnya yang lebih menarik.
Tes SupF berdasarkan Quandt (1960). Beberapa hasil penelitian tentang
teori distribusi pada konteks berbeda yakni Andrews (1990), Chu (1989) dan
Hansen (1990). Kesulitannya hanya pada implementasi pemilihan daerah =. Ber-
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
21
dasarkan Anderson dan Darling (1952) dan hasil lain Andrews (1990), daerah =
harus tidak termasuk pada nilai 0 dan 1; untuk lainnya tes statistik akan divergen
ke tak hingga. Pendapat lain yang dianjurkan oleh Andrews adalah pemilihan
= = [.15, .85]. Walaupun pendekatannya beralasan, pemilihan elemen tersebut
terbatas hanya dalam tes ini.
Tes statistik MeanF diturunkan dari perbedaan struktur hipotesis tetapi
dapat dilihat untuk lebih sederhana dari rata-rata tes Fnt. Walaupun pada prinsipnya rata-rata dapat memuat semua nilai τ yang mana Fnt dapat dihitung, pada
prakteknya beberapa kondisi akan dibutuhkan (sejak Fnt tidak dapat didefinisikan
terhadap semua t). Keterbatasan ini berhubungan dengan tes SupF yang tidak
lengkap dihitung.
Tes Lc telah memiliki sejarah panjang pada teori statistik, walaupun hal ini
belum sepenuhnya dimengerti sampai saat ini. Tes ini diperkenalkan oleh Gardner
(1969) sebagai tes Bayes untuk perubahan struktur. Selanjutnya kebebasannya
diperkenalkan oleh Pagan dan Tanaka (1981), Nyblom dan Makelainen (1983) dan
King (1987). Pekerjaan ini semuanya berkosentrasi terhadap tes untuk koefisien
tunggal pada model regresi linier Gauss. Teori distribusi untuk sampel yang lebih
besar diperkenalkan pertama kali oleh Nyblom dan Makelainen (1983), Nabeya
dan Tanaka (1988) dan Leybourne dan McCabe (1989). Teori yang lebih baik
untuk maksimum Likelihood ditunjukkan oleh Nyblom (1989) dan telah diperluas
terhadap estimator ekonometrik secara umum oleh Hansen (1990). Hal yang
menguntungkan adalah lebih mudah menghitung tes Lc daripada tes SupF dan
MeanF untuk semua bentuk keterbatasan.
Ketiga tes diatas yakni tes SupF, MeanF dan Lc adalah tes yang sama untuk
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
22
hipotesis nol tetapi berbeda pada pemilihannya untuk hipotesis alternatif. Pada
prakteknya, semua uji ini akan memiliki kekuatan kearah yang sama, sehingga
pemilihan boleh dibuat pada kekuatan perhitungan bahwa Lc lebih mudah untuk dihitung. Tetapi untuk uji statistik yang tepat pada sebagian aplikasi harus
juga tergantung pada tujuan pengujiannya. Jika akan ditentukan adalah dimana
daerah layang-layang, maka uji SupF lebih tepat. Disisi lain, jika salah satu
penyederhanaan dari uji ada atau tidak model spesifik adalah model yang baik
dari pengambilan hubungan yang stabil, parameter yang dipilih adalah model tak
stabil untuk waktu yang lama. Jika variasi parameter likelihood adalah relatif
stabil pada contoh, maka uji Lc yang paling cocok digunakan.
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
BAB 4
KETAKSTABILAN PARAMETER DALAM REGRESI QUANTILE
4.1 Regresi Quantile
Bentuk quantile sinonim dengan persentil, median merupakan salah satu
ukuran statistik yang paling terbaik dari quantile. Diketahui bahwa median sampel dapat didefinisikan sebagai nilai tengah (atau separuh nilai diantara dua nilai
tengah) dari himpunan data yang terurut. Sebagai contoh median sampel membagi data menjadi dua bagian dengan jumlah titik data yang sama. Biasanya
median sampel merupakan estimator dari median populasi m. Jumlah dalam distribusi dibagi ke dalam dua bagian jika variabel acak Y dapat diukur populasi
maka P (Y 6 m) = P (Y > m) = 12 . Secara khusus, untuk variabel acak kontinu
m merupakan solusi untuk persamaan F (m) =
1
,
2
dimana F (y) = P (Y ≤ y)
merupakan distribusi kumulatif (Yu et al, 2003).
Lebih umumnya, 25% dan 75% quantile sampel dapat didefinisikan sebagai
nilai yang membagi data dalam proporsi seperempat dan tigaperempat. Sehingga
dalam masalah kontinu populasi quantile terendah dan quantil tertinggi yang
merupakan solusi untuk persamaan F (y) =
1
4
dan F (y) = 34 . Umumnya, untuk
proporsi p dimana (0 < p < 1) dan dalam masalah kontinu adalah quantile
100p% (sama dengan persentil ke-p 100% dari F yang merupakan nilai y pada
penyelesaian F (y) = p, diasumsikan bahwa nilai tersebut tunggal.
Diberikan contoh kasus secara umum, yaitu mempelajari pertumbuhan anak
dimana akan menimbulkan ketertarikan untuk mengetahui posisi dari anak yang
23
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
24
khusus dengan distribusi tinggi anak dilihat berdasarkan umurnya. Quantile tertinggi dan terendah untuk distribusi bersyarat variabel tinggi Y dan variabel umur
X dapat ditemukan dengan menyelesaikan F (y|x) = p, dimana F (y|x) = P (Y ≤
y|X = x). Jelaslah bahwa perluasan beberapa covariat mungkin terjadi, berikut
merupakan proses dari regresi standart ke regresi quantile:
Regresi digunakan untuk melihat pengaruh hubungan antara variabel terikat
dengan beberapa variabel kovariat. Regresi standart merupakan salah satu metode statistika terkenal dengan model regresinya adalah (Yu et al, 2003):
Y = xT β + ε
(4.1)
dimana x = (1, x)T , β = (β0, βi)T . Parameter vektor β biasanya diestimasi melalui
fungsi loss quadratik r(u) = u2 sebagai contoh diberikan himpunan data pengamatan {xi , y1}ni=1 , penaksiran dibentuk dengan meminimumkan :
n
X
r(yi −
xTi β)
=
i=1
n
X
(yi − xTi β)2
i=1
berdasarkan β. Regresi kuadrat terkecil dihubungkan dengan estimasi dari ekspektasi bersyarat yaitu E(Y |X = x) mengakibatkan ekspektasi bersyarat ini
merupakan nilai θ yang meminimumkan ekspektasi fungsi loss kuadrat E[(Y −
P
θ)2 |X = x] dan ni=1 r(yi − xTi β) merupakan estimasi sampel (Yu et al, 2003).
Sama halnya, regresi median mengestimasi median bersyarat dari Y diberikan
X = x dan digunakan untuk meminimumkan E[|Y − θ||X = x) berdasarkan θ
kemudian diasosiasikan peda fungsi loss |u| sehingga ρ0,5(u) = 0, 5|u|. Estimasi
P
tersebut menghasilkan dengan meminimumkan ni=1 ρ0,5 (yi − xTi β) berdasarkan
β. Selanjutnya dapat ditulis kembali ρ0,5(u) sebagai ρ0,5(u) = 0, 5uI[0,∞)(u) −
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
25
1
u∈A
yang merupakan indikator
lainnya
fungsi dari himpunan A. Definisi ini dapat digeneralisasikan dengan menggan-
(1 − 0, 5)uI(−∞,0) (u), dimana IA (u) =
0
ti 0,5 dengan p diperoleh karakteristik dari 100% p regresi quantil yaitu qp(x)
pada x sebagai nilai θ sehingga meminimumkan E[ρp(Y − θ)|X = x], dimana
ρp (u) = puI[0,∞)(u) − (1 − p)uI(−∞,0)(u) dan disebut fungsi pemeriksaan.
Regresi quantile pertama kali diperkenalkan oleh Koenker dan Bassett (1978)
melihat dan memperluas ide estimasi fungsi quantile bersyarat. Model dengan
quantile berdistribusi bersyarat dari variabel terikatnya diekspresikan sebagai
fungsi covariat yang diamati. Quantile dapat dioperasikan dengan penyusunan
atau pengurutan sampel pengamatan sehingga lebih mudah menentukan letaknya
dan dapat mendefinisikan quantile melalui alternatif yang sederhana sebagai masalah
optimisasi. Seperti halnya dapat didefinisikan rata-rata sampel sebagai solusi untuk masalah meminimumkan jumlah kuadrat residu, dapat mendefinisikan median sebagai solusi untuk masalah meminimumkan jumlah absolut residu. Simetri
dari nilai fungsi absolut linier mengimplikasikan bahwa minimum jumlah absolut residu harus sama dengan jumlah residu yang positif dan negatif, sehingga
menjamin bahwa terdapat jumlah pengamatan yang sama di atas dan di bawah
median (Koenker dan Hallock, 2001).
Karena simetri nilai absolut menghasilkan median, diharapkan dengan meminimumkan jumlah residu absolut terboboti yang tidak simetri, secara sederhana
memberikan perbedaan bobot untuk residu positif dan negatif akan menghasilkan
quantile. Untuk masalah ini dapat diselesaikan dengan
min
ξ∈<
X
ρτ (yi − ξ),
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
(4.2)
26
dimana fungsi ρx (·) merupakan nilai fungsi absolut yang terlihat pada Gambar
4.1 (Roger and Kevin 2001) yang menghasilkan sampel quantile ke-τ sebagai solusinya.
Gambar 4.1 : Fungsi ρ pada Regresi Quantile
Untuk mendefinisikan quantile bersyarat dalam sebuah analogi, regresi kuadrat
terkecil menawarkan sebuah model, jika dipresentasikan dengan sampel acak {y1, y2 , ..., yn},
diselesaikan:
min
µ∈<
n
X
(yi − µ)2 ,
i=1
maka diperoleh rata-rata sampel yang merupakan pengestimasian dari rata-rata
populasi tidak bersyarat EY . Jika ditukar skalar µ dengan fungsi parametrik
µ(x, β) dan diselesaikan,
min
β∈
QUANTILE
TESIS
Oleh
RUSLY SIAGIAN/MT
077021070
SEKOLAH PASCASARJANA
UNIVERSITAS SUMATERA UTARA
MEDAN
2009
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
KETAKSTABILAN PARAMETER DALAM REGRESI
QUANTILE
TESIS
Untuk Memperoleh Gelar Magister Sains dalam
Program Studi Magister Matematika pada Sekolah Pascasarjana
Universitas Sumatera Utara
Oleh
RUSLY SIAGIAN/MT
077021070
SEKOLAH PASCASARJANA
UNIVERSITAS SUMATERA UTARA
MEDAN
2009
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
Judul Tesis
Nama Mahasiswa
Nomor Pokok
Program Studi
:
:
:
:
KETAKSTABILAN PARAMETER DALAM REGRESI QUANTILE
Rusly Siagian
077021070
Matematika
Menyetujui,
Komisi Pembimbing
(Dr. Sutarman, M.Sc)
Ketua
Ketua Program Studi
(Prof. Dr. Herman Mawengkang, M.Sc)
Tanggal lulus:
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
(Dr. Tulus, M.Si)
Anggota
Direktur
(Prof. Dr. Ir. T.Chairun Nisa. B,M.Sc)
Telah diuji pada
PANITIA PENGUJI TESIS
Ketua
:
Dr. Sutarman, M.Sc
Anggota
:
Dr. Tulus, M.Si
Dr. Saib Suwilo, M.Sc
Drs. Open Darnius , M.Sc
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
ABSTRAK
Thesis ini menganalisis pengujian tingkah laku untuk perubahan struktur berdasarkan estimasi regresi quantile. Penelitian ini merupakan kasus perubahan estimasi pada konjungsi dengan distribusi bebas dan identik (iid) dan error yang tidak
iid. Selanjutnya membandingkan hipotesis null dan alternatif pada model, dimana
hipotesis null dalam keadaan stabil, ketika hipotesis alternatif mengijinkan koefisien regresi berubah pada respon. Pengujian menyebabkan peningkatan fungsi
objektif dan kesalahan dari gambar ketika kendala yang tidak pengting dibuat.
Sebagai contoh juga diajukan dengan data real yang berkorelasi serial dan mempelajari Monte Carlo untuk menghitung error yang tidak normal dan tidak iid,
kemudian menganalisis tingkah laku pengujian.
Kata kunci: uji rasio kemungkinan, regresi kuartil, ketangguhan, perubahan struktur
i
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
ABSTRACT
The paper analyzes the behavior of a test for structural break based on quantile
regression estimates. It considers the case of an estimated break in conjunction
with independent and identically distributed (i.i.d.) and non-i.i.d. errors. It
compares the null and the alternative models, where the null imposes stability,
while the alternative allows the regression coefficients to change in response to the
break. The test relies on the increase of the objective function and the worsening
of the fit when unnecessary constraints are imposed. An example with serially
correlated real data and a Monte Carlo study taking into account non-normal and
non-i.i.d. errors analyze the behavior of the test.
Keyword: likelihood ratio test, quantile regression, robustnees, structural
ii
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
KATA PENGANTAR
Penulis mengucapkan puji syukur kepada Tuhan Yang Maha Esa atas berkat
dan karuniaNya sehingga penulis tesis yang berjudul ”Ketakstabilan Parameter dalam Regresi Quantile” dapat dirampungkan.
Tesis ini merupakan tugas akhir pada Sekolah Pascasarjana Program Studi
Magister Matematika, Universitas Sumatera Utara. Pada kesempatan ini, penulis
menyampaikan ucapan terima kasih dan penghargaan yang sebesar-besarnya kepada :
Gubernus Sumatera Utara dan Kepala Bappeda Provinsi Sumatera Utara beserta stafnya yang telah memberikan beasiswa kepada penulis serta
Kepala Dinas Pendidikan Kota Medan yang telah memberikan izin kepada
penulis untuk mengikuti perkuliahan di Sekolah Pascasarjana Program Studi Magister Matematika, Universitas Sumatera Utara.
Prof. Dr. Chairuddin P. Lubis, DTM&H, Sp. Ak. Selaku Rektor
Universitas Sumatera Utara dan Prof. Dr. Ir. T. Chairun Nisa B, M.Sc selaku Direktur Sekolah Pascasarjana Universitas Sumatera utara yang telah memberikan kesempatan kepada penulis untuk mengikuti perkuliahan pada Sekolah
Pascasarjana pada Program Studi Magister Matematika Universitas Sumatera
Utara Medan.
Prof. Dr. Herman Mawengkang, selaku Ketua Program Studi Matematika SPs USU yang dengan penuh kesabaran memotivasi dan membimbing penulis
serta memberikan buku dan jurnal-jurnal yang berkaitan dengan penelitian yang
penulis lakukan sehingga tesis ini dapat selesai.
iii
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
Dr. Sutarman, MSc, selaku pembimbing I yang dengan penuh kesabaran
memotivasi dan membimbing penulis untuk penelitian yang penulis lakukan sehingga tesis ini dapat selesai.
Dr. Tulus, MSi, selaku pembimbing II yang dengan penuh kesabaran
memberikan dukungan moral, kritik dan saran sehingga penulis dapat menyelesaikan tesis ini.
Dr. Saib Suwilo, MSc, selaku pembanding dan Sekretaris Program Studi
Matematika SPs USU dengan penuh kesabaran memberikan dukungan moral,
kritik dan saran sehingga penulis dapar menyelesaikan tesis ini.
Drs. Open Darnius, MSc selaku pembanding yang telah banyak memberikan saran, masukan dan arahan yang membangun terhadap kesempurnaan
penulisan tesis ini.
Seluruh staf Pengajar pada SPs USU yang dengan sungguh-sungguh
telah berusaha memberikan ilmunya kepada penulis selama mengikuti perkuliahan.
Seluruh Staf Administrasi SPs USU, teristimewa Sdri Misiani, S,Si
dan Sdri Sri Rayani Tanjung, S.Si yang telah memberikan bantuan dan pelayanan yang baik kepada penulis.
Rekan-rekan seperjuangan, mahasiswa angkatan ketiga, atas kerja
sama, kebersamaan dan bantuannya dalam mengatasi berbagai masalah selama
perkuliahan berlangsung.
Secara khusus penulis ingin menyampaikan terima kasih dan saying yang
iv
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
mendalam kepada suami tercinta Tupal Pangaribuan, SE dan ananda tersayang Junita Pangaribuan, Meri Pangaribuan dan Hasahatan Agung
Parlinggoman Pangaribuan yang senantiasa mendoakan, mendorong dan melayani
dengan penuh kasih, sabar serta memberikan pengorbanan yang tidak terbatas
kepada penulis selama mengikuti perkuliahan.
Pada kesempatan ini penulis menyampaikan terima kasih kepada seluruh
Keluarga Besar SMA Negeri 15 Medan yang terus mendoakan dan memotivasi serta membantu penulis selama mengikuti pendidikan di SPs Program Studi
Magister Matematika Universitas Sumatera Utara, Medan.
Semoga tesis ini bermanfaat bagi para pembaca dan pihak-pihak yang memerlukannya.
Medan, Mei 2009
Penulis,
Rusly Siagian
v
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
RIWAYAT HIDUP
Rusly Siagian, dilahirkan di Gomparsigombo Kabupaten Tobasa pada tanggal 15 Oktober 1964, merupakan anak ke tujuh dan sembilan orang bersaudara,
putrid dari Alm. St. Ojak Siagian dan Torsi br. Hutagaol almarhumah. Menamatkan Pendidikan SD Negeri I Simare-mare pada tahun 1976, SMP Negeri XVII
Kodya Medan pada tahun 1980 dan SMA Laboratory School IKIP Medan 1983,
tahun 1984 diterima Kuliah di IKIP Medan Jurusan Matematika Program D3
dan menamatkan kuliah tahun 1988. Pada tanggal 30 Juni 1988 dengan nomor
03718/105/01/C1/88.3. menjadi Calon Pegawai Negeri Sipil (CPNS) di SMA
Negeri Simamora Nabolak Siborong-borong Kabupaten Tapanuli Utara. Menjadi
Pegawai Negeri Sipil (PNS) pada tahun 1990 dengan nomor 0310/15/C1/90.3.
Tahun 1991 pindah tugas menjadi guru Negeri diperbantukan pada SMA Swasta
Budi Luhur Medan. Penulis menikah pada tanggal 26 e September 1992
vi
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
DAFTAR ISI
Halaman
ABSTRAK . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
i
ABSTRACT . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
ii
KATA PENGANTAR . . . . . . . . . . . . . . . . . . . . . . . . .
iii
RIWAYAT HIDUP . . . . . . . . . . . . . . . . . . . . . . . . . .
vi
DAFTAR ISI . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
vii
BAB 1 PENDAHULUAN . . . . . . . . . . . . . . . . . . . . . . .
1
1.1 Latar Belakang . . . . . . . . . . . . . . . . . . . . . .
1
1.2 Perumusan Masalah . . . . . . . . . . . . . . . . . . . .
4
1.3 Tujuan Penelitian . . . . . . . . . . . . . . . . . . . . .
4
1.4 Kontribusi Penelitian . . . . . . . . . . . . . . . . . . .
4
1.5 Metodologi Penelitian . . . . . . . . . . . . . . . . . . .
5
BAB 2 TINJAUAN PUSTAKA . . . . . . . . . . . . . . . . . . . .
6
BAB 3 LANDASAN TEORI . . . . . . . . . . . . . . . . . . . . .
10
3.1 Metode Kuadrat Terkecil . . . . . . . . . . . . . . . . .
10
3.2 Ketakstabilan Parameter . . . . . . . . . . . . . . . . .
15
BAB 4 KETAKSTABILAN PARAMETER DALAM REGRESI QUANTILE . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
23
4.1 Regresi Quantile
. . . . . . . . . . . . . . . . . . . . .
23
4.2 Contoh Data . . . . . . . . . . . . . . . . . . . . . . .
29
4.3 Eksperimen Monte Carlo . . . . . . . . . . . . . . . . .
32
vii
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
4.4 Hasil Simulasi . . . . . . . . . . . . . . . . . . . . . . .
34
BAB 5 KESIMPULAN . . . . . . . . . . . . . . . . . . . . . . . .
42
DAFTAR PUSTAKA . . . . . . . . . . . . . . . . . . . . . . . . .
43
viii
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
BAB 1
PENDAHULUAN
1.1 Latar Belakang
Dalam regresi linear terdapat beberapa metode estimasi parameter. Satu
diantaranya adalah Metode Kuadrat Terkecil. Metode ini paling sering digunakan karena mudah dalam perhitungan. Namun demikian, metode ini sangat
dipengaruhi oleh kehadiran outlier. Outlier dapat menyebabkan hasil estimasi
parameter menjadi tidak stabil. Outlier biasanya terjadi akibat kesalahan memasukkan data, kesalahan catatan atau transmisi, dan kesalahan penempatan dari
titik desimal (Rousseeuw, 1987).
Salah satu alat analisis statistik yang dapat menyelesaikan masalah tersebut adalah regresi quantile. Regresi quantile ini merupakan metode yang berguna
sekali dalam mengestimasi parameter, metode ini tidak mudah terpengaruh oleh
kehadiran outlier sehingga outlier menjauh dan tidak mengganggu kestabilan data yang diperoleh. Metode ini adalah alat yang penting untuk menganalisa data
yang terkontaminasi oleh kehadiran outlier. Selain itu, metode ini dapat memberikan hasil yang tepat dan stabil pada kehadiran outlier serta dapat membatasi
pengaruh dari outlier (Furno, 2007).
Model yang stabil merupakan hal yang penting untuk prediksi dan inferens.
Karena model parametrik secara lengkap menggambarkan parameternya. Model
yang stabil sama dengan parameternya yang stabil. Model yang tidak stabil
secara sederhana mungkin disebabkan oleh kelalaian variabel yang penting atau
1
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
2
beberapa jenis pertukaran (Hansen, 1992).
Penelitian tentang regresi quantile telah difokuskan pada interpretabilitas
dari estimasi regresi quantile berdasarkan spesifikasi yang salah dan pada pengujian prosedur untuk memeriksa spesifikasi yang benar dari persamaan yang diestimasi (Furno, 2007). Kim dan White (2003) mendefinisikan konsistensi estimator
regresi quantile pada batasan klas dari model yang salah dispesifikasi, sehingga
dipenuhi asumsi linearitas. Kim dan White juga mendefinisikan pengujian spesifikasi berdasarkan informasi persamaan matriks. Sebagai alternatif, pengujian
spesifikasi dapat dibangun pada residual. Dalam hal ini, perbandingan antara
model parametrik dan nonparametrik. Hal ini membutuhkan teknik smoothing
untuk menghitung regresi quantile nonparametrik (Koenker dan Machado, 1999).
Selanjutnya Angrist et al (2006) menunjukkan bahwa regresi quantile merupakan perkiraan linear terbaik untuk memilih quantile bersyarat pada masalah
spesifikasi yang salah menggunakan fungsi kerugian kesalahan kuadrat rata-rata
terboboti, hanya metode kuadrat terkecil yang menyediakan rata-rata kesalahan
kuadrat terbaik dari perkiraan linear untuk rata-rata bersyarat berdasarkan spesifikasi yang salah. Kemudian, Angrist et al (2006) mendefinisikan distribusi
asimptot dari estimator regresi quantile pada spesifikasi yang salah. Dikarenakan
spesifikasi yang salah tersebut, tentunya pengujian prosedur tidak berdistribusi
bebas, daerah kepercayaan dapat ditemukan dengan pengambilan sampel ulang
melalui bootstrap. Pada implementasi yang empiris, dijelaskan aturan yang sangat menonjol untuk sinyal pada sruktur yang berubah. Regresi quantile mengestimasi pada quantile yang dipilih melebihi periode sampel yang berbeda dan perlu diperhatikan pada interval kepercayaan dari persamaan yang diestimasi tidak
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
3
lengkap dan tidak mempunyai daerah yang umum dan hal ini merupakan bukti
dari struktur yang berubah.
Sama halnya dengan Bai (1995) menyediakan konsistensi dari estimator regresi quantile dalam kehadiran struktur yang berubah, terkecuali pada masalah
estimasi yang berubah untuk error yang independen dan identik maupun error
yang tidak independen dan identik. Bai mengijinkan pengujian resmi untuk struktur yang berubah berdasarkan estimasi regresi quantile, dan mengembangkan
aturan yang sangat menonjol terdiri dalam inspeksi secara grafik dari interval
kepercayaan yang tidak lengkap. Kemudian menganalisis model dengan hipotesis
nol dan alternatif. Hipotesis nol dalam keadaan stabil ketika hipotesis alternatif
mengijinkan koefisien regresi berubah pada responnya. Berdasarkan hipotesis
nol yang diestimasi hanya satu persamaan pada seluruh sampel. Berdasarkan
hipotesis alternatif diestimasi dua persamaan yang berbeda yang satu sebelum
mengalami perubahan dan yang satu setelah mengalami perubahan. Kemudian
dibandingkan fungsi objektif berdasarkan hipotesis nol dan alternatif, dan pengujian menunjukkan peningkatan fungsi objektif serta membuat keadaan gambar
menjadi lebih buruk ketika kendala tidak penting sudah ditentukan.
Perkembangan dari pengujian untuk perubahan struktur pada regresi quantile menyediakan alat yang sangat fleksibel untuk menyelidiki tingkah laku dari
model tidak hanya pada pusat distribusi bersyarat tetapi juga pada ekornya. Sehingga untuk menganalisis kehadiran dari perubahan bisa dilakukan lebih dari
satu titik yaitu pembuktian jika perubahan mempunyai pengaruh yang konstan
pada quantile atau jika perubahan tersebut berubah berdasarkan tingkatan yang
dipilih dari variabel terikat. Mungkin timbulnya permasalahan terjadi pada pen-
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
4
garuh perubahan di pusat distribusi bersyarat membatalkan hak untuk pengaruh
yang berlawanan dari perubahan pada ekor distribusi dan atau pada sub sampel
dari model tanpa kendala. Selanjutnya regresi quantile yang tegar berkenaan
dengan nilai yang ganjil pada variabel terikat diijinkan untuk menghilangkan
berturut-turut outlier dan perubahan yang biasanya dianggap sendiri, sehingga
mencegah kesimpulan yang tidak benar (Furno, 2007).
1.2 Perumusan Masalah
Adapun permasalahan dalam penelitian ini adalah bagaimana tatacara mengestimasi ketakstabilan parameter dalam regresi quantile.
1.3 Tujuan Penelitian
Adapun tujuan dalam penelitian ini adalah untuk menganalisis tingkah laku
dari pengujian pada perubahan struktur konjungsi dengan distribusi independen
dan identik dan error yang tidak berdistribusi independen dan identik berdasarkan
estimasi regresi quantile. Selanjutnya penelitian ini juga akan membandingkan
hasil estimasi ini dengan metode kuadrat terkecil.
1.4 Kontribusi Penelitian
Adapun kontribusi dalam penelitian ini adalah dapat membantu peneliti
untuk menggunakan regresi quantile sebagai salah satu alternatif alat analisis yang
bisa digunakan untuk mengestimasi ketakstabilan parameter yang disebabkan oleh
perubahan struktur atau outlier.
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
5
1.5 Metodologi Penelitian
Penelitian ini bersifat literatur dan dilakukan dengan mengumpulkan informasi dari referensi beberapa buku dan jurnal. Penelitian ini pada awalnya memperkenalkan tentang analisis regresi dengan metode kuadrat terkecil, dilanjutkan
dengan regresi quantile dan ketakstabilan parameter. Kemudian akan dijelaskan
ketakstabilan parameter dalam regresi quantile yang disertai contoh kasus. Lalu
akan diperlihatkan perbandingan hasil antara metode kuadrat terkecil dengan
regresi quantile dan pengambilan kesimpulan.
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
BAB 2
TINJAUAN PUSTAKA
Referensi pengujian pada perubahan struktur berdasarkan metode kuadrat
terkecil banyak telah diteliti, diantaranya adalah Huskova dan Picek (2005) mempresentasikan pengujian perubahan struktur berubah berdasarkan bootsrap estimator M. Pendekatannya tidak meluas sampai ke regresi quantile. Gagliardini
et al (2005) mendiskusikan pengujian ketegaran dari perubahan struktur yang
asimptotnya ekivalen dengan uji Wald, perkalian Lagrange dan Likelihood ratio
tetapi tidak memfokuskan pada regresi quantile.
Furno (2006) mendefinisikan pengujian resmi terhadap perubahan struktur dengan menggunakan regresi quantile. Dengan implementasi pengujian yang
berulang-ulang maka akan dapat mengontrol kestabilan keduanya terhadap waktu
dan berkenaan dengan variabel bebasnya pada persamaan pendidikan, sehingga
dapat dicari penjelasan yang mendalam dari perubahan. Ditemukan bahwa ketika
model kembali ke pendidikan di Italy lebih dari satu persamaan, dengan membagi
sampel dalam kategori jenis kelamin dan daerahnya. Ternyata estimasinya menjadi lebih stabil, secara khusus regresi menggambarkan gaji wanita. Jenis kelamin
dan daerah memisahkan kenaikan dari perubahan masalah koefisien.
Adapun model regresi linear standar adalah sebagai berikut: Yt = Xt β + εt
dimana Yt adalah variabel terikat, Xt adalah matriks untuk k variabel bebas
dan εt adalah residu yang bebas dan identik mempunyai fungsi kepadatan sangat
positif dan kontinu pada median dalam ukuran sampel n. Pengujian perubahan
struktur berdasarkan estimasi metode kuadrat terkecil (Chow, 1960) didefinisikan
6
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
7
sebagai berikut:
C=
˜−u
ˆ0u
ˆ]/d1
[˜
u0 u
u
ˆ0u
ˆ/d2
(2.1)
Bentuk u
˜u
˜ adalah jumlah kuadrat residu dari model dengan kendala, yang
menentukan stabilitas dari koefisien regresi dengan pengestimasian model pada seluruh sampel. Bentuk u
ˆu
ˆ adalah jumlah kuadrat residu dari model tanpa
kendala, dan mengijinkan fleksibelitas pada koefisien regresi. Supaya perubahan
terjadi pada koefisien yang diestimasi, maka sampel dibagi menjadi dua sub sampel yaitu sebelum dan sesudah perubahan. u
ˆu
ˆ adalah jumlah kuadrat residu dari
P
P
u
ˆ2t +
u
ˆ2t , dan
model dihitung pada tiap-tiap dua sub sampel, u
ˆu
ˆ=
t=1,...,n1
t=n1 +1,...,n
merepresentasikan estimasi fungsi objektif dari model tanpa kendala, dimana n1
adalah titik perubahan yang dipilih. Derajat kebebasan pada derajat pembilang
diberikan dengan jumlah kendala yaitu d1 = k, berdasarkan hipotesis nol yang
ditentukan stabilitas pada k koefisien yang diestimasi. Pada derajat penyebut
maka derajat kebebasannya adalah d2 = n2k, karena diestimasi dua regresi yang
berbeda pada dua sub sampel, untuk pembuktian jika koefisien merubah sampel
terhadap kehadiran dari struktur yang berubah. Ketika jumlah kuadrat residu
dari model dengan kendala berkembang, maka hipotesis nol dari struktur yang
tidak berubah ditolak. Fungsi C pada persamaan (2.1) didistribusikan sebagai
distribusi Fd1 ,d2 berdasarkan asumsi dari error yang berdistribusi nornal, bebas
dan identik.
Godfrey dan Orme (2000) menganalisis tingkah laku dari uji F terhadap kehadiran distribusi error dan tidak normal. Ditemukan bahwa fungsi C merupakan
fungsi ukuran kecil dengan error berdistribusi uniform dan merupakan fungsi ukuran besar dengan error distribusi t-student, log normal dan khi kuadrat. Andrew
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
8
(2003) menyelidiki tingkah laku dari uji F dengan error yang dikorelasikan berurut. Ditemukan bahwa korelasi berurutan menyebabkan uji F sangat menolak
hipotesis nol, kecuali dengan error yang berdistribusi normal
Untuk mencegah asumsi distribusi diajukan regresi quantil dengan pengujian
C 1 sebagai berikut:
[V˜ (b(θ)) − Vˆ (b(θ))]/d1
C1 =
=
Vˆ (b(θ))/d2
!
V˜ (b(θ))
−1
Vˆ (b(θ))
d2
d1
(2.2)
Derajat pembilangnya adalah perbedaaan antara fungsi objektif regresi quantile
dengan kendala dan tanpa kendala, disesuaikan dengan jumlah kendala. Derajat penyebut merupakan estimasi fungsi objektif regresi quantile untuk model
tanpa kendala, disesuaikan dengan derajat kebebasannya. Fungsi objektif dari
estimator regresi quantile untuk pemilihan quantile θ diberikan sebagai berikut
P
P
: V (b(θ)) = yt >xt b θ|yt − xtb|+ yt thitung, H0 ditolak maka koefisien regresi signifikan ke H1 .
2. Nilai p
Jika p < 0, 05 maka koefisien regresi akan signifikan pada level 5
3. Untuk mengetahui hubungan antara variabel terikat dan variabel bebas
diperlukan koefisien determinasi (R2 ), koefisien determinasi didefinisikan sebagai proporsi dari varians
P 2pada Y yang dapat diterangkan oleh X:
SSE
e
= 1 − P i2 , tanpa konstanta untuk i = 1, 2, ..., n
R2 = 1 −
SST
yi
P 2
SSE
ei
2
R =1−
=1−P
, dengan konstanta untuk i = 1, 2, ..., n
SSTm
(yi − y¯)2
1X
Y¯ =
yi , untuk i = 1, 2, ..., n
n
dengan :
SSE = Sum Square Error
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
15
SST = Sum Square Total
SSTm = Sum Square Total Corrected for The Mean
Hipotesis untuk R2 yaitu:
Jika H0 : R2 = 0
H1 : R2 6= 0
4. Uji F untuk signifikan menyeluruhP
:
R2/
yˆi2/
(p − 1)
(p − 1)
=P 2
, untuk i = 1, 2, ..., n
F(p−1),(n−p) =
2
(1 − R )/
ei/
(n − p)
(n − p)
(SSTm − SSE)/
(p − 1)
=
SSE/
(n − p)
Jika Fhitung > Ftabel pada level signifikan dan derajat kebebasan sehingga
H0 ditolak, maka hipotesis menerima parameter regresi yang tidak sama
dengan nol. Maka R2 signifikan ke tidak nol.
Formula F yang terdapat kostanta adalah sebagai berikut: Fp,(n−p)
R2/
p
=
=
(1 − R2 )/
(n − p)
(SST − SSE)/
p
SSE/
(n − p)
3.2 Ketakstabilan Parameter
Model yang stabil merupakan hal yang penting untuk prediksi dan inferens.
Karena model parametrik secara lengkap menggambarkan parameternya. Model yang stabil sama dengan parameternya yang stabil. Model yang tidak stabil
secara sederhana mungkin disebabkan oleh kelalaian variabel yang penting atau
beberapa jenis pertukaran (Hansen, 1992). Umumnya ketika model tidak stabil
akan sulit menginterpretasikan hasil regresi. Model yang tidak stabil juga meru-
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
16
pakan kepentingan khusus dalam kebijakan analisis untuk mengetahui jika model
adalah tidak beragam untuk memungkinkan gangguan kebijakan. Engle et al.
(1983) memasukkan ke parameter gangguan tidak beragam dalam definisi dari
super exogeneity, kondisinya adalah argumentasi yang diperlukan prasyarat untuk input kebijakan percobaan, diperlukan kondisi untuk super exogeneity dengan
kekonstanan parameter sampel.
Karena kebutuhan akan parameter yang baik dengan model yang stabil,
telah banyak literatur yang telah dikembangkan untuk menguji kestabilan parameter ini. Jumlah dan jenisnya dari prosedur ini sangat mengejutkan akan tetapi
sayangnya semua pengujian tidak sama kebanyakan dikembangkan dari kriteria
ad hoc yang kurang baik. Idealnya, harus ada ujian yang dikenal luas dan memiliki kekuatan maksimal terhadap alternatif yang menarik untuk semua tes yang
ukuran sama (Hansen, 1992).
Dalam prakteknya, jarang ada tes ideal. Teori Asimptotik mungkin diperlukan untuk perkiraan distribusi null, dan perbandingan kekuatan langsung mungkin
mustahil. Salah satu potensi masalah dengan model regresi time series adalah
perkiraan parameter yang dapat berubah dari waktu ke waktu. Bentuk model kesalahan spesifikasi, parameter yang tidak konstan mungkin terdapat konsekuensi
jika terdeteksi. Oleh sebab itu banyak mengaplikasikan ekonometri secara rutin
mengaplikasikan pengujian untuk perubahan parameter. Pengujian yang paling
umum adalah uji sampel split atau pengujian Chow (Chow, 1960).
Ini adalah tes sederhana untuk diterapkan, dan distribusi teori yang dikembangkan dengan baik dan perlu menentukan priori dari waktu (satu kali) perubahan struktural yang terjadi di bawah alternatif. Sulit untuk melihat bagaima-
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
17
na setiap pilihan yang tidak acak dapat dilakukan secara independen dari data.
Dalam prakteknya, pemilihan yang baik breakpoint yang dipilih dengan peristiwa
atau setelah plot time series telah diperiksa. Hal ini menunjukkan bahwa titik
break yang dipilih bergantung pada data yang kritis dan nilai-nilai konvensional
itu tidak valid. Sehingga dapat disimpulkan bahwa pengaruhnya dapat menyesatkan (Hansen, 1992).
Alternatif pengujian prosedur yang diajukan oleh Quandt (1960), yang disarankan menentukan alternatif hipotesa sebagai satu struktural break dari waktu
yang tidak diketahui. Kesulitan dengan tes Quandt adalah teori distribusi yang
tidak diketahui sampai sekarang. Teori distributi untuk uji statistik ini berlaku
untuk regressor terikat yang disajikan mandiri oleh Andrews (1990), Chu (1989),
dan Hansen (1990). Chu juga menganggap hal yang sederhana dari trend waktu
linear.
Pengujian yang lain dibangun dalam literatur statistik yang menentukan
koefisien di bawah sebagai alternatif hipotesa acak berjalan. Hasil pekerjaan tidak
menganggap model dengan regressor yang terikat. Artikel tersebut melakukan
perluasan. Pengujian statistik yang disebutkan sebelumnya diperiksa dalam konteks cointegrasi regresi, sehingga sepenuhnya menggunakan metode perkiraan
yang dimodifikasi dari Phillips dan Hansen (1990). The asymptotik distribusi
dari pengujian statistik tergantung pada proses stochastik menjelaskan regressor. Muncul sebagai kesimpulan yang penting perlu untuk mengetahui proses
stochastik regressor sebelum dapat menerapkan tes.
Hansen (1990) dijelaskan umum untuk menguji teori ketidakstabilan parameter dalam model ekonometrik. Pengujian statistik dapat diturunkan sebagai uji
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
18
pengali Langrange dengan benar dikhususkan masalah likelihood. Dalam bagian
ini, dijelaskan pengujian statistik dalam konteks sepenuhnya dimodifikasi perkiraan dari model regresi yang diintegrasikan. Berikut persamaan model regresi
berganda yang terintegrasi yaitu (Hansen, 1992):
yt = Axt + u1t, t = 1, 2, ..., n
(3.4)
persamaan (3.4) dapat dimodifikasi untuk memasukkan parameter ketidakstabilan
oleh A yang tergantung pada waktu sebagai berikut:
yt = Atxt + ut .
(3.5)
untuk semua uji, hipotesis nul merupakan koefisien At dalam (3.5) adalah konstan
meskipun pengujian berbeda dalam perlakuan dari hipotesis alternatif.
Pengujian pertama, dua model At merupakan perubahan struktur tunggal
pada waktu t, dimana 1 < t < n:
Ai = A1, i 6 t
= A2, i > t.
hipotesis nul nya adalah H0 : A1 = A2. Untuk pengujian pertama, perubahan
struktur didasarkan pada hipotesis alternatif H1 : A1 6= A2 dengan t diketahui,
dengan uji statistik sebagai berikut:
ˆ 1.2 ⊗ Vnt )−1 vec(Snt )
Fnt = vec(Snt )(Ω
n
o
ˆ −1
= tr Snt V −1 Snt Ω
nt
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
1.2
19
dimana
Snt =
t
X
sˆi
i=1
−1
Vnt = Mnt Mnt Mnn
Mnt
Mnt =
t
X
xi xi
i=1
Pengujian kedua, waktu terhadap perubahan struktur dinyatakan tidak diketahui : H2 : A1 6= A2 , [t/n] ∈ =, dimana = merupakan subhimpunan yang kompak
dari (0,1) dan [·] dinotasikan sebagai bagian integer, pengujian statistik ini adalah
sebagai berikut (Hansen, 1992):
SupF = sup Fnt
t/n∈=
pengujian model ketiga dan keempat parameter At sebagai proses At = At1 +
εt ; E(εt |=t−1) = 0, E(εt εt ) = δ 2Gt . Dalam konteks ini, hipotesis nul dapat ditulis sebagai kendala dengan varians perbedaannya adalah nol, H0 : δ 2 = 0, dan
ˆ 1·2 ⊗ Vnt )−1 ; t/n ∈ = dengan
hipotesis alternatifnya adalah H3 : δ 2 > 0, Gt = (Ω
uji statistiknya adalah:
MeanF =
1 X
Fnt,
n∗
dimana n∗ =
t/n∈=
X
1
t/n∈=
ˆ 1·2 ⊗ Mnn )−1 dengan
hipotesis alternatif terakhir adalah: H4 : δ 2 > 0, Gt = (Ω
uji statistiknya adalah:
(
−1
Lc = tr Mnn
n
X
ˆ −1 S 0
St Ω
1·2 t
)
t=1
Uji Fnt (t tetap) dihitung secara sederhana sesuai dengan uji Chow atau uji
sampel split. Pengujian ini sama perhitungannya dengan estimasi A1 dan A2 pada
dua subsampel dan pengujian ini sama dengan uji Wald menggunakan estimasi
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
20
varians untuk estimasi sampel yang penuh. Hal ini mudah dilihat jika terdapat
kasus yang khusus dari estimasi kuadrat terkecil untuk persamaan tunggal (m1 =
1), sehingga
−1
Snt
Mnt
=
t
X
xi x0i
1
=
t
X
1
xi x0i
!−1
!−1
t
X
xi u
ˆi
1
t
X
xi yi −
1
t
X
xi x0i
!−1
1
t
X
ˆ = Aˆt − Aˆ
xi x0i A
1
Sehingga nilai dari bagian pertama sampel dievaluasi pada estimasi dari
sampel penuh, proporsional terhadap perbedaan antara estimasi yang hanya diperoleh dari bagian pertama sampel dan sampel penuh adalah proporsional untuk
perbedaan antara estimasi yang diperoleh dari bagian pertama sampel dan sampel
penuh. Berdasarkan statistik Fnt adalah ekuivalen terhadap statistik Wald yang
ˆ Perbedaannya hanya berdasarkan
merupakan tes ekuivalennya dari Aˆt dan A.
pemilihan estimasi varians. Hal ini diketahui bahwa Statistik Wald adalah ekuivalen secara aljabar terhadap statistik Chow klasik, yang berdasarkan perbedaan
antara estimasi yang mengandung dua sub sampel. Sebagai contoh, lihat Snow
dan Im (1991).
Teori distribusi dibentuk untuk tes ini (Chi-Squared asimtotik) adalah hanya
valid ketika t dapat dipilih secara bebas dari sampel. Hal ini asumsi terbatas
pada prakteknya dan mungkin akan valid hanya ketika t dipilih dengan cara bebas, seperti t = n/2. Pada kejadian ini, tes mungkin memiliki kekuatan rendah
melawan banyak alternatif lainnya yang lebih menarik.
Tes SupF berdasarkan Quandt (1960). Beberapa hasil penelitian tentang
teori distribusi pada konteks berbeda yakni Andrews (1990), Chu (1989) dan
Hansen (1990). Kesulitannya hanya pada implementasi pemilihan daerah =. Ber-
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
21
dasarkan Anderson dan Darling (1952) dan hasil lain Andrews (1990), daerah =
harus tidak termasuk pada nilai 0 dan 1; untuk lainnya tes statistik akan divergen
ke tak hingga. Pendapat lain yang dianjurkan oleh Andrews adalah pemilihan
= = [.15, .85]. Walaupun pendekatannya beralasan, pemilihan elemen tersebut
terbatas hanya dalam tes ini.
Tes statistik MeanF diturunkan dari perbedaan struktur hipotesis tetapi
dapat dilihat untuk lebih sederhana dari rata-rata tes Fnt. Walaupun pada prinsipnya rata-rata dapat memuat semua nilai τ yang mana Fnt dapat dihitung, pada
prakteknya beberapa kondisi akan dibutuhkan (sejak Fnt tidak dapat didefinisikan
terhadap semua t). Keterbatasan ini berhubungan dengan tes SupF yang tidak
lengkap dihitung.
Tes Lc telah memiliki sejarah panjang pada teori statistik, walaupun hal ini
belum sepenuhnya dimengerti sampai saat ini. Tes ini diperkenalkan oleh Gardner
(1969) sebagai tes Bayes untuk perubahan struktur. Selanjutnya kebebasannya
diperkenalkan oleh Pagan dan Tanaka (1981), Nyblom dan Makelainen (1983) dan
King (1987). Pekerjaan ini semuanya berkosentrasi terhadap tes untuk koefisien
tunggal pada model regresi linier Gauss. Teori distribusi untuk sampel yang lebih
besar diperkenalkan pertama kali oleh Nyblom dan Makelainen (1983), Nabeya
dan Tanaka (1988) dan Leybourne dan McCabe (1989). Teori yang lebih baik
untuk maksimum Likelihood ditunjukkan oleh Nyblom (1989) dan telah diperluas
terhadap estimator ekonometrik secara umum oleh Hansen (1990). Hal yang
menguntungkan adalah lebih mudah menghitung tes Lc daripada tes SupF dan
MeanF untuk semua bentuk keterbatasan.
Ketiga tes diatas yakni tes SupF, MeanF dan Lc adalah tes yang sama untuk
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
22
hipotesis nol tetapi berbeda pada pemilihannya untuk hipotesis alternatif. Pada
prakteknya, semua uji ini akan memiliki kekuatan kearah yang sama, sehingga
pemilihan boleh dibuat pada kekuatan perhitungan bahwa Lc lebih mudah untuk dihitung. Tetapi untuk uji statistik yang tepat pada sebagian aplikasi harus
juga tergantung pada tujuan pengujiannya. Jika akan ditentukan adalah dimana
daerah layang-layang, maka uji SupF lebih tepat. Disisi lain, jika salah satu
penyederhanaan dari uji ada atau tidak model spesifik adalah model yang baik
dari pengambilan hubungan yang stabil, parameter yang dipilih adalah model tak
stabil untuk waktu yang lama. Jika variasi parameter likelihood adalah relatif
stabil pada contoh, maka uji Lc yang paling cocok digunakan.
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
BAB 4
KETAKSTABILAN PARAMETER DALAM REGRESI QUANTILE
4.1 Regresi Quantile
Bentuk quantile sinonim dengan persentil, median merupakan salah satu
ukuran statistik yang paling terbaik dari quantile. Diketahui bahwa median sampel dapat didefinisikan sebagai nilai tengah (atau separuh nilai diantara dua nilai
tengah) dari himpunan data yang terurut. Sebagai contoh median sampel membagi data menjadi dua bagian dengan jumlah titik data yang sama. Biasanya
median sampel merupakan estimator dari median populasi m. Jumlah dalam distribusi dibagi ke dalam dua bagian jika variabel acak Y dapat diukur populasi
maka P (Y 6 m) = P (Y > m) = 12 . Secara khusus, untuk variabel acak kontinu
m merupakan solusi untuk persamaan F (m) =
1
,
2
dimana F (y) = P (Y ≤ y)
merupakan distribusi kumulatif (Yu et al, 2003).
Lebih umumnya, 25% dan 75% quantile sampel dapat didefinisikan sebagai
nilai yang membagi data dalam proporsi seperempat dan tigaperempat. Sehingga
dalam masalah kontinu populasi quantile terendah dan quantil tertinggi yang
merupakan solusi untuk persamaan F (y) =
1
4
dan F (y) = 34 . Umumnya, untuk
proporsi p dimana (0 < p < 1) dan dalam masalah kontinu adalah quantile
100p% (sama dengan persentil ke-p 100% dari F yang merupakan nilai y pada
penyelesaian F (y) = p, diasumsikan bahwa nilai tersebut tunggal.
Diberikan contoh kasus secara umum, yaitu mempelajari pertumbuhan anak
dimana akan menimbulkan ketertarikan untuk mengetahui posisi dari anak yang
23
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
24
khusus dengan distribusi tinggi anak dilihat berdasarkan umurnya. Quantile tertinggi dan terendah untuk distribusi bersyarat variabel tinggi Y dan variabel umur
X dapat ditemukan dengan menyelesaikan F (y|x) = p, dimana F (y|x) = P (Y ≤
y|X = x). Jelaslah bahwa perluasan beberapa covariat mungkin terjadi, berikut
merupakan proses dari regresi standart ke regresi quantile:
Regresi digunakan untuk melihat pengaruh hubungan antara variabel terikat
dengan beberapa variabel kovariat. Regresi standart merupakan salah satu metode statistika terkenal dengan model regresinya adalah (Yu et al, 2003):
Y = xT β + ε
(4.1)
dimana x = (1, x)T , β = (β0, βi)T . Parameter vektor β biasanya diestimasi melalui
fungsi loss quadratik r(u) = u2 sebagai contoh diberikan himpunan data pengamatan {xi , y1}ni=1 , penaksiran dibentuk dengan meminimumkan :
n
X
r(yi −
xTi β)
=
i=1
n
X
(yi − xTi β)2
i=1
berdasarkan β. Regresi kuadrat terkecil dihubungkan dengan estimasi dari ekspektasi bersyarat yaitu E(Y |X = x) mengakibatkan ekspektasi bersyarat ini
merupakan nilai θ yang meminimumkan ekspektasi fungsi loss kuadrat E[(Y −
P
θ)2 |X = x] dan ni=1 r(yi − xTi β) merupakan estimasi sampel (Yu et al, 2003).
Sama halnya, regresi median mengestimasi median bersyarat dari Y diberikan
X = x dan digunakan untuk meminimumkan E[|Y − θ||X = x) berdasarkan θ
kemudian diasosiasikan peda fungsi loss |u| sehingga ρ0,5(u) = 0, 5|u|. Estimasi
P
tersebut menghasilkan dengan meminimumkan ni=1 ρ0,5 (yi − xTi β) berdasarkan
β. Selanjutnya dapat ditulis kembali ρ0,5(u) sebagai ρ0,5(u) = 0, 5uI[0,∞)(u) −
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
25
1
u∈A
yang merupakan indikator
lainnya
fungsi dari himpunan A. Definisi ini dapat digeneralisasikan dengan menggan-
(1 − 0, 5)uI(−∞,0) (u), dimana IA (u) =
0
ti 0,5 dengan p diperoleh karakteristik dari 100% p regresi quantil yaitu qp(x)
pada x sebagai nilai θ sehingga meminimumkan E[ρp(Y − θ)|X = x], dimana
ρp (u) = puI[0,∞)(u) − (1 − p)uI(−∞,0)(u) dan disebut fungsi pemeriksaan.
Regresi quantile pertama kali diperkenalkan oleh Koenker dan Bassett (1978)
melihat dan memperluas ide estimasi fungsi quantile bersyarat. Model dengan
quantile berdistribusi bersyarat dari variabel terikatnya diekspresikan sebagai
fungsi covariat yang diamati. Quantile dapat dioperasikan dengan penyusunan
atau pengurutan sampel pengamatan sehingga lebih mudah menentukan letaknya
dan dapat mendefinisikan quantile melalui alternatif yang sederhana sebagai masalah
optimisasi. Seperti halnya dapat didefinisikan rata-rata sampel sebagai solusi untuk masalah meminimumkan jumlah kuadrat residu, dapat mendefinisikan median sebagai solusi untuk masalah meminimumkan jumlah absolut residu. Simetri
dari nilai fungsi absolut linier mengimplikasikan bahwa minimum jumlah absolut residu harus sama dengan jumlah residu yang positif dan negatif, sehingga
menjamin bahwa terdapat jumlah pengamatan yang sama di atas dan di bawah
median (Koenker dan Hallock, 2001).
Karena simetri nilai absolut menghasilkan median, diharapkan dengan meminimumkan jumlah residu absolut terboboti yang tidak simetri, secara sederhana
memberikan perbedaan bobot untuk residu positif dan negatif akan menghasilkan
quantile. Untuk masalah ini dapat diselesaikan dengan
min
ξ∈<
X
ρτ (yi − ξ),
Rusly Siagian : Ketakstabilan Parameter Dalam Regresi Quantile, 2009
USU Repository © 2008
(4.2)
26
dimana fungsi ρx (·) merupakan nilai fungsi absolut yang terlihat pada Gambar
4.1 (Roger and Kevin 2001) yang menghasilkan sampel quantile ke-τ sebagai solusinya.
Gambar 4.1 : Fungsi ρ pada Regresi Quantile
Untuk mendefinisikan quantile bersyarat dalam sebuah analogi, regresi kuadrat
terkecil menawarkan sebuah model, jika dipresentasikan dengan sampel acak {y1, y2 , ..., yn},
diselesaikan:
min
µ∈<
n
X
(yi − µ)2 ,
i=1
maka diperoleh rata-rata sampel yang merupakan pengestimasian dari rata-rata
populasi tidak bersyarat EY . Jika ditukar skalar µ dengan fungsi parametrik
µ(x, β) dan diselesaikan,
min
β∈