Uji Hipotesis

3.3.3. Uji Hipotesis

Selain menghitung penduga interval ( estimasi interval/selang keyaki- nan ) dari parameter regresi β j , sering juga dilakukan uji hipotesis un-

170 dari tuk mengetahui apakah koefisien regresi populasi dianggap signifikan 490 atau tidak. Dalam statistika dua macam hipotesis yang biasanya diuji,

yaitu Cari Halaman hipotesis nul (H

0 ) dan hipotesis alternatif (H A ), untuk parame-

ter β j , dengan j = 0, 1, 2, · · · , p.

H 0 :β j = 0; yaitu β j tidak signifikan

Kembali

H A :β j 6= 0; yaitu β j signifikan

Adapun kriteria penerimaan atau penolakan H 0 dapat dilakukan

Layar Penuh

dengan beberapa cara yaitu dengan beberapa cara yaitu

s( ˆ β j )

Judul

dan dengan kriteria

t h <t α/2,n−k :H 0 diterima

t h ≥t α/2,n−k :H 0 ditolak

3. Dengan menghitung nilai probabilitas p, atau Nilai p yang di-

171 dari 490

definisikan sebagai p = 2P (T > t Cari Halaman

h ); dengan catatan T ∼ t n−k

Selanjutnya kriteria penerimaan hipotesis adalah

Kembali

p > 5%

:H 0 diterima atau β j tidak signifikan 1% < p ≤ 5% : H 0 ditolak dengan β j signifikan

Layar Penuh

p ≤ 1%

:H 0 ditolak dengan β j sangat signifikan

Selain dengan melihat signifikan tidaknya koefisien regresi, baik ti-

daknya model dapat juga dilihat dari koefisien determinasi, R 2 , yang

Judul

didefinisikan dengan

Cari Halaman

i=1

(Lihat Mendenhall [ 27 ]). Jadi R 2 ekuivalen dengan rasio penurunan

Kembali

jumlah kuadrat dari model yang digunakan terhadap jumlah kuadrat deviasi terhadap rata-rata ˆ 2 y. Semakin besar R berarti semakin kecil

Layar Penuh

simpangan data terhadap garis regresi model. Secara ekstrim R 2 =1 simpangan data terhadap garis regresi model. Secara ekstrim R 2 =1

oleh tabel berikut. Judul

5 Cari Halaman 13 20

Layar Penuh

2. menentukan penduga selang dari koefisien regresi yang diper- oleh;

Judul

3. menguji hipotesis

Estimasi parameter regresi ˆ β

174 dari 490

Untuk persoalan ini, karena hanya ada satu macam peubah penjelas

X, maka model yang akan kita pakai adalah Cari Halaman

Y=β 0 +β 1 X+ǫ

Kembali

Untuk menghitung b j =ˆ β j secara manual, maka kita perlu melengkapi

Layar Penuh

tabel di atas sebagai berikut:

175 dari Total 117 192 1399 2305 490 51,5175

Cari Halaman

Kembali

Kolom terakhir sesungguhnya baru diisi setelah kita memperoleh ˆ β 0 Layar Penuh

dan ˆ β 1 . Isianini diperlukan guna menghitung ˆ σ 2 .

Nilai ˆ β 1 selanjutnya digunakan untuk menghitung a, yaitu

Untuk penduga ragam diperoleh

σ ˆ 2 = 51, 5175/8 = 6, 44 atau ˆ σ = 2, 54. Karena rumus akhir yang diperoleh dengan metode likelihood mak-

Cari Halaman

Kembali

simum dan de-ngan metode kuadrat terkecil adalah ekuivalen, maka apabila perhitungan dikerjakan dengan metode likelihood maksimum,

Layar Penuh

akan diperoleh penduga yang sama.

Cari Halaman

s( ˆ β 1 ) = 0, 46. Penduga selang dari ˆ Kembali β

Setelah mendapat standar kesalahan masing-masing penduga, maka

Layar Penuh

selanjutnya kita dapat menghitung penduga selang dari masing-masing

Selang kepercayaan 95% masing-masing penduga kita peroleh sebagai berikut.

j −t 5%/2,8 ×s β ˆ j ≤β j ≤ˆ β j +t 5%/2,8 ×s β ˆ j Setelah memasukkan angka-angka yang didapat sebelumnya maka diper-

1. untuk j = 0

178 dari 490

−8, 90 ≤ β Cari Halaman

2. Untuk j = 1

Kembali

0.89 ≤ β Layar Penuh

untuk b β 0 dan

1, 95 − 0 = Judul = 4, 239 untuk b β

◭◭ ◭ ◮ Niilai p untuk masing-masing penduga adalah: p = 0, 26 untuk ◮◮

β b 0 dan p = 0, 001 untuk ˆ β 1 oleh karena itu koefisien regresi signifikan

(sangat signifikan) tetapi konstanta tidak signifikan. Hal tersebut se-

179 dari 490

suai juga dengan kenyataan bahwa 0 ∈ IK β ˆ 0 tetapi 0 6∈ IK β ˆ 1 . Analisis

dengan R menghasilkan keluaran sebagai berikut (perbedaan pada

Cari Halaman

beberapa desimal disebabkan adanya pembulatan pada perhitungan manual).

Kembali

Layar Penuh

Apabila pada model linier ada lebih dari dua koefisien regresi, mi- salnya β j , j = 0, 1, 2, . . . , p dengan k = (p + 1) > 2, maka model li- nier (regresi) tersebut disebut regresi berganda. Hasil-hasil yang telah

Judul

diperoleh sebelumnya dapat digeneralisir dengan mudah untuk kasus berganda(dengan peubah ganda), diantaranya adalah seperti berikut

ini.

180 dari 1. Penduga σ 490 adalah

k−1

! 2 Cari Halaman

2. Kesalahan penduga adalah s( ˆ β j ) = √v jj dengan v ∈ V dan V =

Layar Penuh 2 T

s −1

e (X X)

β ˆ j −t α/2,n−k s( ˆ β j )≤β j ≤ˆ β j +t α/2,n−k s( ˆ β j )

Judul

Secara umum, terutama jika parameternya lebih dari 2, maka estimasi parameter lebih praktis dilakukan dengan menggunakan pendekatan

matriks. Hubungan peubah pada persamaan ( 3.1 ) dapat juga dit-

uliskan dalam bentuk matriks dengan mendefinisikan matriks- matriks 181 dari berikut 490

Y 1 β 0 ǫ 1 Cari Halaman  Y 

 Y=   ;X=  1x 22 ···x 2p 

1x n2 ···x np

Layar Penuh

Ketidak saling bergantungan antara komponen dalam vektor kesa-

Judul

lahan digambarkan oleh bentuk matriks ragam-koragamnya yang berben-

tuk matriks skalar seperti pada persamaan ( 3.20 )

182 dari V=σ 490 I= 

Cari Halaman

Apabila data yang dianalisis memiliki ragam seperti di atas, maka datanya disebut berfifat homoskedastik, sebaliknya jika tidak, maka

Kembali

disebut heteroskedastik. Bentuk matriks ragam yang bersifat het-

eroskedastisitsa dapat dilihat pada persamaan ( 3.21 ). Estimasi ben-

Layar Penuh

tuk matriks juga dapat dilakukan dengan metode kuadrat terkecil dan

0 0 ···σ 2 n

Judul

3.4.2. Pendekatan Matriks Metode Kuadrat Terkecil

Penggunaan matriks dalam menganalisis model linier dapat dilakukan 183 dari dengan melihat bentuk umum matriks, selanjutnya menurunkan ben- 490

tuk matriks yang diperoleh dengan menggunakan prinsip-prinsip difer- ensial matriks. Langkah-langkah yang ditempuh dalam menurunkan Cari Halaman

penduga ˆ β dengan kuadrat terkecil adalah seperti berikut ini.

Kembali

1. mengubah model menjadi eksplisit terhadap matriks kesalahan,

Layar Penuh

yaitu ǫ = Y − Xβ yaitu ǫ = Y − Xβ

◭◭ ◭ ◮ = −2 X ◮◮ Y−X Xβ (3.23) ∂ 2 Q

184 dari ∂β 490 ∂β

= 2X X. (3.24)

4. menentukan persamaan iterasi Newton-Raphson atau skoring

Cari Halaman

Fisher untuk β, dengan mengambil nilai awal untuk ˆ β =b 0 yaitu

b Layar Penuh

1 =b 0 +X X X (Y − Xb 0 )

Untuk distribusi normal sesungguhnya solusi langsung tanpa menggu- nakan iterasi Newton-Raphson dapat diperoleh dengan mencari solusi

−2 X −1 Y−X Xβ = 0 atau − 2 X V Y−X V Xβ =0

185 dari 490

yang menghasilkan

Cari Halaman

untuk kondisi homoskedastik dan β Kembali ˆ T −1 −1 T −1 =X V X X V Y (3.29)

untuk kondisi heteroskedastik. Sebenarnya penyelesaian untuk ka-

Layar Penuh

sus distribusi normal dapat dilakukan langsung tanpa iterasi. Namun

3.4.3. Judul Pendekatan Matriks untuk Metode Kemungkinan Mak- simum

Hasil yang diperoleh pada sub di atas dapat, khususnya turunan like- lihood terhadap β, dapat juga dilakukan secara serempak dengan

186 dari 490

mengggunakan pendekatan ’multivariat’, dalam arti semua data re- spon dapat dianggap merupakan satu kesatuan vektor respon dengan

Cari Halaman

multivariat normal dengan nilai-tengah µ = Xβ dan matriks ragam-

koragam V = σ 2 I. Fungsi kepadatan probabilitas dari Y yang berdis-

tribusi multivariat normal (MVN) adalah Kembali

1 1 T −1

f (Y, µ) = Layar Penuh p exp − (Y − µ) V (Y − µ) (3.32) (2π) n |V|

2. menentukan fungsi log-likelihood inti l(β), yaitu

1 T −1

l(β) = − (Y − Xβ) V (Y − Xβ) = − Q

2 2 187 dari 490

3. menentukan turunan pertama dan kedua likelihood inti terhadap β Cari Halaman , yaitu

∂l(β)

1 ∂Q =− Kembali

T Layar Penuh =−

∂β T ∂β 2 ∂β ∂β

∂Q Judul ∂Q =b 0 −

◭◭ ◭ ◮ Dengan demikian persamaan di atas akan menghasilkan bentuk ◮◮ iterasi Newton-Raphson yang identik dengan metode kuadrat

188 dari terkecil, yaitu 490

Cari Halaman

Hasil 3.7. Untuk model linier sederhana dengan V = σ 2 I, jika σ dike-

tahui, maka var( ˆ T β )=σ 2 (X X) −1 . Jadi secara umum dapat dikatakan

Kembali

bahwa jika σ 2 diketahui, maka ˆ

β Layar Penuh ∼ MV N β ,σ X X (3.33)

Var( ˆ −1 β )= X V X X V V X V X X V

h Judul

Hasil 3.8. Jika σ 2 tidak diketahui, maka diganti dengan

Cari Halaman

Bukti:

s Kembali 2 1 =

Layar Penuh

n−k

Cari Halaman

Kembali

Layar Penuh Layar Penuh

Judul

dua macam ragam yaitu ragam untuk estimasi ˆ µ dan ragam untuk prediksi ˆ y yang besarnya dapat ditentukan sebagai berikut:

1. Ragam ˆ µ pada titik x = x 0 adalah

191 dari T 490 T −1

V µ ˆ =ˆ σ 2 x 0 (X X) x 0

2. Ragam ˆ Cari Halaman y

i pada titik x = x 0 adalah

V y ˆ =ˆ σ 2 1+x 0 X X x 0 Kembali

Selanjutnya interval keyakinan (1−α)×100% pada suatu nilai predik-

Layar Penuh

tor x = x 0 masing-masing adalah tor x = x 0 masing-masing adalah

Judul

terval keyakinan nilai-tengah pada setiap kombinasi nilai prediktor. Untuk regresi linier sederhana dengan satu prediktor X, untuk suatu

◭◭ ◭ ◮ nilai prediktor x ◮◮

0 <x<x 1 , interval-interval ini akan membentuk

sabuk keyakinan (confident belt) seperti pada Gambar 3.1 .

192 dari 490

Cari Halaman

Kembali

Layar Penuh

Judul y

Y=a+bX ●

185 Cari Halaman

Kembali

Gambar 3.1: Ilustrasi Garis regresi dan sabuk keyakinan nilai-tengah Layar Penuh µ dan sabuk prediksi ˆ ˆ y Gambar 3.1: Ilustrasi Garis regresi dan sabuk keyakinan nilai-tengah Layar Penuh µ dan sabuk prediksi ˆ ˆ y

Judul

p = P (t n−1 ≥ |t |) dengan t =

S( ˆ β)

Untuk hipotesis β = 0 dan uji dua arah yang simetris maka

Cari Halaman

Dengan demikian semakin kecil nilai p akan semakin signifikan hasil- nya dan semakin kuat penolakan H0. Dalam bahasa R perhitungan p

Kembali

dapat dilakukan dengan p<-2*(1-pt(abs(t),df)) atau

Layar Penuh

p<-2*(pt(-abs(t),df))

1. ˆ β j sangat signifikan jika p ≤ 1%;

Judul

2. ˆ β j signifikan jika 1% < p ≤ 5%; ◭◭ ◭ ◮ 3. ˆ ◮◮ β

j tidak signifikan jika p > 5%;

195 dari 490

Cari Halaman

Kembali

Layar Penuh Layar Penuh

Judul

kemungkinan sebaran data jika dipisahkan berdasarkan kelompok di-

ilustrasikan dengan Gambar 3.2 . Pada gambar diilustrasikan ada 4

◭◭ ◭ ◮ kemungkinan penyebaran datanya yaitu: ◮◮

1. kedua kelompok menyebar sama sehingga tidak perlu dibedakan

196 dari 490

antara kelompok satu dengan yang lain sehingga cenderung mem- bentuk satu garis lurus;

Cari Halaman

2. kedua kelompok menyebar berbeda dengan kecenderungan memi- liki kemiringan yang sama tetapi konstanta berbeda sehingga Kembali

membentuk dua garis lurus sejajar;

Layar Penuh

3. kedua kelompok menyebar berbeda dengan kecenderungan memi-