Kembali Metode Penduga Kuadrat Terkecil
5.3.1. Kembali Metode Penduga Kuadrat Terkecil
Sebagaimana pada model linier klasik, metode kuadrat terkecil men-
Layar Penuh
cari penduga yang menyebban terjadinya kesalahan minimum. Untuk cari penduga yang menyebban terjadinya kesalahan minimum. Untuk
T Judul
Cari Halaman
∂µ dimana
adalah matrik diagonal berordo N dengan unsur di- ∂η Kembali
∂µ i
agonal ke-i adalah
yang nilainya bergantung pada fungsi link
∂η i
Layar Penuh
yang digunakan. Untuk mengaplikasikan metode iterasi Newton-Raphson,
Dengan demikian bentuk lengkap iterasi Newton Raphson dengan Metode Kuadrat Terkecil Terbobot Weighted Least Square adalah
Judul T
dengan g(µ) = Xβ.
303 dari 490
5.3.2. Metode Penduga Likelihood Maksimum
Cari Halaman
Penduga likelihood maksimum untuk model linier tergeneralisir dapat diturunkan sebagai berikut (lihat [ Kembali 11 , Lampiran 1]):
l(y) = Layar Penuh y i b(θ i )+ c(θ i )+ c(θ i )+ d(y i ), (5.22)
i=1
i=1
i=1
i=1
Untuk memperoleh ˆ β , kita gunakan persamaan:
dengan Cari Halaman
= Layar Penuh .
∂l i ∂θ i ∂µ i
∂β j
∂θ i ∂µ i ∂β j
Dari persamaan ( 5.23 ), kita peroleh
i )Var[Y i ] berdasar persamaan ( 5.13 ).
Oleh karena itu, 305 dari ∂θ 490
∂µ i
b ′ (θ i ) Var[Y i ]
Sekarang Cari Halaman
dan dari persamaan ( 5.24 ) kita peroleh
∂η i
=x Layar Penuh
ij ,
∂β j
∂β j
b (θ i ) Var[Y i ]
Var(Y i )
Var(Y i )
∂η i
i=1
306 dari for j = 1, 2, 3, · · · , p. Umumnya, metode iterasi seperti metode Newton- 490 Raphson , digunakan untuk menyelesaikan sistim persamaan U = O.
Pendekatan iterasi ke- m-th dari f (x) = 0 dengan Newton-Raphson
Cari Halaman
adalah:
f (x (m−1) (m−1) )
f ′ (x (m−1)
dengan x (m−1) adalah nilai pendekatan dari x setelah iterasi ke-(m−1).
Layar Penuh
Dengan cara yang sama untuk persamaan U = O, rumus iterasinya
∂β j ∂β k
adalah matriks turunan kedua dari fungsi likelihood l yang dinilai pada β = b (m−1) . Pada prakteknya digunakan metode alternatif dise-
Judul
but metode skoring. Dalam metode skoring ini matriks persamaan ( 5.32 ) diganti dengan suatu matriks nilai harapan
Matriks di atas sama dengan negatif dari mariks ragam - koragam atau matriks informasidari U T
] dengan unsur ke − (j, k) Cari Halaman adalah
j ’s, I = E[UU
I Kembali
= −E Layar Penuh (5.33)
∂β j ∂β k ∂β j ∂β k
(m−1) (m)
(m−1) (m−1)
I (m−1) b =I b +U .
Judul
Dari persamaan ( 5.30 ) dan persamaan ( 5.33 ) dan mengetahui bahwa
E[Y
i −µ i ] = Var[Y i ], dapat dilihat bahwa unsur (j, k) dari I adalah
i=1 Var[Y i ] ∂η i
308 dari 490
Persamaan persamaan ( 5.35 ) menunjukkan bahwa I dapat dinyatakan
sebagai Cari Halaman
I=X T W,
Kembali
dengan W adalah matriks diagonal N × N dengan unsur-unsur:
w Layar Penuh
ii =
Var[Y i ] ∂η i
∂η i ke-i adalah Judul .
∂µ i Oleh karena itu bentuk umum dari persamaan penduga dengan ◭◭ ◭ ◮ menggunakan iterasi Newton Raphson adalah ◮◮
atau dalam bentuknya yang asli
Cari Halaman
(m) (m−1)
b =b + X X Kembali
var(Y)
var(Y) Layar Penuh ∂η
X (Y − µ)
(5.38b) (5.38b)
adalah suatu vektor dengan unsur-unsur berbentuk:
Judul p
k=1 i=1 Var[Y i ] ∂η i
Var[Y i ]
yang sama dengan
310 dari 490 n
i=1 Cari Halaman k=1 i=1 ∂η i Ini berarti bahwa id dapat dinyatakan sebagai X T Wz dengan unsur-
unsur vektor z adalah berbentuk: Kembali
Layar Penuh
∂η i
k=1 k=1
ekuivalen dengan penduga kuadrat terkecil terbobot [ 11 , hal. 41].
Cari Halaman
Kembali
Layar Penuh
(i) Untuk N besar, berdasar Teorema limit pusat:
312 dari (ii) Sama dengan(i), 490
Var[ˆ Cari Halaman θ] Dalam bentuk matriks dapat dinyatakan sebagai
Layar Penuh
Dengan q adalah rank matriks V, dan V − adalah:
Untuk MLT dengan p parameter dan skore terhadap β j =U, maka kita memiliki:
313 dari E[U 490 j ] = 0 [lihat persamaan ( 5.5 )], dengan matriks ragam - koragam I=E[UU T ]. Jadi analog dengan
Cari Halaman
persamaan ( 5.40 ) setidaknya secara asimtotik:
Kembali
T −1
U ∼ N(0, I) or U 2 I U∼χ
Layar Penuh
dengan asumsi I adalah nonsingular Dobson [ 11 ].
skor U(β) pada β = b (sebagai penduga), kita peroleh:
U(β) ≈ U(b) + H(b)(β − b),
U 2 ∂β 2 U(b) =
Cari Halaman
H(b) =
Layar Penuh
∂β 2 p
β j =b j
U(β) ≈ −I(β − b) Judul dan
b−β≈I −1 U(β).
Dengan mengambil nilai harapan dari kedua ruas persamaan ( 5.44 ),
315 dari 490
lalu menerapkan bahwa E[U]=0, dapat disimpilkan bahwa E[b] = β. Akibatnya secara asimtotik b adalah takbias. Lebih lanjut, matriks
Cari Halaman
ragam - koragam dari b − β (sebut saja, V ) dapat dihitung sebagai berikut:
Kembali
E[(b − β)(b − β) T ] = E[I −1 U(I −1 U) ],
= E[I −1
UU T −1
I Layar Penuh ],
Statistik persamaan ( 5.46 ) disebut statistik Wald. Statistik ini ekuiv-
◭◭ ◭ ◮ alen dengan (b − β) ∼ N(0, I ◮◮ secara asimtotik, untuk N besar:
−1 ), yang membawa konsekuensi bahwa,
316 dari (i) standar kesalahan (s.k.) dari penduga masing-masing b 490
j adalah
s.k.(b j ) = √v jj ,
Cari Halaman
dengan v
jj adalah unsur ke-(j, j) dari I ;
Kembali
(ii) interval keyakinan dua sisi (1 − α) × 100% untuk β j adalah √ Layar Penuh
b j ±z α/2 v jj ,
(iii) korelasi antara penduga adalah:
v jk
Judul
corr(b j b k )= √ √ . v jj v kk