43
Prinsip utama metode kuadrat terkecil adalah meminimumkan jumlah kuadrat kesalahan randomnya. Estimator dicari dengan metode kuadrat terkecil,
pertama dilakukan untuk kasus homoskedastik, kemudian kasus heteroskedastik.
4.4.1.1 Kasus Homoskedastik
Menurut Seber 1977: 63 untuk menentukan suatu estimator dari model
linier Y = X + ε dengan asumsi Eε = 0 dan Covε = σ² I dapat diperoleh
dengan metode kuadrat terkecil. Langkah pertama adalah menghitung jumlah kuadrat vektor kesalahan
random ε, yaitu
ε ε
T
=
θ θ
X Y
X Y
T
− −
=
θ θ
X Y
X Y
T T
T
− −
=
θ θ
θ θ
X X
X Y
Y X
Y Y
T T
T T
T T
+ −
−
=
θ θ
θ
X X
Y X
Y Y
T T
T T
T
+ −2
Jumlah kuadrat vektor kesalahan random ε akan minimum jika derivatif
parsial pertama terhadap parameter yang diestimasi sama dengan nol.
4.6
2 2
= +
− =
∂ ∂
θ θ
ε ε
X X
Y X
T T
T
Persamaan 4.6 dapat dicari persamaan normalnya, yaitu
Y X
X X
T T
=
θ
Setelah diperoleh persamaan normal, maka dapat diperoleh estimator
θ
ˆ
. Pada kasus homoskedastik estimator
θ
ˆ
dituliskan dengan
ˆ
θ
, yaitu
44
ˆ
θ
=
Y X
X X
T T
1 −
Langkah selanjutnya dibuktikan apakah estimator yang diperoleh bersifat tak bias. Misalkan untuk model linier pada kasus homoskedastik
L L
=
. Lemma 4.1 memberikan syarat perlu dan cukup untuk L agar
θ
ˆ
tak bias, maka misalkan
T T
X X
X L
1 −
=
, dihasilkan
I X
X X
X X
L
T T
= =
−1
, terlihat syarat ketakbiasan dipenuhi oleh estimator di atas.
4.4.1.2 Kasus Heteroskedastik
Model linier pada kasus heteroskedastik mengasumsikan bahwa
ε independen dan terdistribusi identik dengan E
ε = 0 dan Covε = σ² C. Model
linier pada kasus heteroskedastik harus ditransformasi terlebih dahulu agar homogenitas variansi pada kesalahan random
ε terpenuhi. Pada awal pembahasan telah disebutkan bahwa C merupakan matriks
definit positif. Menurut Seber 1997: 63, jika matriks C definit positif, maka akan terdapat matriks nonsingular K berukuran n x n, sehingga dapat dibentuk
T
KK C
=
. Jika persamaan 4.1 dikenakan transformasi
Y K
Z
1 −
=
,
X K
B
1 −
=
dan
ε η
T
K =
, maka model linier tergeneralisasi dinyatakan dengan
η θ
+ =B
Z
Asumsi pada persamaan 4.1 menjadi 1.
EZ = B
2. independen dan terdistribusi identik dengan
1 1
= =
=
− −
ε ε
η
E K
K E
E
45
T T
K C
K K
Cov K
K Cov
Cov
1 2
1 1
1 1
− −
− −
−
= =
=
σ ε
ε η
I K
KK K
T T
2 1
1 2
σ σ
= =
− −
Estimator
θ
ˆ
dicari dengan menggunakan metode kuadrat terkecil generalisasi. Pada kasus heteroskedastik estimator
θ
ˆ
dinyatakan dengan
ˆ
θ
. Ada dua cara untuk mencari estimator
ˆ
θ
pada metode kuadrat terkecil generalisasi, yaitu
1. Dengan menggunakan estimator yang telah diperoleh pada metode kuadrat
terkecil untuk model linier dengan kasus homoskedastik, yaitu
Y X
X X
T T
1
ˆ
−
=
θ
Jika hasil tersebut diterapkan pada model linier generalisasi, maka diperoleh estimator sebagai berikut :
Z B
B B
T T
1
ˆ
−
=
θ
Y K
X K
X K
X K
T T
1 1
1 1
1
] [
− −
− −
−
= Y
K K
X X
K K
X
T T
T T
1 1
1 1
1
] [
− −
− −
−
= Y
C X
X C
X
T T
1 1
1 −
− −
= 2.
Dengan meminimumkan bentuk kuadrat dari kesalahan random pada model linier generalisasi.
1 1
ε ε
η η
− −
= K
K
T T
ε ε
1 1
− −
= K
K
T T
ε ε
1 1
− −
= K
K
T T
46
ε ε
1 −
=
T T
KK
ε ε
1 −
= C
T
1
θ θ
X Y
C X
Y
T
− −
=
−
θ θ
θ θ
X C
X X
C Y
Y C
X Y
C Y
T T
T T
T T
1 1
1 1
− −
− −
+ −
− =
4.7
θ θ
θ X
C X
Y C
X Y
C Y
T T
T T
1 1
1
2
− −
−
+ −
=
Persamaan 4.7 diminimumkan dengan cara menurunkan persamaan tersebut terhadap
θ diperoleh hasil sebagai berikut : 4.8
θ θ
η η
X C
X Y
C X
T T
T 1
1
2 2
− −
+ −
= ∂
∂
Hasil diatas disamakan dengan nol menjadi 4.9
Y C
X X
C X
T T
1 1
− −
= θ
Berdasarkan persamaan 4.9, maka diperoleh estimator parameter pada model linier untuk kasus heteroskedastik adalah
Y C
X X
C X
T T
1 1
1
ˆ
− −
−
=
θ Dari dua cara yang digunakan untuk mengestimasi
θ
ternyata diperoleh hasil yang sama. Langkah selanjutnya dilakukan seperti pada kasus
homoskedastik, dilihat apakah estimator yang diperoleh bersifat tak bias. Misalkan untuk model linier pada kasus heteroskedastik
1 1
1 −
− −
= =
C X
X C
X L
L
T T
, maka syarat ketakbiasan juga dipenuhi oleh estimator
ˆ
θ
.
47
4.4.2 Metode pengali Lagrange
