Dalil Gauss Markov : Berdasarkan sejumlah asumsi tertentu pendugaan berdasarkan metode kuadrat terkecil akan menghasilkan penduga takbias linear terbaik
Best Linear Unbiasad Estimator BLUE , dengan koefisien regresi memiliki varians minimum.
Estimasi regresi dilakukan untuk menentukan estimator parameter regresi. Salah satu metode yang digunakan untuk mengestimasi parameter model regresi nonlinier
adalah kuadrat terkecil nonlinier dimana secara konseptual sama dengan metode kuadrat terkecil pada model regresi linier.
2.3. Pendugaan Parameter
Untuk menyelesaikan suatu masalah nonlinier, metode yang seringkali ditempuh dan ternyata berhasil adalah menuliskan persamaan normal secara terinci dan
mengembangkan suatu tekhnik iteratif yang digunakan untuk memperoleh taksiran parameter diantaranya adalah: Metode linearisasi metode deret taylor, Stepest
Descent, dan Jalan Tengah Marquadrt. Metode–metode ini dapat diselesaikan dengan menggunakan program komputer.
Metode linearisasi atau metode deret taylor menggunakan hasil–hasil kuadrat terkecil pada model yang ditentukan dalam beberapa tahap. Misalkan model yang
ditentukan berbentuk
u u
f Y
ε θ
ξ +
= ,
. dengan
20 10
, ,
p
θ θ
θ
adalah nilai-nilai awal bagi parameter–parameter
p
θ θ
θ
,
,
1
. Nilai–nilai awal itu merupakan taksiran kasar belaka atau mungkin pula merupakan nilai–nilai dugaan awal berdasarkan informasi
yang tersedia. Misalnya perkiraan berdasarkan informasi yang diperoleh dari perhitungan lain yang serupa atau yang diperkirakan benar oleh peneliti berdasarkan
pengalaman dan pengetahuannya. Nilai–nilai awal itu diharapkan akan diperbaiki dalam proses iterasi yang selanjutnya dilakukan penguraian deret Taylor bagi
θ ξ,
f disekitar titik
20 10
, ,
p
θ θ
θ θ
=
dan membatasi penguraian sampai turunan pertama. Dapat dikatakan bahwa, bila
θ dekat pada θ maka,
Universitas Sumatera Utara
1
, ,
,
i i
i u
P i
u u
f f
f θ
θ θ
θ ξ
θ ξ
θ ξ
θ θ
−
∂
∂ +
=
= =
∑
Bila ditetapkan
,
θ ξ
u u
f f
=
i i
i
θ θ
β −
= ,
θ θ
θ θ
ξ
=
∂ ∂
=
i u
iu
f Z
Maka bentuknya menjadi
∑
=
+ =
−
p i
u iu
i u
u
Z f
Y
1
ε β
Dengan kata lain persamaan diatas sudah berbentuk linier. Sekarang penulis dapat menaksir parameter-parameter
p i
i
, ,
2 ,
1 ,
=
β dengan cara menerapkan teori
kuadrat terkecil.
Dengan :
{ }
n p
Z
Z Z
Z Z
Z Z
Z Z
Z Z
Z Z
Z
iu
pn n
n pu
u u
p p
× =
= ,
2 1
2 1
2 22
12 1
21 11
=
2 1
p
b b
b b
dan
2 2
1 1
f Y
f Y
f Y
f Y
f Y
y
n n
u u
− =
− −
− −
=
Misalnya, dengan notasi yang sudah jelas maksudnya, maka taksiran bagi
2 1
, ,
,
p
β β
β β
=
diberikan oleh
1
f Y
Z Z
Z b
− =
−
dengan demikian vektor b akan meminimumkan jumlah kuadrat galat
Universitas Sumatera Utara
2.4. Menghitung Determinan