varians untuk
1
ˆ ϑ lebih kecil dari varians untuk
2
ˆ ϑ , maka
1
ˆ ϑ merupakan
estimator bervarians minimum.
3. Estimator yang konsisten
Estimator dikatakan konsisten apabila sampel yang diambil berapa pun besarnya, pada rentangnya tetap mengandung nilai parameter yang sedang
diestimasi. Misalkan, ϑˆ estimator untuk θ yang dihitung berdasrakan sebuah
sampek acak berukuran n. Jika ukuran sampel n makin besar mendeteksi ukuran populasi menyebabkan
ϑˆ mendekati θ , maka ϑˆ disebut estimator konsisten.
Estimasi nilai parameter memiliki dua cara, yaitu estimasi titik point estimation dan estimasi selang Interval estimation.
a. Estimasi titik point estimation
Estimasi titik adalah estimasi dengan menyebut satu nilai atau untuk mengestimasi nilai parameter.
b. estimasi interval Interval estimation
Estimasi Interval dengan menyebut daerah pembatasan dimana kita menentukan batas minimum dan maksimum suatu estimator. Metode ini
memuat nilai-nilai estimator yang masih dianggap benar dalam tingkat kepercayaan tertentu confidence interval
2.2.1 Estimasi Maksimum Likelihood
Salah satu cara untuk mendapatkan estimator yang baik adalah dengan menggunakan metode maksimum likelihood yang diperkenalkan oleh R. A. Fisher. Maksimum
Likelihood merupakan suatu cara mendapat estimator a untuk parameter b yang tidak diketahui dari populasi dengan memaksimumkan fungsi kemungkinan.
Universitas Sumatera Utara
Untuk data sampel
n
x x ,...,
1
dari distribusi yang kontinu dengan fungsi padat fx;
α ditentukan fungsi likelihood sebagai .
; ...
; ;
,...,
1 1
α α
α
n n
x f
x f
x x
L =
Unuk data sampel distribusi yang diskrit dengan nilai kemungkinan r
i p
x X
p
i i
,..., 1
, =
= =
α dan frekuensi
k
f f ,....,
1
ditentukan dengan fungsi Likelihood sebagai berikut:
r
f r
f i
n
p p
x x
L
α α
α
1
; ,
,
1
=
,
∑
=
=
n i
i
n f
1
Karena ln L merupakan transformasi yang monoton naik daripada L, maka ln L mencapai maksimumnya pada nilai
α yang sama. Menurut hitung differensial persamaan menjadi
ln =
∂ ∂
α
L
. Suatu akar persamaan ini
n
x x
a ,...,
ˆ
1
= α
yang memaksimumkan L, disebut estimasi maksimum likelihood untuk
α .
2.2.2 Maksimum Likelihood dalam Regresi Linier Berganda
Maksimum Likelihood adalah metode yang dapat digunakan umtuk mengestimasi suatu parameter dalam regresi.
Jika X dikurangi dengan rata-atanya, maka maka akan diperoleh variabel baru x
X X
x
i
i
− =
dan selisih antara
i
X dan X merupakan perhitungan yang sederhana karena jumlah dari nilai
i
x tersebut adalah sama dengan nol
=
∑
= n
i i
x
1
0 . Dan persamaan regresi linier berganda menjadi:
ε β
β β
+ +
+ +
=
k k
i
X X
Y ...
1 1
2.7
Keterangan:
Universitas Sumatera Utara
i
Y = variabel terikat ke-i
ki i
x x ,...,
1
= selisih antara variabel bebas X dengan nilai rata-ratanya pada pengamatan ke-i
k
β β
β
,...,
1 ,
= parameter regresi ε
= nilai kesalahanerror
Teknik estimasi maksimum likelihood mempertimbangkan berbagai populasi yang mungkin dengan perpindahan garis regresi dan regresi tersebut mengelilingi
distribusi untuk semua posisi yang mungkin. Perbedaan posisi yang berhubungan dengan perbedaan nilai percobaan untuk
k
β β
β ,...,
1 ,
. Dalam hal ini, pengamatan likelihood dipilih hipotesis populasi yang maksimum dalam likelihood. Secara umum,
andaikan kita mempunyai sampel berukuran n dan kita ingin mengetahui kemungkinan sampel yang diamati. Diperlihatkan fungsi nilai kemungkinan sampel
untuk
k
β β
β
,...,
1 ,
:
k n
i
Y Y
Y p
β β
β ,...,
, ,...,
,
1 2
2.8
Mengingat kemungkinan nilai pertama Y adalah:
2 1
1 1
... 2
1
2 1
+ +
+ −
−
=
σ β
β β
π σ
ki k
i
x x
Y i
e Y
p 2.9
Hal di atas adalah distribusi normal sederhana dengan rata-rata
ki k
i
x x
β β
β +
+ +
...
1 1
dan varians
2
σ yang disubstitusi ke dalam:
−
−
=
σ µ
π σ
x i
e Y
p
2 1
2 1
. Kemungkinan nilai kedua Y sama dengan 2.9, kecuali angka satu diganti dengan dua dan deterusnya untuk semua nilai Y amatan lainnya.
Untuk nilai Y bebas dengan mengalikan semua kemungkinan bersama dalam 2.8, dimana:
Universitas Sumatera Utara
k n
i
Y Y
Y p
β β
β ,...,
, ,...,
,
1 2
=
... 2
1 2
1
2 1
1 2
2 1
1 1
... 2
1 ...
2 1
+ +
+ −
−
+
+ +
− −
σ β
β β
σ β
β β
π σ
π σ
ki k
i ki
k i
x x
Y x
x Y
e e
∏
=
+
+ +
− −
=
n i
x x
Y
ki k
i i
e
1 ...
2 1
2 1
1
2 1
σ β
β β
π σ
2.10
Dengan
∏
= n
i 1
menyatakan hasil kali n kemungkinan bersama untuk nilai
i
Y yang penggunaannya dik enal untuk eksponensial. Hasil 2.10 dapat diperlihatkan
dengan penjumlahan ekspnen:
2 ...
2 1
1 2
1
1 1
1
2 1
,..., ,
,..., ,
∑
=
=
+ +
+ −
−
n i
ki k
i i
x x
Y n
k n
e Y
Y Y
p
σ β
β β
π σ
β β
β 2.11
Mengingat
i
Y amatan yang diberikan dipertimbangkan untuk berbagai nilai .
,..., ,
1 k
β β
β Sehingga persamaan 2.11 dinamakan fungsi likelihood:
∑ =
=
− −
− −
−
n i
ki k
i i
x x
Y n
k
e L
1 2
1 1
... 2
1 1
2 1
,..., ,
σ β
β β
π σ
β β
β 2.12
Keterangan:
k
L β
β β
,..., ,
1
= fungsi maksimum likelihood pada parameter
k
β β
β ,...,
,
1
σ = parameter yang merupakan simpangan baku untuk distribusi
π = nilai konstan
π = 3,1416 n
= banyak data sampel e
= bilangan konstan e = 2,7183
i
Y = variabel terikat ke-i
Universitas Sumatera Utara
i
β = parameter regresi ke-i
Dari persamaan 2.12 diperoleh
k
L β
β β
,..., ,
ln
1
, yaitu:
Λ
=
∑
=
− −
− −
− −
− =
n i
ki k
i i
k
x x
Y n
n L
1 2
1 1
1
... 2
1 ln
2 ln
2 ,...,
, ln
σ β
β β
σ π
β β
β 2.13
Dengan mendiffrensialkan
Λ
terhadap setiap parameter
k
β β
β ,...,
,
1
dan menetapkan derivatif parsial yang dihasilkan sama dengan nol, diperoeh:
∑
=
= −
− −
− =
∂ Λ
∂
n i
ki k
i i
x x
Y
1 1
1 2
... 1
β β
β σ
β
∑ ∑
∑ ∑
∑
= =
= =
=
= =
→ =
− −
− −
=
n i
n i
n i
n i
n i
ki i
ki k
i i
x x
x x
n Y
1 1
1 1
1 1
1 1
... β
β β
Y n
Y
n i
= =
⇒
∑
=1
ˆ β
2.14
∑
=
= −
− −
− −
= ∂
Λ ∂
n i
ki k
i i
i
x x
Y x
1 1
1 1
2 1
... 1
β β
β σ
β
∑ ∑
∑ ∑
∑
= =
= =
=
= →
= −
− +
+ −
=
n i
n i
n i
n i
i ki
i k
i n
i i
i i
x x
x x
x Y
x
1 1
1 1
1 1
2 1
1 1
1 1
... β
β β
∑ ∑
∑
= =
=
= −
− +
− ⇒
n i
n i
n i
ki i
k i
i i
x x
x Y
x
1 1
1 1
2 1
1 1
... β
β 2.15
∑
=
= −
− −
− −
= ∂
Λ ∂
n i
ki k
i i
ki
x x
Y x
1 1
1 2
2
... 1
β β
β σ
β
∑ ∑
∑ ∑
∑
= =
= =
=
= →
= −
− +
− −
=
n i
n i
n i
n i
ki ki
k ki
i n
i ki
i ki
x x
x x
x Y
x
1 1
1 1
2 1
1 1
... β
β β
∑ ∑
∑
= =
=
= −
− +
− ⇒
n i
n i
n i
ki k
ki i
i ki
x x
x Y
x
1 1
1 2
1 1
... β
β
Universitas Sumatera Utara
Maka hasil yang diperoleh dari penurunan parsial di atas dapat dihitung nilai parameter
. ˆ
,..., ˆ
, ˆ
1 k
β β
β
Universitas Sumatera Utara
BAB 3
PEMBAHASAN
3.1 Estimasi Parameter Menggunakan Maksimum Likelihood
