Penaksiran Metode Kuadrat Terkecil dalam Penaksiran Metode Likelihood dalam

N N N N N N N E E E E E E E E E × = ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ = ⎥ ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ = ⎥ ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ = I 2 2 2 2 2 2 2 1 2 2 2 1 2 1 2 1 2 1 1 1 1 σ σ σ σ σ ε ε ε ε ε ε ε ε ε ε ε ε ε ε ε M M M L L M M M L L M M M L L Asumsi d ditunjukkan oleh unsur-unsur di luar diagonal utama pada matriks diatas.

E. Penaksiran Metode Kuadrat Terkecil dalam

k-variabel Untuk mendapatkan penduga kuadrat terkecil dari β , mula-mula ditulis model regresi sampel k-variabel: i ki k i i i X X X Y ε β β β β + + + + + = ˆ ˆ ˆ ˆ 3 3 2 2 1 L yang dapat ditulis secara ringkas dalam notasi matriks sebagai ε β X Υ + = ˆ 2.16 dan dalam bentuk matriks adalah 1 1 1 1 1 1 2 1 2 1 3 2 2 32 22 1 31 21 2 1 × × × × + = ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ + ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ = ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ N k k N N X X X X X X X X X Y Y Y N k kN N N k k N ε β X Υ ε ε ε β β β M M M M M M L L M Seperti dalam model dua-tiga variabel, dalam kasus k-variabel penduga kuadrat terkecil diperoleh dengan meminimumkan ∑ ∑ − − − − − = 2 3 3 2 2 1 2 ˆ ˆ ˆ ˆ ki k i i i i X X X Y β β β β ε L 2.17 dengan ∑ 2 i ε adalah jumlah residual kuadrat. Dalam notasi matriks, ini sama dengan meminimumkan ε ε′ karena [ ] ∑ = + + + = ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ = ′ 2 2 2 2 2 1 2 1 2 1 i N N N ε ε ε ε ε ε ε ε ε ε L ε ε dari 2.16 diperoleh β X Υ ε ˆ − = 2.18 Oleh karena itu, β X X β Υ X β 2 Υ Υ β X Υ β X Υ ε ε ˆ ˆ ˆ ˆ ˆ ′ ′ + ′ ′ − ′ = − ′ − = ′ 2.19 Dengan sifat-sifat transpose suatu matriks, yaitu X β β X ′ ′ = ′ ˆ ˆ , dan karena Υ X β ′ ′ ˆ adalah suatu skalar suatu angka real, bentuk itu sama dengan transposenya X β Υ ˆ′ . Dari Persamaan 2.19 dengan aturan penurunan matriks, dan menyamakan hasil yang diperoleh dengan nol didapatkan: 2.20 ˆ ˆ ˆ ˆ ˆ Υ X β Χ X Υ X 2 β Χ X 2 β Χ X 2 Υ X 2 β Χ X 2 Υ X 2 β ε ε ′ = ′ ′ = ′ ′ + ′ − = ′ + ′ − = ∂ ′ ∂ Dalam Persamaan 2.20 besaran yang diketahui adalah X X′ dan Υ ′ X perkalian silang antara variabel Χ dan Υ dan yang tidak diketahui adalah βˆ . Sekarang dengan menggunakan aljabar matriks, kalau invers dari X X′ ada, katakan 1 − ′X X , maka dengan mengalikan di muka kedua sisi dari Persamaan 2.20 dengan invers ini, didapatkan: Υ ′ ′ = ′ ′ − − X X X β X X X X 1 1 ˆ 2.21 Tetapi karena I X X X X 1 = ′ ′ − suatu matriks identitas derajat order k k × , maka didapatkan: Υ X X X β I ′ ′ = −1 ˆ atau Υ X X X β ′ ′ = −1 ˆ 2.22

F. Penaksiran Metode Likelihood dalam

k-variabel Pendugaan parameter model regresi linear sederhana dengan metode maksimum likelihood adalah sebagai berikut: Dengan mengingat kembali model regresi linear Persamaan 2.16, Y berdistribusi normal dengan rata-rata β X ˆ dan variansi 2 σ . Sebagai hasilnya fungsi likelihood β L adalah 2 ˆ ˆ 2 1 2 1 σ π σ β β X Υ β X Υ − ′ − − = e L N N 2.23 Pendugaan parameter βˆ diperoleh dengan menurunkan β L terhadap βˆ dan menyamakan hasilnya dengan nol. Untuk memperoleh turunan β L lebih baik diambil lognya ln = log dengan bilangan pokok e, sehingga Persamaan 2.23 menjadi ⎟⎟ ⎟ ⎠ ⎞ ⎜⎜ ⎜ ⎝ ⎛ + ⎟ ⎠ ⎞ ⎜ ⎝ ⎛ + ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎝ ⎛ = ⎟⎟ ⎟ ⎠ ⎞ ⎜⎜ ⎜ ⎝ ⎛ = − ′ − − − ′ − − 2 2 ˆ ˆ 2 1 ˆ ˆ 2 1 ln 1 ln 2 1 ln 2 1 ln ln σ σ σ π π σ β β X Υ β X Υ β X Υ β X Υ e e L N N N N β X X β Υ X β 2 Υ Υ β X Υ β X Υ β X Υ β X Υ ˆ ˆ ˆ 2 1 ln 2 ln 2 ˆ ˆ 2 1 ln 2 ln 2 ln ˆ ˆ 2 1 ln 2 ln 2 2 2 2 ′ ′ + ′ ′ − ′ − − − = − − − − − = − − − − − = ′ ′ σ σ π σ σ π σ σ π N N N N e N N Hasil penurunan ln β L terhadap βˆ adalah 2.24 ˆ ˆ ˆ 1 ˆ 2 1 ˆ ˆ ˆ ˆ 2 1 ln 2 ln 2 ˆ ln 2 2 2 Υ X β Χ X β Χ X Υ X β Χ X Υ X β Χ X 2 Υ X 2 β β X X β Υ X β 2 Υ Υ β ′ − = ′ ′ + ′ − = ′ + ′ − = ′ + ′ − = ∂ ⎟ ⎠ ⎞ ⎜ ⎝ ⎛ ′ ′ + ′ ′ − ′ − − − ∂ = ∂ ∂ σ σ σ σ π β N N L Dalam Persamaan 2.24 besaran yang diketahui adalah X X′ dan Υ ′ X perkalian silang antara variabel Χ dan Υ dan yang tidak diketahui adalah βˆ . Sekarang dengan menggunakan aljabar matriks, kalau invers dari X X′ ada, katakan 1 − ′X X , maka dengan mengalikan di muka kedua sisi dari Persamaan 2.24 dengan invers ini, didapatkan: Υ ′ ′ = ′ ′ − − X X X β X X X X 1 1 ˆ 2.25 Tetapi karena I X X X X 1 = ′ ′ − suatu matriks identitas derajat order k k × , maka didapatkan: Υ X X X β I ′ ′ = −1 ˆ atau Υ X X X β ′ ′ = −1 ˆ 2.26 20

BAB III OUTLIER DAN REGRESI ROBUST