Metode Kuadrat Terkecil dalam Kasus Nonlinier

Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam Penaksiran Parameter Regresi Nonlinier, 2010. 11 Terdapat banyak kasus dalam rekayasa dimana model-model nonlinier harus dicocokkan pada data. Dalam konteks ini model-model ini didefenisikan sebagai model yang mempunyai ketergantungan nonlinier pada parameter-parameternya. Seperti halnya dengan kuadrat terkecil, regresi nonlinier didasarkan pada penentuan nilai-nilai parameter yang meminimumkan jumlah kuadrat galatnya. Namun dalam kasus nonlinier, penyelesaian haruslah berjalan dengan cara iterasi dan bergantung pada nilai-nilai dugaan awal.

2.5 Metode Kuadrat Terkecil dalam Kasus Nonlinier

Metode kuadrat terkecil atau seing disebut dengan metode OLS Ordinary Least Square diperkenalkan oleh Carl Friedrich Gauss, seorang matematikawan Jerman. Penaksir- penaksir yang dihasilkan berdasarkan metode kuadrat terkecil adalah bersifat tak bias dan konsisten. Didalam kenyataannya, salah satu penaksir tak bias linier memiliki varians yang minimum, sehingga disebut penaksir takbias linier terbaik Best Linear Unbiased EstimatorBLUE. Sifat ini merupakan dasar dari dalil Gauss- markov theorem yaitu sebagai berikut: Dalil Gauss Markov : Berdasarkan sejumlah asumsi tertentu pendugaan berdasarkan metode kuadrat terkecil akan menghasilkan penduga takbias linier terbaik Best Linear Unbiased Estimator BLUE, dengan koefisien regresi memiliki varians yang minimum. Namun demikian berbeda dengan kuadrat terkecil dalam model linier, penaksiran parameter pada kuadrat terkecil dalam model nonlinier ditentukan dengan melakukan suatu prosedur atau algoritma yang dapat menjamin bahwa penaksir tersebut secara nyata memenuhi kriteria dari fungsi tujuan yaitu memberikan jumlah kuadrat galat pada nilai yang paling minimum atau memberikan nilai maksimum pada fungsi likelihood. Notasi Baku yang digunakan untuk kuadrat terkecil nonlinier berbeda dengan yang digunakan untuk kasus kuadrat terkecil linier. Misalkan model yang diberikan berbentuk sebagai berikut: Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam Penaksiran Parameter Regresi Nonlinier, 2010. 12 e f Y p k + = θ θ θ ξ ξ ξ   , ; , , 2 1 2 1 Dilambangkan dengan k ξ ξ ξ ξ , , , 2 1  = , , , 2 1 p θ θ θ θ  = Maka persamaannya dapat ditulis menjadi e f Y + = θ ξ, Atau θ ξ, f Y E = Bila data amatannya berbentuk ku u u u Y ξ ξ ξ , , , , 2 1  Untuk n u  , 2 , 1 = maka dapat dituliskan modelnya kedalam bentuk: u p k u u u e f Y + = θ θ θ ξ ξ ξ   , , ; , , 2 1 2 1 dan dapat diperingkas bentuknya menjadi: u u u e f Y + = θ ξ , Jumlah kuadrat galat untuk persamaan nonlinier ditulis sebagai berikut: { } 2 1 , ∑ = − = n u u u f Y S θ ξ θ Karena u y dan u ξ merupakan amatan, dan bersifat tetap, maka jumlah kuadrat tersebut merupakan fungsi dari θ . Nilai taksiran kuadrat terkecil bagi θ akan dilambangkan dengan θˆ. Nilai taksiran ini tidak lain adalah nilai yang meminimumkan θ S . Untuk menemukan nilai taksiran kuadrat terkecil θˆ, terlebih dahulu persamaan jumlah kuadrat galat dideferensialkan terhadap θ . Ini akan menghasilkan p persamaan normal, yang harus diselesaikan untuk memperoleh θˆ. Persamaan normal tersebut berbentuk : { } θ θ θ θ ξ θ ξ θ θ ˆ , , =       ∂ ∂ − = ∂ ∂ i u u u i f f Y S Untuk p i , , 2 , 1  = sedangkan besaran dalam kurung adalah turunan dari θ ξ , u f terhadap i θ dengan semua i θ diganti dengan θˆ yang bersubskrip sama, jika θ ξ , u f merupakan fungsi linier, maka nilai dugaan θ ξ , u f tersebut Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam Penaksiran Parameter Regresi Nonlinier, 2010. 13 merupakan fungsi dari u ξ saja dan tidak mengandung θˆ sama sekali. Misalnya jika pm u u u f θ ξ θ ξ θ θ ξ + + = 2 2 1 , Maka p i f iu i , , 2 , 1  = = ∂ ∂ ξ θ dan tidak bergantung pada θ . Ini mengakibatkan persamaan normalnya terdiri atas persamaan- persamaan linier dalam p θ θ θ  , , 2 1 . Bila modelnya tidak linier dalam θ , maka sama halnya dengan persamaan normalnya. Sekarang akan diilustrasikan dengan suatu contoh sederhana berupa penaksiran suatu parameter θ didalam sebuah moel nonlinier. Misalnya akan diperoleh persamaan normal untuk mendapatkan nilai taksiran kuadrat terkecil θˆ bagi parameter θ dalam model ε θ + = t f Y , dengan t e t f θ θ − = , misalkan n pasangan amatan yang tersedia adalah n n t Y t Y t Y , , , , , , 2 2 1 1  . Melalui pendifrensialan parsial terhadap θ diperoleh t te f θ θ − − = ∂ ∂ yang menghasilkan persamaan normal tunggal. Selanjutnya persamaan normal tunggal dapat ditulis sebagai berikut: [ ] [ ] ˆ 1 ˆ = − − − = − ∑ u t u n u t u e t e Y θ θ Atau ˆ 2 ˆ 1 = − ∑ ∑ − = n u t u t u n u u u u e t e t Y θ θ Perhatikan bahwa dengan hanya satu parameter dan suatu model nonlinier yang relatif sederhana , penentuan nilai θˆ melalui penyelesaian persaman normal tidaklah mudah. Bila parameternya lebih banyak dan modelnya lebih rumit, penyelesaian persamaan- persamaan normalnya bisa sangat sulit, dan hampir dalam semua kasus, pemecahannya harus menggunakan metode iteratif yang dapat dijumpai pada metode iterasi Marquardt dan metode iterasi Gauss Newton. Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam Penaksiran Parameter Regresi Nonlinier, 2010. 14

2.6 Metode Marquardt Compromise Jalan tengah Marquardt