Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam Penaksiran Parameter Regresi Nonlinier, 2010.
20
3.5 Penyelesaian Contoh
Contoh
Pernyatan masalah: Cocokkan fungsi
i i
X X
f
1 1
exp 1
, ;
θ θ
θ θ
− −
= pada data
sebagai berikut:
Tabel 3.5.1 Data yang harus dicocokkan pada fungsi
x
y
0,25 0,28
0,75 0,57
1,25 0,68
1,75 0,74
2,25 0,79
Sumber: Buku Metode Numerik oleh Steven C Chapra halaman 318-319
Gunakan dugaan-dugaan awal
1
00 ,
1 θ
θ dan
= =1,00 untuk parameter-
parameter.
Penyelesaian
Dengan Bentuk
i i
X X
f ,
exp 1
, ;
1 1
θ θ
θ θ
− −
= yang terdiri dari dua
parameter. Digunakan kuadrat terkecil untuk meminimumkan kuadrat galat dengan terlebih dahulu menaksir parameter pada model tersebut dan selanjutnya
menyelesaikan persamaan normalnya dengan iterasi jalan tengah Marquardt dan iterasi Gauss Newton.
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam Penaksiran Parameter Regresi Nonlinier, 2010.
21
Model tersebut akan dibentuk kedalam regresi nonlinier yaitu sebagai berikut:
i i
i
X f
Y ε
θ + =
,
Dengan Kuadrat terkecil Q adalah
[ ]
2 1
,
∑
=
− =
n i
k i
i
X f
Y Q
θ ;
1 ,
, 1
, −
= p
k
Turunan parsial dari Q terhadap
k
θ adalah
[ ]
, ,
2
ˆ 1
=
∂
∂ −
− =
∂ ∂
= =
∑
g k
i n
i i
i k
X f
X f
Y Q
θ
θ θ
θ θ
g
adalah vektor dari taksiran kuadrat terkecil
k
g yaitu:
=
−1 1
p
g g
g g
Dari contoh diatas dapat diselesaikan sebagai berikut:
i i
X X
f
1
exp 1
; θ
θ θ
− −
= Sehingga untuk contoh diatas turunan-turunan parsial fungsi terhadap parameter-
parameter adalah:
i i
i i
i
X X
X f
X X
f
1 1
1
exp ,
exp 1
,
θ θ
θ θ
θ θ
θ
− =
∂ ∂
− −
= ∂
∂
Ubahlah simbol θ dan
1
θ untuk menaksir parameter dengan g dan
1
g . Akan didapat persamaan normal dari turunan parsial diatas yaitu sebagai berikut:
exp exp
1 exp
exp 1
exp 1
exp 1
1 1
1 1
1 1
= −
− −
− −
= −
− −
− −
− −
∑ ∑
∑ ∑
i i
i i
i i
i i
i
X g
X g
X g
g X
g X
g Y
X g
Xi g
g X
g Y
Persamaan normal dapat diubah menjadi:
2 exp
exp exp
exp 1
exp 1
1 1
1 2
1 1
= −
− −
− −
= −
− −
− −
∑ ∑
∑ ∑
i i
i i
i i
i i
i
X g
X g
X g
X g
X Y
X g
g X
g Y
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam Penaksiran Parameter Regresi Nonlinier, 2010.
22
Karena persamaan normal diatas tidak linier didalam parameter g dan
1
g maka cara yang tepat untuk menyelesaikan persamaan normal diatas adalah dengan menggunakan metode numerik untuk melakukan penaksiran secara iterasi.
Metode numerik yang sering kali dipakai untuk menyelesaikan permasalahan didalam penaksiran parameter model nonlinier adalah Metode Gauss Newton dan
Metode Marquardt compromise.
Dengan menggunakan algoritma Gauss Newton, langkah awal adalah menentukan nilai awal terlebih dahulu kemudian dihampiri dengan rata-rata
respon θ
,
i
X f
untuk n pengamatan oleh bentuk linier mengunakan ekspansi deret Taylor disekitar nilai awal
k
g
diperoleh pengamatan ke i
ˆ 1
, ,
, g
X f
g X
f X
f
k g
p k
k i
i i
−
∂
∂ +
≈
= −
=
∑
θ θ
θ θ
θ
Dan
=
− 1
1 p
g g
g g
adalah vektor dari parameter nilai awal
Sekarang akan disederhanakan notasi:
ˆ
, ,
g k
i ik
k k
k i
i
X f
D g
g X
f f
=
∂ ∂
= −
= =
θ
θ θ
θ β
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam Penaksiran Parameter Regresi Nonlinier, 2010.
23
Hampiran deret Taylor
ˆ 1
, ,
, g
X f
g X
f X
f
k g
p k
k i
i i
−
∂
∂ +
≈
= −
=
∑
θ θ
θ θ
θ
untuk rata-rata respon pengamatan ke
i
notasinya akan disederhanakan menjadi
∑
− =
+ ≈
1
,
p k
k ik
i i
D f
X f
β θ
Dan hampiran untuk model regresi nonlinier
i i
i
X f
Y ε
θ + =
, akan menjadi
i p
k k
ik i
i
D f
Y ε
β + +
≈
∑
− =
1
Dari bentuk diatas
i
f
digeser kekiri akan menjadi
i i
f Y
−
dengan akan diperoleh pendekatan model regresi linier sebagai berikut:
n i
D Y
i p
k k
ik i
, ,
1
1
=
+ ≈
∑
− =
ε β
Karena
i i
i
f Y
Y −
= Maka akan didapat pendekatan didalam bentuk matriks seperti dibawah ini:
=
=
− −
= +
≈
− ×
− −
× ×
1 1
1 ,
1 ,
1 10
1 1
1
p p
p n
n p
p n
n n
n
D D
D D
D f
Y f
Y Y
D Y
β β
β ε
β
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam Penaksiran Parameter Regresi Nonlinier, 2010.
24
Selanjutnya parameter β dapat ditaksir dari persamaan normal pada model
regresi linier sederhana dan diperoleh:
1
Y D
D D
b
−
= Dimana
b adalah vektor dari koefisien regresi kuadrat terkecil yang akan
ditaksir. Dan dapat digunakan untuk memperoleh taksiran parameter regresi berikutnya dengan koefisien regresi
1 k
g
.
1 k
k k
b g
g +
=
. Kriteria perhitungan kuadrat terkecil untuk koefisien regresi awal
g dinotasikan
dengan
[ ]
2 1
2 1
,
∑ ∑
= =
− =
− =
n i
i i
n i
i i
f Y
g X
f Y
SSE
Dari contoh sebelumnya dapat diselesaikan dengan iterasi Gauss Newton sebagai berikut
Untuk lebih memudahkan pengiterasian dapat dilakukan dengan penerapan matriks:
=
− −
− −
− −
− −
− −
− −
− −
− =
×
2371 ,
8946 ,
3041 ,
8262 ,
3581 ,
7135 ,
3543 ,
5276 ,
1947 ,
2212 ,
exp exp
1 exp
exp 1
exp exp
1 exp
exp 1
exp exp
1
5 1
1 5
1 4
1 1
4 1
3 1
1 3
1 2
1 2
2 1
1 1
1 1
1 2
5
X g
X g
X g
X g
X g
X g
X g
X g
X g
X g
X g
X g
X g
X g
X g
D
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam Penaksiran Parameter Regresi Nonlinier, 2010.
25
8946 ,
exp 1
, 8264
, exp
1 ,
7153 ,
exp 1
, 5276
, exp
1 ,
2212 ,
25 ,
1 exp
1 1
exp 1
,
5 1
5 5
4 1
4 4
3 1
3 3
2 1
2 2
1 1
1
= −
− =
= =
− −
= =
= −
− =
= =
− −
= =
= −
− =
− −
= =
X g
g f
g X
f X
g g
f g
X f
X g
g f
g X
f X
g g
f g
X f
X g
g f
g X
f
i
Untuk : 28
, =
i
Y maka penyimpangannya dapat dihitung sebagai berikut:
0588 ,
2212 ,
28 ,
1 1
= −
= −
= f
Y Y
i
Sehingga vektor Y
terdiri dari perbedaan antara pengukuran dan prediksi model:
− −
− =
− −
− −
− =
− −
− −
− −
− −
− −
− −
− −
− =
− −
− −
− =
×
1046 ,
0862 ,
0335 ,
0424 ,
0588 ,
8946 ,
79 ,
8262 ,
74 ,
7153 ,
68 ,
5276 ,
57 ,
2212 ,
28 ,
exp 1
exp 1
exp 1
exp 1
exp 1
5 1
5 4
1 4
3 1
3 2
1 2
1 1
1
5 5
4 4
3 3
2 2
1 1
1 5
X g
g Y
X g
g Y
X g
g Y
X g
g Y
X g
g Y
f Y
f Y
f Y
f Y
f Y
Y
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam Penaksiran Parameter Regresi Nonlinier, 2010.
26
Sehingga untuk semua data pengamatan akan didapat:
[ ]
0247490 ,
1046 ,
0862 ,
0335 ,
0424 ,
0588 ,
,
2 2
2 2
2 2
1 2
1
= −
+ −
+ −
+ +
= −
= −
=
∑ ∑
= =
n i
i i
n i
i i
f Y
g X
f Y
SSE
1
Y D
D D
b
−
=
=
=
4404 ,
9489 ,
9489 ,
3193 ,
2 2371
, 8946
, 3041
, 8262
, 3581
, 7153
, 3543
, 5276
, 1947
, 2212
, 2731
, 3041
, 3581
, 3543
, 1947
, 8946
, 8262
, 7135
, 5276
, 2212
, D
D
− −
=
−
− =
−
1676 ,
19 8421
, 7
8421 ,
7 6397
, 3
3193 ,
2 9489
, 9489
, 4404
, 9489
, .
9489 ,
4404 ,
. 3193
, 2
1
1
D D
− −
=
− −
−
=
0365 ,
1533 ,
1046 ,
0862 ,
0335 ,
0424 ,
0588 ,
2731 ,
3041 ,
3581 ,
3543 ,
1947 ,
8946 ,
8262 ,
7135 ,
5276 ,
2212 ,
Y D
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam Penaksiran Parameter Regresi Nonlinier, 2010.
27
Oleh karena itu:
−
=
−
−
−
− =
50256923 ,
27172936 ,
0365 ,
1533 ,
1676 ,
19 8421
, 7
8421 ,
7 6397
, 3
b
Maka akan diperoleh penaksiran kuadrat terkecil
1
g :
=
− +
= +
=
50256923 ,
1 72826923
, 50256923
, 27172936
, 1
1
1
b g
g
Dengan cara yang sama seperti diatas dapat diperoleh iterasi berikutnya sehingga didapat iterasi yang menghasilkan galat yang paling minimum
Iterasi g
1
g SSE
0 1,0000 1,0000 0,0247490 1 0,7282 1,5025 0,0243422
2 0,7911 1,6774 0,0006622 3 0,7921 1,6774 0,0006622
Dari hasil iterasi yang ketiga telah diperoleh iterasi yang konvergen, sehingga itterasi dapat berhenti dan didapat MSE sebagai berikut:
0002206 ,
2 5
000662 ,
= −
= −
= p
n SSE
MSE
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam Penaksiran Parameter Regresi Nonlinier, 2010.
28
Dengan menggunakan algoritma Marquardt, langkah awal yang dilakukan adalah menentukan nilai awal yaitu
1 1
, ,
,
− p
θ θ
θ
dan didalam pengiterasiannya notasi nilai awal tersebut akan berubah menjadi
1 1
, ,
− p
g g
g
, selanjutnya menyelesaikan persamaan normal dari suatu model regresi nonlinier yang akan
ditaksir, setelah itu akan ditentukan nilai skalar dari setiap iterasi yang dinotasikan dengan
λ dimana
1 ≤
j
λ dan biasanya nilai
λ merupakan faktor dari 10. Dan iterasi akan berhenti pada saat nilai iterasi tersebut sudah konvergen yaitu
ε θ
θ ≤
−
+ k
k 1
Persamaan iterasi ditulis sebagai berikut:
θ θ
θ θ
λ θ
θ θ
θ
ˆ 1
1
ˆ
= −
+
∂ ∂
+ −
= S
I D
D t
k n
n n
n n
n
Pada proses iterasi notasi parameter yang ditaksir menjadi:
n
g k
n n
n n
n n
g g
S I
g D
g D
t g
g
∂
∂ +
− =
− +
1 1
λ
Untuk lebih memahami metode Marquardt kemudian akan diselesaikan contoh yang sebelumnya. Diambil nilai awal taksiran untuk model
i i
X X
f
1
exp 1
; θ
θ θ
− −
= yang sama dengan nilai awal yang diberikan pada
metode Gauss Newton yaitu
00 ,
1 =
g
dan
1
g =1,00. Sehingga dapat diketahui
metode mana yang lebih efisien atau metode yang lebih cocok digunakan dalam contoh ini. Nilai awal tersebut dapat digunakan untuk mencari nilai taksiran
berikutnya.
Dengan menggunakan persamaan iterasi diatas maka dapat dilakukan perhitungan seperti dibawah ini. Dari matriks sebelumnya yaitu:
= 4404
, 9489
, 9489
, 3193
, 2
D D
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam Penaksiran Parameter Regresi Nonlinier, 2010.
29
[ ]
[ ]
− −
= +
=
+
= +
−
1678 ,
19 8421
, 7
8421 ,
7 6397
, 3
4404 ,
9489 ,
9489 ,
3193 ,
2 1
1 00001
, 4404
, 9489
, 9489
, 3193
, 2
1 k
n k
n
I D
D I
D D
λ λ
{ }
{ }
0365 ,
9487 ,
9122 ,
5 ,
4 exp
25 ,
2 exp
25 ,
2 5
, exp
25 ,
exp 25
, 1
25 ,
2 exp
77 ,
1 75
, exp
47 ,
25 ,
exp 07
, 2
exp exp
exp 1533
, 3192
, 2
1659 ,
2 25
, 2
exp 1
75 ,
1 exp
1 25
, 1
exp 1
75 ,
exp 1
25 ,
exp 1
1 25
, 2
exp 1
79 ,
75 ,
1 exp
1 74
, 25
, 1
exp 1
68 ,
75 ,
exp 1
57 ,
25 ,
exp 1
28 ,
exp 1
exp 1
1 1
1 1
1 2
2 2
2 2
2 1
1
= −
− =
− −
− +
+ −
− −
− −
+ +
− +
− −
= =
− −
− −
− =
∂ ∂
= −
− =
− −
+ −
− +
− −
+ −
− +
− −
−
−
− +
− −
+ −
− +
− −
+ −
− −
= =
− −
− −
− =
∂ ∂
∑ ∑
∑ ∑
i i
i i
i i
i i
i
X g
X g
X g
X g
X Y
g g
S X
g g
X g
Y g
g S
[ ]
− =
− −
= ∂
∂ +
−
50256923 ,
27172936 ,
0365 ,
1533 ,
1369 ,
19 8421
, 7
8421 ,
7 6397
, 3
1 n
n k
n
g g
S I
D D
λ
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam Penaksiran Parameter Regresi Nonlinier, 2010.
30
Sehingga akan didapat:
=
−
−
=
50256923 ,
1 72826923
, 50256923
, 27172936
, 1
1
1 1
g g
[ ]
0247490 ,
1046 ,
0862 ,
0335 ,
0424 ,
0588 ,
,
2 2
2 2
2 2
1 1
= −
+ −
+ −
+ +
= −
= −
=
∑ ∑
= =
n i
i i
n i
i i
f Y
g X
f Y
SSE
− −
− =
− −
− −
− =
− −
− −
− −
− −
− −
− −
− −
− =
− −
− −
−
1046 ,
0862 ,
0335 ,
0424 ,
0588 ,
8946 ,
79 ,
8262 ,
74 ,
7153 ,
68 ,
5276 ,
57 ,
2212 .
28 ,
exp 1
exp 1
exp 1
exp 1
exp 1
5 1
1 1
5 4
1 1
1 4
3 1
1 1
3 2
1 1
1 2
1 1
1 1
1
1 51
51 1
41 4
1 3
3 1
2 2
1 1
1
X g
g Y
X g
g Y
X g
g Y
X g
g Y
X g
g Y
f Y
f Y
f Y
f Y
f Y
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam Penaksiran Parameter Regresi Nonlinier, 2010.
31
Dengan cara yang sama diatas dapat diperoleh iterasi berikutnya sehingga didapat iterasi yang menghasilkan galat yang paling minimum dan menjadi konvergen
kenilai 0,001 yaitu sebagai berikut: Iterasi
g
1
g
SSE
0 1,0000 1,0000 0,0247490 1 0,7282 1,5025 0,0243422
2 0.7911 1,6774 0,0006622 3 0,7921 1,6774 0,0006622
Dari penyelesaian dengan dua metode ditatas dapat diketahui bahwa dengan metode Marquardt dan metode Gauss Newton sama-sama menghasilkan galat
yang paling minimum pada iterasi yang ketiga.
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam Penaksiran Parameter Regresi Nonlinier, 2010.
BAB 4
KESIMPULAN DAN SARAN