27
meminimalkan galat rata-rata kuadrat. Galat yang merupakan fungsi bobot yang akan diminimalkan adalah sebagai berikut :
∑
− =
k k
k
y t
E
2
5 .
2.41 Dengan aturan rantai, diperoleh gradien dari galat pada lapisan keluaran sebagai
berikut :
[ ]
[ ]
[ ]
_ _
_ 5
5 .
2 2
J K
K K
K JK
K K
K K
JK k
k k
JK JK
z in
y f
y t
in y
f w
y t
in y
f t
. w
y t
w w
E
− −
= ∂
∂ −
− =
− ∂
∂ =
− ∂
∂ =
∂ ∂
∑
2.42
Kemudian, informasi error
K
δ
didefinisikan :
[ ]
K K
K K
in y
f y
t _
− =
δ
2.43 Dengan cara yang sama, dapat dicari gradien pada lapisan tersembunyi sebagai
berikut :
[ ]
[ ]
[ ]
I k
J Jk
k k
J IJ
Jk k
k k
IJ k
k k
IJ k
k k
k k
IJ k
k IJ
x in
z f
w z
v w
in y
v in
y v
in y
f y
t y
v y
t v
E
∑ ∑
∑ ∑
∑
− =
∂ ∂
− =
∂ ∂
− =
∂ ∂
− −
= ∂
∂ −
− =
∂ ∂
_ _
_ _
δ δ
δ
2.44
Kemudian, informasi error
J
δ
didefinisikan :
28
J k
JK k
J
in z
f w
_
∑
= δ
δ
2.45
4. Jaringan Perambatan Balik dengan algoritma
Conjugate Gradient
Algoritma dasar dari perambatan balik biasanya berjalan lambat untuk kebanyakan aplikasi. Berbagai variasi dari perambatan balik telah dikembangkan
untuk meningkatkan kecepatan dari proses pelatihan. Di antaranya adalah dengan penggunaan momentum, variasi pesat belajar dan penggunaan algoritma optimisasi
numerik yang umum, salah satunya adalah algoritma conjugate gradient yang akan dipakai dalam penelitian ini.
Algoritma conjugate gradient seperti dijelaskan di sub bab II.B.2 tidak dapat digunakan secara langsung pada masalah-masalah pelatihan jaringan syaraf, karena
pada jaringan syaraf indeks unjuk kerjanya tidak selalu berbentuk fungsi kuadratis. Oleh karena itu perlu sedikit modifikasi, pertama adalah bahwa persamaan 2.13
pada algoritma langkah 2 tidak dapat digunakan. Untuk itu diperlukan line search metode pencarian garis yang umum, misalnya metode Golden Section Search.
Modifikasi kedua adalah algoritma harus di-reset setelah sejumlah iterasi tertentu. Ada banyak prosedur yang disarankan, tetapi metode paling sederhana adalah dengan
me-reset arah pencarian pada arah pencarian dari metode penurunan tercuram negatif dari gradien setelah n iterasi Scales, 1985.
Menurut Hagan, Demuth dan Beale 1999 aplikasi algoritma conjugate gradient pada jaringan perambatan balik adalah sebagai berikut :
1. Algoritma perambatan balik digunakan untuk menghitung gradien
δ
k
dan
δ
j
pada langkah 6 dan langkah 7.
29
2. Algoritma conjugate gradient digunakan untuk menentukan penyesuaian bobot
mencari
α
pada langkah 6 dan langkah 7 serta penyesuaian bobot dan prasikap pada langkah 8 .
Algoritma di atas merupakan algoritma dengan model batch karena gradien dihitung setelah seluruh pasangan pelatihan dilatihkan pada jaringan.
