Jurnal Informatika, Vol. 3, No.1, Juni 2007:49-62
52
2.1.1. Derivasi untuk Algoritma Propagasi Balik
Jumlahan kuadrat sinyal error rumus 4 adalah fungsi dari seluruh bobot pada jaringan. Gradien E adalah vektor yang terdiri dari derivatif-derivatif parsial dari E
terhadap setiap bobot. Vektor ini menunjukkan arah dimana E akan meningkat. Arah kebalikannya akan menunjukkan pengurangan pada E Fausett, 1994.
Dengan demikian bobot akan menyesuaikan diri untuk memperkecil E sebesar :
mn mn
w w
∂ Ε
∂ −
= ∆
Konstanta learning rate laju belajar dapat disertakan sebagai berikut 1≥ η 0 :
mn mn
w w
∂ Ε
∂ −
= ∆
η
Jika dalam sebuah arsitektur MLPs terdapat n lapisan, dengan lapisan ke-n adalah lapisan output, maka penyesuaian bobot untuk setiap lapisan adalah sebagai berikut
indeks lapisan ke-n adalah a, lapisan ke-n-1 adalah b, ke-n-2 adalah c, ke-n-3 adalah d… dst :
Link menuju lapisan n :
ba a
a a
a a
a ba
w v
v y
y e
e w
∂ ∂
∂ ∂
∂ ∂
∂ Ε
∂ =
∂ Ε
∂
∑
= Ε
a a
e
2
2 1
;
a a
e e
= ∂
Ε ∂
a a
a
y t
e −
= ;
1 −
= ∂
∂
a a
y e
a a
v f
y = ;
1 1
a a
a a
v f
y v
y =
= ∂
∂
ba b
ba a
y w
v
∑
= ;
ba ba
a
y w
v =
∂ ∂
ba a
a ba
y v
f e
w
1
− =
∂ Ε
∂
1 a
a n
v f
e =
δ ;
ba n
ba
y w
δ −
= ∂
Ε ∂
; δ = gradien lokal
7
8
9
Penerapan Jaringan Saraf Tiruan Propagasi Balik Studi Kasus Pengenalan Jenis Kopi Bernard Renaldy Suteja
53 Link menuju lapisan n –1 :
cb b
b ba
ba cb
w v
v y
y w
∂ ∂
∂ ∂
∂ Ε
∂ =
∂ Ε
∂ ;
ba a
a a
a a
ba a
a a
a ba
y v
v e
e y
v v
e e
y ∂
∂ ∂
∂ =
∂ ∂
∂ ∂
∂ Ε
∂ =
∂ Ε
∂
∑
a a
a a
a
v f
t y
t e
− =
− =
;
1 a
a a
v f
v e
− =
∂ ∂
ba b
ba a
y w
v
∑
= ;
ba ba
a
w y
v =
∂ ∂
b ba
v f
y =
;
1 1
b ba
b ba
v f
y v
y =
= ∂
∂
cb c
cb b
y w
v
∑
= ;
cb cb
b
y w
v =
∂ ∂
ba a
a a
b cb
cb
w v
f e
v f
y w
∑
− =
∂ Ε
∂
∑
=
− a
ba n
b n
w v
f δ
δ
1 1
;
cb n
cb
y w
1 −
− =
∂ Ε
∂ δ
Link menuju lapisann-2 :
dc c
c cb
cb dc
w v
v y
y w
∂ ∂
∂ ∂
∂ Ε
∂ =
∂ Ε
∂
cb b
ba a
b a
a a
a cb
b b
ba ba
cb
y v
y v
v e
e y
v v
y y
y ∂
∂ ∂
∂ ∂
∂ =
∂ ∂
∂ ∂
∂ Ε
∂ =
∂ Ε
∂
∑ ∑
cb c
cb b
y w
v
∑
= ;
cb cb
b
w y
v =
∂ ∂
c cb
v f
y = ;
1 1
c cb
c cb
v f
y v
y =
= ∂
∂
dc d
dc c
y w
v
∑
= ;
dc dc
c
y w
v =
∂ ∂
10
Jurnal Informatika, Vol. 3, No.1, Juni 2007:49-62
54
cb a
a a
b b
c dc
dc
w v
f e
v f
v f
y w
− =
∂ Ε
∂
∑ ∑
cb b
n c
n
w v
f
∑
− −
=
1 1
2
δ δ
;
dc n
dc
y w
2 −
− =
∂ Ε
∂ δ
Algoritma di atas berlaku rekursif untuk link-link menuju lapisan-lapisan sebelumnya, sampai ke lapisan sebelum lapisan input. Sebagai contoh, nilai
penyesuaian bobot berikutnya link menuju lapisan n-3 :
dc b
a a
a b
c c
d ed
ed
w v
f e
v f
v f
v f
y w
− =
∂ Ε
∂
∑ ∑
∑
2.2.2. Algoritma Propagasi Balik
Kategori