2.1 Algoritma JST Backpropagation1

Algoritma JST Backpropagation

Arsitektur JST Backpropagation
Contoh Arsitekstur JST Backpropagation dengan:
 n unit masukkan
 p unit layer tersembunyi
 m unit masukkan
1

1

Vp0
X1

V20

V10

W20
Wm0
Z1

V11

Wm1

V12

Z2

V22

W12
Wm2

Vm2
V1n

W22

Y2

W1p
W2p

V2m
Xn

Y1

W11
W21

Vp1 V21

X2

W10

Vpn

Layer Masukkan

Zp

Layer

Wmp

Ym

Layer Keluaran

Fungsi Aktifasi
Fungsi aktifasi yang digunakan pada backpropagation
yaitu sigmoid biner dan sigmoid bipolar

Fungsi Aktifasi

Algoritma Pelatihan
Backpropagation

Algoritma Pelatihan Backpropagation dengan satu layer
tersembunyi dan dengan menggunakan fungsi aktivasi
sigmoid biner
1
1
X1

Vp
0V11

V10

V20

Z1

Vp1 V21
X2

Xn

V12

V22

Vm
V1n
2
V2
m

Vpn

Z2

Zp

W20 W10
Wm0
W11

W2
Wm1
1
W12
W
Wm2 22
W1p
W2p
Wmp

Y1

Y2

Y
m

Langkah 0 : Inisialisasi semua bobot dengan bilangan

acak kecil.
Langkah 1 : Jika kondisi penghentian belum terpenuhi,
lakukan langkah 2 sampai dengan 8.
Langkah 2: Untuk setiap pasang data pelatihan,
lakukan langkah 3 sampai dengan 8

Algoritma Pelatihan
Backpropagation
1

X1

1
Vp
0V11

V10

V20

W20 W1

Z1

Vp1 V21
X2

Xn

V12

V22

Vm
V1n
2
V2
m

Vpn

Z2

Zp

Wm0
W11

0

W2
Wm1
1
W12
W
Wm2 22
W1p
W2p
Wmp

Y1

Y2

Y
m

Fase I: Propagasi Maju
 Langkah 3

Tiap unit masukkan menerima sinyal dan meneruskan ke unit tersembunyi
 Langkah 4

Hitung semua keluaran di unit tersembunyi (Zj):

Algoritma Pelatihan
Backpropagation
1

X1

1
Vp
0V11

V10

V20

W20 W1

Z1

Vp1 V21
X2

Xn

V12

V22

Vm
V1n
2
V2
m

Vpn

Z2

Zp

Wm0
W11

0

W2
Wm1
1
W12
W
Wm2 22
W1p
W2p
Wmp

Y1

Y2

Y
m

 Langkah 5

Hitung semua jaringan di unit keluaran (yk)

Algoritma Pelatihan
Backpropagation
1

X1

1
Vp
0V11

V10

V20

W20 W1

Z1

Vp1 V21
X2

Xn

V12

V22

Vm
V1n
2
V2
m

Vpn

Z2

Zp

Wm0
W11

0

W2
Wm1
1
W12
W
Wm2 22
W1p
W2p
Wmp

Y1

Y2

Y
m

Fase II : Propagasi Maju
Langkah 6
Hitung factor  unit keluaran berdasarkan kesalahan setiap unit keluaran yk (k=1,2,3….)

 k=(tk-yk) f’(y_netk)= (tk-yk) yk (1-yk)
 
k meruapakan unit kesalahan yang akan dipakai dalam perubahan bobot layer dibawahnya (lankah
7)
 
Hitung suku perubahan bobot Wkj dengan laju perubahan α
 

Δwkj= α  k zj

; k=1,2,3,…,m ; j=0,1,2,…,p

Algoritma Pelatihan Backpropagation
1

X1

1
Vp
0V11

V10

V20

Z1

Vp1 V21
X2

V12

Z2

V22

Vm
V1n
2
Xn

V2
m

Vpn

Zp

W20 W1
Wm0
0
W11

W2
Wm1
1
W12
W
Wm2 22
W1p
W2p
Wmp

Y1

Y2

Y
m


Langkah

7
Hitung factor  unit tersembunyi berdasarkan kesalahan di setiap unit tersembunyi z j (j=1,2,3,…,p)

 Faktor unit tersembunyi
 

 j = _netj f’(z_netj)= _netj zj (1-zz)
 
Hitung suku perubahan bobot vji
 

Δvji=α  jxi

; j=1,2,…,p

; i=0,1,2,…,n

Algoritma Pelatihan
Backpropagation
1

X1

1
Vp
0V11

V10

V20

W20 W1

Z1

Vp1 V21
X2

Xn

V12

V22

Vm
V1n
2
V2
m

Vpn

Z2

Zp

Wm0
W11

0

W2
Wm1
1
W12
W
Wm2 22
W1p
W2p
Wmp

Y1

Y2

Y
m

Fase III : Perubahan Bobot
Langkah 8

Perubahan bobot garis yang menuju unit keluaran
 wkj

(baru)= wkj (lama) + Δwkj

 Perubahan bobot garis yang menuju ke unit tersembunyi

Vji (baru)= vji (lama) + Δvji

Laju Pemahaman
Laju pemahaman di simbolkan dengan α
Laju pemahaman menentukan lama iterasi
Nilai dari α diantara 0 sd 1
Semakin besar nilai α semakin cepat lama iterasi
Akan tetapi jika terlalu besar akan merusak pola,

sehingga justru akan lebih lama iterasinya

Epoch
Epoch yaitu satu siklus pelatihan yang

melibatkan semua pola
Misal jika suatu arsitektur JST terdapat 4
pola masukkan dan 1 target, maka
pelatihan 4 pola masukkan tersebut adalah
1 epoch