20
Fungsi aktivasi yang sering digunakan pada backpropagation neural network adalah sigmoid biner dan sigmoid bipolar. Sigmoid biner adalah fungsi
biner yang memiliki rentang 0 sd 1 dengan rumus fungsi pada persamaan 25 dan mempunyai grafik fungsi seperti pada Gambar 8.
=
1 1+exp
−
................................................................... 28 dengan turunan
′
= 1 −
Gambar 8 Fungsi aktivasi sigmoid biner Kusumadewi, 2003. Sigmoid bipolar adalah fungsi yang memiliki rentang -1 sd 1 dengan
rumus fungsi pada persamaan 26 dan mempunyai grafik fungsi seperti pada Gambar 9.
=
2 1+exp
−
− 1 ............................................................. 29 dengan turunan
′
=
�1+ �1− 2
Gambar 9 Fungsi aktivasi sigmoid bipolar Kusumadewi, 2003.
2.8.3 Algoritma Pelatihan Lavenberg-Marquadt
Algoritma lavenberg-marquadt LM adalah algoritma pelatihan backpropagation yang dapat mencapai nilai konvergen lebih cepat dibandingkan
dengan algoritma pelatihan lainnya dan sangat direkomendasikan sebagai pilihan pertama dalam supervised learning. Konsep dari algoritma LM adalah penentuan
21
matriks hessian untuk mencari bobot-bobot dan bias koneksi Budi Sumiyati 2007.
Matriks hessian adalah matriks yang setiap elemennya terbentuk dari turunan kedua dari fungsi kinerja terhadap setiap komponen bobot dan bias.
Untuk memudahkan komputasi, matriks hessian diubah dengan pendekatan iteratif pada setiap epoch selama algoritma berjalan. Proses pengubahannya dilakukan
menggunakan fungsi gradien. Berikut adalah estimasi matriks hessian jika fungsi kinerja yang digunakan berbentuk jumlah kuadrat error SSE.
� = +
�� .............................................................................. 30 Dimana merupakan parameter marquadt, I merupakan matriks identitas
dan J adalah matriks jacobian yang terdiri dari turunan pertama error jaringan terhadap masing-masing komponen bobot bias.
Nilai parameter marquadt dapat berubah pada setiap epoch. Jika setelah berjalan satu epoch nilai fungsi error menjadi lebih kecil, nilai akan
dibagi oleh faktor τ. Bobot dan bias baru yang diperoleh akan dipertahankan dan
pelatihan dapat dilanjutkan ke epoch berikutnya. Sebaliknya jika setelah berjalan satu epoch nilai fungsi error menjadi lebih besar maka nilai akan dikalikan
faktor τ. Nilai perubahan bobot dan bias dihitung kembali sehingga menghasilkan
nilai yang baru.
2.8.4 Proses Pembelajaran Backpropagation
Proses pembelajaran merupakan proses perubahan bobot-bobot yang ada pada jaringan dengan tujuan untuk meminimalkan mean square error mse atau
toleransi galat antara keluaran yang dihasilkan dengan keluaran yang diinginkan target. Perubahan ini dapat berkurang atau bertambah sesuai dengan informasi
yang diberikan oleh neuron yang bersangkutan. Perubahan ini akan berhenti jika bobot-bobot pada jaringan sudah cukup seimbang. Kondisi ini mengindikasikan
bahwa setiap input telah berhubungan dengan output yang diharapkan. Pembelajaran terawasi supervised learning merupakan metode yang
hanya berlaku jika output yang diharapkan sudah diketahui, sehingga dalam proses pembelajaran, setiap input akan memiliki target output yang harus dicapai.
22
Jika terjadi perbedaan pola output hasil pembelajaran dengan pola target, maka akan muncul galat. Jika nilai galat ini masih cukup besar, maka perlu iterasi
pembelajaran yang berikutnya Kusumadewi, 2003. Ilustrasi supervised learning dapat dilihat pada Gambar 10.
Gambar 10 Supervised Learning Rios. Backpropagation adalah salah satu algoritma yang menggunakan metode
supervised learning. Pelatihan backpropagation meliputi 3 fase. Fase pertama adalah fase maju atau propagasi maju. Pola masukan dihitung maju mulai dari
layar masukan hingga layar keluaran menggunakan fungsi aktivasi yang ditentukan. Fase kedua adalah fase mundur atau propagasi mundur. Selisih antara
keluaran jaringan dengan target yang diinginkan merupakan kesalahan yang terjadi. Kesalahan tersebut dipropagasikan mundur, mulai garis yang berhubungan
langsung dengan unit-unit di layar keluaran. Fase ketiga adalah modifikasi bobot untuk menurunkan kesalahan yang terjadi. Ketiga fase tersebut diulang-ulang
terus hingga kondisi penghentian dipenuhi. Umumnya kondisi penghentian yang dipakai adalah jumlah iterasi atau kesalahan. Berikut proses selengkapnya yang
terjadi pada setiap fase Siang 2009. Fase I : Propagasi maju
Selama propagasi maju, sinyal masukan x
i
dipropagasikan ke lapisan tersembunyi menggunakan fungsi aktivasi yang ditentukan. Keluaran setiap unit
lapisan tersembunyi z
j
tersebut selanjutnya dipropagasikan maju ke layar tersembunyi di atasnya menggunakan fungsi aktivasi yang ditentukan. Demikian
seterusnya hingga menghasilkan keluaran jaringan y
k
. Berikutnya keluaran
