Propagasibalik Backpropagation Implementasi Jaringan Saraf Tiruan Untuk Pengenalan Tanda Tangan

fx = − 1 2.8 dengan turunan f’x = 2.9

2.4.8 Pelatihan Terawasi dan Tidak Terawasi

Berdasarkan cara memodifikasi bobotnya, ada dua macam pelatihan yang dikenal yaitu pelatihan atau pembelajaran terawasi supervised learning dan pelatihan tidak terawasi unsupervised learning. Pada pelatihan terawasi, kumpulan masukan yang digunakan, keluaran- keluarannya telah diketahui. Perbedaan antara keluaran-keluaran aktual dengan keluaran-keluaran yang diinginkan digunakan untuk mengoreksi bobot jaringan saraf tiruan agar jaringan saraf tiruan dapat menghasilkan jawaban sedekat semirip mungkin dengan jawaban yang benar yang telah diketahui oleh jaringan saraf tiruan. Pada pelatihan tidak terawasi, atau pelatihan tanpa guru, jaringan saraf tiruan mengorganisasi dirinya sendiri untuk membentuk vektor-vektor masukan yang serupa, tanpa menggunakan data atau contoh-contoh pelatihan. Struktur menggunakan dasar data atau korelasi antara pola-pola data yang dieksplorasi. Paradigma pelatihan ini mengorganisasi pola-pola ke dalam kategori-kategori berdasarkan korelasi yang ada. Puspitaningrum, 2006

2.5 Propagasibalik Backpropagation

Kelemahan jaringan saraf tiruan terdiri dari layar tunggal membuat perkembangan jaringan saraf tiruan menjadi berhenti pada sekitar tahun 1970-an. Algoritma pelatihan backpropagation atau ada yang menterjemahkannya menjadi propagasibalik pertama kali dirumuskan oleh Werbos dan dipopulerkan oleh 2 1 + e -x 1 + fx 1 – fx 2 Universitas Sumatera Utara Rumelhart bersama McClelland untuk dipakai pada jaringan saraf tiruan. Algoritma ini termasuk metoda pelatihan terbimbing supervised dan didesain untuk operasi pada jaringan saraf tiruan feed forward lapis jamak multi-layer. Jaringan saraf tiruan dengan lapisan tunggal memiliki keterbatasan dalam pengenalan pola. Kelemahan ini bisa ditanggulangi dengan menambahkan satubeberapa lapisan tersembunyi diantara lapisan masukan dan keluaran. Meskipun penggunaan lebih dari satu lapisan tersembunyi memiliki kelebihan manfaat untuk beberapa kasus, tapi pelatihannya memerlukan waktu yang lama. Maka umumnya orang mulai mencoba dengan sebuah lapisan tersembunyi terlebih dahulu. Penemuan propagasibalik yang terdiri dari beberapa lapisan membuka kembali cakrawala. Terlebih setelah berhasil ditemukannya berbagai aplikasi yang dapat diselesaikan dengan propagasibalik, membuat jaringan saraf tiruan semakin diminati, diantaranya diterapkan di bidang finansial, pengenalan pola tulisan tangan, pengenalan pola suara, sistem kendali, pengolah citra medika dan masih banyak lagi keberhasilan propagasibalik sebagai salah satu metoda komputasi yang handal. Seperti halnya model jaringan saraf tiruan yang lain, propagasibalik melatih jaringan untuk mendapatkan keseimbangan antara kemampuan jaringan untuk mengenali pola yang digunakan selama pelatihan serta kemampuan jaringan untuk memberikan respon yang benar terhadap pola masukan yang serupa tapi tidak sama dengan pola yang dipakai selama pelatihan. Siang, 2009 Istilah “propagasibalik” atau “penyiaran kembali” diambil dari cara kerja jaringan ini, yaitu bahwa gradient error unit-unit tersembunyi diturunkan dari penyiaran kembali error-error yang diasosiasikan dengan unit-unit keluaran. Hal ini karena nilai target untuk unit-unit tersembunyi tidak diberikan. Universitas Sumatera Utara Metode ini menurunkan gradien untuk meminimkan penjumlahan error kuadrat keluaran jaringan. Nama lain dari propagasibalik adalah aturan delta yang digeneralisasi generalized delta rule. Puspitaningrum, 2006

2.5.1 Arsitektur Propagasibalik

Di dalam jaringan propagasibalik, setiap unit yang berada di lapisan masukan terhubung dengan setiap unit yang ada di lapisan tersembunyi. Hal serupa berlaku pula pada lapisan tersembunyi. Setiap unit yang ada di lapisan tersembunyi terhubung dengan setiap unit yang ada di lapisan keluaran. Puspitaningrum, 2006 Jaringan saraf tiruan propagasibalik terdiri dari banyak lapisan multilayer neural network: 1. Lapisan masukan 1 buah. Lapisan masukan terdiri dari neuron-neuron atau unit-unit masukan, mulai dari masukan 1 sampai unit masukan n. 2. Lapisan tersembunyi minimal 1. Lapisan tersembunyi terdiri dari unit- unit tersembunyi mulai dari unit tersembunyi 1 sampai unit tersembunyi p. 3. Lapisan keluaran 1 buah. Lapisan keluaran terdiri dari unit-unit keluaran mulai dari unit keluaran 1 sampai unit keluaran m. n,p,m masing-masing adalah bilangan integer sembarang menurut arsitektur jaringan saraf tiruan yang dirancang. Universitas Sumatera Utara Gambar 2.7 Arsitektur Jaringan Saraf Tiruan Propagasibalik Gambar 2.7 adalah arsitektur propagasibalik dengan n buah masukan ditambah sebuah bias, sebuah lapisan tersembunyi yang terdiri dari p unit ditambah sebuah bias, serta m buah unit keluaran. V ij marupakan bobot garis dari unit masukan x i ke unit lapisan tersembunyi z j v j0 merupakan bobot garis yang menghubungkan bias di unit masukan ke unit lapisan tersembunyi z j . w kj merupakan bobot dari unit lapisan tersembunyi z j ke unit keluaran y j ke unit keluaran y k w k0 merupakan bobot dari bias di lapisan tersembunyi ke unit keluaran z k . Universitas Sumatera Utara

2.5.2 Algoritma Propagasibalik

Seperti diperlihatkan pada Gambar 2.8, agar dapat digunakan untuk suatu aplikasi, jaringan saraf tiruan perlu ‘belajar’ terlebih dahulu. Caranya, pada jaringan dimasukkan sekumpulan contoh pelatihan yang disebut set pelatihan. Set pelatihan ini digambarkan dengan sebuah vektor feature yang disebut vektor masukan yang diasosiasikan dengan sebuah keluaran yang menjadi target pelatihannya. Pelatihan kemudian dilangsungkan dengan maksud membuat jaringan saraf tiruan beradaptasi terhadap karakterisik-karakteristik dari contoh- contoh pada set pelatihan dengan cara melakukan pengubahan peng-update-an bobot-bobot yang ada dalam jaringan. Gambar 2.8 Alur Kerja Jaringan Propagasibalik P E L A T I H A N J A R I N G A N Tahap Pemropagasi- Balikan error Tahap umpan maju Output Aktual + Output Target ∑ LAPISAN OUTPUT LAPISAN TERSEMBUNYI LAPISAN INPUT Input Error Universitas Sumatera Utara Cara kerja jaringan propagasibalik adalah sebagai berikut: Mula-mula jaringan diinisialisasi dengan bobot yang diset dengan bilangan acak. Lalu contoh-contoh pelatihan dimasukkan ke dalam jaringan. Contoh pelatihan terdiri dari pasangan vektor masukan dan vektor keluaran target. Keluaran dari jaringan berupa sebuah vektor keluaran aktual. Selanjutnya vektor keluaran aktual jaringan dibandingkan dengan vektor keluaran target untuk mengetahui apakah keluaran jaringan sudah sesuai dengan harapan keluaran aktual sudah sama dengan keluaran target. Error yang timbul akibat perbedaan antara keluaran aktual dengan keluaran target tersebut kemudian dihitung dan digunakan untuk meng-update bobot-bobot yang relevan dengan jalan mempropagasikan kembali error. Setiap perubahan bobot yang terjadi diharapkan dapat mengurangi besar error. Epoch siklus setiap pola pelatihan seperti dilakukan pada semua set pelatihan sampai unjuk kerja jaringan mencapai tingkat yang diinginkan atau sampai kondisi berhenti terpenuhi. Yang dimaksud kondisi berhenti di sini misalnya: pelatihan akan dihentikan setelah epoch mencapai 1000 kali, atau pelatihan akan dihentikan sampai sebuah nilai ambang yang ditetapkan terlampaui. Setelah proses pelatihan selesai, barulah diterapkan algoritma aplikasi. Biasanya sebelum digunakan untuk aplikasi yang sebenarnya, pengujian unjuk kerja jaringan dilakukan dengan cara memasukkan set pengujian set tes ke dalam jaringan. Karena bersifat untuk menguji, set pengujian hanya berupa masukan saja. Dari respon jaringan dapat dinilai kemampuan memorisasi dan generalisasi jaringan dalam menebak keluaran berdasarkan pada apa yang telah dipelajarinya selama ini. Algoritma propagasibalik dapat dibagi ke dalam dua bagian: 1. Algoritma pelatihan Algoritma pelatihan terdiri dari tiga tahap, yaitu: tahap propagasi maju, tahap propagasi mundur, dan tahap perubahan bobot. 2. Algoritma aplikasi Algoritma aplikasi hanya menggunakan tahap umpan maju saja. Puspitaningrum, 2006 Universitas Sumatera Utara Algoritma pelatihan untuk jaringan dengan satu lapisan tersembunyi dengan fungsi aktivasi sigmoid biner adalah sebagai berikut: Langkah 0: Inisialisasi semua bobot dengan bilangan acak kecil. Langkah 1: Jika kondisi penghentian belum terpenuhi, lakukan langkah 2-9. Langkah 2: Untuk setiap pasangan data pelatihan, lakukan langkah 3-8. Fase I: Propagasi maju Langkah 3: Tiap unit masukan menerima sinyal dan meneruskannya ke unit tersembunyi di atasnya. Langkah 4: Hitung semua keluaran di unit tersembunyi z j j=1,2,…,p. ∑ = + = n i ji i j j v x v net z 1 _ 1 j net z j j e net z f z _ 1 1 _ − + = = 2 Langkah 5: Hitung semua keluaran jaringan di unit keluaran y k k=1,2,…,m. ∑ = + = p j kj j k k w z v net y 1 _ 3 k net y k k e net y f y _ 1 1 _ − + = = 4 Fase II: Propagasi mundur Langkah 6: Hitung faktor kesalahan δ unit keluaran berdasarkan kesalahan di setiap unit keluaran y k k=1,2,…,m. 1 _ k k k k k k k k y y y t net y f y t − − = − = δ 5 δ k merupakan unit kesalahan yang akan dipakai dalam perubahan bobot lapisan di bawahnya langkah7 Hitung suku perubahan bobot w kj yang akan dipakai nanti untuk merubah bobot w kj dengan laju percepatan α. j k kj z w αδ = ∆ k=1,2,…,m;j=0,1,…,p 6 Langkah 7: Hitung faktor kesalahan δ unit tersembunyi berdasarkan kesalahan di setiap unit tersembunyi z j j=1,2,…,p. Universitas Sumatera Utara ∑ = = m k kj k j w net 1 _ δ δ 7 Faktor δ unit tersembunyi: 1 _ _ _ j j j j j j z z net net z f net − = = δ δ δ 8 Hitung suku perubahan bobot v ij yang akan dipakai nanti untuk merubah bobot v ij i j ji x v αδ = ∆ j=1,2,…,p ; i=0,1,…,n 9 Fase III: Perubahan bobot Langkah 8: Hitung semua perubahan bobot Perubahan bobot garis yang menuju ke unit keluaran: kj kj kj w lama w baru w ∆ + = k=1,2,…,m ; j=0,1,…,p 10 Perubahan bobot garis yang menuju ke unit tersembunyi: ji ji ji v lama v baru v ∆ + = j=1,2,…,p ; i=0,1,…,n 11 Setelah pelatihan selesai dilakukan, jaringan dapat dipakai untuk pengenalan pola. Dalam hal ini, hanya propagasi maju langkah 4 dan 5 saja yang dipakai untuk menentukan keluaran jaringan. Hasil pengaktif unit-unit pada lapisan keluaran merupakan keputusan dari jaringan saraf tiruan. Biasanya pada perangkat lunak yang dibuat, hasil pengaktif unit sebagai keputusan jaringan saraf tiruan ditampilkan dalam skala kebenaran, dipilih nilai skala kebenaran terbesar sebagai keputusan akhir dari jaringan saraf tiruan. Universitas Sumatera Utara

2.5.3 Paramater Pelatihan

Parameter-parameter yang turut menentukan keberhasilan proses pelatihan pada algoritma propagasibalik: 1. Inisialisasi bobot Bobot sebagai interkoneksi jaringan saraf tiruan yang akan dilatih biasanya diinisialisasi dengan nilai nyata kecil, bobot dapat diinisialisasi secara acak random. Banyak studi empiris membuktikan bahwa meneruskan pelatihan pada saat galat mencapai nilai yang kecil dan stabil atau datar akan menghasilkan nilai-nilai bobot yang tak diinginkan. Hal ini berpengaruh pada peningkatan galat dan kualitas mapping menurun. Pada banyak penelitian menunjukkan bahwa konvergensi tidak akan dicapai bila bobot kurang bervariasi, juga jika acaknya terlalu kecil. Konvergensi hampir selalu tercapai untuk inisialisasi acak pada -0,5 sampai 0,5 atau -1 sampai 1. 2. Adaptasi bobot Ada dua jenis adaptasi bobot pada pelatihan jaringan saraf tiruan, yaitu: a. Adaptasi kumulatif commulative weight adjustment Pada adaptasi kumulatif, bobot baru diadaptasi setelah semua bobot yang masuk dilatih. b. Adaptasi biasa incremental updating Pada adaptasi biasa, bobot diadaptasi pada setiap pola yang masuk. 3. Parameter laju pelatihan η Parameter laju pelatihan learning rate sangat berpengaruh pada intensitas proses pelatihan, begitu pula terhadap efektivitas dan kecepatan mencapai konvergensi dari pelatihan. Universitas Sumatera Utara Nilai optimum dari laju pelatihan tergantung masalah yang diselesaikan, prinsipnya dipilih sedemikian rupa sehingga tercapai konvergensi yang optimal dalam proses pelatihan. Nilai laju pelatihan yang cukup kecil menjamin penurunan gradien terlaksana dengan baik, namun ini berakibat bertambahnya jumlah iterasi. Pada umumnya, besarnya nilai laju pelatihan tersebut dipilih mulai 0,001 sampai 1 selama proses pelatihan. 4. Momentum α Disamping koefisien laju pelatihan, pada metoda ini ada koefisien lain yang tujuan penggunaannya untuk mempercepat konvergensi dari algoritma error backpropagation. Prinsip dari metoda ini adalah menambahkan sebagian dari perubahan bobot sebelumnya. Hal ini dapat dirumuskan dengan: 1 t w z t w kj j k kj ∆ + = + ∆ µ αδ 2.10 1 t v x t v ji i j ji ∆ + = + ∆ µ αδ 2.11 dengan α adalah nilai konstanta momentum yang berupa bilangan positif antara 0,5 sampai dengan 0,9. Penggunaan koefisien momentum ini disarankan apabila konvergensi berlangasung terlalu lama, dan juga untuk mencegah terjadinya optimum lokal local optimumminimum. 5. Jumlah lapisan tersembunyi yang digunakan Satu buah lapisan tersembunyi dapat dikatakan cukup memadai untuk menyelesikan masalah sembarang fungsi pendekatan. Dengan menggunakan lebih dari satu buah lapisan tersembunyi, kadang-kadang suatu masalah lebih mudah untuk diselesaikan. Mengenai banyaknya jumlah lapisan tersembunyi yang dibutuhkan, tidak ada ketentuan khusus. Untuk itu, hanya dibutuhkan sedikit modifikasi terhadap algoritma propagasi. Purnomo,2006 Puspitaningrum, 2006 Universitas Sumatera Utara

2.5.4 Kelemahan Yang Sering Terjadi Pada PropagasiBalik

1. Pada Fase Pelatihan Training Seringnya terjebak pada kondisi yang disebut sebagai kondisi optimum lokal local minimal, sehingga sulit mencapi konvergen sesuai dengan galat yang diinginkan. Keadaan jaringan saraf tiruan tersebut sulit atau bahkan tidak dapat berkembang menjadi lebih “pintar” lagi, walaupun dilatih berulang-ulang. Hal ini biasanya diatasi dengan menggunakan koefisien momentum. 2. Pada Fase Pengujian Testing Pada fase ini hal tak diinginkan yang sering terjadi adalah kondisi overfittingovertraining, yaitu suatu kondisi jaringan saraf tiruan kehilangan sifat generalitasnya lost of generalisation. Generalitas adalah kemampuan untuk memberikan jawaban yang benar, untuk suatu masukan yang berbeda namun sejenis dari data-data yang dilatihkan pada jaringan saraf tiruan tersebut. Ketidaksesuaian pada saat pengujian masukan terhadap keluaran yang diinginkan tersebut dapat terjadi karena kesalahan sampling data atau adanya derau noise pada data pelatihan sehingga target data pelatihan kurang handal. Bila jaringan saraf tiruan kehilangan sifat tersebut, pada fase pengujian, salah satu ciri yang muncul adalah biasanya jaringan saraf tiruan hanya mengenali bagian akhir dari pasangan data yang dilatihkan pada fase pelatihan. Kondisi tersebut dapat diakibatkan oleh jumlah pelatihan yang berlebihan, sehingga dapat diatasi dengan memberhentikan pelatihan lebih dini. Penambahan bias pada lapisan keluaran ataupun pada masing-masing lapisan struktur jaringan saraf tiruan, juga merupakan salah satu cara untuk mengatasi hal tersebut. Keandalan untuk memperoleh struktur jaringan saraf tiruan sesuai dengan kapasitas yang diperlukan tersebut sangat erat sekali dengan jumlah unit sel pada lapisan tersembunyi, sekaligus jumlah bobotnya juga ikut menentukan. Sebaliknya Universitas Sumatera Utara kondisi undertraining juga dapat terjadi, untuk hal ini biasanya terjadi oleh karena proses pelatihan belum sempurna. Universitas Sumatera Utara BAB III ANALISIS DAN PERANCANGAN Bab ini menjelaskan proses sistem jaringan saraf tiruan metode propagasibalik untuk pengenalan tanda tangan dan analisis kebutuhan sistem yang akan dibangun serta perancangannya. Tindakan yang akan dilakukan pada tahap perancangan adalah mentransformasikan model analisis ke model perancangan.

3.1 Analisis Sistem