Pengembangan Metode Backpropagation Dengan Menggunakan Adaptive Learning Rate Dan Parallel Training Dalam Pengenalan Huruf Atau Angka Pada Citra Digital

PENGEMBANGAN METODE BACKPROPAGATION DENGAN MENGGUNAKAN ADAPTIVE LEARNING RATE DAN PARALLEL TRAINING DALAM PENGENALAN HURUF ATAU ANGKA PADA CITRA DIGITAL TESIS MUFIDA KHAIRANI 117038079
PROGRAM STUDI (S2) TEKNIK INFORMATIKA FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI
UNIVERSITAS SUMATERA UTARA MEDAN 2013
Universita Sumatera Utara

PENGEMBANGAN METODE BACKPROPAGATION DENGAN MENGGUNAKAN ADAPTIVE LEARNING RATE DAN PARALLEL TRAINING DALAM PENGENALAN HURUF ATAU ANGKA PADA CITRA DIGITAL TESIS
Diajukan untuk melengkapi tugas dan memenuhi syarat memperoeh ijazah Magister Teknik Informatika MUFIDA KHAIRANI 117038079
PROGRAM STUDI (S2) TEKNIK INFORMATIKA FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI
UNIVERSITAS SUMATERA UTARA MEDAN 2013
Universita Sumatera Utara

Universita Sumatera Utara

PERNYATAAN
PENGEMBANGAN METODE BACKPROPAGATION DENGAN MENGGUNAKANADAPTIVE LEARNING RATE DAN PARALLEL TRAINING DALAM PENGENALAN HURUF ATAU ANGKA PADA CITRA DIGITAL TESIS
Saya mengakui bahwa tesis ini adalah benar hasil karya sendiri, kecuali beberapa kutipan dan ringkasan yang masing – masing telah disebutkan sumbernya.
Medan, 30 Ocktober 2013
Mufida Khairani 117038079
Universita Sumatera Utara

PERNYATAAN PERSETUJUAN PUBLIKASI KARYA ILMIAH UNTUK KEPENTINGAN

AKADEMIS

Sebagai civitas akademik Universitas Sumatera Utara, saya yang bertanda tangan dibawah ini :

Nama

: Mufida Khairani

Nim : 117038079

Program Studi

: Teknik Informatika

Jenis Karya Ilmiah : Tesis

Demi pengembangan ilmu pengetahuan, menyetujui memberikan kepada Universitas Sumatera Utara Hak Bebas Royaliti Non – Ekslusif (Non-Exclusive Royality Fre Right) atas tesis saya yang berjudul :

PENGEMBANGAN METODE BACKPROPAGATION DENGAN MENGGUNAKANADAPTIVE LEARNING RATE DAN PARALLEL TRAINING DALAM PENGENALAN HURUF ATAU ANGKA PADA CITRA DIGITAL
Beserta perangkat yang ada (jika diperlukan).Dengan hak bebas Royaliti Non-Exclusive ini, Universitas Sumatera Utara berhak menyimpan, mengalih media, memformat, mengelola dalam bentuk database,merawat dan mempublikasikan tesis saya tanpa meminta izin dari saya selama tetap mencantumkannama saya sebagai penulis dan sebagai pemegang dan/atau sebagai pemilik hak cipta

Demikian pernyataan ini dibuat dengan sebenarnya.
Medan, 30 0cktober 2013

Mufida Khairani 117038079
Universita Sumatera Utara

Telah di uji pada 30 Ocktober 2013

PANITIA PENGUJI TESIS

Ketua

: Prof.Dr.Tulus

Anggota : 1. Dr.Marwan Ramli,M.Si

2. Prof.Dr.Muhammad Zarlis

3. Prof.Dr.Herman Mawengkang

4. Dr.Zakarias Situmorang

Universita Sumatera Utara

RIWAYAT HIDUP

DATA PRIBADI

Nama Lengkap Tempat dan Tanggal Lahir Alamat Rumah Telepon Rumah/Faks/Hp E-mail Instansi Tempat Bekerja
Alamat Kantor

: Mufida Khairani,ST : Tg.Morawa, 19 Desember 1989 : Jl.Dahlan Tanjung no.69 Tanjung morawa : (061) 7940856 / - / 0853 5858 5503 : mufida.khairani@gmail.com : - Sekolah Tinggi Teknik Harapan Medan
- Smk Swasta Nur Azizi : - Jl.H.M Joni No.70C Medan
- Jl.Pahlawan Tg.Morawa

DATA PENDIDIKAN

SD SMP SMA S1 S2

: SD Negeri I 101896 : SMP Swasta Nur Azizi : SMA Swasta Nur Azizi : Sekolah Tinggi Teknik Harapan Medan : Teknik Informatika USU

TAMAT : 2001 TAMAT : 2003 TAMAT : 2007 TAMAT : 2011 TAMAT : 2013

Universita Sumatera Utara

KATA PENGANTAR
Puji syukur penulis panjatkan kehadirat Allah SWT atas berkat, rahmat dan karunianya berupa pengetahuan, kesehatan dan kesempatan yang diberikan kepada penulis sehingga dapat menyelesaikan TESIS dengan judul “PENGEMBANGAN METODE BACKPROPAGATION DENGAN MENGGUNAKAN ADAPTIVE LEARNING RATE DAN PARALLEL TRAINING DALAM PENGENALAN HURUF ATAU ANGKA PADA CITRA DIGITAL”.
Penulis dalam penyusunan untuk menyelesaikan TESIS ini banyak mendapati kesulitan dan kendala–kendala yang dihadapi, namun berkat bantuan, dorongan, nasehat dari berbagai pihak terutama dari dosen pembimbing serta dari para dosen, maka tugas tesis ini dapat diselesaikan dengan baik. Terutama tidak lepas dari dorongan orang tua, kakak,adik dan aswar aghi yang juga telah banyak memberikan bantuan dan dorongan hingga penulis dapat sampai pada TESIS ini.
Untuk itu penulis ingin menyampaiakan ucapan terimakasih yang sebesar– besarnya kepada :
1. Kedua Orangtua saya Ayahanda H.Ibrahim dan Ibunda Hj.Nazmah Nasution,S.Pd tercinta yang telah memberikan kasih sayangnya, doa yang tak pernah putus serta dorongan moril maupun materil kepada saya sehingga dapat menyelesaikan TESIS ini dengan baik.
2. Bapak Prof.Dr.Muhammad Zarlis, selaku Ketua Program Studi Pascasarjana Teknik Informatika Fakultas Ilmu Komputer dan Teknologi Informasi Sumatera Utara Medan.
Universita Sumatera Utara

3. Bapak Prof.Dr.Tulus selaku Pembimbing I yang telah bersedia memberikan bimbingan serta pengarahan hingga selesainya penulisan tesis ini.
4. Bapak Dr.Marwan Ramli,M.Si selaku Dosen Pembimbing II yang telah bersedia memberikan bimbingan serta pengarahan hingga selesainya penulisan tesis ini.
5. Bapak Dosen Penguji yang telah memberikan saran untuk perbaikan dan penyelesaian tesis ini.
6. Bapak dan Ibu Dosen yang telah memberikan materi perkuliahan dan ilmu pengetahuan selama penulis menyelesaikan Program Studi Pascasarjana Teknik Informatika
7. Segenap civitas akademika Program Studi Pascasarjana Teknik Informatika Sumatera Utara
8. Saudara kandung saya Syarah Aisha,S.Pd,Nazliza Ramadhani,Helmi Munawar yang telah memberikan support dan semangatnya dalam perkuliahan saya juga yang mendorong saya sehingga saya bersemangat untuk menyelesaikan TESIS ini.
9. Teristimewa Aswar Aghi,ST beserta keluarga yang telah memberikan kasih sayang, support dan semangatnya kepada penulis sehingga terselesaikan TESIS ini.

10. STTH-Medan yang telah membesarkan nama saya dan membuat saya menjadi seseorang yang berarti dalam pekerjaan saya. Serta semangat dan dorongan dari rekan – rekan dilingkungan STTH-Medan
Universita Sumatera Utara

11. SMK SWASTA NUR AZIZI yang telah membesarkan nama saya dan membuat saya menjadi seseorang yang berarti dalam pekerjaan saya. Serta semangat dan dorongan dari rekan – rekan dilingkungan SMK SWASTA NUR AZIZI.
12. Teman – teman seperjuangan Angkatan 2011 Kom-C yang telah memberikan dukungan dalam penyelesaian TESIS ini.
Tentulah tiada yang sempurna di dunia ini begitu pula dalam penulisan TESIS ini, Untuk itu, penulis mengharapkan kritik dan saran dari pembaca demi kesempurnaan TESIS ini selanjutnya.
Akhir kata penulis berharap semoga laporan ini dapat bermanfaat bagi semua pihak, khususnya dalam bidang pendidikan.
Medan, 30 Ocktober 2013 Penulis
Mufida Khairani 117038079
Universita Sumatera Utara

ABSTRAK
Identifikasi karakter pada media digital menjadi salah satu perhatian utama di era perkembangan teknologi saat ini. Latar belakang munculnya upaya untuk mengidentifikasi karakter menjadi bentuk digital adalah tidak terlepasnya aktifitas manusia dari dokumen atau berkas manual dalam kegiatan sehari-hari. Proses transformasi manual dengan cara menginputkan data dan informasi secara manual membutuhkan waktu lama, sehingga dianggap perlu adanya sebuah mekanisme untuk mentransformasikan data dan informasi manual tersebut ke dalam bentuk digital secara otomatis. Kegiatan identifikasi tidak terlepas dari proses klasifikasi. Jaringan syaraf tiruan telah lama digunakan dalam proses klasifikasi, dimana jaringan syaraf tiruan menawarkan fleksibilitas terhadap fitur dari objek yang akan diklasifikasikan dan ruang penyimpanan yang kecil. Salah satu metode jaringan syaraf tiruan yang terkenal adalah metode backpropagation. Kelemahan terbesar dari jaringan backpropagation adalah waktu yang dibutuhkan oleh jaringan untuk belajar menjadi sangat lama untuk kondisi data pembelajaran yang besar dan kondisi dimana fitur antara objek yang berbeda memiliki perbedaan yang kecil. Untuk mengatasi kelemahan itu maka dilakukan implementasi pengembangan dengan menerapkan konsep adaptvie learning rate dan parallel training dalam rangka meningkatkan kemampuan jaringan dalam proses pembelajaran.
Keywords : Identifikasi Karakter, Klasifikasi, Jaringan Syaraf Tiruan, Backpropagatio, Adaptive Learning Rate, Parallel Training.
Universita Sumatera Utara

BACKPROPAGATION DEVELOPMENT METHOD USING ADAPTIVE LEARNING RATE AND PARALLEL TRAINING IN RECOGNITION LETTERS OR NUMBERS ON THE DIGITAL IMAGE
ABSTRACT
Identification of characters in digital media to be one of the major concerns in the current era of technological development . Background of attempts to identify characters into digital form is not human activities release of documents or files manually in daily activities . Transformation process manually by way of input data and the information manually takes a long time , so it is considered a need for a mechanism to transform data and manual information into digital form automatically. The identification can’t be separated from the process of classification . Artificial neural networks have long been used in the classification process , which offers the flexibility of neural networks to the features of the object to be classified and small storage space . One method which is wellknown artificial neural network is backpropagation method . The biggest drawback of the backpropagation network is the time taken by the network to learn to be very long for large data conditions of learning and the conditions in which the features between different objects have small differences . To overcome the weaknesses of the implementation of the development is carried out by applying the concept of parallel adaptive learning rate and training in order to improve the ability of the network in the learning process.
Keywords : Character Identification, Classification, Artificial Neural Network, Backpropagation, Adaptive Learning Rate, Parallel Training.

Universita Sumatera Utara

DAFTAR ISI

HALAMAN JUDUL PERSETUJUAN PERNYATAAN ORISINALITAS PERSETUJUAN PUBLIKASI PANITIA PENGUJI RIWAYAT HIDUP KATA PENGANTAR ABSTRAK ABSTRACT DAFTAR ISI DAFTAR GAMBAR DAFTAR TABEL

Halaman

i ii iii iv v vi vii x xi xii xiv xv

BAB I

PENDAHULUAN 1.1 Latar Belakang 1.2 Rumusan Masalah 1.3 Tujuan Masalah 1.4 Batasan Masalah 1.5 Metodologi Penelitian
1.5.1 Tahap pengumpulan Data

1 1 3 3 3 4 4

BAB II DASAR TEORI 2.1. Citra Digital 2.2 Sifat Citra Digital 2.3. Citra Grayscale 2.4. Image Thinning 2.5. Jaringan Syaraf Tiruan 2.6. Jaringan Syaraf Tiruan Backpropagation 2.7. Adaptive Learning Rate 2.8. Perbandingan Backpropagation Konvensional dan Adaptive Learning Rate. 2.9. Parallel Training

5 5 5 7 7 9 10 13

14 19

BAB III MOTODOLOGI PENELITIAN 3.1. Rancangan Penelitian 3.1.1 Analisis Proses Identifikasi Karakter atau Huruf Pada Citra Digital 3.2 Alat Penelitian dan Bahan 3.2.1 Alat Penelitian 3.2.2 Bahan Penelitian 3.2.2.1 Bahan Penelitian Karakter Huruf dan Angka

23 23
24 25 25 26 26

Universita Sumatera Utara

3.2.2.2 Parameter Jaringan Backpropagation 3.2.2.3 Target Output Backpropagation
BAB IV HASIL DAN PEMBAHASAN 4.1 Pengantar 4.2 Data dan Konfigurasi Pengujian 4.3 Hasil dan Pengujian 4.3.1 Hasil Pelatihan Pengujian Pertama 4.3.2 Hasil Pelatihan Pengujian Kedua 4.4 Pembahasan 4.4.1 Pembahasan Hasil Pengujian pertama 4.4.2 Pembahasan Hasil Pengujian Kedua
BAB V KESIMPULAN DAN SARAN 5.1 Kesimpulan 5.2 Saran
DAFTAR PUSTAKA LAMPIRAN

29 30
34 34 38 40 41 43 45 46 47
48 48 48

Universita Sumatera Utara

DAFTAR GAMBAR

Halaman

Gambar 2.1 Proses Akuisisi Citra

5

Gambar 2.2 Representasi Citra Digital

6

Gambar 2.3 Arsitektur Multilayer Neural Network

10

Gambar 2.4 Ilustrasi Pembelajaran Karakter Angka

14

Gambar 2.5 Ilustrasi Lokal Minimal dan Global Minimal

15

Gambar 2.6 Perbandingan Laju Error Pada Percobaan Learning Rate.

18

Gambar 2.7 Grafik Perbandingan Implementasi Learning Rate

19

Gambar 2.8 Ilustrasi Parallel Training pada Data Input Karakter dan Angka 21

Gambar 2.9 Presentasi Skema Pelatihan Pada Jaringan

22

Gambar 3.1. Diagram Flowchart Proses Identifikasi Karakter Huruf atau

Angka Pada Citra Digital

24

Gambar 3.2 Karakter A

26

Gambar 4.1 Tampilan Output Aplikasi Pengenalan Karakter Menggunakan

Metode Jaringan Syaraf Backpropagation

35

Gambar 4.2 Tampilan Data Karakter

36

Gambar 4.3 Tampilan Input Data karakter

36

Gambar 4.4 Proses Pelatihan Jaringan Backpropagation

37

Gambar 4.5 Proses Pelatihan Pada Pengujian Pertama

41

Gambar 4.6 Proses Pelatihan Pada Pengujian Kedua

43

Gambar 4.7 Perbandingan Laju Error Jaringan Backpropagation Normal

dengan Backpropagation Pengembangan Pada Pelatihan

Pengujian Pertama

45

Gambar 4.8 Perbandingan Laju Error Jaringan Backpropagation Normal

dengan Backpropagation Pengembangan Pada Pelatihan

Pengujian Kedua

46

Universita Sumatera Utara

DAFTAR TABEL
Tabel 3.1 Bagian dari karakter akan diberi nilai 1dan 0 Tabel 3.2 Jumlah Partisi dan Unit Jaringan pada pelatihan paralel Tabel 4.1 Atribut Citra Digital Tabel 4.2 Hasil Pengujian Pelatihan Pertama Tabel 4.3 Nilai Alpha Dari Pengujian Pertama Tabel 4.4 Hasil Pengujian Pelatihan Kedua Tabel 4.5 Nilai Alpha Dari Pengujian Kedua

Halaman 28 30 38 42 42 44 44

Universita Sumatera Utara

ABSTRAK
Identifikasi karakter pada media digital menjadi salah satu perhatian utama di era perkembangan teknologi saat ini. Latar belakang munculnya upaya untuk mengidentifikasi karakter menjadi bentuk digital adalah tidak terlepasnya aktifitas manusia dari dokumen atau berkas manual dalam kegiatan sehari-hari. Proses transformasi manual dengan cara menginputkan data dan informasi secara manual membutuhkan waktu lama, sehingga dianggap perlu adanya sebuah mekanisme untuk mentransformasikan data dan informasi manual tersebut ke dalam bentuk digital secara otomatis. Kegiatan identifikasi tidak terlepas dari proses klasifikasi. Jaringan syaraf tiruan telah lama digunakan dalam proses klasifikasi, dimana jaringan syaraf tiruan menawarkan fleksibilitas terhadap fitur dari objek yang akan diklasifikasikan dan ruang penyimpanan yang kecil. Salah satu metode jaringan syaraf tiruan yang terkenal adalah metode backpropagation. Kelemahan terbesar dari jaringan backpropagation adalah waktu yang dibutuhkan oleh jaringan untuk belajar menjadi sangat lama untuk kondisi data pembelajaran yang besar dan kondisi dimana fitur antara objek yang berbeda memiliki perbedaan yang kecil. Untuk mengatasi kelemahan itu maka dilakukan implementasi pengembangan dengan menerapkan konsep adaptvie learning rate dan parallel training dalam rangka meningkatkan kemampuan jaringan dalam proses pembelajaran.
Keywords : Identifikasi Karakter, Klasifikasi, Jaringan Syaraf Tiruan, Backpropagatio, Adaptive Learning Rate, Parallel Training.
Universita Sumatera Utara

BACKPROPAGATION DEVELOPMENT METHOD USING ADAPTIVE LEARNING RATE AND PARALLEL TRAINING IN RECOGNITION LETTERS OR NUMBERS ON THE DIGITAL IMAGE
ABSTRACT
Identification of characters in digital media to be one of the major concerns in the current era of technological development . Background of attempts to identify characters into digital form is not human activities release of documents or files manually in daily activities . Transformation process manually by way of input data and the information manually takes a long time , so it is considered a need for a mechanism to transform data and manual information into digital form automatically. The identification can’t be separated from the process of classification . Artificial neural networks have long been used in the classification process , which offers the flexibility of neural networks to the features of the object to be classified and small storage space . One method which is wellknown artificial neural network is backpropagation method . The biggest drawback of the backpropagation network is the time taken by the network to learn to be very long for large data conditions of learning and the conditions in which the features between different objects have small differences . To overcome the weaknesses of the implementation of the development is carried out by applying the concept of parallel adaptive learning rate and training in order to improve the ability of the network in the learning process.
Keywords : Character Identification, Classification, Artificial Neural Network, Backpropagation, Adaptive Learning Rate, Parallel Training.
Universita Sumatera Utara

BAB I
PENDAHULUAN
1.1 Latar Belakang
OCR merupakan sekumpulan teknik dan proses yang digunakan dalam meng-ekstrak informasi karakter yang terdapat pada citra digital. Citra digital telah digunakan hampir di semua aspek kehidupan manusia, mulai dari pendidikan, bisnis, pemerintahan dan aspek – aspek lainnya.
Seiring berkembangnya teknologi, sebuah dokumen fisik dapat secara langsung diproses oleh komputer melalui perangkat pemindai atau scanner. Scanner mentransformasikan sinyal analog dari dokumen menjadi data digital seperti layaknya sebuah kamera. Data digital tersebut kemudian di-enkapsulasi menjadi sebuah citra digital yang mengandung karakter yang berasal dari dokumen yang direpresentasikan.
Proses identifikasi atau ekstraksi karakter pada sebuah citra digital merupakan proses yang rumit dan panjang. Banyak metode yang digunakan dalam proses identifikasi karakter pada citra digital, salah satu metode yang banyak digunakan dalam bidang OCR adalah metode jaringan syaraf tiruan BackPropagation. BackPropagation merupakan metode yang banyak digunakan dalam proses identifikasi dan proses klasifikasi, sehingga metode ini sangat sering digunakan dalam proses OCR.
BackPropagation merupakan metode yang sangat baik dalam proses klasifikasi mengingat kemampuannya dalam mengadaptasikan kondisi jaringan dengan data yang diberikan dengan proses pembelajaran. Dibalik kelebihannya BackPropagation memiliki kelemahan yang sangat menonjol, yaitu membutuhkan waktu yang cukup lama dalam proses pembelajarannya. Untuk mengatasi kelemahan tersebut telah banyak penelitian yang dilakukan oleh peneliti – peneliti jaringan syaraf tiruan. Salah satu pengembangan yang diusulkan dalam penerapan metode BackPropagation adalah penggunaan teknik adaptive learning rate dimana parameter learning rate atau tingkat pembelajaran akan
Universita Sumatera Utara

selalu berubah-ubah sesuai dengan kondisi perubahan error pada tiap iterasinya (Moreira & Fiesler, 1995).
Adaptive learning rate memiliki pengaruh yang cukup baik pada beberapa kasus, dimana nilai eror akan lebih cepat menuju ke global optima (Moreira & Fiesler, 1995). Namun pada beberapa kasus lain adaptive learning rate tidak memiliki peran yang cukup besar dalam meningkatkan kecepatan dan terkadang malah memperburuk tingkat pembelajaran. Penggunaan metode adaptive lainnya seperti adaptive momentum (Moreira & Fiesler, 1995) dirasa juga tidak memiliki perbedaan yang signifikan mengingat perubahan dilakukan pada parameter pada jaringan BackPropagation.
Metode adaptive learning rate memberikan peningkatan kecepatan pada proses pembelajaran BackPropagation namun peningkatan kecepatan yang diberikan tidaklah signifikan sehingga diperlukan penambahan pengembangan lainnya yang terfokus pada mempercepat proses iterasi jaringan sehingga nilai eror pada jaringan cepat menuju ke nilai global optima (Moreira & Fiesler, 1995). Untuk mempercepat proses iterasi pada jaringan BackPropagation, banyak teknik yang dapat digunakan yang salah satunya adalah teknik Parallel Training dimana proses pembelajaran dilakukan secara parallel (Schuessler & Loyola, 2011).
Parallel Training dapat dilakukan dengan beberapa cara yaitu dengan memanfaatkan beberapa prosessor sekaligus dan juga dengan memanfaatkan teknologi multithreading dimana sebuah prosessor dengan beberapa unit pengolah dapat memproses beberapa thread dalam satu waktu (Schuessler & Loyola, 2011). Parallel Training dengan teknologi multithreading menjadi pilihan karena menggunakan beberapa processor akan membutuhkan biaya yang besar.
Berdasarkan uraian diatas,perlu dilakukan pengembangan algoritma BackPropagationdalam rangka mempercepat proses pembelajaran dan memperkecil eror. Pada penelitian ini diusulkan kombinasi metode adaptive learning rate dan parallel trainingdalam pengembangan algoritma Back Propoagationuntuk identifikasi karakter
Universita Sumatera Utara

pada citra digital. Karenanya judul penelitian tesis yang diusulkan adalah“PENGEMBANGAN METODE BACKPROPAGATION DENGAN MENGGUNAKAN ADAPTIVE LEARNING RATE DAN PARALLEL TRAINING DALAM PENGENALAN HURUF ATAU ANGKA PADA CITRA DIGITAL”.
1.2 Rumusan Masalah Bagaimana untuk peningkatkan kecepatan proses pembelajaran metode Backpropagation dalam mengidentifikasi karakter angka dan huruf pada citra digital. Masalah utama dalam penelitian ini adalah terkait dengan pengembangan algoritma Back Propagation dalam bentuk kombinasi Adaptive Learning Rate dan Parallel Training.
1.3 Tujuan Penelitian Penelitian ini bertujuan untuk mengembangkan algoritma Back Propagation dengan menggunakan kombinasi adaptive learning rate dan parallel training pada identifikasi citra digital.
1.4 Batasan Masalah Dalam penelitian ini telah ditentukan batasan – batasan dari topik yang dibahas sehingga tidak menyebabkan cakupan pembahasan yang terlalu luas sehingga fokus utama dari penelitian menjadi kabur. Beberapa batasan masalah yang ditentukan pada penelitian ini dapat dijabarkan sebagai berikut.
1. Media yang digunakan dalam penelitian ini adalah citra digital.Algoritma adaptive learning rate dan parallel training pada metode backpropagation akan menjadi topik utama pada penelitian ini.
2. Implementasi penelitan dilakukan dengan penerapan metode backpropagation dengan pengembangan adaptive learning rate dan parallel training pada identifikasi karakter huruf atau angka pada citra.
3. Ukuran defaulthuruf atau angka adalah tinggi 10 piksel dan lebar 9 piksel. 4. Banyaknya jumlah kata yang dapat dikenali adalah sebanyak satu baris atau
maksimal 70x10 piksel atau maksimal 77 huruf dalam satu baris. 5. Jenis huruf (font) yang diteliti adalah Arial
Universita Sumatera Utara

6. Untuk citra kata dan kalimat huruf yang dapat dikenali adalah huruf capital dan huruf kecil sedangkan untuk angka dikenalkan bilangan decimal 0 s/d 9
1.5 Metodologi Penelitian Metode penelitian dalam penyusunan tugas ini dibagi menjadi dua tahap yaitu, tahap pengumpulan data dan tahap pembangunan perangkat lunak. 1.5.1 Tahap Pengumpulan Data Teknik pengumpulan yang dilakukan adalah studi pustaka atau studi literatur.Pengumpulan data dengan cara mengumpulkan literatur, jurnal, paper dan bacaan-bacaan yang ada kaitannya dengan judul penelitian.
Universita Sumatera Utara

BAB II DASAR TEORI
2.1 Citra Digital Citra digital didefinisikan sebagai fungsi f (x,y) dua dimensi,dimana x dan y adalah koordinat spasial dan f(x,y) adalah disebut dengan intensitas atau tingkat keabuan citra pada koordinat x dan y (R.C.Gonzales, R.E.Woods,2002). Jika x, y, dan nilai f terbatas dalam diskrit, maka disebut dengan citra digital. Citra digital dibentuk dari sejumlah elemen terbatas, yang masing-masing elemen tersebut memiliki nilai dan koordinat tertentu. Pixel adalah elemen citra yang memiliki nilai yang menunjukkan intensitas warna (R.C.Gonzales, R.E.Woods, Woods,2002).
Citra digital diperoleh melalui proses penangkapan atau akuisisi pada objek pada lingkungan nyata melalui perangkat yang dilengkapi dengan sensor optic yang mampu mendeteksi intensitas cahaya dan merepresentasikan intensitas tersebut menjadi nilai diskrit (Sutoyo, 2009).
Gambar 2.1 Proses Akuisisi Citra (Sutoyo, 2009) 2.2 Sifat Citra Digital Citra digital bersifat diskrit yang dapat diolah oleh komputer. Citra ini dapat dihasilkan melalui kamera digital dan scanner ataupun citra yang telah mengalami proses digitalisasi. Sebuah citra berukuran 150 x 100 pixel dapat dinyatakan dengan matriks yang berukuran sesuai dengan
Universita Sumatera Utara

pikselnya atau biasa dinyatakan dalam ukuran N x M dimana N untuk baris dan M untuk kolom. Misalnya diambil suatu kotak kecil dari bagian citra direpresentasikan dengan matriks berukuran 9 x 9, seperti terlihat pada Gambar 2.1
128 125 107 105 110 118 116 114 110 121 122 115 108 106 116 116 116 107 110 114 112 107 105 108 106 106 100 100 96 100 99 94 94 101 101 69 85 82 81 80 76 75 80 82 72 58 58 56 54 53 52 51 49 45 41 41 41 39 39 36 36 35 33 43 43 42 43 41 41 41 43 40 60 60 59 59 60 59 59 58 56
Gambar 2.2 Representasi Citra Digital Sumber : R.C.Gonzales,R.E.Woods ( 2002 )
Pada gambar 2.1 dapat dilihat representasi berupa matriks m x n yang mana merupakan nilai warna dari tiap piksel pada area yang diambil pada citra. Matriks yang dapat dilihat pada gambar 2.1 merupakan nilai piksel yang diambil dari potongan citra yang berukuran 9 x 9 piksel.
Universita Sumatera Utara

2.3 Citra Grayscale
Citra yang ditampilkan dari citra jenis ini terdiri atas warna abu-abu, bervariasi pada warna hitam pada bagian yang intensitas terlemah dan warna putih pada intensitas terkuat. Citra grayscale berbeda dengan citra "hitam-putih", dimana pada konteks komputer, citra hitam putih hanya terdiri atas 2 warna saja yaitu "hitam" dan "putih" saja. Pada citra grayscale warna bervariasi antara hitam dan putih, tetapi variasi warna diantaranya sangat banyak. Citra grayscale seringkali merupakan perhitungan dari intensitas cahaya pada setiap pixel pada spektrum elektromagnetik single band. 2.4 Image Thinning
Thinning (biasa disebut juga skeletonizing) adalah suatu metode untuk merepresentasikan transformasi suatu bentuk gambar ke bentuk graph dengan mereduksi informasi tertentu dalam gambar tersebut. Thinning ini biasa digunakan mencari bentuk dasar/rangka/skeleton dari suatu gambar. Contohnya pada PCB (printed circuit boards) untuk mengetahui aliran/arus data pada PCB tersebut. Selain untuk kompresi suatu gambar, kegunaan lain dari thinning adalah untuk mencari informasi tertentu dari suatu gambar dengan menghilangkan informasi yang tidak diperlukan. Misalnya saja untuk mencari dataran tinggi dalam peta geografis.
Algoritma thinning binary regions memberikan aspek sebagai berikut :
1. thinning tidak menghapus point terakhir
2. thinning tidak merusak konektivitas
3. thinning tidak menyebabkan pengikisan berlebihan dari region. Diasumsikan region points memiliki nilai 1 dan background points memiliki nilai 0. Metode ini terdiri dari 2 langkah dasar yang dikenakan terhadap contour points dari suatu region, dimana contour points adalah sembarang piksel dengan nilai 1 dan memiliki paling sedikit satu dari 8-tetangga bernilai 0. Algoritma ini menggunakan tanda untuk memilih piksel mana yang akan dihapus. Aturannya, 8-tetangga terdekat dari setiap piksel P1 dinomori P2 (untuk piksel di atas P1) sampai dengan P9 sesuai dengan arah jarum jam.
Langkah 1 Beri tanda sebuah contour point pi untuk dihapus apabila memenuhi semua kondisikondisi berikut ini :
Universita Sumatera Utara

(a) 2 < N(Pi) < 6; (b) S(Pi) = i; (c) P2 . P4 . P6 = 0; (d) P4 . P6 . P8 = 0;
di mana N(P1) adalah jumlah dari tetangga-tetangga dari p i yang bukan nol; sehingga: N(P1) = P2 + P3 + P4 + P5 + P6 + P7 + P8 + P9 dan S(P1) adalah jumlah dari transisi 0 ke 1 dalam urutan P2, P3, P4, P5, P6, P7, P8, P9. Langkah 2 Hampir sama dengan langkah 1, hanya saja pada langkah 2 ini bagian (c) dan (d) berubah menjadi sebagai berikut : (c) P2 . P4 . P8 = 0; (d) P2 . P6 . P8 = 0;
Langkah 1 diterapkan untuk border pixel pada binary region. Jika satu atau lebih dari kondisi (a) sampai dengan (d) tidak dipenuhi, maka nilai dari point yang diperiksa tidak berubah (tidak perlu diberi tanda). Points yang diperiksa tidak akan dihapus sampai semua border points selesai diproses. Hal ini dilakukan untuk mencegah agar tidak terjadi perubahan pada struktur data saat pengeksekusian algoritma. Setelah langkah 1 telah selesai dilakukan terhadap semua border points , semua yang telah diberi tanda dihapus (diubah ke 0). Lalu, langkah 2 baru dijalankan terhadap hasil data persis sama seperti pada langkah 1.
Jadi, satu iterasi dalam algoritma thinning ini terdiri dari : 1. Pengerjaan langkah 1 untuk memberi tanda pada border points untuk dihapus. 2. Penghapusan points yang telah diberi tanda. 3. Pengerjaan langkah 2 untuk memberi tanda border points yang tersisa untuk dihapus. 4. Penghapusan points yang telah diberi tanda.
Prosedur dasar ini akan beriterasi hingga tidak ada points yang dapat dihapus lagi, sehingga hasil yang didapat adalah skeleton (kerangka) dari region. Proses thinning ini, menghilangkan informasi-informasi tertentu dalam gambar, dengan tetap mempertahankan informasi yang paling utama atau kerangka utama gambar tersebut. Jadi misalnya terdapat suatu gambar yang cukup tebal, jika kita lakukan proses thinning pada gambar tersebut, maka gambar yang tersisa hanyalah kerangka utama dari gambar tersebut.
Universita Sumatera Utara

2.5 Jaringan Syaraf Tiruan Hermawan,A.2006 mendefinisikan Jaringan Syaraf Tiruan adalah suatu struktur pemroses informasi yang terdistribusi dan
bekerja secara paralel, yang terdiri atas elemen pemroses (yang memiliki memori lokal dan beroperasi dengan informasi lokal) yang diinterkoneksi bersama dengan alur sinyal searah yang disebut koneksi. Setiap elemen pemroses memiliki koneksi keluaran tunggal
yang bercabang (fan out) ke sejumlah koneksi kolateral yang diinginkan (setiap koneksi membawa sinyal yang sama dari keluaran
elemen pemroses tersebut). Keluaran dari elemen pemroses tersebut dapat merupakan sebarang jenis persamaan matematis yang diinginkan. Seluruh proses yang berlangsung pada setiap elemen pemroses harus benar-benar dilakukan secara lokal, yaitu keluaran hanya bergantung pada nilai masukan pada saat itu yang diperoleh melalui koneksi dan nilai yang tersimpan dalam memori lokal.
Jaringan neuron buatan terdiri atas kumpulan grup neuron yang tersusun dalam lapisan :
1. Lapisan input (Input Layer): berfungsi sebagai penghubung jaringan ke dunia luar (sumber data). 2. Lapisan tersembunyi (hidden Layer): Suatu jaringan dapat memiliki lebih dari satu hidden layer atau bahkan
bisa juga tidak memilikinya sama sekali.
3. Lapisan Output (Output Layer): Prinsip kerja neuron-neuron pada lapisan ini sama dengan prinsip kerja neuronneuron pada lapisan tersembunyi (hidden layer) dan di sini juga digunakan fungsi Sigmoid, tapi keluaran dari neuron pada lapisan ini sudah dianggap sebagai hasildari proses Secara umum, terdapat tiga jenis neural network yang sering digunakan berdasarkan jenis network-nya, yaitu :
1. Single-Layer Neural adalah jaringan syaraf tiruan yang memiliki koneksi pada inputnya secara langsung ke
jaringan output.
2. Multilayer Perceptron Neural Network adalah jaringan syaraf tiruan yang mempunyai layer yang dinamakan "'hidden', ditengah layer input dan output. Hidden ini bersifat variabel, dapat digunakan lebih dari satu hidden layer.
3. Recurrent Neural Networks Neural network adalah jaringan syaraf tiruan yang memiliki ciri, yaitu adanya koneksi umpan balik dari output ke input
2.6 Jaringan Syaraf Tiruan Backpropagation
Backpropagation adalah salah satu pengembangan dari arsitektur Single Layer Neural Network. Arsitektur ini terdiri dari input layer, hidden layer dan output layer, dan setiap layer terdiri dari satu atau lebih aritificial neuron. Nama umum dari arsitektur ini adalah Multilayer neural network.
Universita Sumatera Utara

Gambar 2.3 : Arsitektur Multilayer Neural Network Sumber : Hermawan, A ( 2006
Dengan menggunakan arsitektur jenis ini, maka metode pelatihan yang digunakan adalahBackpropagation yang biasanya disebut juga sebagai feedforward networks.
Algoritma selengkapnya elatihan jaringan backpropagation adalah sebagai berikut : Langkah 0 :Inisialisasi bobot (ambil bobot awal dengan nilai random yang
cukup kecil). Langkah 1 :Bila syarat berhenti adalah salah, kerjakan langkah 2 sampai 9 Langkah 2 :Untuk setiap pasangan pelatihan, kerjakan langkah 3-8. Feedforward:

Langkah 3 : Tiap-tiap unit input (Xi, i=1,2,3,...,n) menerima sinyal xi dan

meneruskan sinyal ke semua unit pada lapisan hidden (lapisan

tersembunyi).

Langkah 4 : Tiap-tiap unit lapisan tersembunyi (Zj, j=1,2,3,...,p) menjumlahkan

sinyal-sinyal input terbobot:

n
z_inj = v0j + xi vij
i =1

(2.1)

v=Bobot awal input ke hidden.

Gunakan fungsi aktivasi untuk menghitung sinyal outputnya:

zj = f(z_inj)

(2.2)

dan mengirimkan sinyal tersebut ke semua unit di lapisan atasnya (unit unit output).

Universita Sumatera Utara

Langkah 5

: Tiap-tiap output (Yk, k=1,2,3,...,m) menjumlahkan sinyal-sinyal input terbobot.

p
y_ink = w0k + z j w jk
j =1

(2.3)

gunakan fungsi aktivasi untuk menghitung sinyal outputnya:

yk = f(y_ink)

(2.4)

dan kirimkan sinyal tersebut ke semua unit di lapisan hidden (lapisan tersembunyi).
Catatan: Langkah (b) dilakukan sebanyak jumlah lapisan tersembunyi.

Backpropagation

Langkah 6 : Tiap-tiap unit output (Yk, k=1,2,3,...,m) menerima target pola yang

berhubungan dengan pola input pembelajaran, hitung informasi errornya

δk = (tk-yk) f’(y_ink)

(2.5)

Kemudian hitung koreksi bobot (yang nantinya akan digunakan

untuk memperbaiki nilai wjk):

∆wjk = αδkzj Hitung juga koreksi bias

(2.6)

∆w0k = αδk

(2.7)

Langkah 7 : Tiap-tiap unit lapisan tersembunyi (Zj, j=1,2,3,...,p) menjumlahkan

delta inputnya (dari unit-unit yang berada dilapisan hidden).

m
δ_inj = δ k w jk
k =1

(2.8)

Kalikan nilai ini dengan turunan dari fungsi aktivasi untuk menghitung

informasi error:

δj = δ_inj f’(z_inj)

(2.9)

Universita Sumatera Utara

kemudian hitung koreksi bobot: ∆vij = αδjxi

(2.10)

Langkah 8 :Tiap-tiap unit ouput (Yk, k=1,2,3,...,m) memperbaiki bias dan bobotnya

(j=1,2,3,...,p):

wjk(baru) = wjk(lama) + ∆wjk

(2.11)

Tiap-tiap unit lapisan tersembunyi (Zj, j=1,2,3,...,p) memperbaiki nilai bias dan bobotnya (i=1,2,3,...,n. ):

vij(baru) = vij(lama) + ∆vij

(2.12)

Langkah 9 : Uji syarat berhenti.

2.7 Adaptive Learning Rate Adaptive Learning Rate merupakan pendekatan atau metode yang bertujuan untuk meningkatkan efektifitas dari parameter tingkat pembelajaran atau learning rate, dimana tingkat pembelajaran merupakan parameter yang berfungsi untuk meningkatkan kecepatan belajar dari jaringan backpropagation.
Adaptive learning rate muncul karena penelitian yang dilakukan pada nilai yang konstan pada tingkat pembelajaran menyebabkan metode jaringan backpropagation menjadi tidak efisien, dikarenakan sangat bergantung pada nilai tingkat pembelajaran yang dipilih (Plagianakos, 1998). Pemilihan tingkat pembelajaran yang tidak tepat akan menyebabkan jaringan sangat lambat mencapai local optima. Karena alasan tersebut maka muncullah pendekatan adaptive learning rate.
Implementasi adaptive learning rate adalah mengganti nilai learning rate yang digunakan dalam koreksi bobot pada jaringan pada tiap iterasi menggunakan persamaan yang diusulkan oleh (Plagianakos, 1998) sebagai berikut.
(2.13)
Dimana :

Universita Sumatera Utara

= Bobot baru untuk iterasi berikutnya (t+1) = Bobot pada iterasi saat (t) = Adaptive Learning Rate = Fungsi Error pada bobot iterasi saat (t)
Nilai dapat diperoleh dari persamaan berikut.
(2.14)
Dimana : = = Faktor Pertumbuhan Maksimum
2.8 Perbandingan Backpropagation Konvensional dan Adaptive Learning Rate Algoritma backpropagation merupakan algoritma yang digunakan dalam mengidentifikasi karakter huruf atau angka yang terdapat pada citra input. Secara garis besar, algoritma backpropagation dibagi menjadi dua tahap, yaitu tahap forward propagation dan backward propagation. Seperti yang telah dijelaskan pada bab landasan teori sebelumnya, tahap forward propagation merupakan tahap dimana data input berupa bit-bit karakter diproses melalui lapisan – lapisan yang terdapat pada jaringan dan menghasilkan output. Jika output tidak sesuai dengan yang diharapkan, maka proses pembelajaran akan dilakukan atau tahap backward propagation.
Universita Sumatera Utara

Gambar 2.4 Ilustrasi Pembelajaran Karakter Angka. Backward propagation melakukan koreksi nilai bobot pada tiap lapisan mulai dari lapisan output menuju ke lapisan input, koreksi bobot didasarkan atas selisih antara output yang dihasilkan oleh jaringan dengan output yang diharapkan. Setelah proses koreksi bobot selesai maka tahap forward propagation akan di lakukan kembali dengan bobot baru yang telah dikoreksi. Proses forward dan backward propagation terus dilakukan sampai jaringan mampu menghasilkan output yang diharapkan atau dianggap mampu mengenali karakter yang diberikan. Secara normal metode backpropagation membutuhkan waktu yang sangat lama dalam proses pembelajarannya dimana waktu yang dibutuhkan berbanding lurus dengan banyaknya data pelatihan, yang artinya semakin besar data pelatihan maka akan semakin lama proses pembelajaran yang dilakukan.
Gambar 2.5 Ilustrasi Lokal Minimal dan Global Minimal (Sumber : http://mnemstudio.org/neural-networks-multilayer-perceptron-design.html,2013)
Suatu jaringan dikatakan sudah belajar jika jaringan tersebut sudah mencapai kondisi global minima atau kondisi dimana jaringan telah mencapai nilai error terendah. Untuk mempercepat jaringan menuju ke global minima maka diperlukan beberapa pengembangan terhadap metode backpropagation tersebut, yang dalam penelitian ini salah satu pengembangan yang diusulkan adalah adaptive learning rate.
Adaptive learning rate merupakan pengembangan pada algoritma
Universita Sumatera Utara

backpropagation. Metode adaptive learning rate dilakukan pada saat koreksi bobot berlangsung. Algoritma backpropagation normal menggunakan parameter learning rate sebagai konstanta, dimana parameter tersebut digunakan terus menerus selama proses iterasi pembelajaran tanpa mengalami perubahan. Dengan menggunakan adaptive learning rate, parameter learning rate atau tingkat pembelajaran terus mengalami perubahan seiring proses pembelajaran yang perubahan nilainya bergantung pada selisih error pada tiap iterasi pembelajaran.
Pada operasi backpropagation normal, operasi koreksi bobot dilakukan dengan perhitungan fungsi error terlebih dahulu dengan persamaan berikut.

(2.15)

Dimana :

= Fungsi Error pada iterasi ke - k

= Target Output pada node ke - k

= Output jaringan pada node ke – k

Sedangkan untuk mencari fungsi error pada bobot ke-k dapat dilihat pada persamaan berikut. Penggunaan fungsi error pada operasi koreksi bobot menggunakan persamaan berikut.

(2.16)

Dimana :

= Bobot baru untuk iterasi k+1

= Bobot pada iterasi ke –k

Universita Sumatera Utara

= Learning Rate = Fungsi Error pada iterasi ke –k
Pada operasi backpropagation normal, parameter learning rate bernilai statis dimana nilai parameter dipilih pada awal pembelajaran dan terus digunakan pada setiap iterasi tanpa mengalami perubahan.
Penggunaan adaptive learning rate memberikan dampak positif dimana proses menuju local optima akan semakin cepat. Dimana dengan tingkat pembelajaran yang selalu menyesuaikan diri dengan nilai error yang dihasilkan mampu memberikan stabilitas dalam proses pembelajaran dibandingkan dengan tingkat pembelajaran yang konstan atau statis.
Berdasarkan penelitian yang dilakukan oleh Plagianakos, berikut usulan persamaan dalam menghitung nilai learning rate pada tiap iterasi (Plagianakos, 1998).
(2.17) Dimana :
= Learning Rate pada iterasi ke – k = = = Standard Inner Product
Universita Sumatera Utara

Pada penelitian yang dilakukan oleh Daohang Sha dan Vladimir mengenai adaptive learning rate, mereka melakukan perbandingan performa dari learning rate statis dan penggunaan adaptive learning rate yang dapat dilihat pada gambar berikut.
Gambar 2.6 Perbandingan Laju Error Pada Percobaan Learning Rate (Sumber : Sha & Bajic, 2000)
Pada gambar 2.6 dapat dilihat lajur error dari Variable rate atau dengan kata lain Adaptive learning rate memiliki laju eror yang paling baik dibandingkan dengan Fixed rate atau nilai learning rate statis. Pada penelitian lain yang dilakukan oleh Rajesh et al, penggunaan metode adaptive learning rate memberikan kecepatan laju pembelajaran yang signifikan seperti yang terlihat pada gambar 2.7 berikut ini.
Universita Sumatera Utara

Gambar 2.7 Grafik Perbandingan Implementasi Learning Rate. (Sumber : Ranganath, 2013)
2.9 Parallel Training Parallel training merupakan pendekatan implementasi pelatihan jaringan Backpropagation dimana proses pelatihan dilakukan secara parallel. Dipandang dari sudut pandang perangkat keras, parallel training dapat dibagi menjadi dua kategori yang mana kategori pertama adalah pelatihan parallel dengan memanfaatkan unit pengolah atau CPU lebih dari satu sedangkan kategori kedua adalah pelatihan parallel dengan menggunakan teknologi multithreading (Mumtazimah, 2012).
Jaringan backpropagation adalah sebuah proses berulang yang seringkali menbutuhkan waktu yang sangat lama dalam prosesnya. Ketika proses pelatihan dibagi menjadi beberapa unit dan diproses secara bersamaan maka waktu yang dibutuhkan juga akan jauh lebih sedikit. Berikut tahap – tahap dalam implementasi Parallel Training pada jaringan Backpropagation (Schuessler & Loyola, 2011).
1. Partisi set data pelatihan T menjadi bagian – bagian yang sama besar (T1, T2,…, Tn). Pada penelitian ini objek yang akan di-identifikasi adalah objek karakter huruf dan angka dimana jumlah karakter huruf dan angka dapat dijabarkan menjadi :
Jumlah Huruf Kapital = 26
Universita Sumatera Utara

Jumlah Huruf Biasa = 26

Jumlah Angka

= 10

Total Karakter

= 62

Jika terdapat sepuluh unit jaringan backpropagation maka data karakter akan dipartisi menjadi sepuluh partisi dengan rincian sebagai berikut.

T1 = 6 Karakter (A,B,C,D,E,F)

T2 = 6 Karakter (G,H,I,J,K,L)

T3 = 6 Karakter (M,N,O,P,Q,R)

T4 = 6 Karakter (S,T,U,V,W,X)

T5 = 6 Karakter (Y,Z,a,b,c,d)

T6 = 6 Karakter (e,f,g,h,i,j)

T7 = 6 Karakter (k,l,m,n,o,p)

T8 = 6 Karakter (q,r,s,t,u,v)

T9 = 6 Karakter (w,x,y,z,0,1)

T10 = 8 Karakter (2,3,4,5,6,7,8,9)

2. Masukkan partisi – partisi data pelatihan ke dalam unit – unit jaringan backpropagation yang telah disediakan, tiap unit jaringan memiliki struktur dan parameter yang sama atau identik.

Universita Sumatera Utara

! " # $$ % & ' $$ (

!"# )*+,-. %&

/0(

Gambar 2.8 Ilustrasi Parallel Training pada Data Input Karakter dan Angka
3. Lakukan proses forward propagation pada tiap unit. 4. Hitung total perubahan bobot dari semua unit jaringan, dan terapkan koreksi
perubahan bobot pada tiap jaringan. Perhitungan fungsi error dilakukan dengan menghitung rata-rata dari jumlah fungsi error pada tiap unit backpropagation menggunakan persamaan berikut.

(2.18)

Dimana :

= Fungsi Error total ke - k

= fungsi error pada unit backpropagation ke - i

= Jumlah unit backpropagation
Berdasarkan persamaan diatas nilai fungsi error total digunakan dalam menghitung nilai learning rate seperti yang telah dibahas pada sub bab analisis sebelumnya, dan dilanjutkan dengan perhitungan bobot baru atau . Nilai perubahan bobot akan dikirimkan ke setiap unit backpropagation untuk mengoreksi bobot pada setiap unit.
5. Ulangi langkah tiga sampai kondisi berhenti tercapai.

Universita Sumatera Utara

Gambar 2.9 Presentasi skema pelatihan pada jaringan (a) Pelatihan tanpa implementasi parallel, (b) Pelatihan dengan implementasi parallel. (Sumber : Schuessler & Loyola,2011)
Universita Sumatera Utara

BAB III METODOLOGI PENELITIAN
Backpropagation merupakan metode jaringan syaraf tiruan yang mampu mempelajari pengetahuan yang diberikan. Backpropagation memiliki performa yang sangat baik dalam operasi klasifikasi dan identifikasi. Backpropagation memiliki dua proses utam yaitu forward propagation dimana input akan diproses melalui neuron yang terdapat pada jaringan dan menghasilkan output atau tanggapan. Tahap kedua adalah backward propagation dimana bobot yang menghubungkan antar neuron di koreksi sebagai reaksi atas perbaikan tanggapan yang tidak sesuai dengan yang diharapkan. Kedua operasi tersebut akan terus dilakukan sampai jaringan mampu memberikan output atau tanggapan yang diharapkan.
Dengan penerapan operasi forward propagation dan backwardpropagation, backpropagation menjadi salah satu metode yang sangat baik dalam akurasinya. Dibalik kelebihannya backpropagation memiliki kelemahan dalam segi konsumsi sumber daya waktu dalam proses pembelajarannya. Pada penelitian ini akan dilakukan penerapan pengembangan pada metode backpropagation dengan menambahkan kombinasi algoritma adaptive learning rate dan parallel training. Implementasi dari pengembangan metode backpropagation akan dilakukan pada proses identifikasi karakter atau huruf pada citra digital. 3.1 Rancangan Penelitian Dalam menerapkan pengembangan algoritma adaptive learning rate dan parallel training pada metode backpropagation dalam proses identifikasi karakter atau huruf pada citra digital penulis menyusun langkah – langkah yang akan dilakukan dalam penelitian ini yang dapat dijabarkan sebagai berikut.
Universita Sumatera Utara

3.1.1 Analisis Proses Identifikasi Karakter atau Huruf Pada Citra Digital Pada penelitian ini proses identifikasi karakter atau huruf pada citra digital dapat dibagi menjadi dua tahap, yaitu tahap pembelajaran dan tahap identifikasi. Tahap – tahap tersebut dapat dilihat pada diagram flowchart pada gambar 3.1 berikut.
Gambar 3.1 Diagram Flowchart Proses Identifikasi Karakter Huruf atau Angka Pada Citra Digital.
Universita Sumatera Utara

Pada gambar 3.1 dapat dilihat bahwa pada tahap pembelajaran proses diawali dengan input citra yang kemudian dilanjutkan dengan proses praproses citra dan terakhir pembelajaran jaringan backpropagation. Proses praproses citra merupakan kumpulan proses – proses yang digunakan untuk menyiapkan citra input untuk dijadikan masukan ke dalam jaringan backpropagation. Proses praproses pada penelitian ini terbagi menjadi tiga tahap yaitu :
1. Proses Grayscaling 2. Proses Binerisasi 3. Proses Thining
Penjelasan dari tiap proses diatas akan dibahas pada sub bab selanjutnya. Berikutnya pada tahap identifikasi tahap terdiri dari input citra yang kemudian dilanjutkan dengan proses praproses citra dan kemudian diproses pada jaringan backpropagation. Pada tahap jaringan backpropagation, proses yang dilakukan adalah proses forward backpropagation mengingat pada saat identifikasi yang diharapkan adalah output dari jaringan langsung tanpa ada koreksi atau target output seperti pada saat pembelajaran.
3.2 Alat Penelitian dan Bahan Penelitian 3.2.1 Alat Penelitan Pada penelitian ini digunakan alat penelitian berupa perangkat keras dan perangkat lunak sebagai berikut: a. Perangkat keras
1. 1 (satu)unit PC dengan spesifikasi sebagai berikut. - Prosessor Intel Pentium Core2Duo 3.0 GHz. - RAM DDR2 2 GB. - HDD 500 GB. - Monitor 14” dengan resolusi layar 1024x768 piksel.
b. Perangkat lunak 1. Sistem Operasi Windows 7 Ultimate 2. Microsoft Visual Basic 2010.
3.2.2 Bahan Penelitian
Universita Sumatera Utara

Bahan yang digunakan pada penelitian ini adalah databinerisasi dari karakter huruf dan angka pada citra digital yang digunakan, jumlah node input, jumlah node hidden, jumlah node output beserta bobot – bobot pada tiap koneksi node pada jaringan backpropagation. Berikut rincian dari bahan – bahan penelitian yang akan digunakan.
3.2.2.1 Bahan Penelitian Karakter Huruf dan Angka Bahan penelitian huruf karakter huruf dan angka terdiri dari himpunan karakter huruf besar dan huruf kecil serta karakter huruf angka mulai dari karakter 0 sampai 9. Berdasarkan batasan masalah yang telah penulis jabarkan, ukuran jendela untuk tiap karakter adalah 9 x 10 piksel. Berikut sample dari bahan penelitian karakter huruf ‘A’, arah pembacaan nilai dilakukan dari sumbu Y menuju sumbu X, dengan kata lain pembacaan nilai piksel dilakukan kebawah dan dilanjutkan ke samping. Bagian dari karakter akan diberi nilai 1, dan selain dari bagian karakter akan bernilai 0.
Karakter ‘A’.

Gambar 3.2 Karakter A

Node Input X1 X2 X3 X4 X5

Nilai Input 0 0 0 0 0

Node Input X46 X47 X48 X49 X50

Nilai Input 0 1 0 0 0

Universita Sumatera Utara

X6 0 X7 0 X8 0 X9 1 X10 1 X11 0 X12 0 X13 0 X14 0 X15 0 X16 0 X17 1 X18 1 X19 1 X20 0 X21 0 X22 0 X23 1 X24 1 X25 1 X26 1 X27 1 X28 0

X51 0 X52 0 X53 1 X54 1 X55 1 X56 1 X57 1 X58 0 X59 0 X60 0 X61 0 X62 0 X63 0 X64 0 X65 0 X66 0 X67 1 X68 1 X69 1 X70 0 X71 0 X72 0 X73 0
Universita Sumatera Utara

X29 0 X30 0 X31 1 X32 1 X33 1 X34 0 X35 0 X36 0 X37 1 X38 0 X39 0 X40 0 X41 1 X42 1 X43 1 X44 0 X45 0

X74 X75 0 X76 0 X77 0 X78 0 X79 1 X80 1 X81 0 X82 0 X83 0 X84 0 X85 0 X86 0 X87 0 X88 0 X89 0 X90 0

Tabel 3.1 Bagian dari karakter akan diberi nilai 1dan 0
3.2.2.2 Parameter Jaringan Backpropagation Pada jaringan backpropagation terdapat beberapa parameter yang harus ditentukan untuk membentuk jaringan backpropagation itu sendiri, berikut parameter – parameter yang akan digunakan pada penelitian ini.
1. Jumlah Node Input.

Universita Sumatera Utara

Sesuai dengan batasan masalah yang telah penulis uraikan mengenai ukuran piksel pada tiap karakter yaitu 9 x 10, maka jumlah node input pada jaringan harus dapat menampung tiap nilai dari tiap piksel karakter, sehingga jumlah node input yang digunakan adalah 90 Node. 2. Jumlah Node Output. Karakter huruf terdiri dari karakter huruf besar dengan jumlah 26 karakter dan karakter huruf kecil dengan jumlah 26 karakter, ditambah dengan jumlah karakter angka yaitu 10, sehingga total jumlah karakter yang harus dikenali adalah 62 karakter. Untuk itu harus disusun pola output biner yang dapat mengakomodasi jumlah karakter, sehingga digunakan jumlah node output sebanyak 6 node, dimana 2 ^ 6 adalah 64 sehingga