2.5.1 Pruning InputHidden Neurons
Proses pruning
inputhidden neurons
bertujuan untuk
menghilangkan inputhidden neuron yang tidak berguna untuk proses klasifikasi data. Metode trial and error [8] digunakan
untuk mencari inputhidden neuron mana saja yang bisa dihilangkan dari jaringan. Pemilihan urutan antara pruning hidden
atau input tidak terlalu mempengaruhi hasil akhir dari proses keseluruhan pruning. Langkah-langkah yang dilakukan dalam
proses pruning input unit adalah sebagai berikut [7]:
1. Kelompokan IH kedalam 2 himpunan: P dan Q, dimana IH
sama dengan input neuron atau hidden neuron, P adalah IH yang masih ada di dalam jaringan dan Q adalah IH yang
dikeluarkan dari jaringan. Pertama-tama, himpunan P berisi semua IH yang ada di jaringan dan Q adalah himpunan
kosong.
2. Simpan replika dari struktur jaringan saat ini.
3. Cari IH yang terdapat pada himpunan P, sehingga saat semua
koneksiweights yang berhubungan dengan IH tersebut diberi nilai 0, perubahan tersebut memberikan efek yang paling
minim terhadap akurasi dari jaringan tersebut. 4.
Ubahlah semua koneksi yang terhubung dengan IH yang dipilih pada langkah ketiga, kemudian lakukan training
kepada jaringan yang sudah di pruning. Jika akurasi yang didapat dari langkah keempat masih
memuaskan, maka pindahkan IH yang dipilih pada langkah ketiga kedalam himpunan Q. Setelah itu, ulangi lagi proses diatas mulai
dari langkah kedua. Jika tidak, maka kembalikan struktur jaringan ke struktur yang sudah disimpan pada langkah kedua. Selama
himpunan P ≠ himpunan Q maka kembali ke langkah kedua, selain itu berhenti.
2.5.2 Pruning Weights
Proses pruning
dilanjutkan dengan
menghilangkan koneksiweight yang tidak membantu struktur jaringan dalam
proses klasifikasi. Koneksi yang akan di pruning dipilih dengan mencari koneksi yang nilainya paling mendekati 0. Syarat tersebut
menjadi acuan, dikarenakan setiap koneksi yang memiliki nilai mendekati 0 merupakan koneksi yang kurang berguna bagi
jaringan. Untuk optimasi waktu, proses ini dilakukan setelah pruning input dan hidden neurons. Berikut merupakan langkah-
langkah yang dilakukan dalam proses pruning koneksiweight:
1. Kelompokan koneksi kedalam 2 himpunan: P dan Q, dimana
P adalah koneksi yang masih ada di dalam jaringan dan Q adalah koneksi yang dikeluarkan dari jaringan. Pertama-
tama, himpunan P berisi semua koneksi yang ada di jaringan dan Q adalah himpunan kosong.
2. Simpan replika dari struktur jaringan saat ini.
3. Carilah koneksi yang memiliki nilai terendah dengan
persamaan 14. ,
14 dimana,
adalah semua koneksi yang menghubungkan input neuron dengan hidden neuron, sedangkan adalah semua koneksi
yang menghubungkan hidden neuron dengan output neuron. 4.
Ubahlah nilai dari koneksi yang dipilih pada langkah ketiga menjadi 0, kemudian lakukan training kepada jaringan yang
sudah di pruning. 5.
Jika akurasi yang didapat dari langkah keempat masih memuaskan, maka pindahkan koneksi yang dipilih pada
langkah ketiga kedalam himpunan Q. Setelah itu, ulangi lagi proses diatas mulai dari langkah kedua. Jika tidak, maka
kembalikan struktur jaringan ke struktur yang sudah disimpan pada langkah kedua. Selama himpunan P ≠
himpunan Q maka kembali ke langkah kedua, selain itu berhenti.
3. Desain Sistem
Kategori