Analisis Kinerja Multithreading Pada Resilient Backpropagation
BAB 1
PENDAHULUAN
1.1.
Latar Belakang
Artificial Neural Network (ANN) merupakan komputasi yang mengambil sistem
biologi yaitu jaringan saraf, jaringan saraf buatan ini berfungsi untuk melakukan
komputasi klasifikasi, pengenalan pola, kontrol, forecasting, dll (Ganeshamoorthy &
Ranasinghe, 2008). Algoritma ANN sebelum diuji pada sebuah lingkungnan ANN perlu
dilakukan training terlebih dahulu agar algoritma ANN dapat mengenali lingkungan
tersebut. Pada saat algoritma ANN di training maka memakan waktu yang cukup lama
tergantung dari besarnya dataset, nilai epoch, kecepatan pembelajaran mencapai titik
konvergen (Gu, Shen, & Huang, 2013).
Proses training pada artificial neural network membutuhkan waktu untuk
meyelesaikan masalah tersebut salah satu metode yang dapat digunakan adalah adaptive
learning rate. Adaptive learning rate adalah teknik yang digunakan untuk mengubah
learning rate berdasarkan pada perubahan nilai errror yang dihasilkan dari setiap iterasi
(Moreira & Fiesler, 1995). Selain pengunaan metode adaptive learning rate untuk
mempercepat waktu training pada ANN, ada metode lain yang dapat digunakan yaitu
memasukan teknik parallel kedalam arsitektur neural network tersebut. Teknik parallel
adalah membagi proses menjadi subproses yang dapat dijalankan secara bersamaan.
Penerapan parallel komputer terhadap backpropagation sangat membantu dalam proses
training yaitu dapat memangkas waktu training (Torresen, 1996).
Resilient Propagation / Resilient Backpropagation (RPROP) adalah salah satu
algoritma neural network yang dilengkapi dengan kemampuan adaptive learning yaitu
kemampuan untuk menentukan learning rate yang digunakan berdasarkan nilai error
gradien (Riedmiller & Braun, 1993). Algoritma RPROP dalam kasus untuk
mengklasifikasikan gigitan ular menunjukan tingkat kecepatan pembelajaran untuk
Universitas Sumatera Utara
2
mencapai titik konvergen berdasarkan pada nilai batasan MSE 0.03 dimana standar
backpropagation membutuhkan pembelajaran sebanyak 378 epoch sedangkan resilient
backpropagation hanya membutuhkan sebanyak 73 epoch untuk mencapai titik
konvergen berdasarkan pada nilai MSE (Halim et al, 2011). Algoritma RPROP
memiliki kecepatan dalam mencapai nilai konvergen dibandingkan dengan
backpropagation. Pada tingkat akurasinya algoritma RPROP berada pada rata 76,88%,
sedangkan rata akurasi backpropagation 69,264% (Prasad et al, 2013). Kemampuan
algoritma RPROP menjadikan pengujian terhadap semua kasus dataset yang diuji
sangat stabil dalam pembelajaran (Moreira & Fiesler, 1995). Pada penelitian terdahulu
menunjukan kemampuan resilient propagation memiliki keunggulan kecepatan dalam
training untuk mencapai titik konvergen dibandingkan dengan backpropagation standar.
Berdasarkan uraian dari latar belakang untuk mempercepat waktu training pada
artificial neural network digunakan algoritma resilient backpropagation dengan
memberikan teknik parallel pada proses training RPORP dan usulan judul tesis yang
diambil adalah “ANALISIS KINERJA MULTITHREADING PADA RESILIENT
BACKPROPAGATION”. Pengujian penelitian ini diujikan ke kasus klasifikasi
penentuan aktifitas manusia menggunakan sensor accelerometer dan gyroscope.
1.2.
Rumusan Masalah
Proses pembelajaran artificial neural network yaitu algoritma backpropagation
membutuhkan waktu proses yang lama. Oleh karena itu diperlukan suatu pendekataan
yang dapat mengurangi waktu pembelajaran backpropagation.
1.3.
Tujuan Penelitian
Tujuan penelitian yang dilakukan adalah mempercepat waktu pembelajaran pada
artificial neural network dengan menggunakan algoritma resilient backpropagation
dengan menambahkan teknik parallel processing ke dalam algoritma resilient
backpropagation.
1.4.
Batasan Masalah
Penelitian yang dilakukan agar cakupan pembahasan ini tidak meluas maka batasan
masalah adalah sebagai berikut:
Universitas Sumatera Utara
3
1. Penelitian
ini
hanya
membahas
waktu
pembelajaran
dari
resilient
backpropagation artificial neural network tidak difokuskan terhadap
keakuratan artificial neural network dalam mengenali lingkungannya.
2. Algoritma Artificial Neural Network (ANN) yang digunakan adalah Resilient
Backpropagation tidak membahas kompleksitas dari Resilient Backpropagation.
3. Parallel yang dipakai adalah multithreading yaitu menggunakan satu buah
processor digunakan untuk mengerjakan beberapa proses secara bersamaan.
4. Lingkungan yang akan dikenali oleh artificial neural network adalah
pengenalan aktifitas manusia adalah berjalan, naik tangga, turun tangga, duduk,
berdiri, dan tidur.
1.5.
Manfaat Penelitian
Penelitian ini diharapkan dengan menggunakan algoritma resilient backpropagation
dengan menerapkan metode parallel processing ke dalam algoritma artificial neural
network tersebut dapat membantu waktu untuk mempercepat proses pembelajaran.
Universitas Sumatera Utara
PENDAHULUAN
1.1.
Latar Belakang
Artificial Neural Network (ANN) merupakan komputasi yang mengambil sistem
biologi yaitu jaringan saraf, jaringan saraf buatan ini berfungsi untuk melakukan
komputasi klasifikasi, pengenalan pola, kontrol, forecasting, dll (Ganeshamoorthy &
Ranasinghe, 2008). Algoritma ANN sebelum diuji pada sebuah lingkungnan ANN perlu
dilakukan training terlebih dahulu agar algoritma ANN dapat mengenali lingkungan
tersebut. Pada saat algoritma ANN di training maka memakan waktu yang cukup lama
tergantung dari besarnya dataset, nilai epoch, kecepatan pembelajaran mencapai titik
konvergen (Gu, Shen, & Huang, 2013).
Proses training pada artificial neural network membutuhkan waktu untuk
meyelesaikan masalah tersebut salah satu metode yang dapat digunakan adalah adaptive
learning rate. Adaptive learning rate adalah teknik yang digunakan untuk mengubah
learning rate berdasarkan pada perubahan nilai errror yang dihasilkan dari setiap iterasi
(Moreira & Fiesler, 1995). Selain pengunaan metode adaptive learning rate untuk
mempercepat waktu training pada ANN, ada metode lain yang dapat digunakan yaitu
memasukan teknik parallel kedalam arsitektur neural network tersebut. Teknik parallel
adalah membagi proses menjadi subproses yang dapat dijalankan secara bersamaan.
Penerapan parallel komputer terhadap backpropagation sangat membantu dalam proses
training yaitu dapat memangkas waktu training (Torresen, 1996).
Resilient Propagation / Resilient Backpropagation (RPROP) adalah salah satu
algoritma neural network yang dilengkapi dengan kemampuan adaptive learning yaitu
kemampuan untuk menentukan learning rate yang digunakan berdasarkan nilai error
gradien (Riedmiller & Braun, 1993). Algoritma RPROP dalam kasus untuk
mengklasifikasikan gigitan ular menunjukan tingkat kecepatan pembelajaran untuk
Universitas Sumatera Utara
2
mencapai titik konvergen berdasarkan pada nilai batasan MSE 0.03 dimana standar
backpropagation membutuhkan pembelajaran sebanyak 378 epoch sedangkan resilient
backpropagation hanya membutuhkan sebanyak 73 epoch untuk mencapai titik
konvergen berdasarkan pada nilai MSE (Halim et al, 2011). Algoritma RPROP
memiliki kecepatan dalam mencapai nilai konvergen dibandingkan dengan
backpropagation. Pada tingkat akurasinya algoritma RPROP berada pada rata 76,88%,
sedangkan rata akurasi backpropagation 69,264% (Prasad et al, 2013). Kemampuan
algoritma RPROP menjadikan pengujian terhadap semua kasus dataset yang diuji
sangat stabil dalam pembelajaran (Moreira & Fiesler, 1995). Pada penelitian terdahulu
menunjukan kemampuan resilient propagation memiliki keunggulan kecepatan dalam
training untuk mencapai titik konvergen dibandingkan dengan backpropagation standar.
Berdasarkan uraian dari latar belakang untuk mempercepat waktu training pada
artificial neural network digunakan algoritma resilient backpropagation dengan
memberikan teknik parallel pada proses training RPORP dan usulan judul tesis yang
diambil adalah “ANALISIS KINERJA MULTITHREADING PADA RESILIENT
BACKPROPAGATION”. Pengujian penelitian ini diujikan ke kasus klasifikasi
penentuan aktifitas manusia menggunakan sensor accelerometer dan gyroscope.
1.2.
Rumusan Masalah
Proses pembelajaran artificial neural network yaitu algoritma backpropagation
membutuhkan waktu proses yang lama. Oleh karena itu diperlukan suatu pendekataan
yang dapat mengurangi waktu pembelajaran backpropagation.
1.3.
Tujuan Penelitian
Tujuan penelitian yang dilakukan adalah mempercepat waktu pembelajaran pada
artificial neural network dengan menggunakan algoritma resilient backpropagation
dengan menambahkan teknik parallel processing ke dalam algoritma resilient
backpropagation.
1.4.
Batasan Masalah
Penelitian yang dilakukan agar cakupan pembahasan ini tidak meluas maka batasan
masalah adalah sebagai berikut:
Universitas Sumatera Utara
3
1. Penelitian
ini
hanya
membahas
waktu
pembelajaran
dari
resilient
backpropagation artificial neural network tidak difokuskan terhadap
keakuratan artificial neural network dalam mengenali lingkungannya.
2. Algoritma Artificial Neural Network (ANN) yang digunakan adalah Resilient
Backpropagation tidak membahas kompleksitas dari Resilient Backpropagation.
3. Parallel yang dipakai adalah multithreading yaitu menggunakan satu buah
processor digunakan untuk mengerjakan beberapa proses secara bersamaan.
4. Lingkungan yang akan dikenali oleh artificial neural network adalah
pengenalan aktifitas manusia adalah berjalan, naik tangga, turun tangga, duduk,
berdiri, dan tidur.
1.5.
Manfaat Penelitian
Penelitian ini diharapkan dengan menggunakan algoritma resilient backpropagation
dengan menerapkan metode parallel processing ke dalam algoritma artificial neural
network tersebut dapat membantu waktu untuk mempercepat proses pembelajaran.
Universitas Sumatera Utara