fx=
node pada output layer memliki nilai antara 0-1. Dari beberapa pemaparan
fungsi aktifasi diatas fungsi aktifasi sigmoid biner yang digunakan untuk
algoritma backpropagation.
4. VALIDASI
Cross validation adalah teknik pengambilan sampel secara random
yang menjamin
setiap jumlah
kemunculan data yang diamati dama dengan jumlah data training dan hanya
sekali pada data testing Vercellis, 2009. Dalam cross validation kita
harus menetapkan jumlah partisi atau fold, standar yang biasa digunakan untuk
memperoleh estimasi kesalahan terbaik adalah 10 kali partisi atau tenfold cross-
validation Gorunescu, 2011. Data dibagi secara random menjadi 10 bagian
dengan
perbandingan yang
sama kemudian error rate dihitung bagian
demi bagian, selanjutnya error rate secara
keseluruhan diperoleh
dari menghitung rata-rata error rate dari 10
bagian.
. Gambar 1 Ilustrasi tenfold cross
validation
5. HASIL DAN PENGUJIAN
5.1 Mata Pelajaran Matematika
Pertama akan
dilakukan percobaan
pada mata
pelajaran matematika. Berikut ini adalah hasil dari
percobaan yang telah dilakukan untuk menentukan training cycle :
Tabel 1 Percobaan training cycle Matematika
TAINING CYCLE
LEARNING RATE
MOMONTUM RMSE
100 0.3
0.2 3.704
200 0.3
0.2 4.105
300 0.3
0.2 4.241
400 0.3
0.2 4.794
500 0.3
0.2 5.045
600 0.3
0.2 5.522
700 0.3
0.2 5.683
800 0.3
0.2 5.732
900 0.3
0.2 5.736
1000 0.3
0.2 5.694
Nilai training cycle yang dipilih
berdasarkan nilai root mean square error rmse yang terkecil. Berdasarkan
hasil diatas maka nilai rmse yang terkecil adalah 100 training cycle Untuk
selanjutnya
akan digunakan
untuk menentukan nilai learning rate. Untuk
memperoleh nilai
learning rate
dilakukan percobaan
dengan menggunakan nilai training cycle 100
dan nilai learning rate antara 0.1 sampai dengan 0.9. Sedangkan nilai momentum
yang digunakan adalah nilai 0.2, berikut ini
adalah hasil
dari percobaan
penentuan learning rate :
Tabel 2 Percobaan learning rate Matematika
TAINING CYCLE
LEARNING RATE
MOMONTUM RMSE
100 0.1
0.2 3.505
100 0.2
0.2 3.589
100 0.3
0.2 3.704
100 0.4
0.2 3.833
100 0.5
0.2 4.227
100 0.6
0.2 4.370
100 0.7
0.2 5.198
100 0.8
0.2 5.712
100 0.9
0.2 5.987
Nilai learning
rate yang
mengahsilkan nilai rmse yang terkecil adalah 0.1 berdasarkan percobaan diatas
akan dilakukan percobaan selanjutnya yaitu
untuk menentukan
nilai momentum. Nilai momentum diperoleh
dengan memasukkan nilai 0 hingga 0.9. berikut ini adalah hasil dari percobaan
penentuan momentuma:
Tabel 3 Percobaan momentum Matematika
TAINING CYCLE
LEARNING RATE
MOMONTUM RMSE
100 0.1
0.1 3.502
100 0.1
0.2 3.505
100 0.1
0.3 3.500
100 0.1
0.4 3.492
100 0.1
0.5 3.499
100 0.1
0.6 3.549
100 0.1
0.7 3.625
100 0.1
0.8 3.983
100 0.1
0.9 6.012
Berdasarkan percobaan diatas maka untuk parameter neural network yang
dipilih adalah 0.4 pada mata pelajaran matematika. Penentuan hidden kayer
dilakukan 1-14,
berikut ini
hasil percobaan yang telah dilakukan :
Table 4 penentuan hidden layer
Hidden layer RMSE
1 3.559
2 3.533
3 3.538
4 3.899
5 3.492
6 3.584
7 3.799
8 3.544
9 3.535
10 3.583
11 3.791
12 3.419
13 3.580
14 3.576
Dari percobaan diatas maka didapat parameter yang menghasilkan nilai rmse
terkecil yaitu training cycle 100, learning rate 0.1, momentum 0.4 dan 5
hidden layer.
Gambar 2 Neural network yang terbentuk
5.2 Mata pelajaran Bahasa Indonesia
