1. Perbaikan dengan Teknik Heuristik
Teknik ini merupakan pengembangan dari suatu analisis kinerja pada algoritma steepest gradient descent standard. Ada 3 tiga algoritma dengan
teknik ini, yakni : a.
Gradient descent dengan Adaptive Learning Rate Pada fungsi ini, selama proses pembelajaran, learning rate akan terus
bernilai konstan karena apabila learning rate terlalu tinggi maka algoritma menjadi tidak stabil dan jika terlalu rendah algritma akan sangat lama dalam
mencapai kekonvergenan. b.
Gradient descent dengan Momentun dan Adaptive Learning Rate Fungsi ini akan memperbaiki bobot-bobot berdasarkan gradient descent
dengan learning rate yang bersifat adaptive seperti traingda tapi juga dengan menggunakan momentum
c. Resilent Backpropagation
Algoritma pelatihan ini menggunakan fungsi aktivasi sigmoid yang membawa input dengan range yang tak terbatas ke nilai output dengan range yang
terbatas, yaitu antara 0 sampai 1. Algoritma ini berusaha mengeliminasi besarnya efek dari turunan parsial dengan cara hanya menggunakan turunannya saja dan
mengabaikan besarnya nilai turunan. 2.
Perbaikan dengan Teknik Optimasi Numeris Teknik ini terbagi menjadi 2 macam, yaitu :
a. Algoritma Conjugate Gradient
Pada algrotma ini pengaturan bobot tidak selalu dilakukan dalam arah turun seperti pada metode gradient descent, tapi menggunakan conjugate gradient
dimana pengaturan bobot tidak selalu dengan arah menurun tapi disesuaikan dengan arah konjugasinya. Algoritma ini memanfaatkan fungsi line search untuk
menempatkan sebuah titik minimum. Dari 4 empat algoritma Conjugate Gradient, tiga diantaranya melakukan proses line search secara terus menerus
selama iterasi, yaitu : Fletcher-Reeves Update, Polak-Ribiere, dan Powell-Beale Restarts. Proses ini mamakan waktu yang cukup lama untuk jumlah data yang
besar dan iterasi yang besar pula, sehingga algoritma keempat, yaitu algoritma scaled conjugate gradient mencoba memperbaiki hal kekurangan tersebut.
b. Algortima Quasi Newton
Metode Newton merupakan salah satu alternatif conjugate gradient yang bisa mendapatkan nilai optimum lebih cepat. Metode Newton ini memang berjalan
lebih cepat, namun metode ini sangat kompleks, memerlukan waktu dan memori yang cukup besar karena pada setiap iterasinya harus menghitung turunan kedua,
perbaikan dari metode ini dikenal dengan nama metode Quasi-Newton atau metode Secant. Terdapat 2 dua alternatif algoritma dalam metode ini, yaitu :
1 Algortima one step secant yang menjembatani antara metode Quasi-Newton
dengan Gradient Conjugate, dimana algoritma ini tidak menyimpan matriks Hessian secara lengkap dengan asumsi bahwa pada setiap iterasi matriks
Hessian sebelumnya merupakan matriks identitas sehingga pencarian arah baru dapat dihitung tanpa harus menghitung invers matriks.
2 Algoritma Levenbarg-Marquardt
Metode ini dirancang dengan menggunakan turunan kedua tanpa harus menghitung matriks Hessian, melainkan matriks Jacobian yang dapat dihitung
dengan teknik propagasi balik standar yang tentu saja lebih sederhana dibanding dengan menghitung matriks Hessian.
Akurasi dan Generalisasi
Gambar 7 menunjukkan akurasi dan generalisasi berkaitan dengan tingkat kompleksitas dari suatu jaringan saraf tiruan JST. Peningkatan kompleksitas dari
JST meningkatkan akurasi dari JST terhadap data pelatihan, tetapi peningkatan akurasi dan kompleksitas ini dapat menurunkan tingkat generalisasi JST pada
data validasi dan data pengujian Larose 2005.
Gambar 7 Akurasi dan Generalisasi Larose 2005
J j
ji j
kj k
p ki
v y
w o
S
1
P p
p ki
ki
S S
,..., 1
max
} max{
K k
ki i
S
,..., 1
} max{
Analisa Sensitivitas
Analisa sensitivitas bertujuan untuk melihat perubahan output dari model yang didapatkan jika dilakukan perubahan terhadap input dari model. Selain itu
analisa ini berguna untuk mengetahui variabel mana yang lebih berpengaruh atau sensitif untuk mencapai output akurat dari model yang dikembangkan
Engelbrecht 2001. Untuk mengetahui sensitivitas dari
p ki
S dimana JST yang digunakan memiliki 1 layer input Z = z1,…,zi,….,zI, 1 layer tersembunyi Y =
y1,…,yj,…,yJ, dan 1 layer output O = o1,…,ok,…,oK dan data training adalah P=p1,…,pp,…,pP digunakan :
Untuk mendapatkan matrik sensitivitas dari semua data training terhadap output dapat digunakan :
Kemudian dilanjutkan dengan memghitung matrik sensitivitas dari input secara menyeluruh dapat digunakan :
2.5 Review Riset yang Relevan
Poh et al 1998 melakukan penelitian dengan menerapkan jaringan saraf tiruan untuk analisa dan prediksi terhadap akibat dari iklan dan promosi.
Penelitian ini juga menerapkan analisa sensitivitas. Salah satu kesimpulan dari penelitian ini yaitu JST dengan pembelajaran propagasi balik merupakan metode
yang efisien untuk mempelajari hubungan antara input varibel dan output variabel. Sufandi 2007 melakukan penelitian untuk melakukan prediksi kemajuan
belajar mahasiswa berbasis jaringan saraf tiruan ke dalam dua kelas yaitu selesai dan tidak selesai dengan melibatkan varibel input dengan tiga buah parameter,
yaitu parameter individual umur, jenis kelamin, parameter lingkungan status pernikahan, status pekerjaan, beasiswa, dan parameter akademik semester
masuk, IP semester 1, sks semester 1, IP semester 2, IPS semester 2, IPK, SKS Kumulatif, semester tempuh, program studi dan jurusan asal. Salah satu
3
4
5
kesimpulan dari penelitian ini adalah JST propagasi balik baik digunakan untuk tujuan prediksi, dan analisa sensitivitas merupakan metode yang potensial untuk
mereduksi kompleksitas JST dan meningkatkan tingkat generalisasi. Agung 2007 melakukan penelitian untuk mengklasifikasi mahasiswa
STEKPI menggunakan Jaringan Saraf Tiruan dengan aloritma pembelajaran propagasi balik. Data input yang digunakan adalah Nilai Psikotest, sedangkan data
target adalah Indeks Prestasi Kumulatif IPK yang dipresentasikan dalam bentuk data kategori, dimana kategori
“mahasiwa yang berhasil” adalah mahasiswa yang di tahun pertamanya mempunyai IPK daru 2.75 sampai dengan 4, sedangkan
“mahasiswa yang kurang berhasil” adalah mahasiwa yang mempunyai IPK dari 0 sampai dengan 2.75. Keakuratan model yang dihasilkan sebesar ±73.
3. METODE PENELITIAN
3.1 Diagram Alir Penelitian
Kerangka pemikiran pada penelitian ini dapat digambarkan dalam suatu bagan alir seperti pada Gambar 8.
Pengumpulan Data
Penelitian dimulai dengan pengumpulan data yang berasal dari basis data „Transkrip Nilai‟ dan „Evaluasi Studi‟ yang bersumber dari Sistem Informasi
Akademik Terpadu Universitas Negeri Gorontalo SIATUNG yang menyimpan Gambar 8 Diagram Alir Penelitian
informasi mahasiswa berupa nilai mutu mata kuliah, lama studi dan IPK. Mata kuliah yang dipilih sebagai data input dalam penelitian ini berjumlah 16 enam
belas buah mata kuliah dasar yang wajib diprogramkan pada 2 dua semester tahun pertama program perkuliahan sebelum mengambil program peminatan.
Pada penelitian ini, data mata kuliah digunakan sebagai data input. Sedangkan data lama studi dan IPK digunakan sebagai data target. Data nilai mata kuliah
yang diperoleh berupa Huruf Mutu HM dan dikonversi ke Angka Mutu AM dengan kisaran nilai 0 hingga 4. Data target lama studi dikategorikan menjadi 2
dua, yaitu kategori mahasiwa yang lulus dengan melewati masa studi program diploma 3 tahun dan kategori mahasiswa yang lulus tepat waktu 3 tahun.
Data target IPK dikategorikan menjadi 3 tiga, yaitu kategori mahasiswa yang lulus dengan predikat terpuji IPK 3.5, kategori predikat sangat memuaskan
IPK ≥ 2.75 hingga IPK ≤3.5 dan kategori predikat memuaskan IPK2.75. Data mahasiswa yang digunakan dalam penelitian ini adalah data
mahasiswa D3 Diploma Tiga Manajemen Informatika UNG angkatan 2005 hingga 2010. Pembelajaran dan pengujian JST menggunakan data mahasiwa
angkatan 2005, 2006 dan 2007 Lampiran 1, yang dibagi ke dalam 3 tiga komposisi data dan dibedakan ke dalam 2 dua kelompok data. Total jumlah data
pada kelompok data pertama dan kelompok data kedua adalah sama, yakni 216 data. Pengelompokkan data dibedakan berdasarkan cara pembagian komposisi
data dimana pada kelompok data pertama, setelah data mahasiswa angkatan 2005, 2006 dan 2007 diurutkan, kemudian dibagi ke dalam 3 tiga komposisi data.
Sedangkan pada kelompok data kedua, komposisi data dibagi berdasarkan angkatan, sehingga data mahasiswa pada masing-masing angkatan dibagi ke
dalam 3 tiga komposisi data. Komposisi data terbagi menjadi data pelatihan, data validasi dan data
pengujian. Data pelatihan digunakan oleh jaringan untuk membentuk model melalui proses pembelajaran JST. Data validasi untuk melihat apakah jaringan
telah memiliki kemampuan yang baik dalam mengenali data baru yang diberikan kepadanya. Data validasi digunakan juga untuk menghentikan iterasi jika error
yang terjadi tidak rasional. Data pengujian digunakan untuk menguji ketepatan klasifikasi dari model yang terbentuk. Penelitian ini menetapkan besarnya
komposisi data adalah 70 data pelatihan, 15 data validasi dan 15 data pengujian. Prediksi tingkat kelulusan menggunakan data mahasiswa angkatan
2008, 2009 dan 2010 9 Lampiran 2. Pembagian data mahasiswa untuk pembelajaran JST dan prediksi ditunjukkan oleh Tabel 3.
Tabel 3 Pengelompokkan dan Komposisi Data Penelitian
DATA PEMBELAJARAN PENGUJIAN
Komposisi Data Data Pelatihan
70 Data Validasi
15 Data Testing
15 Total
Kelompok Data Pertama 150
33 33
216 Kelompok Data Kedua
2005 60
13 12
8 13
12 8
86 79
51 2006
55 2007
35 Total
150 33
33 216
DATA PREDIKSI
Angkatan 2008
2009 2010
Total Jumlah
41 52
37 130
Praproses Data
Sebelum data digunakan dilakukan praproses untuk meningkatkan efisiensi dan skalabilitas dari sebuah sistem prediksi. Pada penelitian ini, dilakukan
beberapa praproses data, yakni pembersihan data, analisa relevansi dan tranformasi data Han Kember 2001. Proses transformasi data dilakukan untuk
data target yang bersifat kategorikal, dengan menggunakan metode Unary Encoding, dimana data target dipresentasikan dengan kombinasi angka 0 dan 1
numerical binary variable. Berdasarkan data kategori targetnya maka dalam penelitian ini, seluruh proses pembelajaran, pengujian hingga prediksi akan
dibedakan ke dalam 2 dua model, yaitu Model Prediksi Lama Studi MPLS dan Model Prediksi Indeks Prestasi Kumulatif MPIPK.
Praproses ini dilakukan dengan menggunakan perangkat lunak Microsoft Excel 2007, sedangkan untuk proses transformasi dilakukan dengan menggunakan
perangkat lunak Matlab versi 6.5.