Analisis kinerja metode entropy dalam penentuan bobot awal learning vector quantization pada proses klasifikasi

ANALISIS KINERJA METODE ENTROPY DALAM PENENTUAN
BOBOT AWAL LEARNING VECTOR QUANTIZATION PADA
PROSES KLASIFIKASI

TESIS

ANGGI SYAHADAT HARAHAP
147038021

PROGRAM STUDI S2 TEKNIK INFORMATIKA
FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI
UNIVERSITAS SUMATERA UTARA
MEDAN
2017

Universitas Sumatera Utara

ANALISIS KINERJA METODE ENTROPY DALAM PENENTUAN

BOBOT AWAL LEARNING VECTOR QUANTIZATION PADA
PROSES KLASIFIKASI


TESIS

Diajukan untuk melengkapi tugas dan memenuhi syarat memperoleh
ijazah Magister Teknik Informatika

ANGGI SYAHADAT HARAHAP
147038021

PROGRAM STUDI S2 TEKNIK INFORMATIKA
FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI
UNIVERSITAS SUMATERA UTARA
MEDAN
2017

Universitas Sumatera Utara

PERSETUJUAN

Judul


: ANALISIS

KINERJA

PENENTUAN

ENTROPY

METODE

BOBOT

LEARNING

AWAL

PADA
VECTOR


QUANTIZATION DALAM PROSES KLASIFIKASI
Kategori

: NEURAL NETWORK, CLASSIFICATION

Nama

: ANGGI SYAHADAT HARAHAP

Nim

: 147038021

Program Studi

: MAGISTER (S2) TEKNIK INFORMATIKA

Fakultas

: ILMU KOMPUTER DAN TEKNOLOGI INFORMASI

UNIVERSITAS SUMATERA UTARA

Komisi Pembimbing :
Pembimbing 2

Pembimbing 1

Dr. Erna Budhiarti Nababan, M. IT

Prof. Dr. Tulus, Vor.Dipl, Math, M.Si

NIDT. 19621026 201742 001

NIP. 19620901 198803 1 002

Diketahui/disetujui oleh
Program Studi S2 Teknik Informatika
Ketua,

Prof. Dr. Muhammad Zarlis

NIP. 19570701 198601 1 003

Universitas Sumatera Utara

PERNYATAAN

ANALISIS KINERJA METODE ENTROPY DALAM PENENTUAN
BOBOT AWAL LEARNING VECTOR QUANTIZATION PADA
PROSES KLASIFIKASI
TESIS

Saya mengakui bahwa tesis ini adalah hasil karya saya sendiri, kecuali beberapa
kutipan dan ringkasan yang masing-masing telah disebutkan sumbernya.

Medan, 10 Februari 2017

Anggi Syahadat Harahap
NIM. 147038021

Universitas Sumatera Utara


PERNYATAAN PERSETUJUAN PUBLIKASI
KARYA ILMIAH UNTUK KEPENTINGAN
AKADEMIS

Sebagai sivitas akademika Universitas Sumatera Utara, saya yang bertandatangan
dibawah ini :
Nama

: Anggi Syahadat Harahap

NIM

: 147038021

Program Studi

: Magister Teknik Informatika

Jenis Karya Ilmiah


: Teknik Informatika

Demi pengembangan ilmu pengetahuan, menyetujui untuk memberikan kepada
Universitas Sumatera Utara Hak Bebas Royalti Non-Eksklusif (Non-Exclusive
Royalty Free Right) atas tesis saya yang berjudul :

ANALISIS KINERJA METODE ENTROPY DALAM PENENTUAN
BOBOT AWAL LEARNING VECTOR QUANTIZATION PADA
PROSES KLASIFIKASI
Beserta perangkat yang ada (jika diperlukan). Dengan Hak Bebas Royalti NonEksklusif ini, Universitas Sumatera Utara berhak menyimpan, mengalih media,
memformat, mengelola dalam bentuk database, merawat dan mempublikasikan tesis
saya tanpa meminta izin dari saya selama tetap mencantumkan nama saya sebagai
penulis dan sebagai pemegang dan/atau sebagai pemilik hak cipta.

Dengan pernyataan ini dibuat dengan sebenarnya.

Medan, 10 Februari 2017

Anggi Syahadat Harahap

147038021

Universitas Sumatera Utara

Telah diuji pada
Tanggal : 10 Februari 2017

PANITIA PENGUJI TESIS
Ketua

: Prof. Dr. Muhammad Zarlis

Anggota

: 1. Prof. Dr. Tulus, Vor.Dipl, Math, M.Si
2. Dr. Erna Budhiarti Nababan, M.IT
3. Prof. Dr. Muhammad Zarlis
4. Dr. Syahril Efendi, M.IT

Universitas Sumatera Utara


RIWAYAT HIDUP

DATA PRIBADI
Nama Lengkap

: Anggi Syahadat Harahap

Tempat danTanggal Lahir

: Lhokseumawe, 24 Mei 1989

Alamat Rumah

: Jln. Setiabudi Gg. Rukun No.8, Medan

Telepon/Fax/HP

: -/-/+6285314987098


Email

: anggisyahadatharahap@yahoo.com

Instansi

:-

Alamat Kantor

:-

DATA PENDIDIKAN
SD

: SDN 26 Padang Sidimpuan

TAMAT : 2001

SMP : MTsN 1 Padang Sidimpuan


TAMAT : 2004

SMA : SMA Kemala Bhayangkari 1 Medan

TAMAT : 2007

S1

: Teknik Informatika Universitas Telkom Bandung

TAMAT : 2013

S2

: Teknik Informatika Universitas Sumatera Utara

TAMAT : 2017

Universitas Sumatera Utara

UCAPAN TERIMA KASIH

Puji dan syukur penulis panjatkan kehadirat Allah Azza wa Jalla, karena rahmat
karunianyalah diberi berupa pengetahuan, kesehatan dan kesempatan yang diberikan
kepada penulis sehingga dapat menyelesaikan tesis ini dengan judul “ANALISIS
KINERJA

METODE

ENTROPY

DALAM

PENENTUAN

BOBOT

AWAL

LEARNING VECTOR QUANTIZATION PADA PROSES KLASIFIKASI”.
Dalam

penyusunan

untuk

menyelesaikan

tesis

ini,

penulis

banyak

mendapatkan pelajaran yang besar, baik berupa saran maupun nasehat dari berbagai
pihak terutama dari dosen pembimbing serta dosen pembanding, sehingga pengerjaan
tesis ini dapat diselesaikan dengan baik. Tidak lepas dari dukungan orang tua beserta
keluarga juga sahabat yang telah banyak memberikan banyak bantuan dan dukungan,
sehingga penulis dapat sampai pada tahap penyelesaian tesis ini.
Untuk itu penulis ingin menyampaikan ucapan terima kasih yang sebesar-besarnya
kepada:
1. Bapak Prof. Dr. Runtung Sitepu, S.H., M.Hum., selaku rektor Universitas
Sumatera Utara atas kesempatan yang telah diberikan kepada penulis, sehingga
bisa mengikuti dan menyelesaikan pendidikan Magister Teknik Informatika.
2. Bapak Prof. Dr. Opim Salim Sitompul, selaku Dekan Fakultas Ilmu Komputer
dan Teknologi Informasi Universitas Sumatera Utara Medan.
3. Bapak Prof. Dr. Muhammad Zarlis, M.Si., selaku Ketua Program Studi
Pascasarjana Teknik Informatika Fakultas Ilmu Komputer dan Teknologi
Informasi Universitas Sumatera Utara Medan.
4. Bapak M. Andri Budiman, S.T., M.Comp.Sc, MEM., selaku Sekretaris
Program Studi Magister Teknik Informatika Fakultas Ilmu Komputer dan
Teknologi Informasi Universitas Sumatera Utara.
5. Bapak Prof. Dr. Tulus, Vor.Dipl, Math, M.Si, selaku Dosen Pembimbing I
yang telah bersedia memberikan bimbingan serta pengarahan hingga
selesainya penulisan tesis ini.
6. Ibu Dr. Erna Budhiarti Nababan, M.IT, selaku Dosen Pembimbing II yang
telah bersedia memberikan bimbingan serta pengarahan hingga selesainya
penulisan tesis ini.

Universitas Sumatera Utara

ix

7. Bapak Prof. Dr. Muhammad Zarlis, selaku dosen Pembanding/Penguji yang
telah memberikan saran untuk perbaikan dan penyelesaian tesis ini.
8. Bapak Dr. Syahril Efendi, M.IT., selaku dosen Pembanding/Penguji yang telah
memberikan saran untuk perbaikan dan penyelesaian tesis ini.
9. Bapak dan Ibu dosen yang telah memberikan materi perkuliahan dan ilmu
pengetahuan selama penulis menyelesaikan Program Studi Magister Teknik
Informatika.
10. Seluruh staf atau pegawai pada Program Studi Magister Teknik Informatika
Fakultas Ilmu Komputer dan Teknologi Informasi Universitas Sumatera Utara.
11. Buat Ayahanda Lolot Harahap dan Ibunda Masrawaty Siregar, yang selalu
memberi semangat dan doa yang tiada putus dan dorongan moril maupun
materil kepada saya sehingga dapat menyelesaikan tesis ini dengan baik.
12. Buat Kakanda Verawati Harahap dan Abangda

Holy Idris yang selalu

memberikan semangat dan doa yang tiada putus dan dorongan moril maupun
materil kepada saya, sehingga dapat menyelesaikan tesis ini dengan baik.
13. Sahabat-sahabat saya Muhammad Zulfansyuri, Robbi Rahim, Abdul Rahman
Hakim, Sudirman, Riski Muliono, beserta teman-teman seperjuangan angkatan
2014 Kom-A yang telah memberikan dukungan dalam penyelesaian tesis ini.

Akhir kata penulis berharap semoga karya ilmiah ini dapat bermanfaat bagi semua
pihak, khususnya dalam bidang pendidikan. Penulis menyadari bahwa masih ada
kekurangan dalam penulisan tesis ini, untuk itu penulis mengharapkan kritik dan saran
dari pembaca demi kesempurnaan penelitian selanjutnya.

Medan, 10 Februari 2017
Penulis

Anggi Syahadat Harahap
147038021

Universitas Sumatera Utara

ABSTRAK

Proses pembelajaran pada setiap metode Jaringan Syaraf Tiruan (JST) merupakan hal
yang sangat penting karena bertujuan agar jaringan dapat mengenali lingkungannya.
Demikian juga halnya dengan JST Learning Vector Quantization (LVQ) dalam
mengenali lingkungan suatu dataset, membutuhkan proses pembelajaran dan
parameter yang baik agar menghasilkan tingkat akurasi yang baik pula. LVQ sendiri
memiliki kelebihan dalam hal tingkat akurasi dan waktu yang dibutuhkan untuk
proses pembelajaran jika dibandingkan dengan algorimta JST lainnya. Namun JST
LVQ memiliki kekurangan yaitu apabila jumlah datanya semakin besar maka waktu
yang dibutuhkan untuk pembelajarannya semakin lama dan akurasi model sangat
bergantung pada vektor bobot awal dan parameter yang digunakan. Untuk
menentukan vektor bobot awal tersebut maka digunakan metode Entropy yang dapat
mencari keserasian antara sekumpulan data sehingga menghasilkan suatu vektor bobot
yang dapat mewakili setiap data pada setiap kelas. Hasil yang didapatkan
menggunakan metode Entropy dalam penentuan vektor bobot awal yaitu mempercepat
proses pembelajaran. Walaupun jumlah data training yang digunakan lebih sedikit
namun dapat menghasilkan akurasi yang lebih baik jika dibandingkan dengan JST
LVQ standar.
Kata Kunci : Learning Vector Quantization, Metode Entropy, Vektor Bobot Awal

Universitas Sumatera Utara

PERFORMANCE ANALYSIS OF ENTROPY METHOD IN DETERMINING THE
INITIAL WEIGHT OF LEARNING VECTOR QUANTIZATION FOR
CLASSIFICATION PROCESS

ABSTRACT

The learning process for each method of Artificial Neural Network (ANN) is very
important because it aims to make the network can recognize their environment.
Similarly, Neural Network Learning Vector Quantization (LVQ) to recognize the
environment, requires a process of learning and good parameters to produce a good
degree of accuracy. LVQ has advantages in terms of accuracy and time required for
the learning process when compared with another ANN algorithm. However LVQ has
the disadvantage that if the amount of data is greater so the time for learning become
longer and the accuracy of the model is highly dependent on the initial weight vector
and parameters. To determine the initial weight vector then need a method. Entropy
method is a method to search for harmony between a set of data so as to produce a
weight vector that can represent any data on each class. Results obtained using
Entropy method in determining the initial weight vector that is speeding up for the
learning process. Although the number of training data that is used less but it can produce
better accuracy than a standard LVQ.

Keywords : Learning Vector Quantization, Entropy Method, the Initial Weight Vector

Universitas Sumatera Utara

DAFTAR ISI

ANALISIS ................................................................................................................................................ ii
PESETUJUAN ........................................................................................................................................ iii
PERNYATAAN ...................................................................................................................................... iv
PANITIA PENGUJI TESIS .................................................................................................................... vi
RIWAYAT HIDUP ................................................................................................................................ vii
UCAPAN TERIMAKASIH .................................................................................................................. viii
ABSTRAK ............................................................................................................................................... x
ABSTRACT ............................................................................................................................................ xi
DAFTAR ISI .......................................................................................................................................... xii
DAFTAR TABEL ................................................................................................................................. xiv
DAFTAR GAMBAR ............................................................................................................................ xvi
BAB 1 PENDAHULUAN........................................................................................................................ 1
1.1. Latar Belakang Masalah........................................................................................................ 1
1.2.Perumusan Masalah ............................................................................................................... 2
1.3.Tujuan Penelitian ................................................................................................................... 3
1.4.Batasan Masalah .................................................................................................................... 3
1.5.Manfaat Penelitian ................................................................................................................. 3
BAB 2 LANDASAN TEORI ................................................................................................................... 4
2.1.Jaringan Syaraf Tiruan ........................................................................................................... 4
2.2.Learning Vector Quantization ............................................................................................... 5
2.3.Metode Entropy ..................................................................................................................... 7
2.4.Penelitian-Penelitian Terkait .................................................................................................. 8
2.4.1.Penelitian Terdahulu .................................................................................................... 8
2.4.2.Perbedaan dengan Penelitian Terdahulu .................................................................... 11
2.4.3.Kontribusi Penelitian ................................................................................................. 11
BAB 3 METODOLOGI PENELITIAN ................................................................................................. 12
3.1.Tahapan Penelitian ............................................................................................................... 12
3.2.Dataset yang Digunakan ...................................................................................................... 12
3.3.Perancangan Arsitektur JST LVQ ........................................................................................ 14
3.4.Penentuan Bobot Awal menggunakan Metode Entropy ...................................................... 16
3.5.Training JST LVQ ................................................................................................................ 21
3.6.Testing JST LVQ .................................................................................................................. 24
3.7.Perhitungan Nilai Akurasi .................................................................................................... 25
BAB 4 HASIL DAN PEMBAHASAN .................................................................................................. 32
4.1.Pendahuluan ......................................................................................................................... 32
4.2.Vektor bobot Awal yang Dihasilkan .................................................................................... 32
4.2.1.Perhitungan Bobot dengan Metode Entropy (Entropy Cara Pertama) ....................... 32
4.2.2.Data Pasien Terbaik dari Perhitungan Entropy (Entropy Cara Kedua) ...................... 33

Universitas Sumatera Utara

xiii

4.2.3.LVQ standar ............................................................................................................... 33
4.3.Hasil Penelitian .................................................................................................................... 34
4.4.Pembahasan ......................................................................................................................... 35
BAB 5 KESIMPULAN DAN SARAN .................................................................................................. 37
5.1.Kesimpulan .......................................................................................................................... 37
5.2.Saran .................................................................................................................................... 37
DAFTAR PUSTAKA............................................................................................................................. 38
LAMPIRAN ........................................................................................................................................... 40

Universitas Sumatera Utara

DAFTAR TABEL

Tabel 2.1 Penelitian Terdahulu............................................................................................................... 10
Tabel 3.1 Atribut Data ............................................................................................................................ 13
Tabel 3.2 Dataset Kelas Kanker Jinak .................................................................................................... 13
Tabel 3.3 Dataset Kelas Kanker Jinak (lanjutan) ................................................................................... 14
Tabel 3.4 Dataset Kelas Kanker Ganas .................................................................................................. 14
Tabel 3.5 Contoh Dataset Entropy Cara Pertama ................................................................................... 17
Tabel 3.6 Contoh Normalisasi Entropy Cara Pertama ............................................................................ 17
Tabel 3.7 Contoh Vektor Bobot Entropy Cara Pertama ......................................................................... 18
Tabel 3.8 Contoh Dataset Entropy Cara Kedua...................................................................................... 19
Tabel 3.9 Contoh Normalisasi Entropy Cara Kedua .............................................................................. 20
Tabel 3.10 Contoh Vektor Bobot Entropy Cara Kedua .......................................................................... 21
Tabel 3.11 Parameter Pengujian Nilai .................................................................................................... 25
Tabel 3.12 Contoh Perhitungan Vektor Bobot Cara Pertama ................................................................. 27
Tabel 3.13 Contoh Perhitungan Vektor Bobot Cara Kedua ................................................................... 27
Tabel 3.13 Data Training 20 Pasien dari Hasil Standar Deviasi............................................................. 28
Tabel 4.1 Vektor Bobot dengan Entropy Cara Pertama ......................................................................... 33
Tabel 4.2 Vektor Bobot dengan Entropy Cara Kedua ............................................................................ 33
Tabel 4.3 Vektor Bobot dengan LVQ standar ......................................................................................... 33
Tabel 4.4 Hasil Pengujian....................................................................................................................... 34
Tabel 4.5 Hasil Pengujian (lanjutan) ...................................................................................................... 35
Tabel Lampiran.1 Dataset Breast Cancer .............................................................................................. 40
Tabel Lampiran.2 Dataset Breast Cancer (lanjutan) .............................................................................. 41
Tabel Lampiran.3 Dataset Breast Cancer (lanjutan) .............................................................................. 42
Tabel Lampiran.4 Dataset Breast Cancer (lanjutan) .............................................................................. 43
Tabel Lampiran.5 Dataset Breast Cancer (lanjutan) .............................................................................. 44
Tabel Lampiran.6 Dataset Breast Cancer (lanjutan) .............................................................................. 45
Tabel Lampiran.7 Dataset Breast Cancer (lanjutan) .............................................................................. 46
Tabel Lampiran.8 Dataset Breast Cancer (lanjutan) .............................................................................. 47
Tabel Lampiran.9 Dataset Breast Cancer (lanjutan) .............................................................................. 48
Tabel Lampiran.10 Dataset Breast Cancer (lanjutan) ............................................................................ 49
Tabel Lampiran.11 Dataset Breast Cancer (lanjutan) ............................................................................ 50
Tabel Lampiran.12 Dataset Breast Cancer (lanjutan) ............................................................................ 51

Universitas Sumatera Utara

xv

Tabel Lampiran.12 Dataset Breast Cancer (lanjutan) ............................................................................ 52
Tabel Lampiran.13 Dataset Breast Cancer (lanjutan) ............................................................................ 53
Tabel Lampiran.14 Dataset Breast Cancer (lanjutan) ............................................................................ 54
Tabel Lampiran.15 Dataset Breast Cancer (lanjutan) ............................................................................ 55
Tabel Lampiran.16 Dataset Breast Cancer (lanjutan) ............................................................................ 56

Universitas Sumatera Utara

DAFTAR GAMBAR

Gambar 2.1 Arsitektur JST LVQ (Kusumadewi, 2003) ............................................................................ 6
Gambar 3.1 Tahapan Penelitian.............................................................................................................. 12
Gambar 3.2 Arsitektur JST LVQ ............................................................................................................ 15
Gambar 3.3 Penentuan Bobot Awal Cara Pertama ................................................................................. 16
Gambar 3.4 Penentuan Bobot Awal Cara Kedua ................................................................................... 19
Gambar 3.5 Flowchart Training JST LVQ.............................................................................................. 23
Gambar 3.6 Flowchart Testing JST ........................................................................................................ 24

Universitas Sumatera Utara