Metode jarak minimum dan algoritma perceptron untuk klasifikasi pola - USD Repository
METODE JARAK MINIMUM DAN ALGORITMA PERCEPTRON
UNTUK KLASIFIKASI POLA
SKRIPSI
Diajukan untuk Memenuhi Salah Satu Syarat
Memperoleh Gelar Sarjana Sains
Program Studi Matematika
Disusun oleh :
Siti Wardani
NIM : 023114033
PROGRAM STUDI MATEMATIKA JURUSAN MATEMATIKA
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM
UNIVERSITAS SANATA DHARMA
YOGYAKARTA
2007
Setiap orang harus menyadari
Bahwa tidak semua yang diharapkan akan terjadi.
Tidak semua yang diinginkan akan terpenuhi dan
Tidak semua yang diminta akan diberikan.
Jangan pernah mengeluh ketika kamu harus menghadapinya !!
Jangan pernah menyerah ketika keadaan tidak memihakmu dan
Jangan pernah lelah untuk meneruskan langkahmu.
Akan datang saatnya kau akan tersenyum,
Akan tiba waktunya lukamu akan terobati, dan
Akan ada saatnya kamu akan menertawakan apa yang kamu lakukan saat ini.
Cobalah untuk menerima kenyataan walau pahit yang kau rasakan dan
Cobalah lupakan kepedihan dan mulailah tersenyum.
Apa yang dulu terlihat baik kini nampak sangat buruk.
Apa yang dulu terasa manis, kini nampak kegetiran karena itu pula
Apa yang terasa memilukan tak selamanya demikian.
Apa yang kini kamu sesali suatu saat akan kamu syukuri.
Karena kamu telah melakukannya dan
Apa yang kini membuatmu tertunduk dalam kesedihan
Suatu saat akan mendatangkan sorak kegembiraan.
Penuhi hatimu dengan ucapan Syukur dan
Siapkan hatimu untuk segala kemungkinan.
Belajarlah menerima kenyataan dan
Jangan ada putus asa dalam hidup sebab Allah megasihimu
Ia ada di dekatmu dan kau berharga di hadapan NYA.
Dengan kerendahan hati dan penuh rasa syukur skripsi ini kupersembahkan untuk :
Allah SWT Yang Maha Kasih
Keluarga tercinta ....Bapak, Mamak, dan adik-adikku
Keluarga Besar H. M. Soeharjo dan Kertorejo atas kasih sayangnya
Almamaterku tercinta
iv
ABSTRAK
Klasifikasi pola adalah suatu proses dalam menglasifikasikan suatu obyek yang
tidak diketahui ke dalam suatu kelas pola tertentu berdasarkan pada ciri-ciri yang
dimiliki obyek tersebut.
Metode Jarak Minimum adalah suatu penglasifikasi yang digunakan untuk
menglasifikasikan suatu obyek ke dalam suatu kelas pola tertentu berdasarkan pada
perhitungan jarak Euclidean. Dalam metode ini setiap kelas pola akan diwakili oleh
suatu prototype tunggal yang merupakan nilai rata-rata kelas polanya. Obyek tersebut
akan diklasifikasikan ke dalam kelas yang jarak antara prototype dari setiap kelas dan
obyek yang akan diklasifikasikan tersebut terkecil.
Algoritma Perceptron adalah penglasifikasi lain yang digunakan untuk mencari
suatu vektor bobot yang dapat memisahkan setiap kelas pola secara linear sehingga
sampel-sampel pola pada setiap kelas polanya dapat terklasifikasi dengan tepat.
vi
ABSTRACT
Pattern classification is a process in classifying an unknown object into a
particular class pattern based on characteristics possessed by the object.
Minimum distance method is a classifier used to classifier used to classify an
object into a particular class pattern based on Euclidean distance calculation. In this
method, every single pattern would be represented with a single prototype which is an
average score of its class pattern. The object would be classified into a class which
has the shortest distance between prototype from each class and the object itself.
Perceptron algorithm is a another classifier used to find a augmented vector
which able to separate linearly every class pattern and as the result, pattern samples in
every class pattern could be classified correctly.
vii
KATA PENGANTAR
Puji syukur penulis panjatkan kehadirat Allah SWT atas limpahan nikmat dan
karunia-Nya sehingga penulis dapat menyelesaikan skripsi ini. Skripsi ini disusun
sebagai salah satu syarat untuk memperoleh gelar Sarjana Sains di Program Studi
Matematika Jurusan Matematika Fakultas Matematika dan Ilmu Pengetahuan Alam
Universitas Sanata Dharma Yogyakarta.
Dalam penyusunan skripsi ini hingga selesai, penulis telah banyak mendapat
bantuan dari berbagai pihak berupa bimbingan, pengarahan, dan petunjuk. Untuk itu
pada kesempatan ini perkenankanlah penulis menghaturkan terima kasih yang
sebesar-besarnya kepada pihak yang telah memberikan bantuan ini, antara lain :
1. Bapak Ir. Ig. Aris Dwiatmoko, M.Sc, selaku Dekan Fakultas MIPA dan juga
dosen pembimbing akademik atas masukan, bimbingan serta dorongan kepada
penulis selama menempuh studi dan menyelesaikan skripsi ini.
2. Bapak Y.G. Hartono, S.Si, M.Sc selaku Ketua Program Studi Matematika yang
telah memberikan saran, bantuan, bimbingan dan ilmunya dalam bangku kuliah.
3. Ibu Ch. Enny Murwaningtyas, S.Si, M.Si selaku dosen pembimbing yang telah
dengan sabar membimbing, memberikan arahan, masukan, dan petunjuk kepada
penulis sehingga penulis dapat menyelesaikan skripsi ini.
4. Segenap Bapak dan Ibu dosen Fakultas MIPA atas segala ilmu, bimbingan dan
perhatian yang diberikan kepada penulis selama ini.
viii
5. Segenap karyawan Universitas Sanata Dharma, khususnya karyawan sekretariat
FMIPA atas kemudahan dan pelayanannya.
6. Keluarga tercinta....Bapak, Mamak matur nuwun atas bimbingan, doa, dukungan
moral maupun materiil dan atas kesabaran dalam mengarahkan penulis.Adikadikku Suci dan Sigit yang telah menjadi teman dan adik yang baik. Keluarga
besarku yang senantiasa memberikan dorongan, nasihat dan kehangatan dalam
persaudaraan. Semoga jasa-jasa kalian semua selalu menjadi inspirasi penulis
menuju kesuksesan di masa yang akan datang.
7. Teman-teman seperjuangan Mat’02 (Rita, Cheea, Deon, Aning, Palm, Wury,
Asih, Nunung, Lia, Bani, Desy) selamat,ya!! Lili, Priska, Sarry, Vida, Lenta, Ijup,
Ika, Archy, Debby, Aan, Taim, Marcus, Tato, Galeh
8. Teman-teman kosku Linoel, timboel, inem, primtoel, Maria atas keakraban dan
kenyamanannya.
9. Teman-teman KKN kelompok 1, teman-teman P3W, kakak-kakak serta adik-adik
angkatan atas kebersamaan selama ini.
10. Seseorang yang senantiasa menemaniku dalam suka maupun duka. Semoga Allah
SWT senantiasa membimbing kita.
11. Berbagai pihak yang tidak dapat penulis sebutkan satu persatu, terima kasih atas
segala bantuannya.
Semoga skripsi ini dapat bermanfaat bagi kita semua.
Yogyakarta, Mei 2007
Penulis
ix
DAFTAR ISI
Halaman
HALAMAN JUDUL ...……………………………………………………………
i
HALAMAN PERSETUJUAN PEMBIMBING ………………………………….
ii
HALAMAN PENGESAHAN ……………………………………………………
iii
HALAMAN PERSEMBAHAN ……………………………………………….....
iv
PERNYATAAN KEASLIAN KARYA ………………………………………….
v
ABSTRAK ..............................................................................................................
vi
ABSTRACT ...........................................................................................................
vii
KATA PENGANTAR ...........................................................................................
viii
DAFTAR ISI .........................................................................................................
x
DAFTAR TABEL .................................................................................................
xiii
DAFTAR GAMBAR ............................................................................................
xiv
DAFTAR LAMPIRAN ........................................................................................
xv
BAB I PENDAHULUAN ...................................................................................
1
A. Latar Belakang ...................................................................................
1
B. Rumusan Masalah .............................................................................
5
C. Pembatasan Masalah .........................................................................
5
D. TujuanPenulisan ................................................................................
6
E. Manfaat Penulisan .............................................................................
6
F. Metode Penulisan ...............................................................................
7
G. Sistematika Penulisan .........................................................................
7
x
BAB II LANDASAN TEORI …………………………………………………..
9
A. Ruang Euclidean Berdimensi-n .........................................................
9
B. Operasi-operasi dalam Ruang Euclidean Berdimensi-n ....................
10
C. Panjang, Jarak dan Keorthogonalan
dalam Ruang Euclidean berdimensi-n ...............................................
11
BAB III METODE JARAK MINIMUM UNTUK KLASIFIKASI POLA .........
19
A. Pengantar ............................................................................................
19
B. Fungsi Pengambilan Keputusan …………………………………….
22
C. Algoritma Jarak Minimum ………………………………………….
28
BAB IV ALGORITMA PERCEPTRON UNTUK KLASIFIKASI POLA ….....
40
A. Ruang Bobot ………………………………………………………...
40
B. Pelatihan Perceptron untuk Penglasifikasian Pola ………………….
44
1. Algoritma Perceptron untuk 2 kelas pola …………………...
45
2. Algoritma Perceptron untuk L kelas pola …………………...
57
BAB V APLIKASI METODE JARAK MINIMUM DAN
ALGORITMA PERCEPTRON UNTUK KLASIFIKASI POLA ……..
60
A. Pengantar ……………………………………………………………
60
B. Aplikasi Metode Jarak Minimum …………………………………..
62
C. Aplikasi Algoritma Perceptron ……………………………………..
65
1. Algoritma Perceptron untuk 2 kelas pola …………………...
65
2. Algoritma Perceptron untuk L kelas pola …………………...
68
xi
BAB VI PENUTUP …………………………………………………………….
72
A. Kesimpulan ………………………………………………………...
72
B. Saran ……………………………………………………………….
73
DAFTAR PUSTAKA …………………………………………………………...
74
LAMPIRAN …………………………………………………………………….
75
xii
DAFTAR TABEL
Halaman
Tabel Data Training Set …………………………………………………………
34
Tabel Perhitumgan Prototype Setiap kelas ...........................................................
34
Tabel Hasil Klasifikasi .........................................................................................
37
Tabel Data Training Set …………………………………………………………
37
Tabel Hasil Klasifikasi .........................................................................................
38
Tabel Klasifikasi Huruf Jawa dengan Metode Jarak Minimum ...........................
64
xiii
DAFTAR GAMBAR
Halaman
Gambar Konsep Penglasifikasi Jarak Minimum ………………………………...
20
Gambar Fungsi Pengambilan Keputusan dengan Tiga Kelas …………………...
23
Gambar Fungsi Diskriminan …………………………………………………….
28
Gambar Prototype Tunggal ……………………………………………………..
31
Gambar Batas Pengambilan Keputusan dengan Dua
Prototype pada Setiap kelas Pola …………………………………..
32
Gambar Garis Tegak Lurus …………………………………………………….
41
Gambar Huruf Jawa …………………………………………………………….
60
Gambar Flowchart Program Klasifikasi dengan Metode Jarak Minimum ……...
63
Gambar Flowchart Program Klasifikasi dengan
Algoritma Perceptron Dua Kelas ……...................................................
67
Gambar Flowchart Program Klasifikasi dengan
Algoritma Perceptron L Kelas …….......................................................
xiv
70
DAFTAR LAMPIRAN
Halaman
Lampiran Program Klasifikasi Contoh 3.1 dengan 2 Kelas 5 Sampel …………..
76
Lampiran Program Klasifikasi Contoh 3.2 dengan 3 Kelas 8 Sampel …………..
79
Lampiran Program untuk Memanggil Huruf Jawa ………………………………
84
Lampiran Program Aplikasi Metode Jarak Minimum …………………………..
96
Lampiran Program Klasifikasi Algoritma Perceptron
Contoh 4.1 dan Contoh 4.2 …………………………………………..
101
Lampiran Program Aplikasi Algoritma Perceptron 2 Kelas Pola ………………
105
Lampiran Program Klasifikasi Algoritma Perceptron Contoh 4.3 ……………..
109
Lampiran Program Aplikasi Algoritma Perceptron L Kelas Pola ………………
118
xv
BAB I
PENDAHULUAN
A. Latar Belakang Masalah
Pengenalan pola telah dikenal sejak dahulu. Namun sebelum tahun 1960-an
pengenalan pola lebih dikembangkan pada penelitian yang didasarkan pada teori statistika saja. Penemuan komputer telah membantu para ilmuwan untuk mencoba
mengembangkan metode pengenalan pola dalam berbagai bidang ilmu pengetahuan.
Sekarang aplikasi dari metode pengenalan pola telah banyak digunakan dalam berbagai penelitian, misal dalam bidang kedokteran (mengembangkan obat-obatan, memonitor ECG, meneliti hubungan DNA, dll), bidang teknologi (merancang mesin),
bahkan dalam kehidupan sehari-hari pengenalan pola juga sangat bermanfaat, misalnya untuk identifikasi sidik jari, pengenalan karakter mata, dan lain sebagainya.
Gambaran dari suatu obyek disebut pola, sedangkan penglasifikasian suatu obyek ke
dalam suatu kelas pola disebut pengenalan pola. Pengenalan pola bertujuan untuk
menglasifikasikan suatu obyek ke dalam anggota dari suatu kelas berdasarkan pada
ciri-ciri yang dimiliki obyek tersebut.
2
Obyek yang tidak diketahui kelasnya
sensor
ciri obyek yang tampak
Sistem
Pengenalan Pola
A
B
C
( perkiraan kelas )
Diagram 1. Sistem Pengenalan Pola
Input
Sensor
Ekstraksi ciri
Klasifikasi
Kelas
Diagram 2. Sistem Pengenalan Pola
Dalam Sistem pengenalan pola ada beberapa tahap yaitu sensor yang digunakan
sebagai alat penyaring untuk mengenali pola yang tampak dari suatu obyek. Selanjutnya adalah ekstraksi ciri yaitu suatu proses pengambilan ciri-ciri yang dimiliki suatu
3
obyek. Pada proses ini obyek dideteksi kemudian diukur sifat-sifat obyek yang berkaitan sebagai ciri. Ekstraksi ciri bertujuan untuk mengkarakterisasi suatu obyek
menggunakan pengukuran numerik. Biasanya satu ciri saja tidak cukup untuk membedakan antara objek dari kategori yang berbeda. Sehingga perlu untuk mengenali
sebanyak mungkin ciri-ciri yang dimiliki suatu obyek. Ciri-ciri yang dimiliki suatu
obyek akan diabstraksi dalam bentuk vektor yang disebut sebagai vektor ciri. Kumpulan dari vektor ciri disebut ruang ciri. Tahap terakhir adalah klasifikasi yang merupakan suatu proses proses pengelompokan obyek ke dalam kelas yang sesuai.
Dalam skripsi ini akan dibahas metode pengenalan pola pada tahap klasifikasi.
Klasifikasi pola bertujuan untuk mengidentifikasi obyek sebagai anggota dari suatu
kelas. Penglasifikasi menggunakan vektor ciri yang diberikan oleh pengekstraksi ciri
untuk memasukkan obyek ke dalam kelas yang sesuai. Penglasifikasi membagi ruang
ciri dari kelas-kelas obyek ke dalam daerah klasifikasi yang berbeda kemudian memasukkan obyek tersebut ke dalam daerah klasifikasi yang sesuai.
Contoh sederhana pengenalan pola. Dalam sebuah keranjang terdapat tiga jenis
bunga yaitu bunga mawar, bunga dahlia dan bunga sepatu. Seorang penjual bunga
ingin mengelompokkan setiap bunga dalam keranjang tersebut sesuai dengan jenisnya. Sehingga untuk dapat mengelompokkan dengan benar harus dikenali ciri-ciri
dari setiap bunga. Penjual bunga mencoba untuk mengenali panjang dan lebar daun
bunganya. Dalam kasus ini terdapat dua ciri yang akan diamati dari setiap bunga
yaitu panjang dan lebar daun bunganya. Sehingga vektor ciri x terdiri dari dua ciri
4
yaitu x1 = panjang daun bunga dan x 2 = lebar daun bunga. Terdapat kasus pengenalan pola yang terdiri atas tiga kelas pola misalkan C1 = kelas bunga mawar, C 2 =
kelas bunga dahlia dan C 3 = kelas bunga sepatu. Setiap kelas pola mempunyai ukuran
panjang dan lebar daun bunga yang berbeda-beda. Sehingga untuk menglasifikasikannya maka setiap bunga dalam keranjang tersebut akan diukur panjang dan lebar
daun bunganya. Setelah itu akan dihitung selisih panjang dan lebar daun bunga setiap
bunga dalam keranjang dengan panjang dan lebar daun bunga setiap kelas. Misalkan
suatu bunga ternyata selisih panjang dan lebar daun bunganya dengan kelas C1 paling
kecil maka bunga tersebut akan dikategorikan sebagai anggota kelas C1 yaitu kelas
bunga mawar. Dalam proses penglasifikasian bunga di atas digunakan faktor jarak
dalam menghitung selisih panjang dan lebar daun bunga suatu bunga dengan kelas
bunga tertentu.
Dalam skripsi akan dibahas penggunaan metode Jarak Minimum untuk klasifikasi pola dan penggunaan algoritma Perceptron. Dengan menggunakan metode Jarak
Minimum maka suatu obyek akan diklasifikasikan ke dalam kelas yang jaraknya terdekat atau terkecil dengan obyek tersebut. Obyek akan diproses melalui tahap-tahap
dalam sistem pengenalan pola di atas. Kemudian akan diperoleh ciri-cirinya dan
diabstraksikan sebagai vektor ciri. Suatu penglasifikasi adalah alat dengan n masukan
dan sebuah keluaran. Setiap input digunakan untuk menginformasikan satu dari n ciri
yaitu x1 , x 2 ,...., x n yang diukur dari suatu obyek untuk diklasifikasikan. Suatu
penglasifikasi R akan menghasilkan satu dari R simbol C1 , C 2 , C 3 , ....., C R sebagai
5
suatu keluaran, keluaran ini merupakan suatu keputusan tentang kelas dari obyek
yang diklasifikasikan.
Algoritma Perceptron digunakan untuk mencari suatu vektor bobot sembarang
w, kemudian vektor bobot w tersebut digunakan untuk memisahkan dua kelas pola
tersebut secara linear sehingga sampel-sampel pola pada setiap kelas akan terklasifikasi dengan benar.
B. Perumusan Masalah
Pokok permasalahan yang akan dibahas adalah :
1. Bagaimana landasan matematis metode Jarak Minimum untuk klasifikasi pola?
2. Bagaimana klasifikasi pola dilakukan dengan metode Jarak Minimum?
3. Bagaimana
landasan
matematis
algoritma
Perceptron
digunakan
untuk
menglasifikasikan dua kelas pola ?
4. Bagaimana klasifikasi pola dari dua kelas yang berbeda dilakukan dengan algoritma Perceptron ?
C. Batasan Masalah
Dalam penulisan skripsi ini, penulis menggunakan metode Jarak Minimum dan
algoritma Perceptron untuk menglasifikasikan sampel-sampel pola pada setiap kelas
pola yang berbeda. Sedangkan proses untuk menemukan vektor ciri dari obyek dan
peggunaan algoritma Perceptron untuk L kelas pola tidak akan dibahas dalam skripsi.
6
D. Tujuan Penulisan
Tujuan penulisan skripsi ini adalah :
1. Memahami landasan matematis yang digunakan dalam klasifikasi pola dengan metode Jarak Minimum dan algoritma Perceptron.
2. Membedakan suatu obyek dari obyek lain dengan menentukan kelompok pola ber
dasarkan ciri-ciri yang dimiliki obyek tersebut.
3. Melakukan identifikasi suatu pola yang diamati sebagai anggota dari suatu kelas
pola yang sudah diketahui menggunakan metode Jarak Minimum dan algoritma
Perceptron.
4. Menyelesaikan masalah-masalah pengenalan pola dalam tahap klasifikasi pola
menggunakan metode Jarak Minimum dan algoritma Perceptron.
E. Manfaat Penulisan
Manfaat penulisan skripsi ini adalah :
1. Dapat mengerti landasan matematis yang digunakan dalam metode Jarak Minimum
dan algoritma Perceptron untuk klasifikasi pola.
2. Dapat mengetahui tahap-tahap klasifikasi pola menggunakan metode Jarak Minimum dan algoritma Perceptron.
3. Dapat mengaplikasikannya dalam masalah-masalah pengenalan pola pada tahap
klasifikasi pola.
7
F. Metode Penulisan
Metode penulisan yang digunakan dalam skripsi ini adalah metode studi pustaka
dengan mempelajari beberapa bagian materi dari buku yang digunakan sebagai bahan
acuan dan bantuan komputer khususnya program Matlab.
G. Sistematika Penulisan
Pada Bab 1 Pendahuluan, berisi gambaran umum tentang isi skripsi yang meliputi latar belakang masalah, perumusan masalah, batasan masalah, tujuan penuli san,
manfaat penulisan, metode penulisan, dan sistematika penulisan.
Pada Bab 2 Landasan Teori, berisi beberapa teori yang mendasari pembahasan
bab berikutnya, yaitu sifat-sifat penjumlahan dan perkalian vektor, Norm Euclidean,
jarak Euclidean, dan pertidaksamaan Cauchy Schwart.
Pada Bab 3 Metode Jarak Minimum untuk Klasifikasi Pola, berisi tentang pengantar metode Jarak Minimum, pengambilan keputusan dengan pendekatan jarak
Euclidean. Pembahasan terakhir dari bab ini adalah penggunaan metode Jarak Minimum untuk menglasifikasikan pola.
Pada Bab 4 Algoritma Perceptron untuk klasifikasi pola, berisi tentang pengantar algoritma Perceptron, pengambilan keputusan dengan algoritma Perceptron. Pembahasan terakhir dari bab ini adalah penggunaan algoritma Perceptron dalam
menglasifikasiakan pola.
8
Pada Bab 5 Aplikasi Metode Jarak Minimum dan Algoritma Perceptron untuk
Klasifikasi Pola, Bab ini menyajikan suatu kasus klasifikasi pola dengan menggunakan metode Jarak Minimum dan algoritma Perceptron.
Pada Bab 6 Penutup, penulis akan membuat kesimpulan mengenai skripsi yang
ditulis dan mengharapkan saran sebagai masukan yang membangun bagi penulis
dalam pengembangan masalah klasifikasi pola dengan metode Jarak Minimum dan
algoritma Perceptron selanjutnya.
BAB II
LANDASAN TEORI
Pada bab ini akan dibahas teori-teori yang mendasari penggunaan metode Jarak
Minimum untuk klasififkasi pola yaitu :
A. Ruang Euclidean Berdimensi-n
Sub bab ini bertujuan untuk memperkenalkan vektor di ruang Euclidean berdimensi –n.
Definisi 2.1
Himpunan dari semua kumpulan terurut (v1 , v 2 , v3 ,........, v n ) disebut ruang Euclidean
berdimensi-n dan diberi lambang ℜ n .
Definisi 2.2
Vektor
v
di
ℜn
adalah
pasangan
terurut
(v1 , v 2 , v3 ,........, v n )
dengan
v1 , v 2 , v3 ,........, v n merupakan bilangan real. Ditulis v = ( v1 , v 2 , v 3 ,..... , v n ) , nilai-nilai
v1 , v 2 , v3 ,........, v n disebut komponen atau koordinat dari vektor.
10
B. Operasi-operasi dalam Ruang Euclidean Berdimensi-n
Operasi-operasi yang berlaku dalam ℜ n adalah sebagai berikut :
Definisi 2.3
Dua vektor u = ( u1 , u2 , ..... , un ) dan v = ( v1 , v 2 , ..... , v n ) dalam ℜ n disebut sama jika
u1 = v1 , u 2 = v 2 ,......, u n = v n )
Jumlah u + v adalah
u + v = (u1 + v1 , u 2 + v 2 ,......, u n + v n )
Jika s sebarang skalar, perkalian skalar su adalah
su = ( su1 , su 2 , ....., su n )
Teorema 2.1
Jika u = ( u1 , u2 , ..... , un ) , v = ( v1 , v 2 , ..... , v n ) dan w = ( w1 , w2 , ..... , wn ) adalah
vektor-vektor dalam ℜ n dan r dan s sebarang skalar, maka
(a) u + v = v + u
(Sifat Komutatif)
( b) u + ( v + w ) = (u + v ) + w
(Sifat Assosiatif )
(c) u + 0 = u
(Sifat Identitas)
(d) u + (-1)u = 0
(e) r(u + v ) = ru + rv
(f) (r + s)u = ru + su
(Invers elemen)
(Distribut if)
11
(g) r(su) = ( rs)u
(h) 1(u ) = u
C. Panjang, Jarak dan Keorthogonalan dalam Ruang Euclidean berdimensi-n
Selanjutnya akan dibahas tentang gagasan panjang (norm), jarak dan
keorthogonalan vektor-vektor dalam ℜ n . Namun, sebelumnya akan didefinisiskan
hasil kali titik dalam ruang Euclidean berdimensi –n sebagai berikut
Definisi 2.4
Jika u = ( u1 , u 2 , ..... , u n ) dan v = ( v1 , v 2 , ..... , v n ) adalah sebarang vektor dalam ℜ n ,
maka hasil kali dalam Euclidean u · v dari dua vektor tersebut didefinisikan sebagai
u ⋅ v = u1v1 + u 2 v 2 + ....... + u n v n
Karena suatu vektor dapat dituliskan dalam bentuk matriks, maka perkalian titik dapat dituliskan sebagai
u · v = ut v
Teorema 2.2
Jika u, v, dan w adalah vektor di ℜ n dan r sebarang skalar, maka
(a) u · v = v · u
( Komutatif )
(b) ( u + v ) · w = u · w + v · w
( Distributif )
12
(c) (ru) · v = r(u · v)
( Homogen )
(d) u · u ≥ 0
(e) u · u = 0 jika dan hanya jika u = 0
Dalam ℜ 2 , panjang vektor adalah panjang garis yang mewakili vektor itu, dan
jarak diantara vektor u dan v ialah jarak diantara dua titik yang mewakili kedua
vektor itu. Dengan demikian, panjang dan jarak bagi vektor-vektor dalam ℜ n adalah
sebagai berikut :
Definisi 2.5
Norm Euclidean dari suatu vektor u = ( u1 , u2 , ..... , un ) dalam ℜ n adalah
u = (u ⋅ u)
sehingga u ⋅ u = u
1
2
=
u ⋅ u = (u1 ) 2 + (u 2 ) 2 + ....... + (u n ) 2
2
Definisi 2.6
Jarak Euclidean antara titik-titik u = ( u1 , u2 , ..... , un ) dan v = ( v1 , v 2 , ..... , v n ) dalam
ℜ n adalah
d (u, v) = u − v = (u1 − v1 ) 2 + (u 2 − v 2 ) 2 + ........ + (u n − v n ) 2
d (u, v) =
n
∑ (u
i =1
i
− vi ) 2
13
Contoh 2. 1
Misalkan u = (1, 3, -2, 1) dan v = (2, 1, 1, 0), maka
u = (1) 2 + (3) 2 + (−2) 2 + (1) 2 = 15
v = (2) 2 + (1) 2 + (1) 2 + (0) 2 = 6
dan
d (u, v ) = (1 − 2) 2 + (3 − 1) 2 + ( −2 − 1) 2 + (1 − 0) 2 = 15
■
Teorema 2.3 Ketaksamaan Cauchy-Schwarz dalam ℜ n
Jika u = ( u1 , u2 , ..... , un ) dan v = ( v1 , v 2 , ..... , v n ) adalah vektor-vektor dalam ℜ n ,
maka
u⋅v ≤ u v
(1)
atau dinyatakan dalam bentuk komponen-komponen,
(
u1v1 + u 2 v 2 + ...... + u n v n ≤ u12 + u 22 + ..... + u n2
) (v
1
2
2
1
+ v 22 + ....... + v n2
)
1
2
Bukti :
Jika u = 0 maka kedua ruas di (1) sama dengan nol. Oleh karena itu ketaksamaan
tersebut berlaku. Jika u ≠ 0 , untuk setiap bilangan real x, berdasarkan Teorema 2.2
maka nilai
( xu + v ) ⋅ ( xu + v ) ≥ 0
(u ⋅ u) x 2 + 2(u ⋅ v) x + (v ⋅ v) ≥ 0
(2)
14
pertidaksamaan (2) merupakan fungsi kuadrat dalam x yang harus selalu nonnegatif.
Artinya fungsi kuadrat tersebut tidak mempunyai akar real yang berbeda. Oleh karena
itu, diskriminannya tidak mungkin positif atau
4(u ⋅ v) 2 − 4(u ⋅ u) (v ⋅ v) ≤ 0
4(u ⋅ v) 2 ≤ 4(u ⋅ u) (v ⋅ v)
(u ⋅ v) 2 ≤ (u ⋅ u) (v ⋅ v)
Berdasarkan Definini norm vektor maka diperoleh
(u ⋅ v) 2 ≤ || u ||2 || v ||2
dengan mengambil akar kedua ruas diperoleh
| u ⋅ v | ≤ || u || || v ||
■
Panjang (Norm) dan jarak dalam ruang Euclidean berdimensi-n memenuhi sifat-sifat
berikut :
Teorema 2.4
Jika u, v dan w adalah vektor-vektor dalam ℜ n dan k sebarang skalar, maka
(a) u ≥ 0
(b) u = 0 jika dan hanya jika u = 0
(c) ku = k u
(d) u + v ≤ u + v
(Ketaksamaan Segitiga)
15
(e) d (u, v ) ≥ 0
(f) d (u, v ) = 0 jika dan hanya jika u = v
(g) d (u, v ) = d ( v, u )
(h) d (u, v ) ≤ d ( w , u) + d ( w , v )
(Ketaksama an Segitiga)
Bukti :
(a) Misalkan u = ( u1 , u2 , ..... , un ) , v = ( v1 , v 2 , ..... , v n ) dan w = ( w1 , w2 , ..... , wn ) ,
berdasarkan Definisi norm vektor diperoleh
u =
(u1 ) 2 + (u 2 ) 2 + ....... + (u n ) 2
Karena kuadrat dari bilangan real ≥ 0 maka u ≥ 0
(b) (⇒) Diketahui u = 0 , dengan kontradiksi akan dibuktikan u = 0
Andaikan u ≠ 0 maka ∃u1 ,......, u n yang tidak semuanya = 0
Misal u1 ≠ 0 , maka u12 ≠ 0 . Sehingga
u =
(u1 ) 2 + (u 2 ) 2 + ....... + (u n ) 2 ≠ 0
karena kuadrat bilangan real > 0, maka u > 0 kontradiksi dengan u = 0 .
Jadi u = 0
(⇐) Jika u = 0
maka
u = (u1 ) 2 + (u 2 ) 2 + ....... + (u n ) 2 = 0 + 0 + ....... + 0 = 0
(c) Jika u = ( u1 , u2 , ..... , un ) , maka ku = ( ku1 , ku 2 , ..... , ku n ) sehingga
16
ku =
(ku1 ) 2 + (ku 2 ) 2 + ....... + (ku n ) 2 = k (u1 ) 2 + (u 2 ) 2 + ....... + (u n ) 2 = k u
(d) Berdasarkan Definisi norm vektor diperoleh
u+v
2
= (u + v ) ⋅ (u + v )
Berdasarkan Teorema 2.2 sifat (b) maka
u+v
2
= u ⋅ (u + v ) + v ⋅ (u + v ) = (u ⋅ u) + (u ⋅ v ) + (u ⋅ v ) + ( v ⋅ v )
= (u ⋅ u) + 2(u ⋅ v ) + ( v ⋅ v )
Berdasarkan Definisi Norm vektor diperoleh
2
2
u + v = u + 2(u ⋅ v ) + v
2
karena u ⋅ v ≤ u ⋅ v maka u + v ≤ u + 2 | u ⋅ v | + v
2
2
2
Berdasarkan Ketaksamaan Cauchy-Schawrz
2
2
u+v ≤ u +2u v + v
2
= ( u + v )2
Dengan mengakarkan kedua ruas diperoleh
u+v ≤ u + v
(e)
Berdasarkan Definisi jarak vektor maka diperoleh
d (u, v) = u − v = (u1 − v1 ) 2 + (u 2 − v 2 ) 2 + ........ + (u n − v n ) 2
Karena kuadrat bilangan real ≥ 0 maka d (u, v ) ≥ 0
(f)
(⇐) Jika u = v, maka (u1 − v1 ) = 0, (u 2 − v2 ) = 0,....., (u n − vn ) = 0 , sehingga
17
d (u, v) = u − v = (u1 − v1 ) 2 + (u 2 − v2 ) 2 + ........ + (u n − vn ) 2
d (u, v ) ≥ 0 = 0 + 0 + ....... + 0 = 0
(⇒) Diketahui d (u, v) = 0 . Dengan kontradiksi akan dibuktikan bahwa u = v
Andaikan u ≠ v, ∃( u1 −v1 ),....,( u 2 −v2 ) tidak semuanya sama dengan 0
Misal (u1 − v1 ) ≠ 0 maka
d (u, v) = u − v = (u1 − v1 ) 2 + (u 2 − v2 ) 2 + ........ + (u n − vn ) 2 ≠ 0
Kontradiksi dengan d (u, v ) = 0 . Jadi u = v
(g) Jika u = ( u1 , u2 , ..... , un ) dan v = ( v1 , v 2 , ..... , v n ) maka
d (u, v) = u − v = (u1 − v1 ) 2 + (u 2 − v2 ) 2 + ........ + (u n − vn ) 2
Berdasarkan sifat kuadrat bilangan real maka diperoleh
d (u, v ) = (v1 − u1 ) 2 + (v 2 − u 2 ) 2 + ........ + (v n − u n ) 2 = v − u = d ( v, u )
(h) Berdasarkan sifat penjumlahan vektor
d (u, v) = u − v = (u - w ) + (w − v)
Berdasarkan Definisi norm vektor maka diperoleh
(u - w ) + ( w − v )
2
= ((u − w ) + ( w − v )) ⋅ ((u - w ) + ( w - v ))
= ( u - w ) ⋅ (u - w ) + ( u − w ) ⋅ ( w − v ) + ( u - w ) ⋅ ( w - v ) + ( w - v ) ⋅ ( w - v )
= (u - w ) ⋅ (u - w ) + 2(u - w ) ⋅ (w - v ) + ( w - v ) ⋅ ( w - v )
Berdasarkan Definisi Norm vektor diperoleh
18
2
(u - w ) + (w − v ) = u - w + 2(u - w) ⋅ (w - v ) + w - v
2
2
Berdasarkan sifat nilai mutlak u ⋅ v ≤ u ⋅ v maka
2
(u - w ) + ( w − v ) ≤ u - w
2
+ 2 | (u - w) . ( w - v ) | + w - v
2
Berdasarkan Ketaksamaan Cauchy-Schawrz
2
(u - w) + (w − v) ≤ u - w
2
+ 2 u - w w - v + w - v = ( u - w + w - v )2
2
Dengan mengakarkan kedua ruas maka diperoleh
(u - w ) + (w − v) ≤ u - w + w - v
d (u, v ) ≤ d (u − w ) + d ( w − v )
Definisi 2.7
Dua vektor u dan v dalam ℜ n disebut orthogonal jika u · v = 0.
■
19
BAB III
METODE JARAK MINIMUM UNTUK KLASIFIKASI POLA
A. Pengantar
Klasifikasi pola adalah pengelompokan suatu obyek yang tidak diketahui ke
dalam suatu kelas pola yang diketahui. Pengambilan keputusan adalah penentuan
suatu obyek untuk dikategorikan ke dalam suatu kelas pola yang sesuai.
Penglasifikasi Jarak Minimum digunakan untuk menglasifikasikan suatu pola yang
tak diketahui ke dalam suatu kelas yang jarak antara suatu pola dan kelas pola
tertentu minimum. Penglasifikasian pola dengan metode jarak minimum menggunakan konsep jarak Euclidean. Dalam hal ini kita akan menghitung jarak antara
dua vektor yaitu vektor dari pola yang tidak diketahui dan vektor dari kelas pola
tertentu yang telah diketahui.
Dalam pengenalan pola, ciri-ciri yang tampak dari suatu obyek disebut dengan
istilah pola. Jadi, pola adalah ukuran kuantitatif dari suatu obyek. Kelas pola adalah
kumpulan pola-pola yang memiliki beberapa sifat umum. Jika terdapat suatu
pengenalan pola dengan L kelas pola maka kelas-kelas pola dinotasikan sebagai C i
dengan 1 ≤ i ≤ L . Irisan dari tiap-tiap kelas pola adalah himpunan kosong yang
dinotasikan dengan
C i I C j = Φ jika i ≠ j
Gabungan dari L kelas pola tersebut adalah ruang pola berdimensi n ( ℜ n ) yang
dinotasikan dengan
20
∩C
1≤i ≤ L
i
= ℜn
Di bawah ini ditunjukan konsep dari suatu penglasifikasi jarak minimum untuk
menglasifikasikan suatu obyek ke dalam kelas yang sesuai yang terdiri dari tiga kelas
pola yaitu C1 , C 2 , dan C3 , Jarak obyek ke dalam kelas pola tertentu dinotasikan
dengan dC i dengan 1 ≤ i ≤ 3 . Setiap kelas pola dipisahkan oleh suatu garis yang
disebut batas keputusan.
Kelas C1
Data yang tak
diketahui
Jarak minimum ke
kelas C 2 diklasifikasi
kan ke kelas C 2
d C1
Batas keputusan
Rata-rata kelas C 2
∗
d C2
d C3
Kelas C 2
Jarak kelas C 2 dan data
yang tak diketahui
Kelas C 3
Gambar 3.1 Konsep penglasifikasi Jarak Minimum
Sebelum menglasifikasikan suatu obyek harus dikenali dulu ciri-ciri yang tampak dari obyek tersebut. Satu ciri saja tidak cukup untuk membedakan obyek dari kelas yang berbeda sehingga perlu untuk mengenali ciri-ciri dari suatu obyek sebanyak
mungkin. Ciri-ciri obyek tersebut ditulis sebagai vektor ciri. Nilai-nilai dari vektor
ciri diukur dari sampel-sampel yang digunakan dalam masing-masing kelas pola yang
21
disebut sampel pola. Sampel pola dari masing-masing kelas pola berbeda-beda, kelas
C i mempunyai sampel pola sebanyak M i .
Jika terdapat suatu obyek x yang akan diklasifikasikan mempunyai ciri
sebanyak n, maka vektor cirinya adalah vektor kolom berdimensi n. Vektor ciri
tersebut dinotasikan dengan
x i. j ∈ Ci
(3.1)
dengan 1 ≤ i ≤ L dan 1 ≤ j ≤ M i . Vektor ciri x i. j adalah elemen-elemen dari ruang
pola ℜ n , sehingga x i. j mempunyai n elemen yang dinotasikan sebagai x ki. j dengan
1≤ k ≤ n.
Misalkan dalam suatu keranjang bunga terdapat tiga jenis bunga yaitu bunga
mawar, bunga dahlia dan bunga sepatu. Setiap bunga dalam keranjang akan
diklasifikasikan sesuai dengan kelasnya berdasarkan ciri-ciri yang dimiliki oleh setiap
bunga. Sedangkan ciri-ciri yang diamati adalah panjang dan lebar daun bunganya.
Jadi penglasifikasian setiap bunga dalam keranjang tersebut didasarkan pada panjang
dan lebar daun bunga dari masing-masing bunga tersebut.
Dalam penglasifikasian bunga di atas, terdapat tiga kelas pola yaitu C1 = kelas
bunga mawar, C 2 = kelas bunga dahlia dan C 3 = kelas bunga sepatu. Sedangkan ciriciri yang diamati adalah panjang dan lebar daun bunganya, maka vektor ciri x
berdimensi dua (n = 2) atau x = ( x1 , x 2 ) dengan x1 = panjang daun bunga dan x 2 =
lebar daun bunga. Dengan demikian, suatu bunga akan diklasifikasikan ke dalam
22
kelas bunga yang sesuai berdasarkan pada ukuran panjang dan ukuran lebar daun bunganya.
B. Fungsi Pengambilan Keputusan
Sistem pengenalan pola adalah suatu sistem yang mengambil sampel baru x*
yang tak diketahui klasifikasinya untuk dikelompokkan ke dalam suatu kelas pola C i
(1 ≤ i ≤ L) berdasarkan pada beberapa aturan pengambilan keputusan. Suatu aturan
pengambilan keputusan ini diperoleh dari pemartisian ruang pola ke dalam beberapa
daerah terpisah yang sesuai dengan kelas Ci . Setiap kelas C i dipisahkan oleh suatu
kurva yang disebut sebagai batas pengambilan keputusan berdimensi (n-1).
Jika terdapat kasus pengenalan pola dengan tiga kelas dalam ruang pola
berdimensi dua, maka visualisasi secara geometri akan lebih mudah digunakan untuk
menentukan fungsi pengambilan keputusannya. Namun dalam masalah nyata ruang
polanya berdimensi tinggi atau berdimensi n, maka batas pengambilan keputusannya
adalah hipersurface berdimensi (n-1).
23
x2
g13 (x) = 0
Kelas 3
g13 (x) > 0
g13 (x) < 0
Kelas 1
g 23 (x) < 0
Daerah
tak tentu
g 23 (x) > 0
g12 (x) <
Kelas 2
g 23 (x) = 0
x1
g12 (x) = 0
Gambar 3.2 Fungsi pengambilan keputusan dengan tiga kelas
Definisi 3.1
Jika g ij (x) adalah suatu fungsi pengambilan keputusan yang didefinisikan pada
ruang pola yang bernilai real, dengan kelas-i dan kelas-j berada dalam sisi yang
berlawanan dari suatu hipersurface tersebut maka
g ij (x) = 0
(3.2)
Definisi 3. 2
Suatu pola yang tak dikenali x* akan diklasifikasikan ke dalam kelas ke-i berdasarkan
pada suatu fungsi pengambilan keputusan g ij (x) sebagai berikut
Jika x* berada dalam kelas ke-i maka x* ∈ { x : g ij (x) > 0 }
(3.3)
24
Jika x* berada dalam kelas ke-j maka x* ∈ { x : g ij (x) < 0 }
(3.4)
Dari Definisi 3.2 dapat disimpulkan bahwa suatu pola yang tak diketahui (x*) akan
diklasifikasikan ke dalam kelas ke-i jika g ij (x*) > 0 dan akan diklasifikasikan ke
dalam kelas ke-j jika g ij (x*) < 0
Teorema 3. 1
Jika g ij (x) dan g ji (x) adalah suatu fungsi pengambilan keputusan, maka
g ij (x) = − g ji (x)
bukti :
Jika g ij (x) adalah fungsi pengambilan keputusan maka berdasarkan Definisi 3.2
diperoleh :
Jika x ∈ C i maka g ij (x) > 0
Jika x ∈ C j maka g ij (x) < 0
⎫
⎬
⎭
(i)
Jika g ji (x) adalah fungsi pengambilan keputusan maka berdasarkan Definisi 3.2
diperoleh :
Jika x ∈ C i maka g ji (x) < 0
Jika x ∈ C j maka g ji (x) > 0
⎫
⎬
⎭
(ii)
Berdasarkan persamaan (i) dan (ii) diperoleh
Jika x ∈ C i maka g ij (x) > 0 dan g ji (x) < 0 atau g ij (x) > 0 dan − g ji (x) > 0 ,
sehingga
25
g ij (x) = − g ji (x)
▄
Definisi 3. 3
Misalkan ℜ n adalah ruang pola dan { 1, 2, …., L } himpunan kelas pola. Suatu
fungsi penyeleksi c(x) adalah suatu pemetaan c : ℜ n ⎯
⎯→ {1, 2, …., L} adalah suatu
cara yang mengaitkan setiap unsur di ℜ n dengan satu unsur dalam himpunan bulat
positif 1, 2, …., L, sedemikian sehingga
Jika x berada dalam kelas ke-i maka c(x) = i
Berdasarkan pada Definisi 3.2 dan Definisi 3.3 jika x berada dalam kelas ke-i maka
fungsi penyeleksi c(x) menjadi
Jika g ij (x) > 0 maka c(x) = i , ∀j , i ≠ j
(3.5)
Jika terdapat pengenalan pola dengan tiga kelas maka berdasarkan persamaan
(3.5) aturan penglasifikasiannya adalah
1. Suatu pola yang tak diketahui (x*) akan diklasifikasikan menjadi anggota
kelas ke-1, maka fungsi penyeleksi c(x) untuk kelas ke-1 sebagai berikut
i. Batas pengambilan keputusan yang memisahkan kelas 1 dan kelas 2 adalah
g12 (x*) > 0.
ii. Batas pengambilan keputusan yang memisahkan kelas 1 dan kelas 3 adalah
g13 (x*) > 0.
Sehingga dapat ditulis sebagai berikut
26
Jika g12 (x*) > 0, g13 (x*) > 0 maka c(x*) = 1
(3.6)
2. Suatu pola yang tak diketahui (x*) akan diklasifikasikan menjadi anggota kelas ke-2, maka fungsi penyeleksi c(x) untuk kelas ke-2 sebagai berikut
i. Batas pengambilan keputusan yang memisahkan kelas 2 dan kelas 1 adalah
g12 (x*) < 0 atau g 21 (x*) > 0.
ii. Batas pengambilan keputusan yang memisahkan kelas 2 dan kelas 3 adalah
g 23 (x*) > 0.
Sehingga dapat ditulis sebagai berikut
Jika g12 (x*) < 0, g 23 (x*) > 0 maka c(x*) = 2
(3.7)
3. Suatu pola yang tak diketahui (x*) akan diklasifikasikan menjadi anggota kelas ke-2, maka fungsi penyeleksi c(x) untuk kelas ke-2 sebagai berikut
i. Batas pengambilan keputusan yang memisahkan kelas 3 dan kelas 1 adalah
g13 (x*) < 0 atau g 31 (x*) > 0.
ii. Batas pengambilan keputusan yang memisahkan kelas 3 dan kelas 2 adalah
g 23 (x*) < 0 atau g 32 (x*) > 0.
Sehingga dapat ditulis sebagai berikut
Jika g13 (x*) < 0, g 23 (x*) < 0 maka c(x*) = 3
(3.8)
Jadi berdasarkan pernyataan (3.5) fungsi penyeleksi untuk setiap kelas pola dapat
dituliskan sebagai berikut
27
⎧ 1 jika g13 (x) > 0, g12 (x) > 0
⎪⎪
c(x) = ⎨ 2 jika g12 ( x) < 0 ( atau g 21 (x) > 0 ), g 23 (x) > 0
⎪
⎪⎩ 3 jika g13 ( x) < 0 ( atau g 31 (x) > 0), g 23 (x) < 0 ( atau g 32 (x) > 0)
Fungsi pengambilan keputusan g ij (x) memisahkan dua kelas yang berbeda yaitu
kelas ke-i dan kelas ke-j. Berdasarkan Teorema 3.1 diketahui bahwa g ij (x) = − g ji (x)
sehingga banyaknya pilihan fungsi pengambilan keputusan untuk memisahkan L
kelas pola dapat dihitung menggunakan rumus kombinasi yaitu kombinasi 2 yang
diambil dari L berbeda adalah
C2L Δ
L!
L(l − 1)( L − 2)! L( L − 1)
=
=
( L − 2)!2!
( L − 2)!2!
2
Dalam Gambar 3.2, terdapat suatu daerah tak tentu sehingga fungsi pengambilan
keputusan pada Definisi 3.2 tidak dapat digunakan untuk menglasifikasikan sampel.
Namun, masalah ini dapat diselesaikan menggunakan fungsi diskriminan dengan cara
menuliskan setiap g ij dalam bentuk sebagai berikut :
g ij (x) = θ i (x) - θ j (x)
(3.9)
Fungsi θ i yang didefinisikan sebagai fungsi pengambilan keputusan g ij dalam
persamaan (3.9) di atas disebut sebagai fungsi diskriminan. Dengan demikian, fungsi
penyeleksi dalam pernyataan (3.5) menjadi :
jika θ i (x) - θ j (x) > 0 maka c(x) = i
atau
jika θ i (x) > θ j (x) maka c(x) = i dengan i ≠ j
(3.10)
28
Dengan menggunakan fungsi diskriminan maka Gambar 3.2 di atas akan tampak
sebagai berikut :
x2
θ1 (x ) = θ 2 (x )
Kelas 3
θ 2 ( x) = θ 3 (x )
Kelas 2
Kelas 1
θ1 (x ) = θ 3 (x )
x1
Gambar 3.3 Fungsi diskriminan
C. Algoritma Jarak Minimum
Misalkan banyaknya sampel pola pada setiap kelas pola adalah M i dan sampelsampel pola kelas ke-i ditulis x i. j dengan 1 ≤ j ≤ M i . Dalam metode jarak minimum
suatu sampel pola baru yang tak diketahui x akan diklasifikasikan ke dalam kelas pola
yang terdiri dari sampel-sampel pola yang diketahui x i. j . Sampel pola baru tersebut
akan diklasifikasikan ke dalam kelas yang jarak antara sampel pola baru (x) dan sampel-sampel pola pada setiap kelas polanya ( x i. j ) paling kecil atau jaraknya terdekat.
Definisi 3. 4
Fungsi diskriminan untuk kelas ke-i, θ i (x) didefinisikan sebagai berikut
29
θ i (x) = − min d (x, x i. j )
(3.11)
j
dengan 1 ≤ j ≤ M i dan M i adalah ukuran sampel kelas ke-i.
Dalam penglasifikasi jarak minimum d dihitung menggunakan rumus jarak Euclidean
yaitu
1
⎧n
⎫2
d (x, y ) = || x - y || = ⎨∑ ( x k − y k ) 2 ⎬
⎩ k =1
⎭
(3.12)
Jika terdapat sampel pola baru x tak diketahui yang mempunyai n ciri atau ruang
pola berdimensi-n ( ℜ n ) dengan banyaknya kelas pola adalah L dan setiap kelas pola
diwakili oleh sampel tunggal yaitu x i dengan 1 ≤ i ≤ L yang disebut suatu prototype,
maka fungsi diskriminan yang digunakan dalam penglasifikasi jarak minimum adalah
sebagai berikut
θ i (x) = − d (x, x i )
(3.13)
dengan
1
⎧n
⎫2
d (x, x i ) = ⎨∑ ( x k − x ki ) 2 ⎬
⎩ k =1
⎭
(3.14)
Fungsi penyeleksi untuk kelas ke-i dalam pernyataan (3.10) menjadi
c(x) = i jika − d (x, x i ) > − d (x, x j )
(3.15)
c(x) = i jika d (x, x i ) < d (x, x j )
(3.16)
atau
30
Dengan mensubstitusikan pernyataan (3.15) ke pernyataan (3.16) maka fungsi
penyeleksi kelas ke-i adalah
1
1
⎧n
⎫2 ⎧ n
⎫2
c(x) = i jika ⎨∑ ( x k − x ki ) 2 ⎬ < ⎨∑ ( x k − x kj ) 2 ⎬
⎩ k =1
⎩ k =1
⎭
⎭
c(x) = i jika
n
∑ ( xk − xki ) 2 <
k =1
n
∑ (x
k
(3.17)
∀i ≠ j
− x kj ) 2
(3.18)
k =1
Berdasarkan pernyataan (3.18) ketentuan untuk mencari fungsi peyeleksi kelas ke-i
adalah sebagai berikut
n
∑ ( xk − xki ) 2 <
k =1
n
∑ (( x
k
) 2 − 2 x k x ki + ( x ki ) 2 ) <
k =1
n
∑ (x
k =1
n
n
) − 2∑ x k x + ∑ ( x ) <
2
k
i
k
i
k
2
n
∑ (x
k =1
− x kj ) 2
k
∑ (( x
k
n
∑ (x
) 2 − 2 x k x kj + ( x kj ) 2 )
n
n
) − 2∑ x k x + ∑ ( x kj ) 2
2
k
k =1
j
k
k =1
k =1
k =1
n
n
n
n
k =1
k =1
k =1
k =1
k =1
− 2∑ x k x ki + ∑ ( x ki ) 2 < − 2∑ x k x kj + ∑ ( x kj ) 2
Jika kedua ruas dikalikan −
n
∑x
k
1
maka persamaan menjadi
2
x ki −
k =1
1 n i 2
∑ ( xk ) >
2 k =1
n
∑x
k
x kj −
k =1
1 n
( x kj ) 2
∑
2 k =1
Jadi fungsi penyeleksi dalam pernyataan (3.18) menjadi
c(x) = i jika
n
∑ xk xki −
k =1
1 n i 2
∑ ( xk ) >
2 k =1
n
∑ xk xkj −
k =1
sehingga digunakan fungsi diskriminan linear sebagai berikut
1 n
( x kj ) 2
∑
2 k =1
(3.19)
31
n
∑ xk xki −
θ i* (x) =
k =1
1 n i 2
∑ ( xk )
2 k =1
(3.20)
Salah satu cara untuk memperoleh suatu prototype tunggal dari suatu himpunan
sampel dari suatu kelas pola adalah dengan menentukan nilai rata-rata dari setiap
kelas pola. Di bawah ini ditunjukkan gambar penentuan prototype tunggal dari dua
kelas pola
Kelas 1
○
○
○
Prototype 1
○
○
○
○
○
●
○
Kelas 2
○
○
○
□
□
□
□
□
■
□
□
□
□
□
Prototype 2
Gambar 3. 5 Prototype tunggal
Jika jumlah prototype yang mewakili setiap kelas lebih dari satu atau sebanyak
N i maka x i.l adalah prototype dari kelas ke-i dengan 1 ≤ l ≤ N i . Fungsi diskriminan
yang digunakan dalam penglasifikasi jarak minimum adalah sebagai berikut
θ i (x) = − min d (x, x i.l )
l
(3.21)
Jika dilihat sekilas maka pernyataan (3.21) hampir sama dengan persamaan (3.11)
namun kedua persamaan tersebut sesungguhnya berbeda karena pada persamaan
(3.11) banyaknya sampel pola pada setiap kelas pola adalah M i dan sampel-sampel
pola kelas ke-i ditulis x i.l dengan 1 ≤ l ≤ M i sedangkan pada persamaan (3.21)
32
banyaknya prototype pada setiap kelas pola adalah N i dan sampel-sampel pola kelas
ke-i ditulis x i.l dengan 1 ≤ l ≤ N i dengan N i ≤ M i . Karena mungkin tidak semua
sampel pola yang terdapat pada setiap kelas digunakan sebagai prototype kelas
polanya. Di bawah ini akan ditunjukan batas pengambilan keputusan dari dua kelas
pola dengan masing-masing kelas pola diwakili oleh dua prototype
□
Kelas 2
□
■
□ □
□
○
○
● ○
○ ○
○ ○
○
Kelas 1
○
○ ●
○ ○
○
○
□
■
□
□
Kelas 1
□
Kelas 2
□
Gambar 3.6 Batas pengambilan keputusan dengan
dua prototype pada setiap kelas pola
Jarak Euclidean dari x dan xi.l dengan 1 ≤ l ≤ N i adalah
d (x, xi.l ) = x − xi.l
2
= (x − xi.l )t (x − xi.l )
d (x, xi.l ) = xt x − (xi.l )t x − xt xi.l + (xi.l )t xi.l
d (x, xi.l ) = xt x − 2(xi.l )t x + (xi.l )t xi.l
(3.22)
Fungsi penyeleksi untuk kelas ke-i adalah
c(x) = i jika − min d (x, xi.l ) > − min d (x, x j .l )
∀i ≠ j
33
atau
c(x) = i jika min d (x, xi.l ) < min d (x, x j .l )
(3.23)
Dengan mensubstitusikan persamaan (3.22) ke persamaan (3.23) maka fungsi penyeleksi kelas ke-i adalah
c(x) = i jika
min {x t x − 2(x i.l ) t x + (x i.l ) t x i.l } < min {x t x − 2(x j .l ) t x + (x i.l ) t x j .l }
(3.24)
Berdasarkan pernyataan (3.24) ketentuan untuk mencari fungsi peyeleksi kelas ke-i
adalah sebagai berikut
min {−2(x i.l ) t x + (x i.l ) t x i.l } < min {−2(x j .l ) t x + (x i.l ) t x j .l }
(3.25)
Jika kedua ruas dikalikan dengan − 1 maka pernyataan (3.25) menjadi
2
1
1
max {(x i.l ) t x − (x i.l ) t x i.l } > max {(x j .l ) t x − (x i.l ) t x j .l }
2
2
(3.26)
Jadi fungsi penyeleksi dalam pernyataan (3.18) menjadi
1
1
c(x) = i jika max {(x i.l ) t x − (x i.l ) t x i.l } > max {(x j .l ) t x − (x i.l ) t x j .l }
2
2
(3.27)
sehingga berdasarkan persamaan (3.22) fungsi diskriminan menjadi
1
2
θ i** (x) = max {(x i.l ) t x − (x i.l ) t x i.l } dengan 1 ≤ l ≤ N i
(3.28)
Contoh 3.1
Misalkan akan dilakukan penglasifikasian dengan 2 kelas dimana setiap kelas
terdiri atas 2 vektor ciri dan 5 sampel pada setiap kelas. Data vektor ciri tersebut dibe-
34
rikan dalam tabel di bawah :
Sampel
C1
X1
2
2
1
0
3
1
2
3
4
5
C2
X2
1
2
0
2
1
X1
4
4
3
2
1
X2
3
4
5
4
6
Tabel 3.1 Data Training Set
Berdasarkan Metode Jarak Minimum maka akan dicari prototype untuk setiap
kelas yaitu dengan menghitung nilai rata-rata sampel dalam setiap ciri dari masingmasing kelas. Hasil perhitungan prototype untuk setiap kelas diberikan dalam tabel
berikut :
Sampel
1
2
3
4
5
Rata-rata
C1
X1
2
2
1
0
3
1.6
C2
X2
1
2
0
2
1
1.2
X1
4
4
3
2
1
2.8
X2
3
4
5
4
6
4.4
Tabel 3.2 Perhitungan Prototype setiap kelas
Selanjutnya akan dihitung jarak setiap sampel dengan prototype setiap kelas dengan
rumus sebagai
1
⎧n
⎫2
d (x, x i ) = ⎨∑ ( x k − x ki ) 2 ⎬
⎩ k =1
⎭
yaitu jarak setiap ciri pada setiap sampel dengan prototype pada setiap kelasnya.
Dengan demikian, maka
35
jarak kelas ke-1 sampel ke-1 dengan prototype kelas ke-1 adalah
d (x1.1 , x1 ) = (2 − 1.6) 2
+ (1 − 1.2) 2 = 0.4472
jarak kelas ke-1 sampel ke-1 dengan prototype kelas ke-2 adalah
d ( x1.1 , x 2 ) = (2 − 2.8) 2
+ (1 − 4.4) 2 = 3.4928
jarak kelas ke-1 sampel ke-2 dengan prototype kelas ke-1 adalah
d ( x1.2 , x1 ) = (2 − 1.6) 2
+ (2 − 1.2) 2 = 0.8944
jarak kelas ke-1 sampel ke-2 dengan prototype kelas ke-2 adalah
d ( x1.2 , x 2 ) = (2 − 2.8) 2
+ (2 − 4.4) 2 = 2.5298
jarak kelas ke-1 sampel ke-3 dengan prototype kelas ke-1 adalah
d ( x1.3 , x1 ) = (1 − 1.6) 2 + (0 − 1.2) 2 = 1.3416
jarak kelas ke-1 sampel ke-3 dengan prototype kelas ke-2 adalah
d ( x1.3 , x 2 ) = (1 − 2.8) 2
+ (0 − 4.4) 2 = 4.7539
jarak kelas ke-1 sampel ke-4 dengan prototype kelas ke-1 adalah
d ( x1.4 , x1 ) = (0 − 1.6) 2
+ (2 − 1.2) 2 = 1.7889
jarak kelas ke-1 sampel ke-4 dengan prototype kelas ke-2 adalah
d ( x1.4 , x 2 ) = (0 − 2.8) 2
+ (2 − 4.4) 2 = 3.6878
jarak kelas ke-1 sampel ke-5 dengan prototype kelas ke-1 adalah
d ( x1.5 , x1 ) = (3 − 1.6) 2
+ (1 − 1.2) 2 = 1.4142
jarak kelas ke-1 sampel ke-5 dengan prototype kelas ke-2 adalah
36
d ( x1.5 , x 2 ) = (3 − 2.8) 2
+ (1 − 4.4) 2 = 3.4059
jarak kelas ke-2 sampel ke-1 dengan prototype kelas ke-1 adalah
d (x 2.1 , x1 ) = (4 − 1.6) 2
+ (3 − 1.2) 2 = 3
jarak kelas ke-2 sampel ke-1 dengan prototype kelas ke-2 adalah
d ( x 2.1 , x 2 ) = (4 − 2.8) 2
+ (3 − 4.4) 2 = 1.8439
jarak kelas ke-2 sampel ke-2 dengan prototype kelas ke-1 adalah
d ( x 2.2 , x1 ) = (4 − 1.6) 2
+ (4 − 1.2) 2 = 3.6878
jarak kelas ke-2 sampel ke-2 dengan prototype kelas ke-2 adalah
d ( x 2.2 , x 2 ) = (4 − 2.8) 2
+ (4 − 4.4) 2 = 1.2649
jarak kelas ke-2 sampel ke-3 dengan prototype kelas ke-1 adalah
d ( x 2.3 , x1 ) = (3 − 1.6) 2
+ (5 − 1.2) 2 = 4.0497
jarak kelas ke-2 sampel ke-3 dengan prototype kelas ke-2 adalah
d ( x 2.3 , x 2 ) = (3 − 2.8) 2
+ (5 − 4.4) 2 = 0.6325
jarak kelas ke-2 sampel ke-4 dengan prototype kelas ke-1 adalah
d ( x 2.4 , x1 ) = (2 − 1.6) 2 + (4 − 1.2) 2 = 2.8284
jarak kelas ke-2 sampel ke-4 dengan prototype kelas ke-2 adalah
d ( x 2.4 , x 2 ) = (2 − 2.8) 2
+ (4 − 4.4) 2 = 0.8944
jarak kelas ke-2 sampel ke-5 dengan prototype kelas ke-1 adalah
d ( x 2.5 , x1 ) = (1 − 1.6) 2
+ (6 − 1.2) 2 = 4.8374
37
jarak kelas ke-2 sampel ke-5 dengan prototype kelas ke-2 adalah
d ( x 2.5 , x 2 ) = (1 − 2.8) 2
+ (6 − 4.4) 2 = 2.4083
Berdasarkan hasil perhitungan di atas diberikan tabel klasifikasi sebagai berikut :
Sampel
d (x1.m , x1 )
d ( x 2. m , x 1 )
d min
klasifikasi
keterangan
(x1.1 )
0.4472
3.4928
0.4472
C1
benar
1.2
(x )
0.8944
2.5298
0.8944
C1
benar
1.3
(x )
1.3416
4.7539
1.3416
C1
benar
1.4
1.7889
3.6878
1.7889
C1
benar
1.5
(x )
1.4142
3.4059
1.4142
C1
benar
(x 2.1 )
(x )
3.0000
1.8439
1.8439
C2
benar
2.2
3.6878
1.2649
1.2649
C2
benar
2.3
(x )
4.0497
0.6325
0.6325
C2
benar
(x 2.4 )
2.8284
0.8944
0.8944
C2
benar
4.8374
2.4083
2.4083
C2
benar
(x )
2.5
(x )
Tabel 3.3 Ha
UNTUK KLASIFIKASI POLA
SKRIPSI
Diajukan untuk Memenuhi Salah Satu Syarat
Memperoleh Gelar Sarjana Sains
Program Studi Matematika
Disusun oleh :
Siti Wardani
NIM : 023114033
PROGRAM STUDI MATEMATIKA JURUSAN MATEMATIKA
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM
UNIVERSITAS SANATA DHARMA
YOGYAKARTA
2007
Setiap orang harus menyadari
Bahwa tidak semua yang diharapkan akan terjadi.
Tidak semua yang diinginkan akan terpenuhi dan
Tidak semua yang diminta akan diberikan.
Jangan pernah mengeluh ketika kamu harus menghadapinya !!
Jangan pernah menyerah ketika keadaan tidak memihakmu dan
Jangan pernah lelah untuk meneruskan langkahmu.
Akan datang saatnya kau akan tersenyum,
Akan tiba waktunya lukamu akan terobati, dan
Akan ada saatnya kamu akan menertawakan apa yang kamu lakukan saat ini.
Cobalah untuk menerima kenyataan walau pahit yang kau rasakan dan
Cobalah lupakan kepedihan dan mulailah tersenyum.
Apa yang dulu terlihat baik kini nampak sangat buruk.
Apa yang dulu terasa manis, kini nampak kegetiran karena itu pula
Apa yang terasa memilukan tak selamanya demikian.
Apa yang kini kamu sesali suatu saat akan kamu syukuri.
Karena kamu telah melakukannya dan
Apa yang kini membuatmu tertunduk dalam kesedihan
Suatu saat akan mendatangkan sorak kegembiraan.
Penuhi hatimu dengan ucapan Syukur dan
Siapkan hatimu untuk segala kemungkinan.
Belajarlah menerima kenyataan dan
Jangan ada putus asa dalam hidup sebab Allah megasihimu
Ia ada di dekatmu dan kau berharga di hadapan NYA.
Dengan kerendahan hati dan penuh rasa syukur skripsi ini kupersembahkan untuk :
Allah SWT Yang Maha Kasih
Keluarga tercinta ....Bapak, Mamak, dan adik-adikku
Keluarga Besar H. M. Soeharjo dan Kertorejo atas kasih sayangnya
Almamaterku tercinta
iv
ABSTRAK
Klasifikasi pola adalah suatu proses dalam menglasifikasikan suatu obyek yang
tidak diketahui ke dalam suatu kelas pola tertentu berdasarkan pada ciri-ciri yang
dimiliki obyek tersebut.
Metode Jarak Minimum adalah suatu penglasifikasi yang digunakan untuk
menglasifikasikan suatu obyek ke dalam suatu kelas pola tertentu berdasarkan pada
perhitungan jarak Euclidean. Dalam metode ini setiap kelas pola akan diwakili oleh
suatu prototype tunggal yang merupakan nilai rata-rata kelas polanya. Obyek tersebut
akan diklasifikasikan ke dalam kelas yang jarak antara prototype dari setiap kelas dan
obyek yang akan diklasifikasikan tersebut terkecil.
Algoritma Perceptron adalah penglasifikasi lain yang digunakan untuk mencari
suatu vektor bobot yang dapat memisahkan setiap kelas pola secara linear sehingga
sampel-sampel pola pada setiap kelas polanya dapat terklasifikasi dengan tepat.
vi
ABSTRACT
Pattern classification is a process in classifying an unknown object into a
particular class pattern based on characteristics possessed by the object.
Minimum distance method is a classifier used to classifier used to classify an
object into a particular class pattern based on Euclidean distance calculation. In this
method, every single pattern would be represented with a single prototype which is an
average score of its class pattern. The object would be classified into a class which
has the shortest distance between prototype from each class and the object itself.
Perceptron algorithm is a another classifier used to find a augmented vector
which able to separate linearly every class pattern and as the result, pattern samples in
every class pattern could be classified correctly.
vii
KATA PENGANTAR
Puji syukur penulis panjatkan kehadirat Allah SWT atas limpahan nikmat dan
karunia-Nya sehingga penulis dapat menyelesaikan skripsi ini. Skripsi ini disusun
sebagai salah satu syarat untuk memperoleh gelar Sarjana Sains di Program Studi
Matematika Jurusan Matematika Fakultas Matematika dan Ilmu Pengetahuan Alam
Universitas Sanata Dharma Yogyakarta.
Dalam penyusunan skripsi ini hingga selesai, penulis telah banyak mendapat
bantuan dari berbagai pihak berupa bimbingan, pengarahan, dan petunjuk. Untuk itu
pada kesempatan ini perkenankanlah penulis menghaturkan terima kasih yang
sebesar-besarnya kepada pihak yang telah memberikan bantuan ini, antara lain :
1. Bapak Ir. Ig. Aris Dwiatmoko, M.Sc, selaku Dekan Fakultas MIPA dan juga
dosen pembimbing akademik atas masukan, bimbingan serta dorongan kepada
penulis selama menempuh studi dan menyelesaikan skripsi ini.
2. Bapak Y.G. Hartono, S.Si, M.Sc selaku Ketua Program Studi Matematika yang
telah memberikan saran, bantuan, bimbingan dan ilmunya dalam bangku kuliah.
3. Ibu Ch. Enny Murwaningtyas, S.Si, M.Si selaku dosen pembimbing yang telah
dengan sabar membimbing, memberikan arahan, masukan, dan petunjuk kepada
penulis sehingga penulis dapat menyelesaikan skripsi ini.
4. Segenap Bapak dan Ibu dosen Fakultas MIPA atas segala ilmu, bimbingan dan
perhatian yang diberikan kepada penulis selama ini.
viii
5. Segenap karyawan Universitas Sanata Dharma, khususnya karyawan sekretariat
FMIPA atas kemudahan dan pelayanannya.
6. Keluarga tercinta....Bapak, Mamak matur nuwun atas bimbingan, doa, dukungan
moral maupun materiil dan atas kesabaran dalam mengarahkan penulis.Adikadikku Suci dan Sigit yang telah menjadi teman dan adik yang baik. Keluarga
besarku yang senantiasa memberikan dorongan, nasihat dan kehangatan dalam
persaudaraan. Semoga jasa-jasa kalian semua selalu menjadi inspirasi penulis
menuju kesuksesan di masa yang akan datang.
7. Teman-teman seperjuangan Mat’02 (Rita, Cheea, Deon, Aning, Palm, Wury,
Asih, Nunung, Lia, Bani, Desy) selamat,ya!! Lili, Priska, Sarry, Vida, Lenta, Ijup,
Ika, Archy, Debby, Aan, Taim, Marcus, Tato, Galeh
8. Teman-teman kosku Linoel, timboel, inem, primtoel, Maria atas keakraban dan
kenyamanannya.
9. Teman-teman KKN kelompok 1, teman-teman P3W, kakak-kakak serta adik-adik
angkatan atas kebersamaan selama ini.
10. Seseorang yang senantiasa menemaniku dalam suka maupun duka. Semoga Allah
SWT senantiasa membimbing kita.
11. Berbagai pihak yang tidak dapat penulis sebutkan satu persatu, terima kasih atas
segala bantuannya.
Semoga skripsi ini dapat bermanfaat bagi kita semua.
Yogyakarta, Mei 2007
Penulis
ix
DAFTAR ISI
Halaman
HALAMAN JUDUL ...……………………………………………………………
i
HALAMAN PERSETUJUAN PEMBIMBING ………………………………….
ii
HALAMAN PENGESAHAN ……………………………………………………
iii
HALAMAN PERSEMBAHAN ……………………………………………….....
iv
PERNYATAAN KEASLIAN KARYA ………………………………………….
v
ABSTRAK ..............................................................................................................
vi
ABSTRACT ...........................................................................................................
vii
KATA PENGANTAR ...........................................................................................
viii
DAFTAR ISI .........................................................................................................
x
DAFTAR TABEL .................................................................................................
xiii
DAFTAR GAMBAR ............................................................................................
xiv
DAFTAR LAMPIRAN ........................................................................................
xv
BAB I PENDAHULUAN ...................................................................................
1
A. Latar Belakang ...................................................................................
1
B. Rumusan Masalah .............................................................................
5
C. Pembatasan Masalah .........................................................................
5
D. TujuanPenulisan ................................................................................
6
E. Manfaat Penulisan .............................................................................
6
F. Metode Penulisan ...............................................................................
7
G. Sistematika Penulisan .........................................................................
7
x
BAB II LANDASAN TEORI …………………………………………………..
9
A. Ruang Euclidean Berdimensi-n .........................................................
9
B. Operasi-operasi dalam Ruang Euclidean Berdimensi-n ....................
10
C. Panjang, Jarak dan Keorthogonalan
dalam Ruang Euclidean berdimensi-n ...............................................
11
BAB III METODE JARAK MINIMUM UNTUK KLASIFIKASI POLA .........
19
A. Pengantar ............................................................................................
19
B. Fungsi Pengambilan Keputusan …………………………………….
22
C. Algoritma Jarak Minimum ………………………………………….
28
BAB IV ALGORITMA PERCEPTRON UNTUK KLASIFIKASI POLA ….....
40
A. Ruang Bobot ………………………………………………………...
40
B. Pelatihan Perceptron untuk Penglasifikasian Pola ………………….
44
1. Algoritma Perceptron untuk 2 kelas pola …………………...
45
2. Algoritma Perceptron untuk L kelas pola …………………...
57
BAB V APLIKASI METODE JARAK MINIMUM DAN
ALGORITMA PERCEPTRON UNTUK KLASIFIKASI POLA ……..
60
A. Pengantar ……………………………………………………………
60
B. Aplikasi Metode Jarak Minimum …………………………………..
62
C. Aplikasi Algoritma Perceptron ……………………………………..
65
1. Algoritma Perceptron untuk 2 kelas pola …………………...
65
2. Algoritma Perceptron untuk L kelas pola …………………...
68
xi
BAB VI PENUTUP …………………………………………………………….
72
A. Kesimpulan ………………………………………………………...
72
B. Saran ……………………………………………………………….
73
DAFTAR PUSTAKA …………………………………………………………...
74
LAMPIRAN …………………………………………………………………….
75
xii
DAFTAR TABEL
Halaman
Tabel Data Training Set …………………………………………………………
34
Tabel Perhitumgan Prototype Setiap kelas ...........................................................
34
Tabel Hasil Klasifikasi .........................................................................................
37
Tabel Data Training Set …………………………………………………………
37
Tabel Hasil Klasifikasi .........................................................................................
38
Tabel Klasifikasi Huruf Jawa dengan Metode Jarak Minimum ...........................
64
xiii
DAFTAR GAMBAR
Halaman
Gambar Konsep Penglasifikasi Jarak Minimum ………………………………...
20
Gambar Fungsi Pengambilan Keputusan dengan Tiga Kelas …………………...
23
Gambar Fungsi Diskriminan …………………………………………………….
28
Gambar Prototype Tunggal ……………………………………………………..
31
Gambar Batas Pengambilan Keputusan dengan Dua
Prototype pada Setiap kelas Pola …………………………………..
32
Gambar Garis Tegak Lurus …………………………………………………….
41
Gambar Huruf Jawa …………………………………………………………….
60
Gambar Flowchart Program Klasifikasi dengan Metode Jarak Minimum ……...
63
Gambar Flowchart Program Klasifikasi dengan
Algoritma Perceptron Dua Kelas ……...................................................
67
Gambar Flowchart Program Klasifikasi dengan
Algoritma Perceptron L Kelas …….......................................................
xiv
70
DAFTAR LAMPIRAN
Halaman
Lampiran Program Klasifikasi Contoh 3.1 dengan 2 Kelas 5 Sampel …………..
76
Lampiran Program Klasifikasi Contoh 3.2 dengan 3 Kelas 8 Sampel …………..
79
Lampiran Program untuk Memanggil Huruf Jawa ………………………………
84
Lampiran Program Aplikasi Metode Jarak Minimum …………………………..
96
Lampiran Program Klasifikasi Algoritma Perceptron
Contoh 4.1 dan Contoh 4.2 …………………………………………..
101
Lampiran Program Aplikasi Algoritma Perceptron 2 Kelas Pola ………………
105
Lampiran Program Klasifikasi Algoritma Perceptron Contoh 4.3 ……………..
109
Lampiran Program Aplikasi Algoritma Perceptron L Kelas Pola ………………
118
xv
BAB I
PENDAHULUAN
A. Latar Belakang Masalah
Pengenalan pola telah dikenal sejak dahulu. Namun sebelum tahun 1960-an
pengenalan pola lebih dikembangkan pada penelitian yang didasarkan pada teori statistika saja. Penemuan komputer telah membantu para ilmuwan untuk mencoba
mengembangkan metode pengenalan pola dalam berbagai bidang ilmu pengetahuan.
Sekarang aplikasi dari metode pengenalan pola telah banyak digunakan dalam berbagai penelitian, misal dalam bidang kedokteran (mengembangkan obat-obatan, memonitor ECG, meneliti hubungan DNA, dll), bidang teknologi (merancang mesin),
bahkan dalam kehidupan sehari-hari pengenalan pola juga sangat bermanfaat, misalnya untuk identifikasi sidik jari, pengenalan karakter mata, dan lain sebagainya.
Gambaran dari suatu obyek disebut pola, sedangkan penglasifikasian suatu obyek ke
dalam suatu kelas pola disebut pengenalan pola. Pengenalan pola bertujuan untuk
menglasifikasikan suatu obyek ke dalam anggota dari suatu kelas berdasarkan pada
ciri-ciri yang dimiliki obyek tersebut.
2
Obyek yang tidak diketahui kelasnya
sensor
ciri obyek yang tampak
Sistem
Pengenalan Pola
A
B
C
( perkiraan kelas )
Diagram 1. Sistem Pengenalan Pola
Input
Sensor
Ekstraksi ciri
Klasifikasi
Kelas
Diagram 2. Sistem Pengenalan Pola
Dalam Sistem pengenalan pola ada beberapa tahap yaitu sensor yang digunakan
sebagai alat penyaring untuk mengenali pola yang tampak dari suatu obyek. Selanjutnya adalah ekstraksi ciri yaitu suatu proses pengambilan ciri-ciri yang dimiliki suatu
3
obyek. Pada proses ini obyek dideteksi kemudian diukur sifat-sifat obyek yang berkaitan sebagai ciri. Ekstraksi ciri bertujuan untuk mengkarakterisasi suatu obyek
menggunakan pengukuran numerik. Biasanya satu ciri saja tidak cukup untuk membedakan antara objek dari kategori yang berbeda. Sehingga perlu untuk mengenali
sebanyak mungkin ciri-ciri yang dimiliki suatu obyek. Ciri-ciri yang dimiliki suatu
obyek akan diabstraksi dalam bentuk vektor yang disebut sebagai vektor ciri. Kumpulan dari vektor ciri disebut ruang ciri. Tahap terakhir adalah klasifikasi yang merupakan suatu proses proses pengelompokan obyek ke dalam kelas yang sesuai.
Dalam skripsi ini akan dibahas metode pengenalan pola pada tahap klasifikasi.
Klasifikasi pola bertujuan untuk mengidentifikasi obyek sebagai anggota dari suatu
kelas. Penglasifikasi menggunakan vektor ciri yang diberikan oleh pengekstraksi ciri
untuk memasukkan obyek ke dalam kelas yang sesuai. Penglasifikasi membagi ruang
ciri dari kelas-kelas obyek ke dalam daerah klasifikasi yang berbeda kemudian memasukkan obyek tersebut ke dalam daerah klasifikasi yang sesuai.
Contoh sederhana pengenalan pola. Dalam sebuah keranjang terdapat tiga jenis
bunga yaitu bunga mawar, bunga dahlia dan bunga sepatu. Seorang penjual bunga
ingin mengelompokkan setiap bunga dalam keranjang tersebut sesuai dengan jenisnya. Sehingga untuk dapat mengelompokkan dengan benar harus dikenali ciri-ciri
dari setiap bunga. Penjual bunga mencoba untuk mengenali panjang dan lebar daun
bunganya. Dalam kasus ini terdapat dua ciri yang akan diamati dari setiap bunga
yaitu panjang dan lebar daun bunganya. Sehingga vektor ciri x terdiri dari dua ciri
4
yaitu x1 = panjang daun bunga dan x 2 = lebar daun bunga. Terdapat kasus pengenalan pola yang terdiri atas tiga kelas pola misalkan C1 = kelas bunga mawar, C 2 =
kelas bunga dahlia dan C 3 = kelas bunga sepatu. Setiap kelas pola mempunyai ukuran
panjang dan lebar daun bunga yang berbeda-beda. Sehingga untuk menglasifikasikannya maka setiap bunga dalam keranjang tersebut akan diukur panjang dan lebar
daun bunganya. Setelah itu akan dihitung selisih panjang dan lebar daun bunga setiap
bunga dalam keranjang dengan panjang dan lebar daun bunga setiap kelas. Misalkan
suatu bunga ternyata selisih panjang dan lebar daun bunganya dengan kelas C1 paling
kecil maka bunga tersebut akan dikategorikan sebagai anggota kelas C1 yaitu kelas
bunga mawar. Dalam proses penglasifikasian bunga di atas digunakan faktor jarak
dalam menghitung selisih panjang dan lebar daun bunga suatu bunga dengan kelas
bunga tertentu.
Dalam skripsi akan dibahas penggunaan metode Jarak Minimum untuk klasifikasi pola dan penggunaan algoritma Perceptron. Dengan menggunakan metode Jarak
Minimum maka suatu obyek akan diklasifikasikan ke dalam kelas yang jaraknya terdekat atau terkecil dengan obyek tersebut. Obyek akan diproses melalui tahap-tahap
dalam sistem pengenalan pola di atas. Kemudian akan diperoleh ciri-cirinya dan
diabstraksikan sebagai vektor ciri. Suatu penglasifikasi adalah alat dengan n masukan
dan sebuah keluaran. Setiap input digunakan untuk menginformasikan satu dari n ciri
yaitu x1 , x 2 ,...., x n yang diukur dari suatu obyek untuk diklasifikasikan. Suatu
penglasifikasi R akan menghasilkan satu dari R simbol C1 , C 2 , C 3 , ....., C R sebagai
5
suatu keluaran, keluaran ini merupakan suatu keputusan tentang kelas dari obyek
yang diklasifikasikan.
Algoritma Perceptron digunakan untuk mencari suatu vektor bobot sembarang
w, kemudian vektor bobot w tersebut digunakan untuk memisahkan dua kelas pola
tersebut secara linear sehingga sampel-sampel pola pada setiap kelas akan terklasifikasi dengan benar.
B. Perumusan Masalah
Pokok permasalahan yang akan dibahas adalah :
1. Bagaimana landasan matematis metode Jarak Minimum untuk klasifikasi pola?
2. Bagaimana klasifikasi pola dilakukan dengan metode Jarak Minimum?
3. Bagaimana
landasan
matematis
algoritma
Perceptron
digunakan
untuk
menglasifikasikan dua kelas pola ?
4. Bagaimana klasifikasi pola dari dua kelas yang berbeda dilakukan dengan algoritma Perceptron ?
C. Batasan Masalah
Dalam penulisan skripsi ini, penulis menggunakan metode Jarak Minimum dan
algoritma Perceptron untuk menglasifikasikan sampel-sampel pola pada setiap kelas
pola yang berbeda. Sedangkan proses untuk menemukan vektor ciri dari obyek dan
peggunaan algoritma Perceptron untuk L kelas pola tidak akan dibahas dalam skripsi.
6
D. Tujuan Penulisan
Tujuan penulisan skripsi ini adalah :
1. Memahami landasan matematis yang digunakan dalam klasifikasi pola dengan metode Jarak Minimum dan algoritma Perceptron.
2. Membedakan suatu obyek dari obyek lain dengan menentukan kelompok pola ber
dasarkan ciri-ciri yang dimiliki obyek tersebut.
3. Melakukan identifikasi suatu pola yang diamati sebagai anggota dari suatu kelas
pola yang sudah diketahui menggunakan metode Jarak Minimum dan algoritma
Perceptron.
4. Menyelesaikan masalah-masalah pengenalan pola dalam tahap klasifikasi pola
menggunakan metode Jarak Minimum dan algoritma Perceptron.
E. Manfaat Penulisan
Manfaat penulisan skripsi ini adalah :
1. Dapat mengerti landasan matematis yang digunakan dalam metode Jarak Minimum
dan algoritma Perceptron untuk klasifikasi pola.
2. Dapat mengetahui tahap-tahap klasifikasi pola menggunakan metode Jarak Minimum dan algoritma Perceptron.
3. Dapat mengaplikasikannya dalam masalah-masalah pengenalan pola pada tahap
klasifikasi pola.
7
F. Metode Penulisan
Metode penulisan yang digunakan dalam skripsi ini adalah metode studi pustaka
dengan mempelajari beberapa bagian materi dari buku yang digunakan sebagai bahan
acuan dan bantuan komputer khususnya program Matlab.
G. Sistematika Penulisan
Pada Bab 1 Pendahuluan, berisi gambaran umum tentang isi skripsi yang meliputi latar belakang masalah, perumusan masalah, batasan masalah, tujuan penuli san,
manfaat penulisan, metode penulisan, dan sistematika penulisan.
Pada Bab 2 Landasan Teori, berisi beberapa teori yang mendasari pembahasan
bab berikutnya, yaitu sifat-sifat penjumlahan dan perkalian vektor, Norm Euclidean,
jarak Euclidean, dan pertidaksamaan Cauchy Schwart.
Pada Bab 3 Metode Jarak Minimum untuk Klasifikasi Pola, berisi tentang pengantar metode Jarak Minimum, pengambilan keputusan dengan pendekatan jarak
Euclidean. Pembahasan terakhir dari bab ini adalah penggunaan metode Jarak Minimum untuk menglasifikasikan pola.
Pada Bab 4 Algoritma Perceptron untuk klasifikasi pola, berisi tentang pengantar algoritma Perceptron, pengambilan keputusan dengan algoritma Perceptron. Pembahasan terakhir dari bab ini adalah penggunaan algoritma Perceptron dalam
menglasifikasiakan pola.
8
Pada Bab 5 Aplikasi Metode Jarak Minimum dan Algoritma Perceptron untuk
Klasifikasi Pola, Bab ini menyajikan suatu kasus klasifikasi pola dengan menggunakan metode Jarak Minimum dan algoritma Perceptron.
Pada Bab 6 Penutup, penulis akan membuat kesimpulan mengenai skripsi yang
ditulis dan mengharapkan saran sebagai masukan yang membangun bagi penulis
dalam pengembangan masalah klasifikasi pola dengan metode Jarak Minimum dan
algoritma Perceptron selanjutnya.
BAB II
LANDASAN TEORI
Pada bab ini akan dibahas teori-teori yang mendasari penggunaan metode Jarak
Minimum untuk klasififkasi pola yaitu :
A. Ruang Euclidean Berdimensi-n
Sub bab ini bertujuan untuk memperkenalkan vektor di ruang Euclidean berdimensi –n.
Definisi 2.1
Himpunan dari semua kumpulan terurut (v1 , v 2 , v3 ,........, v n ) disebut ruang Euclidean
berdimensi-n dan diberi lambang ℜ n .
Definisi 2.2
Vektor
v
di
ℜn
adalah
pasangan
terurut
(v1 , v 2 , v3 ,........, v n )
dengan
v1 , v 2 , v3 ,........, v n merupakan bilangan real. Ditulis v = ( v1 , v 2 , v 3 ,..... , v n ) , nilai-nilai
v1 , v 2 , v3 ,........, v n disebut komponen atau koordinat dari vektor.
10
B. Operasi-operasi dalam Ruang Euclidean Berdimensi-n
Operasi-operasi yang berlaku dalam ℜ n adalah sebagai berikut :
Definisi 2.3
Dua vektor u = ( u1 , u2 , ..... , un ) dan v = ( v1 , v 2 , ..... , v n ) dalam ℜ n disebut sama jika
u1 = v1 , u 2 = v 2 ,......, u n = v n )
Jumlah u + v adalah
u + v = (u1 + v1 , u 2 + v 2 ,......, u n + v n )
Jika s sebarang skalar, perkalian skalar su adalah
su = ( su1 , su 2 , ....., su n )
Teorema 2.1
Jika u = ( u1 , u2 , ..... , un ) , v = ( v1 , v 2 , ..... , v n ) dan w = ( w1 , w2 , ..... , wn ) adalah
vektor-vektor dalam ℜ n dan r dan s sebarang skalar, maka
(a) u + v = v + u
(Sifat Komutatif)
( b) u + ( v + w ) = (u + v ) + w
(Sifat Assosiatif )
(c) u + 0 = u
(Sifat Identitas)
(d) u + (-1)u = 0
(e) r(u + v ) = ru + rv
(f) (r + s)u = ru + su
(Invers elemen)
(Distribut if)
11
(g) r(su) = ( rs)u
(h) 1(u ) = u
C. Panjang, Jarak dan Keorthogonalan dalam Ruang Euclidean berdimensi-n
Selanjutnya akan dibahas tentang gagasan panjang (norm), jarak dan
keorthogonalan vektor-vektor dalam ℜ n . Namun, sebelumnya akan didefinisiskan
hasil kali titik dalam ruang Euclidean berdimensi –n sebagai berikut
Definisi 2.4
Jika u = ( u1 , u 2 , ..... , u n ) dan v = ( v1 , v 2 , ..... , v n ) adalah sebarang vektor dalam ℜ n ,
maka hasil kali dalam Euclidean u · v dari dua vektor tersebut didefinisikan sebagai
u ⋅ v = u1v1 + u 2 v 2 + ....... + u n v n
Karena suatu vektor dapat dituliskan dalam bentuk matriks, maka perkalian titik dapat dituliskan sebagai
u · v = ut v
Teorema 2.2
Jika u, v, dan w adalah vektor di ℜ n dan r sebarang skalar, maka
(a) u · v = v · u
( Komutatif )
(b) ( u + v ) · w = u · w + v · w
( Distributif )
12
(c) (ru) · v = r(u · v)
( Homogen )
(d) u · u ≥ 0
(e) u · u = 0 jika dan hanya jika u = 0
Dalam ℜ 2 , panjang vektor adalah panjang garis yang mewakili vektor itu, dan
jarak diantara vektor u dan v ialah jarak diantara dua titik yang mewakili kedua
vektor itu. Dengan demikian, panjang dan jarak bagi vektor-vektor dalam ℜ n adalah
sebagai berikut :
Definisi 2.5
Norm Euclidean dari suatu vektor u = ( u1 , u2 , ..... , un ) dalam ℜ n adalah
u = (u ⋅ u)
sehingga u ⋅ u = u
1
2
=
u ⋅ u = (u1 ) 2 + (u 2 ) 2 + ....... + (u n ) 2
2
Definisi 2.6
Jarak Euclidean antara titik-titik u = ( u1 , u2 , ..... , un ) dan v = ( v1 , v 2 , ..... , v n ) dalam
ℜ n adalah
d (u, v) = u − v = (u1 − v1 ) 2 + (u 2 − v 2 ) 2 + ........ + (u n − v n ) 2
d (u, v) =
n
∑ (u
i =1
i
− vi ) 2
13
Contoh 2. 1
Misalkan u = (1, 3, -2, 1) dan v = (2, 1, 1, 0), maka
u = (1) 2 + (3) 2 + (−2) 2 + (1) 2 = 15
v = (2) 2 + (1) 2 + (1) 2 + (0) 2 = 6
dan
d (u, v ) = (1 − 2) 2 + (3 − 1) 2 + ( −2 − 1) 2 + (1 − 0) 2 = 15
■
Teorema 2.3 Ketaksamaan Cauchy-Schwarz dalam ℜ n
Jika u = ( u1 , u2 , ..... , un ) dan v = ( v1 , v 2 , ..... , v n ) adalah vektor-vektor dalam ℜ n ,
maka
u⋅v ≤ u v
(1)
atau dinyatakan dalam bentuk komponen-komponen,
(
u1v1 + u 2 v 2 + ...... + u n v n ≤ u12 + u 22 + ..... + u n2
) (v
1
2
2
1
+ v 22 + ....... + v n2
)
1
2
Bukti :
Jika u = 0 maka kedua ruas di (1) sama dengan nol. Oleh karena itu ketaksamaan
tersebut berlaku. Jika u ≠ 0 , untuk setiap bilangan real x, berdasarkan Teorema 2.2
maka nilai
( xu + v ) ⋅ ( xu + v ) ≥ 0
(u ⋅ u) x 2 + 2(u ⋅ v) x + (v ⋅ v) ≥ 0
(2)
14
pertidaksamaan (2) merupakan fungsi kuadrat dalam x yang harus selalu nonnegatif.
Artinya fungsi kuadrat tersebut tidak mempunyai akar real yang berbeda. Oleh karena
itu, diskriminannya tidak mungkin positif atau
4(u ⋅ v) 2 − 4(u ⋅ u) (v ⋅ v) ≤ 0
4(u ⋅ v) 2 ≤ 4(u ⋅ u) (v ⋅ v)
(u ⋅ v) 2 ≤ (u ⋅ u) (v ⋅ v)
Berdasarkan Definini norm vektor maka diperoleh
(u ⋅ v) 2 ≤ || u ||2 || v ||2
dengan mengambil akar kedua ruas diperoleh
| u ⋅ v | ≤ || u || || v ||
■
Panjang (Norm) dan jarak dalam ruang Euclidean berdimensi-n memenuhi sifat-sifat
berikut :
Teorema 2.4
Jika u, v dan w adalah vektor-vektor dalam ℜ n dan k sebarang skalar, maka
(a) u ≥ 0
(b) u = 0 jika dan hanya jika u = 0
(c) ku = k u
(d) u + v ≤ u + v
(Ketaksamaan Segitiga)
15
(e) d (u, v ) ≥ 0
(f) d (u, v ) = 0 jika dan hanya jika u = v
(g) d (u, v ) = d ( v, u )
(h) d (u, v ) ≤ d ( w , u) + d ( w , v )
(Ketaksama an Segitiga)
Bukti :
(a) Misalkan u = ( u1 , u2 , ..... , un ) , v = ( v1 , v 2 , ..... , v n ) dan w = ( w1 , w2 , ..... , wn ) ,
berdasarkan Definisi norm vektor diperoleh
u =
(u1 ) 2 + (u 2 ) 2 + ....... + (u n ) 2
Karena kuadrat dari bilangan real ≥ 0 maka u ≥ 0
(b) (⇒) Diketahui u = 0 , dengan kontradiksi akan dibuktikan u = 0
Andaikan u ≠ 0 maka ∃u1 ,......, u n yang tidak semuanya = 0
Misal u1 ≠ 0 , maka u12 ≠ 0 . Sehingga
u =
(u1 ) 2 + (u 2 ) 2 + ....... + (u n ) 2 ≠ 0
karena kuadrat bilangan real > 0, maka u > 0 kontradiksi dengan u = 0 .
Jadi u = 0
(⇐) Jika u = 0
maka
u = (u1 ) 2 + (u 2 ) 2 + ....... + (u n ) 2 = 0 + 0 + ....... + 0 = 0
(c) Jika u = ( u1 , u2 , ..... , un ) , maka ku = ( ku1 , ku 2 , ..... , ku n ) sehingga
16
ku =
(ku1 ) 2 + (ku 2 ) 2 + ....... + (ku n ) 2 = k (u1 ) 2 + (u 2 ) 2 + ....... + (u n ) 2 = k u
(d) Berdasarkan Definisi norm vektor diperoleh
u+v
2
= (u + v ) ⋅ (u + v )
Berdasarkan Teorema 2.2 sifat (b) maka
u+v
2
= u ⋅ (u + v ) + v ⋅ (u + v ) = (u ⋅ u) + (u ⋅ v ) + (u ⋅ v ) + ( v ⋅ v )
= (u ⋅ u) + 2(u ⋅ v ) + ( v ⋅ v )
Berdasarkan Definisi Norm vektor diperoleh
2
2
u + v = u + 2(u ⋅ v ) + v
2
karena u ⋅ v ≤ u ⋅ v maka u + v ≤ u + 2 | u ⋅ v | + v
2
2
2
Berdasarkan Ketaksamaan Cauchy-Schawrz
2
2
u+v ≤ u +2u v + v
2
= ( u + v )2
Dengan mengakarkan kedua ruas diperoleh
u+v ≤ u + v
(e)
Berdasarkan Definisi jarak vektor maka diperoleh
d (u, v) = u − v = (u1 − v1 ) 2 + (u 2 − v 2 ) 2 + ........ + (u n − v n ) 2
Karena kuadrat bilangan real ≥ 0 maka d (u, v ) ≥ 0
(f)
(⇐) Jika u = v, maka (u1 − v1 ) = 0, (u 2 − v2 ) = 0,....., (u n − vn ) = 0 , sehingga
17
d (u, v) = u − v = (u1 − v1 ) 2 + (u 2 − v2 ) 2 + ........ + (u n − vn ) 2
d (u, v ) ≥ 0 = 0 + 0 + ....... + 0 = 0
(⇒) Diketahui d (u, v) = 0 . Dengan kontradiksi akan dibuktikan bahwa u = v
Andaikan u ≠ v, ∃( u1 −v1 ),....,( u 2 −v2 ) tidak semuanya sama dengan 0
Misal (u1 − v1 ) ≠ 0 maka
d (u, v) = u − v = (u1 − v1 ) 2 + (u 2 − v2 ) 2 + ........ + (u n − vn ) 2 ≠ 0
Kontradiksi dengan d (u, v ) = 0 . Jadi u = v
(g) Jika u = ( u1 , u2 , ..... , un ) dan v = ( v1 , v 2 , ..... , v n ) maka
d (u, v) = u − v = (u1 − v1 ) 2 + (u 2 − v2 ) 2 + ........ + (u n − vn ) 2
Berdasarkan sifat kuadrat bilangan real maka diperoleh
d (u, v ) = (v1 − u1 ) 2 + (v 2 − u 2 ) 2 + ........ + (v n − u n ) 2 = v − u = d ( v, u )
(h) Berdasarkan sifat penjumlahan vektor
d (u, v) = u − v = (u - w ) + (w − v)
Berdasarkan Definisi norm vektor maka diperoleh
(u - w ) + ( w − v )
2
= ((u − w ) + ( w − v )) ⋅ ((u - w ) + ( w - v ))
= ( u - w ) ⋅ (u - w ) + ( u − w ) ⋅ ( w − v ) + ( u - w ) ⋅ ( w - v ) + ( w - v ) ⋅ ( w - v )
= (u - w ) ⋅ (u - w ) + 2(u - w ) ⋅ (w - v ) + ( w - v ) ⋅ ( w - v )
Berdasarkan Definisi Norm vektor diperoleh
18
2
(u - w ) + (w − v ) = u - w + 2(u - w) ⋅ (w - v ) + w - v
2
2
Berdasarkan sifat nilai mutlak u ⋅ v ≤ u ⋅ v maka
2
(u - w ) + ( w − v ) ≤ u - w
2
+ 2 | (u - w) . ( w - v ) | + w - v
2
Berdasarkan Ketaksamaan Cauchy-Schawrz
2
(u - w) + (w − v) ≤ u - w
2
+ 2 u - w w - v + w - v = ( u - w + w - v )2
2
Dengan mengakarkan kedua ruas maka diperoleh
(u - w ) + (w − v) ≤ u - w + w - v
d (u, v ) ≤ d (u − w ) + d ( w − v )
Definisi 2.7
Dua vektor u dan v dalam ℜ n disebut orthogonal jika u · v = 0.
■
19
BAB III
METODE JARAK MINIMUM UNTUK KLASIFIKASI POLA
A. Pengantar
Klasifikasi pola adalah pengelompokan suatu obyek yang tidak diketahui ke
dalam suatu kelas pola yang diketahui. Pengambilan keputusan adalah penentuan
suatu obyek untuk dikategorikan ke dalam suatu kelas pola yang sesuai.
Penglasifikasi Jarak Minimum digunakan untuk menglasifikasikan suatu pola yang
tak diketahui ke dalam suatu kelas yang jarak antara suatu pola dan kelas pola
tertentu minimum. Penglasifikasian pola dengan metode jarak minimum menggunakan konsep jarak Euclidean. Dalam hal ini kita akan menghitung jarak antara
dua vektor yaitu vektor dari pola yang tidak diketahui dan vektor dari kelas pola
tertentu yang telah diketahui.
Dalam pengenalan pola, ciri-ciri yang tampak dari suatu obyek disebut dengan
istilah pola. Jadi, pola adalah ukuran kuantitatif dari suatu obyek. Kelas pola adalah
kumpulan pola-pola yang memiliki beberapa sifat umum. Jika terdapat suatu
pengenalan pola dengan L kelas pola maka kelas-kelas pola dinotasikan sebagai C i
dengan 1 ≤ i ≤ L . Irisan dari tiap-tiap kelas pola adalah himpunan kosong yang
dinotasikan dengan
C i I C j = Φ jika i ≠ j
Gabungan dari L kelas pola tersebut adalah ruang pola berdimensi n ( ℜ n ) yang
dinotasikan dengan
20
∩C
1≤i ≤ L
i
= ℜn
Di bawah ini ditunjukan konsep dari suatu penglasifikasi jarak minimum untuk
menglasifikasikan suatu obyek ke dalam kelas yang sesuai yang terdiri dari tiga kelas
pola yaitu C1 , C 2 , dan C3 , Jarak obyek ke dalam kelas pola tertentu dinotasikan
dengan dC i dengan 1 ≤ i ≤ 3 . Setiap kelas pola dipisahkan oleh suatu garis yang
disebut batas keputusan.
Kelas C1
Data yang tak
diketahui
Jarak minimum ke
kelas C 2 diklasifikasi
kan ke kelas C 2
d C1
Batas keputusan
Rata-rata kelas C 2
∗
d C2
d C3
Kelas C 2
Jarak kelas C 2 dan data
yang tak diketahui
Kelas C 3
Gambar 3.1 Konsep penglasifikasi Jarak Minimum
Sebelum menglasifikasikan suatu obyek harus dikenali dulu ciri-ciri yang tampak dari obyek tersebut. Satu ciri saja tidak cukup untuk membedakan obyek dari kelas yang berbeda sehingga perlu untuk mengenali ciri-ciri dari suatu obyek sebanyak
mungkin. Ciri-ciri obyek tersebut ditulis sebagai vektor ciri. Nilai-nilai dari vektor
ciri diukur dari sampel-sampel yang digunakan dalam masing-masing kelas pola yang
21
disebut sampel pola. Sampel pola dari masing-masing kelas pola berbeda-beda, kelas
C i mempunyai sampel pola sebanyak M i .
Jika terdapat suatu obyek x yang akan diklasifikasikan mempunyai ciri
sebanyak n, maka vektor cirinya adalah vektor kolom berdimensi n. Vektor ciri
tersebut dinotasikan dengan
x i. j ∈ Ci
(3.1)
dengan 1 ≤ i ≤ L dan 1 ≤ j ≤ M i . Vektor ciri x i. j adalah elemen-elemen dari ruang
pola ℜ n , sehingga x i. j mempunyai n elemen yang dinotasikan sebagai x ki. j dengan
1≤ k ≤ n.
Misalkan dalam suatu keranjang bunga terdapat tiga jenis bunga yaitu bunga
mawar, bunga dahlia dan bunga sepatu. Setiap bunga dalam keranjang akan
diklasifikasikan sesuai dengan kelasnya berdasarkan ciri-ciri yang dimiliki oleh setiap
bunga. Sedangkan ciri-ciri yang diamati adalah panjang dan lebar daun bunganya.
Jadi penglasifikasian setiap bunga dalam keranjang tersebut didasarkan pada panjang
dan lebar daun bunga dari masing-masing bunga tersebut.
Dalam penglasifikasian bunga di atas, terdapat tiga kelas pola yaitu C1 = kelas
bunga mawar, C 2 = kelas bunga dahlia dan C 3 = kelas bunga sepatu. Sedangkan ciriciri yang diamati adalah panjang dan lebar daun bunganya, maka vektor ciri x
berdimensi dua (n = 2) atau x = ( x1 , x 2 ) dengan x1 = panjang daun bunga dan x 2 =
lebar daun bunga. Dengan demikian, suatu bunga akan diklasifikasikan ke dalam
22
kelas bunga yang sesuai berdasarkan pada ukuran panjang dan ukuran lebar daun bunganya.
B. Fungsi Pengambilan Keputusan
Sistem pengenalan pola adalah suatu sistem yang mengambil sampel baru x*
yang tak diketahui klasifikasinya untuk dikelompokkan ke dalam suatu kelas pola C i
(1 ≤ i ≤ L) berdasarkan pada beberapa aturan pengambilan keputusan. Suatu aturan
pengambilan keputusan ini diperoleh dari pemartisian ruang pola ke dalam beberapa
daerah terpisah yang sesuai dengan kelas Ci . Setiap kelas C i dipisahkan oleh suatu
kurva yang disebut sebagai batas pengambilan keputusan berdimensi (n-1).
Jika terdapat kasus pengenalan pola dengan tiga kelas dalam ruang pola
berdimensi dua, maka visualisasi secara geometri akan lebih mudah digunakan untuk
menentukan fungsi pengambilan keputusannya. Namun dalam masalah nyata ruang
polanya berdimensi tinggi atau berdimensi n, maka batas pengambilan keputusannya
adalah hipersurface berdimensi (n-1).
23
x2
g13 (x) = 0
Kelas 3
g13 (x) > 0
g13 (x) < 0
Kelas 1
g 23 (x) < 0
Daerah
tak tentu
g 23 (x) > 0
g12 (x) <
Kelas 2
g 23 (x) = 0
x1
g12 (x) = 0
Gambar 3.2 Fungsi pengambilan keputusan dengan tiga kelas
Definisi 3.1
Jika g ij (x) adalah suatu fungsi pengambilan keputusan yang didefinisikan pada
ruang pola yang bernilai real, dengan kelas-i dan kelas-j berada dalam sisi yang
berlawanan dari suatu hipersurface tersebut maka
g ij (x) = 0
(3.2)
Definisi 3. 2
Suatu pola yang tak dikenali x* akan diklasifikasikan ke dalam kelas ke-i berdasarkan
pada suatu fungsi pengambilan keputusan g ij (x) sebagai berikut
Jika x* berada dalam kelas ke-i maka x* ∈ { x : g ij (x) > 0 }
(3.3)
24
Jika x* berada dalam kelas ke-j maka x* ∈ { x : g ij (x) < 0 }
(3.4)
Dari Definisi 3.2 dapat disimpulkan bahwa suatu pola yang tak diketahui (x*) akan
diklasifikasikan ke dalam kelas ke-i jika g ij (x*) > 0 dan akan diklasifikasikan ke
dalam kelas ke-j jika g ij (x*) < 0
Teorema 3. 1
Jika g ij (x) dan g ji (x) adalah suatu fungsi pengambilan keputusan, maka
g ij (x) = − g ji (x)
bukti :
Jika g ij (x) adalah fungsi pengambilan keputusan maka berdasarkan Definisi 3.2
diperoleh :
Jika x ∈ C i maka g ij (x) > 0
Jika x ∈ C j maka g ij (x) < 0
⎫
⎬
⎭
(i)
Jika g ji (x) adalah fungsi pengambilan keputusan maka berdasarkan Definisi 3.2
diperoleh :
Jika x ∈ C i maka g ji (x) < 0
Jika x ∈ C j maka g ji (x) > 0
⎫
⎬
⎭
(ii)
Berdasarkan persamaan (i) dan (ii) diperoleh
Jika x ∈ C i maka g ij (x) > 0 dan g ji (x) < 0 atau g ij (x) > 0 dan − g ji (x) > 0 ,
sehingga
25
g ij (x) = − g ji (x)
▄
Definisi 3. 3
Misalkan ℜ n adalah ruang pola dan { 1, 2, …., L } himpunan kelas pola. Suatu
fungsi penyeleksi c(x) adalah suatu pemetaan c : ℜ n ⎯
⎯→ {1, 2, …., L} adalah suatu
cara yang mengaitkan setiap unsur di ℜ n dengan satu unsur dalam himpunan bulat
positif 1, 2, …., L, sedemikian sehingga
Jika x berada dalam kelas ke-i maka c(x) = i
Berdasarkan pada Definisi 3.2 dan Definisi 3.3 jika x berada dalam kelas ke-i maka
fungsi penyeleksi c(x) menjadi
Jika g ij (x) > 0 maka c(x) = i , ∀j , i ≠ j
(3.5)
Jika terdapat pengenalan pola dengan tiga kelas maka berdasarkan persamaan
(3.5) aturan penglasifikasiannya adalah
1. Suatu pola yang tak diketahui (x*) akan diklasifikasikan menjadi anggota
kelas ke-1, maka fungsi penyeleksi c(x) untuk kelas ke-1 sebagai berikut
i. Batas pengambilan keputusan yang memisahkan kelas 1 dan kelas 2 adalah
g12 (x*) > 0.
ii. Batas pengambilan keputusan yang memisahkan kelas 1 dan kelas 3 adalah
g13 (x*) > 0.
Sehingga dapat ditulis sebagai berikut
26
Jika g12 (x*) > 0, g13 (x*) > 0 maka c(x*) = 1
(3.6)
2. Suatu pola yang tak diketahui (x*) akan diklasifikasikan menjadi anggota kelas ke-2, maka fungsi penyeleksi c(x) untuk kelas ke-2 sebagai berikut
i. Batas pengambilan keputusan yang memisahkan kelas 2 dan kelas 1 adalah
g12 (x*) < 0 atau g 21 (x*) > 0.
ii. Batas pengambilan keputusan yang memisahkan kelas 2 dan kelas 3 adalah
g 23 (x*) > 0.
Sehingga dapat ditulis sebagai berikut
Jika g12 (x*) < 0, g 23 (x*) > 0 maka c(x*) = 2
(3.7)
3. Suatu pola yang tak diketahui (x*) akan diklasifikasikan menjadi anggota kelas ke-2, maka fungsi penyeleksi c(x) untuk kelas ke-2 sebagai berikut
i. Batas pengambilan keputusan yang memisahkan kelas 3 dan kelas 1 adalah
g13 (x*) < 0 atau g 31 (x*) > 0.
ii. Batas pengambilan keputusan yang memisahkan kelas 3 dan kelas 2 adalah
g 23 (x*) < 0 atau g 32 (x*) > 0.
Sehingga dapat ditulis sebagai berikut
Jika g13 (x*) < 0, g 23 (x*) < 0 maka c(x*) = 3
(3.8)
Jadi berdasarkan pernyataan (3.5) fungsi penyeleksi untuk setiap kelas pola dapat
dituliskan sebagai berikut
27
⎧ 1 jika g13 (x) > 0, g12 (x) > 0
⎪⎪
c(x) = ⎨ 2 jika g12 ( x) < 0 ( atau g 21 (x) > 0 ), g 23 (x) > 0
⎪
⎪⎩ 3 jika g13 ( x) < 0 ( atau g 31 (x) > 0), g 23 (x) < 0 ( atau g 32 (x) > 0)
Fungsi pengambilan keputusan g ij (x) memisahkan dua kelas yang berbeda yaitu
kelas ke-i dan kelas ke-j. Berdasarkan Teorema 3.1 diketahui bahwa g ij (x) = − g ji (x)
sehingga banyaknya pilihan fungsi pengambilan keputusan untuk memisahkan L
kelas pola dapat dihitung menggunakan rumus kombinasi yaitu kombinasi 2 yang
diambil dari L berbeda adalah
C2L Δ
L!
L(l − 1)( L − 2)! L( L − 1)
=
=
( L − 2)!2!
( L − 2)!2!
2
Dalam Gambar 3.2, terdapat suatu daerah tak tentu sehingga fungsi pengambilan
keputusan pada Definisi 3.2 tidak dapat digunakan untuk menglasifikasikan sampel.
Namun, masalah ini dapat diselesaikan menggunakan fungsi diskriminan dengan cara
menuliskan setiap g ij dalam bentuk sebagai berikut :
g ij (x) = θ i (x) - θ j (x)
(3.9)
Fungsi θ i yang didefinisikan sebagai fungsi pengambilan keputusan g ij dalam
persamaan (3.9) di atas disebut sebagai fungsi diskriminan. Dengan demikian, fungsi
penyeleksi dalam pernyataan (3.5) menjadi :
jika θ i (x) - θ j (x) > 0 maka c(x) = i
atau
jika θ i (x) > θ j (x) maka c(x) = i dengan i ≠ j
(3.10)
28
Dengan menggunakan fungsi diskriminan maka Gambar 3.2 di atas akan tampak
sebagai berikut :
x2
θ1 (x ) = θ 2 (x )
Kelas 3
θ 2 ( x) = θ 3 (x )
Kelas 2
Kelas 1
θ1 (x ) = θ 3 (x )
x1
Gambar 3.3 Fungsi diskriminan
C. Algoritma Jarak Minimum
Misalkan banyaknya sampel pola pada setiap kelas pola adalah M i dan sampelsampel pola kelas ke-i ditulis x i. j dengan 1 ≤ j ≤ M i . Dalam metode jarak minimum
suatu sampel pola baru yang tak diketahui x akan diklasifikasikan ke dalam kelas pola
yang terdiri dari sampel-sampel pola yang diketahui x i. j . Sampel pola baru tersebut
akan diklasifikasikan ke dalam kelas yang jarak antara sampel pola baru (x) dan sampel-sampel pola pada setiap kelas polanya ( x i. j ) paling kecil atau jaraknya terdekat.
Definisi 3. 4
Fungsi diskriminan untuk kelas ke-i, θ i (x) didefinisikan sebagai berikut
29
θ i (x) = − min d (x, x i. j )
(3.11)
j
dengan 1 ≤ j ≤ M i dan M i adalah ukuran sampel kelas ke-i.
Dalam penglasifikasi jarak minimum d dihitung menggunakan rumus jarak Euclidean
yaitu
1
⎧n
⎫2
d (x, y ) = || x - y || = ⎨∑ ( x k − y k ) 2 ⎬
⎩ k =1
⎭
(3.12)
Jika terdapat sampel pola baru x tak diketahui yang mempunyai n ciri atau ruang
pola berdimensi-n ( ℜ n ) dengan banyaknya kelas pola adalah L dan setiap kelas pola
diwakili oleh sampel tunggal yaitu x i dengan 1 ≤ i ≤ L yang disebut suatu prototype,
maka fungsi diskriminan yang digunakan dalam penglasifikasi jarak minimum adalah
sebagai berikut
θ i (x) = − d (x, x i )
(3.13)
dengan
1
⎧n
⎫2
d (x, x i ) = ⎨∑ ( x k − x ki ) 2 ⎬
⎩ k =1
⎭
(3.14)
Fungsi penyeleksi untuk kelas ke-i dalam pernyataan (3.10) menjadi
c(x) = i jika − d (x, x i ) > − d (x, x j )
(3.15)
c(x) = i jika d (x, x i ) < d (x, x j )
(3.16)
atau
30
Dengan mensubstitusikan pernyataan (3.15) ke pernyataan (3.16) maka fungsi
penyeleksi kelas ke-i adalah
1
1
⎧n
⎫2 ⎧ n
⎫2
c(x) = i jika ⎨∑ ( x k − x ki ) 2 ⎬ < ⎨∑ ( x k − x kj ) 2 ⎬
⎩ k =1
⎩ k =1
⎭
⎭
c(x) = i jika
n
∑ ( xk − xki ) 2 <
k =1
n
∑ (x
k
(3.17)
∀i ≠ j
− x kj ) 2
(3.18)
k =1
Berdasarkan pernyataan (3.18) ketentuan untuk mencari fungsi peyeleksi kelas ke-i
adalah sebagai berikut
n
∑ ( xk − xki ) 2 <
k =1
n
∑ (( x
k
) 2 − 2 x k x ki + ( x ki ) 2 ) <
k =1
n
∑ (x
k =1
n
n
) − 2∑ x k x + ∑ ( x ) <
2
k
i
k
i
k
2
n
∑ (x
k =1
− x kj ) 2
k
∑ (( x
k
n
∑ (x
) 2 − 2 x k x kj + ( x kj ) 2 )
n
n
) − 2∑ x k x + ∑ ( x kj ) 2
2
k
k =1
j
k
k =1
k =1
k =1
n
n
n
n
k =1
k =1
k =1
k =1
k =1
− 2∑ x k x ki + ∑ ( x ki ) 2 < − 2∑ x k x kj + ∑ ( x kj ) 2
Jika kedua ruas dikalikan −
n
∑x
k
1
maka persamaan menjadi
2
x ki −
k =1
1 n i 2
∑ ( xk ) >
2 k =1
n
∑x
k
x kj −
k =1
1 n
( x kj ) 2
∑
2 k =1
Jadi fungsi penyeleksi dalam pernyataan (3.18) menjadi
c(x) = i jika
n
∑ xk xki −
k =1
1 n i 2
∑ ( xk ) >
2 k =1
n
∑ xk xkj −
k =1
sehingga digunakan fungsi diskriminan linear sebagai berikut
1 n
( x kj ) 2
∑
2 k =1
(3.19)
31
n
∑ xk xki −
θ i* (x) =
k =1
1 n i 2
∑ ( xk )
2 k =1
(3.20)
Salah satu cara untuk memperoleh suatu prototype tunggal dari suatu himpunan
sampel dari suatu kelas pola adalah dengan menentukan nilai rata-rata dari setiap
kelas pola. Di bawah ini ditunjukkan gambar penentuan prototype tunggal dari dua
kelas pola
Kelas 1
○
○
○
Prototype 1
○
○
○
○
○
●
○
Kelas 2
○
○
○
□
□
□
□
□
■
□
□
□
□
□
Prototype 2
Gambar 3. 5 Prototype tunggal
Jika jumlah prototype yang mewakili setiap kelas lebih dari satu atau sebanyak
N i maka x i.l adalah prototype dari kelas ke-i dengan 1 ≤ l ≤ N i . Fungsi diskriminan
yang digunakan dalam penglasifikasi jarak minimum adalah sebagai berikut
θ i (x) = − min d (x, x i.l )
l
(3.21)
Jika dilihat sekilas maka pernyataan (3.21) hampir sama dengan persamaan (3.11)
namun kedua persamaan tersebut sesungguhnya berbeda karena pada persamaan
(3.11) banyaknya sampel pola pada setiap kelas pola adalah M i dan sampel-sampel
pola kelas ke-i ditulis x i.l dengan 1 ≤ l ≤ M i sedangkan pada persamaan (3.21)
32
banyaknya prototype pada setiap kelas pola adalah N i dan sampel-sampel pola kelas
ke-i ditulis x i.l dengan 1 ≤ l ≤ N i dengan N i ≤ M i . Karena mungkin tidak semua
sampel pola yang terdapat pada setiap kelas digunakan sebagai prototype kelas
polanya. Di bawah ini akan ditunjukan batas pengambilan keputusan dari dua kelas
pola dengan masing-masing kelas pola diwakili oleh dua prototype
□
Kelas 2
□
■
□ □
□
○
○
● ○
○ ○
○ ○
○
Kelas 1
○
○ ●
○ ○
○
○
□
■
□
□
Kelas 1
□
Kelas 2
□
Gambar 3.6 Batas pengambilan keputusan dengan
dua prototype pada setiap kelas pola
Jarak Euclidean dari x dan xi.l dengan 1 ≤ l ≤ N i adalah
d (x, xi.l ) = x − xi.l
2
= (x − xi.l )t (x − xi.l )
d (x, xi.l ) = xt x − (xi.l )t x − xt xi.l + (xi.l )t xi.l
d (x, xi.l ) = xt x − 2(xi.l )t x + (xi.l )t xi.l
(3.22)
Fungsi penyeleksi untuk kelas ke-i adalah
c(x) = i jika − min d (x, xi.l ) > − min d (x, x j .l )
∀i ≠ j
33
atau
c(x) = i jika min d (x, xi.l ) < min d (x, x j .l )
(3.23)
Dengan mensubstitusikan persamaan (3.22) ke persamaan (3.23) maka fungsi penyeleksi kelas ke-i adalah
c(x) = i jika
min {x t x − 2(x i.l ) t x + (x i.l ) t x i.l } < min {x t x − 2(x j .l ) t x + (x i.l ) t x j .l }
(3.24)
Berdasarkan pernyataan (3.24) ketentuan untuk mencari fungsi peyeleksi kelas ke-i
adalah sebagai berikut
min {−2(x i.l ) t x + (x i.l ) t x i.l } < min {−2(x j .l ) t x + (x i.l ) t x j .l }
(3.25)
Jika kedua ruas dikalikan dengan − 1 maka pernyataan (3.25) menjadi
2
1
1
max {(x i.l ) t x − (x i.l ) t x i.l } > max {(x j .l ) t x − (x i.l ) t x j .l }
2
2
(3.26)
Jadi fungsi penyeleksi dalam pernyataan (3.18) menjadi
1
1
c(x) = i jika max {(x i.l ) t x − (x i.l ) t x i.l } > max {(x j .l ) t x − (x i.l ) t x j .l }
2
2
(3.27)
sehingga berdasarkan persamaan (3.22) fungsi diskriminan menjadi
1
2
θ i** (x) = max {(x i.l ) t x − (x i.l ) t x i.l } dengan 1 ≤ l ≤ N i
(3.28)
Contoh 3.1
Misalkan akan dilakukan penglasifikasian dengan 2 kelas dimana setiap kelas
terdiri atas 2 vektor ciri dan 5 sampel pada setiap kelas. Data vektor ciri tersebut dibe-
34
rikan dalam tabel di bawah :
Sampel
C1
X1
2
2
1
0
3
1
2
3
4
5
C2
X2
1
2
0
2
1
X1
4
4
3
2
1
X2
3
4
5
4
6
Tabel 3.1 Data Training Set
Berdasarkan Metode Jarak Minimum maka akan dicari prototype untuk setiap
kelas yaitu dengan menghitung nilai rata-rata sampel dalam setiap ciri dari masingmasing kelas. Hasil perhitungan prototype untuk setiap kelas diberikan dalam tabel
berikut :
Sampel
1
2
3
4
5
Rata-rata
C1
X1
2
2
1
0
3
1.6
C2
X2
1
2
0
2
1
1.2
X1
4
4
3
2
1
2.8
X2
3
4
5
4
6
4.4
Tabel 3.2 Perhitungan Prototype setiap kelas
Selanjutnya akan dihitung jarak setiap sampel dengan prototype setiap kelas dengan
rumus sebagai
1
⎧n
⎫2
d (x, x i ) = ⎨∑ ( x k − x ki ) 2 ⎬
⎩ k =1
⎭
yaitu jarak setiap ciri pada setiap sampel dengan prototype pada setiap kelasnya.
Dengan demikian, maka
35
jarak kelas ke-1 sampel ke-1 dengan prototype kelas ke-1 adalah
d (x1.1 , x1 ) = (2 − 1.6) 2
+ (1 − 1.2) 2 = 0.4472
jarak kelas ke-1 sampel ke-1 dengan prototype kelas ke-2 adalah
d ( x1.1 , x 2 ) = (2 − 2.8) 2
+ (1 − 4.4) 2 = 3.4928
jarak kelas ke-1 sampel ke-2 dengan prototype kelas ke-1 adalah
d ( x1.2 , x1 ) = (2 − 1.6) 2
+ (2 − 1.2) 2 = 0.8944
jarak kelas ke-1 sampel ke-2 dengan prototype kelas ke-2 adalah
d ( x1.2 , x 2 ) = (2 − 2.8) 2
+ (2 − 4.4) 2 = 2.5298
jarak kelas ke-1 sampel ke-3 dengan prototype kelas ke-1 adalah
d ( x1.3 , x1 ) = (1 − 1.6) 2 + (0 − 1.2) 2 = 1.3416
jarak kelas ke-1 sampel ke-3 dengan prototype kelas ke-2 adalah
d ( x1.3 , x 2 ) = (1 − 2.8) 2
+ (0 − 4.4) 2 = 4.7539
jarak kelas ke-1 sampel ke-4 dengan prototype kelas ke-1 adalah
d ( x1.4 , x1 ) = (0 − 1.6) 2
+ (2 − 1.2) 2 = 1.7889
jarak kelas ke-1 sampel ke-4 dengan prototype kelas ke-2 adalah
d ( x1.4 , x 2 ) = (0 − 2.8) 2
+ (2 − 4.4) 2 = 3.6878
jarak kelas ke-1 sampel ke-5 dengan prototype kelas ke-1 adalah
d ( x1.5 , x1 ) = (3 − 1.6) 2
+ (1 − 1.2) 2 = 1.4142
jarak kelas ke-1 sampel ke-5 dengan prototype kelas ke-2 adalah
36
d ( x1.5 , x 2 ) = (3 − 2.8) 2
+ (1 − 4.4) 2 = 3.4059
jarak kelas ke-2 sampel ke-1 dengan prototype kelas ke-1 adalah
d (x 2.1 , x1 ) = (4 − 1.6) 2
+ (3 − 1.2) 2 = 3
jarak kelas ke-2 sampel ke-1 dengan prototype kelas ke-2 adalah
d ( x 2.1 , x 2 ) = (4 − 2.8) 2
+ (3 − 4.4) 2 = 1.8439
jarak kelas ke-2 sampel ke-2 dengan prototype kelas ke-1 adalah
d ( x 2.2 , x1 ) = (4 − 1.6) 2
+ (4 − 1.2) 2 = 3.6878
jarak kelas ke-2 sampel ke-2 dengan prototype kelas ke-2 adalah
d ( x 2.2 , x 2 ) = (4 − 2.8) 2
+ (4 − 4.4) 2 = 1.2649
jarak kelas ke-2 sampel ke-3 dengan prototype kelas ke-1 adalah
d ( x 2.3 , x1 ) = (3 − 1.6) 2
+ (5 − 1.2) 2 = 4.0497
jarak kelas ke-2 sampel ke-3 dengan prototype kelas ke-2 adalah
d ( x 2.3 , x 2 ) = (3 − 2.8) 2
+ (5 − 4.4) 2 = 0.6325
jarak kelas ke-2 sampel ke-4 dengan prototype kelas ke-1 adalah
d ( x 2.4 , x1 ) = (2 − 1.6) 2 + (4 − 1.2) 2 = 2.8284
jarak kelas ke-2 sampel ke-4 dengan prototype kelas ke-2 adalah
d ( x 2.4 , x 2 ) = (2 − 2.8) 2
+ (4 − 4.4) 2 = 0.8944
jarak kelas ke-2 sampel ke-5 dengan prototype kelas ke-1 adalah
d ( x 2.5 , x1 ) = (1 − 1.6) 2
+ (6 − 1.2) 2 = 4.8374
37
jarak kelas ke-2 sampel ke-5 dengan prototype kelas ke-2 adalah
d ( x 2.5 , x 2 ) = (1 − 2.8) 2
+ (6 − 4.4) 2 = 2.4083
Berdasarkan hasil perhitungan di atas diberikan tabel klasifikasi sebagai berikut :
Sampel
d (x1.m , x1 )
d ( x 2. m , x 1 )
d min
klasifikasi
keterangan
(x1.1 )
0.4472
3.4928
0.4472
C1
benar
1.2
(x )
0.8944
2.5298
0.8944
C1
benar
1.3
(x )
1.3416
4.7539
1.3416
C1
benar
1.4
1.7889
3.6878
1.7889
C1
benar
1.5
(x )
1.4142
3.4059
1.4142
C1
benar
(x 2.1 )
(x )
3.0000
1.8439
1.8439
C2
benar
2.2
3.6878
1.2649
1.2649
C2
benar
2.3
(x )
4.0497
0.6325
0.6325
C2
benar
(x 2.4 )
2.8284
0.8944
0.8944
C2
benar
4.8374
2.4083
2.4083
C2
benar
(x )
2.5
(x )
Tabel 3.3 Ha