BAB 3
ANALISIS DISKRIMINAN LINIER 2-DIMENSI SIMETRIS
Pada bab ini akan diperlihatkan hasil utama dari penelitian ini. Adapun hasil utama dari tulisan ini yaitu fungsi objektif optimum dan algoritma Analisis Diskriminan
Linier 2-Dimensi Simetris serta perbandingannya dengan metode Analisis Diskriminan Linier dan Analisis Diskriminan Linier 2-Dimensi biasa.
3.1 Analisis Diskriminan Linier 2-Dimensi Simetris ADL2-D Simetris
Telah diutarakan pada bab sebelumnya bahwa pendekatan pengklasifikasian dengan Analisis Diskriminan Linier 2-Dimensi ADL2-D menimbulkan masalah keraguan
yang mendasar yaitu terdapat dua cara untuk mendefinisikan matriks sebaran dalam- kelas
w
S
1
i j
k T
w i
j i
j j
X
S X
M X
M
T
XX
1
i j
k T
w i
j i
j j
x
S X
M X
M
T
X X
dan terdapat dua cara untuk mendefinisikan matriks sebaran antar-kelas
b
S
1 k
T b
j j
j j
S n M
M M M
T
XX
1 k
T b
j j
j j
S n M
M M
M
T
XX
Oleh karena itu, dalam ruang transformasi dapat dituliskan ,
,
b b
S S
T T
YY Y Y
, ,
w w
S S
T T
YY Y Y
Pada umumnya, gambar tidak bersifat simetris: X
i
X
i T
, maka
Universitas Sumatera Utara
,
b b
S S
T T
YY Y Y
,
w w
S S
T T
YY Y Y
Karena alasan ini, pemilihan fungsi objektif ADL menimbulkan keraguan manakah fungsi yang paling baik diantara sejumlah pilihan berikut:
1
tr
b w
S J
S
T T
YY YY
2
tr
b w
S J
S
T T
Y Y Y Y
3
tr
b b
w w
S S
J S
S
T T
T T
YY Y Y
YY Y Y
4
tr ,
b b
w w
S S
J S
S
T T
T T
Y Y YY
Y Y YY
5
tr ,
b b
w w
S S
J S
S
T T
T T
YY Y Y
YY Y Y
Analisis Diskriminan Linier 2-Dimensi Simetris dalam menyelesaikan masalah ambigu di atas. dimotivasi dengan suatu kunci pengamatan: jika gambar
simetris, yakni X
i
= X
i T
, maka ,
w w
S S
T T
XX X X
.
b b
S S
T T
XX X X
Masalah yang terdapat pada metode ADL2-D ini dapat diselesaikan dengan menggunakan suatu representasi data baru yaitu transformasi bilinier simetris
T i
T i
T i
i
X L
Y =
Γ Γ, Γ =
X R
Y
Pada Fukunaga1990, matriks
Γ didefinisikan sebagai:
1
n
Universitas Sumatera Utara
yakni matriks yang diagonal utamanya merupakan nilai varians dari suatu data dan elemen yang lainnya 0.
Transformasi bilinier di atas ekivalen dengan transformasi linier Y
i
= L
T
X
i
R.
Penjabarannya yakni sebagai berikut:
T i
T i
T i
i
X L
Y =
Γ Γ, Γ =
X R
Y
T T
i i
T i
i
X L
L Y
= X
R R
Y
T T
i i
T T
i i
X L
Y R
= X
R Y
L
T T
T i
i T
i i
L Y
R X =
R Y
L X
T T
T i
i T
i i
Y R X L
= Y
L X R diperoleh Y
i
= L
T
X
i
R dan Y
i T
= R
T
X
i T
L. Selain itu, juga terdapat
2 T
2 i
T T
i i
i T
i i
Y X
- Γ
Γ = 2 X - LY R
Y X
Oleh karena itu, optimisasi menggunakan L, R ekivalen dengan optimisasi
menggunakan
Γ .
Selain itu, dengan menggunakan transformasi bilinier simetris, dihasilkan suatu teorema:
Teorema 3.1: Fungsi objektif ADL tunggal untuk ADL2-D ialah
2
tr tr
ADL D
J
T T
b b
T T
w w
S YY S Y Y
S YY S Y Y
3.1
2
tr
ADL D
J
b b
T L
T R
T L
T R
w w
R S R L S L
R S R L S L
3.2
Sebelum membuktikan teorema 3.1, dari penjelasan pada bab sebelumnya, suatu kesamaan metrik alami antara matriks adalah norma Frobenius Ye. et. al.
Universitas Sumatera Utara
2004. Di bawah metrik ini kuadrat jarak dari within-class dalam kelas dan between class antar kelas dapat dihitung sebagai berikut:
2 1
i
k w
i F i
X
D X
M
.
2 1
k b
i i
F i
D n M
M
trace M M
T
=
2 F
M . untuk suatu matriks M. maka diperoleh
2 1
i
k w
i F i
X
D X
M
trace
2 1
i
k b
i F i
X
D X
M
trace
Dalam ruang berdimensi rendah, hasil dari transformasi linier L dan R, jarak within- class dan between class menjadi:
_ 1
i
k T
w i
i i
X
D X
M X
M
T T
trace L
RR L
_ 1
k T
b i
i i
i
D n
X M
X M
T T
trace L
RR L
Transformasi optimal L dan R akan memaksimumkan jarak antar-kelas
_ b
D dan meminimumkan jarak dalam-kelas
_ w
D . Lebih khususnya, untuk suatu R tetap,
_ b
D dan
_ w
D dapat ditulis sebagai
_ w
D
T R
w
trace L S L .
_ b
D
T R
b
trace L S L
di mana
1 1
,
i
k k
R T
T R
T T
w i
i b
i i
i i
X i
S X
M RR X
M S
n M M RR M
M untuk suatu L tetap,
_ w
D dan
_ b
D dapat ditulis kembali sebagai
_ w
D
T L
w
trace R S R .
_ b
D
T L
b
trace R S R
di mana
1 1
,
i
k k
L T
T L
T T
w i
i b
i i
i i
X i
S X
M LL X
M S
n M M
LL M M
Universitas Sumatera Utara
Setelah ,
, ,
R L
R L
w w
b b
S S
S S didefinisikan di atas, maka teorema 3.1 dan 3.2 dapat
dibuktikan, yakni sebagai berikut: Matriks sebaran dalam-kelas S
w
YY:
1
.
i j
Y T
Y T n
i j
i j
w Y
Y j
Y i
j i
j
Y M
Y M
S Y
M Y
M
YY
dengan menggantikan persamaan pada transformasi bilinier, diperoleh:
1
.
i j
T T
n i
j w
T j
Y i
j i
j T
i j
X M
L L
L S
X M
R R
R X
M L
X M
R
YY
1
- -
- -
i j
T T
n i
j T
T j
Y Î i
j i
j T
i j
X M
R L
R X
M L
R L
X M
L X
M R
1
- -
- -
i j
T T
n i
j T
T j
Y Î i
j i
j T
i j
X M
RR L
X M
LL R
X M
L X
M R
1
- -
- -
i j
T T
T n
i j
i j
T T
j Y Î
i j
i j
X M
RR X
M L
X M
LL X M
R L
R
T R
w L
w
L L
S R
R S
Sama seperti penjabaran di atas. matriks sebaran antar-kelas dapat ditulis sebagai:
T R
b L
b
L L
S R
R S
b
S YY =
Sehingga diperoleh fungsi objektif ADL standar
Universitas Sumatera Utara
T L
-1 T
L w
b T
R -1
T R
w b
R S R R S R
= tr L S L
L S L
T L
T R
b b
T L
T R
w w
R S R L S L
= tr + tr
R S R L S L
Rumus yang terdapat pada teorema 3.1 yang telah dibuktikan tersebut adalah
fungsi objektif ADL2-D yang diperoleh untuk menentukan fungsi objektif yang baik dan tepat dalam pengenalan pola. Jarak matriks sebaran dalam-kelas untuk L tetap
dapat dihitung dengan menghitung tr
T L
w
R S R , jarak matriks sebaran antar-kelas untuk L tetap dapat dihitung dengan menghitung tr
T L
b
R S R . Untuk suatu R tetap,
jarak matriks sebaran dalam-kelas dapat dihitung dengan menghitung tr
T R
w
L S L ,
jarak matriks sebaran antar-kelas dapat dihitung dengan menghitung tr
T R
b
L S L .
Pada metode ADL klasik, fungsi objektif bertujuan untuk memaksimumkan matriks sebaran antar-kelas dan meminimumkan matriks sebaran dalam-kelas. Pada ADL2-D,
fungsi objektif bertujuan untuk memaksimumkan jarak dalam R dan meminimkan jarak dalam L sehingga terlihat hasil klsifikasi yang baik.
Dengan menggunakan teorema 3.1, dalam kasus matriks tidak simetris yang mengakibatkan S
w
dan S
b
dalam ruang X terdefinisi ganda juga mengakibatkan S
w
dan S
b
dalam ruang Y terdefinisi ganda. Sehingga
1
T b
T w
S YY J
S YY
T L
b
T L
w
R S R = tr
tr R S R
2
T b
T w
S Y Y J
S Y Y
T R
b
T R
w
L S L = tr
tr L S L
Dalam pendekatan optimasi yang independen, untuk memperoleh R dapat dilakukan dengan cara memaksimumkan J
1 ’
tolak J
2 ’
dan kemudian memperoleh L dengan cara memaksimumkan J
2 ’
tolak J
1 ’
. Hal tersebut tidak konsisten dalam mengoptimumkan fungsi objektif, yaitu ketika memaksimumkan J
1 ’
, J
2 ’
mengalami penurunan begitu juga sebaliknya. Permasalahan tersebut dapat diselesaikan dengan dua teknik yaitu
pertama, ketika memaksimumkan J
1 ’
, harus menghitung J
2 ’
. Tetapi, di sisi lain juga
Universitas Sumatera Utara
perlu mengetahui bagaimana caranya mengkombinasikan J
1 ’
dan J
2 ’
. Kombinasi sederhana yang dapat dilakukan yaitu J = J
1 ’
+ J
2 ’
yaitu J
T L
T R
b b
T L
T R
w w
R S R L S L
= tr R S R
L S L
3.3 Cara yang kedua yaitu bagaimana mengoptimumkan fungsi objektif. Solusi untuk
memaksimumkan max
R
J secara sederhana dapat dilakukan dengan menghitung vektor eigen dari
1 w
b
S S
, perhitungan yang sama seperti metode Analisis Diskriminan Linier. Namun, fungsi objektif yang telah dijabarkan pada persamaan 3.2, tidak
dapat digunakan untuk menentukan trace dari suatu rasio tunggal dua matriks sebaran tersebut. Hal tersebut terjadi karena fungsi objektif tersebut tidak dapat diselesaikan
secara searah melalui perhitungan eigenvektor sama seperti ADL standar. Namun, hal tersebut dapat diatasi dengan mengembangkan suatu algoritma efisien dengan
menggunakan pendekatan gradien-naik. Pendekatan ini menurunkan fungsi objektif. Turunan dari fungsi matriks dikerjakan dengan menggunakan aljabar matriks dasar
yang terdapat dalam buku Fukunaga 1990. Hasilnya ditunjukkan dalam Lemma berikut:
Lemma 3.2: Anggap P
L
T R
b
= L S L , Q
L
T R
w
= L S L , P
R
T L
b
= R S R . dan Q
R
T L
b
= R S R .
Turunan fungsi objektif J
ADL2-D
pada persamaan 3.2 yakni sebagai berikut Untuk
J R
diperoleh
1 1
1
tr 2
2
T L
L L
b b
R w
R R
R T
L w
R S R S RQ
S RQ P Q R
R S R
dan
1 1
1 1
1
tr 2
2
i k
T R
K T
T b
i k
L i
k T
R k
A w
K T
T k
L L
L k
k
L S L A
M LQ L A
M R
R L S L
M M
LQ P Q L M M R
3.4
Untuk J
L
diperoleh
1 1
1
tr 2
2
T R
R R
b b
L w
L L
L T
R w
L S L S LQ
S LQ P Q L
L S L
dan
Universitas Sumatera Utara
1 1
1 1
1
tr 2
2
i k
T L
K T
T b
i k
L i
k T
L k
A w
K T
T k
R R
R k
k
R S R A
M RQ R
A M
L L
R S R M
M RQ P Q R M M
L
3.5
Dengan menggunakan rumus eksplisit gradien di atas, suatu algoritma dapat dikembangkan seperti algoritma 3.3 untuk mempermudah klasifikasi yang
diaplikasikan ke dalam visualisasi komputer, berikut ini algoritma efisien dengan menggunakan pendekatan gradien-naik.
Algoritma 3.3 ADL2-D Simetris dengan menggunakan gradien
Input
a Sekumpulan gambar
1 n
i
i
X
dan label dari masing-masing kelas b Inisialisasi L
0,
R c Frekuensi c untuk ortogonalisasi
Inisialisasi
a
, L
L R R
b Hitung M
k
, k = 1. 2. .... K dan M M
k
adalah rata-rata tiap kelas sedangkan M adalah rata-rata keseluruhan
c
t
Do
Hitung
, ,
,
R L
R L
w w
b b
S S
S S
J R
R R
J
L L
L
1 t
t
if t mod c = 0
1
eigenvektor dari
L L
w b
R S
S
1
eigenvektor dari
R R
w b
L S
S
endif
Output L, R
Luo, et.al, 2007 Ukuran langkah
diatur menjadi
Universitas Sumatera Utara
1 1
0.02 di mana
m n
ij i
j
J R
A A
nm R
. Parameter c digunakan untuk mengontrol frekuensi pada
T L
b
R S R ,
T L
w
R S R ,
T R
b
L S L , dan
T R
w
L S L agar hasilnya mendekati suatu matriks diagonal. Hal ini
mengimplikasikan bahwa ,
, ,
R L
R L
w w
b b
S S
S S mendekati diagonal, seperti data yang
secara simultan tidak terkorelasi =
L L
L t
b w
S S
S juga yang tidak terkorelasi
=
R R
R t
b w
S S
S .
3.2 Aplikasi Penggunaan Metode Analisis Diskriminan Linier 2-Dimensi
