Fungsi Kernel Visualisasi Data Berkelompok dengan Analisis Komponen Utama Kernel
5 yang berukuran
.
F F
p p
Seperti pada AKU linear, komponen utama diperoleh dengan menyelesaikan
persamaan eigen
Cv v
Jolliffe 2002. Namun, karena
F
p bisa jadi sangat besar bahkan umumnya fungsi
x belum tentu dapat diketahui, maka akan menjadi sangat sulit untuk menghitung matriks C dan menyelesaikan persamaan eigennya secara langsung.
Karena itu, lebih mudah jika diselesaikan secara tidak langsung dengan menggunakan persamaan eigen kernel.
Perhatikan persamaan eigen 12 pada ruang fitur. Karena C adalah matriks
semi-definit positif, maka 0;
m
1, 2,
, m
r
untuk
r rank
X
dan
1 2
0.
r
Dengan mendefinisikan hasil kali dalam pada ruang fitur
sebagai hasil kali dalam baku,
1 2
,
F
p
v v berlaku
1 2
1 2
, ,
T
v v v v maka
m
berlaku
1 1
1
1 1
1 1
1 ,
1
m m
m n
T i
i m
i n
T i
i m
i n
i m
i i
n n
n
v Cv
x x
v x
x v
x v
x
sehingga diperoleh
1
, 1
n i
m m
i i
m
n
x v
v x .
Misalkan
, 1 ,
mi i
m m
n
x v
maka diperoleh vektor eigen
m
v pada
13 sebagai kombinasi linear dari
1 2
, ,
,
n
x x
x atau dapat juga ditulis
sebagai
1 n
m mi
i i
v x .
Dengan menggunakan persamaan 11 dan 14, persamaan eigen 12 pada ruang fitur,
1, ,
j n
, ekuivalen dengan
, ,
j m
j m
m
x Cv
x v
1
1 ,
, 1
n T
j i
i m
j m
m i
n
x x
x v
x v
1
1 ,
, ,
1
n j
i m
i j
m m
i
n
x x
v x
x v
1 1
1
1 ,
, ,
1
n n
n j
i mk
k i
m j
mk k
i k
k
n
x x
x x
x x
1 1
1
1 ,
, ,
1
n n
n j
i mk
k i
m j
mk k
i k
k
n
x x
x x
x x
12
13
14
6
1 1
1
1 ,
, ,
1
n n
n mk
j i
k i
m mk
j k
i k
k
n
x x
x x
x x
1 1
1
1 ,
, ,
1
n n
n mk
i k
j i
m mk
j k
i k
k
n
x x
x x
x x
.
Didefinisikan K sebagai matriks Kernel atau matriks Gram yang berukuran n n
di mana
2 1
1 1
1
, ,
, ,
, ,
, 1
1 1
, ,
, ,
.
ij i
j i
j i
j i
i i
j n
n n
n i
j i
j i
j i
j j
i i
j
n n
n
K x x
x x
x x
x x
x x
x x x x
x x x x
Bishop 2006. Dengan menggunakan persamaan 16, persamaan 15 dapat ditulis dalam bentuk persamaan eigen kernel sebagai
2
1 1
m m
m
n
K α
Kα
yang ekuivalen dengan 1
1
m m
m
n
K α
α
di mana
1 2
, ,
, .
T m
m m
mn
α
Komponen utama diperoleh melalui hasil kali dalam antara vektor eigen yang telah dinormalisasi dengan vektor objek data pada ruang fitur. Karena matriks C bersifat
simetri, maka vektor eigen
m
v bersifat ortogonal. Dengan demikian, vektor eigen
m
v akan bersifat ortonormal apabila memenuhi
1 1
1 1
1 1
, 1
, 1
1 ,
, ,
, ,
, ,
, 1
1 ,
1 .
m m
n n
mi i
mj j
i j
n n
mi i
mj j
i j
n n
mi mj
i j
i j
n mi
mj i
j i j
n mi
mj i
j i j
m m
m m
m m
m m
m
n n
n
v v
x x
x x
x x
x x
x x α Kα
α
α α
α
Dengan demikian, vektor eigen
m
v yang telah ortonormal dapat ditulis sebagai
15
16
17
18
19