2.7.3 Kernel Trick
Dot product sering dianggap sebagai ukuran kesamaan antara dua vektor input. Dot product
Φx
i
. Φx
j
dapat dianggap sebagai ukuran kesamaan antara dua jarak x
i
dan x
j
, dalam ruang Kernel trick adalah suatu metode untuk menghitung kesamaan dalam ruang
yang ditransformasikan dengan menggunakan kumpulan atribut
orisinal. Pertimbangkan pemetaan fungsi
Φ yang diberikan dalam persamaan 2.9. yang ditransformasikan.
Φ = x
1
, x
2
→ �
1, 2
�
2, 2
√2�
R
1,
√2�
R
2
, 1 2.9
Dot product antara dua vektor input u dan v dalam ruang yang ditransformasikan
dapat ditulis sebagai berikut
Φu . Φv = �
1 2
�
2, 2
√2�
R
1,
√2�
R
2
: , 1 .
�
1 2
�
2, 2
√2�
R
1,
√2�
R
2
= �
1 2
�
1, 2
+ �
2 2
�
2, 2
+ 2 u
, 1
1
v
1
+ 2 u
2
v
2
= u . v + 1 + 1
2
Analisa ini memperlihatkan bahwa dot product dalam ruang yang ditransformasikan dapat dinyatakan dalam bentuk fungsi kesamaan dalam ruang orisinal:
2.10
K u , v = Φu . Φ v = u . v + 1
2
Fungsi kesamaan, K, yang dihitung dalam ruang atribut orisinal, dikenal sebagai fungsi kernel. Kernel trick membantu mengatasi beberapa kecemasan tentang cara
mengimplementasikan pada Support Vector Machine SVM nonlinear. 2.11
Pertama, kita tidak harus mengetahui bentuk yang tepat dari pemetaan fungsi Φ karena fungsi-fungsi kernel yang digunakan dalam SVM nonlinier harus memenuhi
prinsip matematika yang dikenal sebagai Mercer’s Theorem. Prinsip ini memastikan bahwa fungsi kernel dapat selalu dinyatakan sebagai dot product antara dua vektor
input dalam beberapa ruang dengan dimensi tinggi. Ruang yang ditransformasikan dari kernel SVM disebut Reproducing kernel Hilbert space RKHS. Kedua,
penghitungan dot product yang menggunakan fungsi kernel adalah lebih mudah dengan menggunakan transformasi atribut
set Φ x. Ketiga, karena penghitungan
Universitas Sumatera Utara
merupakan hasil dalam ruang orisinal, maka isu-isu yang berhubungan dengan masalah dimensi dapat dihindari
.
2.7.4 Algoritma-algoritma Representatif 2.7.4.1 Pendahuluan
Kategori