Perbandingan PCA (Principal Component Analysis) dan Kernel PCA dalam Pengenalan Wajah Akibat Variasi Pose.

(1)

PERBANDINGAN PCA (PRINCIPAL COMPONENT

ANALYSIS) DAN KERNEL PCA DALAM PENGENALAN

WAJAH AKIBAT VARIASI POSE

Fredo Adrian Arliawan

Email: fredoadrian@ymail.com

Jurusan Teknik Elektro, Fakultas Teknik

Universitas Kristen Maranatha

Jl. Prof. Drg. Suria Sumantri 65, Bandung 40164, Indonesia

ABSTRAK

Tugas Akhir ini membandingkan metode PCA (Princpial Component

Analysis) dan kernel PCA untuk pengenalan wajah akibat variasi pose.

Sistem yang dibuat dalam Tugas Akhir ini dibagi menjadi beberapa tahap yaitu mulai dari preproccessing lalu ke tahap feature extraction dan masuk ke dalam tahap classification. Tahap yang menjadi modul utama yaitu feature

extraction dimana terjadi konstruksi PCA dan konstruksi KPCA, sementara

proses klasifikasi menggunakan nearest neighbor.

Pada laporan Tugas Akhir ini dapat dibuktikan bahwa metode KPCA lebih baik dari PCA dalam pengenalan wajah akibat variasi pose, dengan akurasi pengenalan rata-rata 63,75% dan 53,05%, masing-masing berturut-turut untuk

kernel PCA dan PCA pada database AT&T, Weizmann, dan gabungan kedua

database. Persen perbaikan akurasi pengenalan wajah rata-rata ketika menerapkan metoda kernel PCA dibandingkan PCA jika dipengaruhi oleh faktor pose untuk dua citra latih adalah 3,44%.

(2)

THE COMPARISON OF PCA (PRINCIPAL COMPONENT

ANALYSIS) AND KERNEL PCA IN FACE RECOGNITION DUE

TO VARIATION IN POSE

Fredo Adrian Arliawan

Email: fredoadrian@ymail.com

Department of Electrical Engineering, Faculty of Engineering

Maranatha Christian University

Jl. Prof. Drg. Suria Sumantri 65, Bandung 40164, Indonesia

ABSTRACT

The purpose of this Final Project is to compare the method of PCA (Princpial Components Analysis) and Kernel PCA for face recognition due to variations in pose.

The system is made in this thesis is divided into several stages, starting from the last preproccessing to feature extraction stage and into the classification stage. The stage became main feature extraction module where there is construction and construction KPCA PCA, the classification process using the nearest neighbor.

In the final report can be proved that the method KPCA is better than PCA in face recognition due to variations in pose, with average recognition accuracy are 63.75% and 53.05%, respectively consecutive to kernel PCA and PCA on the database AT & T, Weizmann, and a combination of both databases. Percent improvement in recognition accuracy average face when applying the method of kernel PCA compared PCA if influenced by two factors pose to practice imagery is 3.44%.

(3)

DAFTAR ISI

LEMBAR PENGESAHAN

PERNYATAAN ORISINALITAS LAPORAN

PERNYATAAN PUBLIKASI LAPORAN TUGAS AKHIR KATA PENGANTAR

ABSTRAK ... i

ABSTRACT ...ii

DAFTAR ISI ... iii

DAFTAR GAMBAR ... vi

DAFTAR TABEL ... viii

BAB I PENDAHULUAN ... 1

I.1 Latar Belakang ... 1

I.2 Perumusan Masalah ... 2

I.3 Tujuan Penelitian ... 2

I.4 Hipotesis ... 2

I.5 Kontribusi ... 2

I.6 Pembatasan Masalah ... 2

I.7 Sistematika Penulisan ... 3

BAB II LANDASAN TEORI ... 4

(4)

II.1.1 Citra ... 4

II.1.2 PGM ... 4

II.1.3 Gray Scale ... 4

II.2 Konsep Dasar Pengolahan Citra ... 5

II.3 Pengenalan Wajah ... 6

II.4 Metode Kernel ... 9

II.4.1 Kernel PCA ... 11

II.5 Principal Component Analysis ... 12

II.6 Vektor Eigen dan Nilai Eigen ... 15

II.7 Jarak Eucliden ... 16

II.8 Face Recognition rate dan Error rate ... 16

II.9 Studi Literatur ... 17

BAB III PERANCANGAN DAN REALISASI ... 23

III.1 PCA ... 23

III.1.1 Konstruksi PCA ... 25

III.1.2 Proyeksi Citra Uji ... 27

III.1.3 Klasifikasi Nearest Neighbor ... 28

III.2 Kernel PCA ... 29

III.2.1 Konstruksi KPCA... 31

III.2.2 Proyeksi Citra Uji ... 33

(5)

BAB IV DATA PENGAMATAN DAN ANALISIS DATA ... 36

IV.1 Konstruksi PCA ... 36

IV.2 Pengujian Metode PCA dan KPCA ... 40

IV.3 Data Pengamatan ... 52

IV.4 Analisis Data ... 54

BAB V SIMPULAN DAN SARAN ... 59

V.1 Simpulan ... 59

V.2 Saran ... 59

DAFTAR PUSTAKA ... 60

(6)

DAFTAR GAMBAR

Gambar II.1 Proses Pengenalan Wajah ... 7

Gambar II.2 Penentuan batasan dan vektor pendukung saat menggunakan kernel Gaussian ... 9

Gambar II.3 Ide Dasar KPCA (Schölkopf et al. 1996) ... 9

Gambar III.1 Diagram Alir Proses Pengenalan Wajah PCA ... 24

Gambar III.2 Diagram Alir Proses Konstruksi PCA ... 26

Gambar III.3 Diagram Alir Proses Proyeksi Citra Uji ... 27

Gambar III.4 Diagram Alir Proses Klasifikasi Nearest Neighbor ... 28

Gambar III.1 Diagram Alir Proses Pengenalan Wajah Kernel PCA ... 30

Gambar III.2 Diagram Alir Proses Konstruksi KPCA ... 32

Gambar III.3 Diagram Alir Proses Proyeksi Citra Uji ... 34

Gambar III.4 Diagram Alir Proses Klasifikasi Nearest Neighbor ... 35

Gambar IV.1 Set Citra Latih AT&T ... 36

Gambar IV.2 Set Citra Latih Weizmann ... 37

Gambar IV.3 Mean Face AT&T ... 38

Gambar IV.4 Hasil Konstruksi Eigenface AT&T ... 38

Gambar IV.5 Mean Face Weizmann... 39

Gambar IV.6 Hasil Konstruksi Eigenface Weizmann ... 39

(7)

Gambar IV.8 Pengujian KPCA Citra Uji AT&T ... 42

Gambar IV.9 Pengujian PCA Citra Uji Weizmann ... 44

Gambar IV.10 Pengujian KPCA Citra Uji Weizmann ... 46

Gambar IV.11 Pengujian PCA Citra Uji Dua Database ... 48

Gambar IV.12 Pengujian KPCA Citra Uji Dua Database ... 50

Gambar IV.13 Diagram Batang Recognition perbandingan metode KPCA dan PCA ... 53

(8)

DAFTAR TABEL

(9)

BAB I

PENDAHULUAN

I.1 Latar Belakang

Pengenalan wajah sedang menjadi topik penelitian yang sedang populer saat ini terutama dalam computer vision, pengolahan citra dan pengenalan pola. Akurasi pengenalan wajah ini dipengaruhi oleh beberapa faktor, seperti variasi pencahayaan, pose, ekspresi dan lainnya. Kegunaan pengenalan wajah dapat diterapkan dalam bidang perdagangan, penegak hukum, militer dan masih banyak lagi, seperti pengawasan bangunan dan monitoring, keamanan bandara dan akses kontrol, smart environment pada rumah, kantor, dan mobil, dan juga human robot inteligent yang dapat berinteraksi [2].

Suatu sistem pengenalan wajah yang baik adalah sistem yang mampu mengenali identitas citra wajah uji bagaimana pun kondisi citra wajah tersebut. Secara umum terdapat dua proses penting yang harus diperhatikan untuk memperoleh akurasi pengenalan wajah yang baik, yaitu ekstraksi ciri dan klasifikasi. Ekstraksi ciri adalah sebuah proses untuk memperoleh informasi yang penting dari suatu citra, sedangkan klasifikasi adalah proses menentukan identitas dari citra yang sedang diuji. Ada beberapa teknik untuk melakukan ekstraksi ciri. Salah satunya adalah PCA (Principal Component Analysis) [3].

Di antara faktor yang mempengaruhi akurasi pengenalan wajah, di dalam Tugas Akhir ini akan dibahas lebih lanjut mengenai salah satu faktor, yaitu pengaruh pose terhadap akurasi pada pengenalan wajah. Karena citra wajah akibat variasi pose adalah data yang non-linier,maka untuk mengatasi citra wajah ini harus digunakan metode yang non-linier juga. Salah satu teknik non-linier yang ada adalah menggunakan kernel. Di dalam Tugas Akhir ini kernel yang akan digunakan adalah Kernel PCA.

(10)

I.2 Perumusan Masalah

1. Berapa besar persen perbaikan akurasi pengenalan wajah ketika menerapkan metoda Kernel PCA dibandingkan PCA jika dipengaruhi oleh faktor pose? 2. Sejauh mana pengaruh penggunaan database lebih dari satu terhadap akurasi

pengenalan wajah?

I.3 Tujuan

Tujuan yang ingin dicapai dari Tugas Akhir ini adalah :

1. Mengevaluasi hasil pengenalan wajah dengan menggunakan metoda PCA dan

Kernel PCA akibat variasi pose.

2. Menganalisa error rate akibat penggunaan database yang berbeda.

I.4 Hipotesis

Hipotesis pada Tugas Akhir ini adalah:

1. Pengenalan wajah dengan Kernel PCA di harapkan mempunyai akurasi yang lebih tinggi dibandingkan dengan PCA dan juga mempunyai error rate yang kecil untuk masalah variasi pose.

I.5 Kontribusi

Kontribusi pada Tugas Akhir ini adalah:

1. Penggunaan metode Kernel PCA untuk penggabungan dua database yang berbeda, yang difokuskan pada masalah variasi pose untuk pengenalan wajah.

I.6 Pembatasan Masalah

1. Ukuran citra 112x92 pixel

2. Citra masukan berupa citra gray scale (database Weizmann dan AT&T) 3. Realisasi pengenalan wajah menggunakan program MATLAB

4. Dalam satu citra terdapat hanya satu wajah 5. Proses deteksi wajah sudah dilakukan 6. Format citra wajah pgm

(11)

I.7 Sistematika Penulisan

Sistematika penulisan yang akan digunakan untuk menyusun laporan Tugas Akhir ini adalah sebagai berikut:

BAB I : PENDAHULUAN

Pada bab ini dijelaskan latar belakang, perumusan masalah, tujuan, hipotesis, kontribusi, pembatasan masalah, serta sistematika penulisan yang digunakan untuk menyusun laporan Tugas Akhir.

BAB II : LANDASAN TEORI

Pada bab ini dijelaskan teori-teori yang digunakan serta studi literatur sebagai referensi penulis dalam pengerjaan Tugas Akhir ini. Teori yang diuraikan berkaitan dengan metode Kernel PCA dan PCA.

BAB III : PERANCANGAN PERANGKAT LUNAK

Pada bab ini dijelaskan mengenai sistem dari Tugas Akhir ini serta perancangan perangkat lunak dengan menggunakan software MATLAB.

BAB IV : DATA PENGAMATAN DAN ANALISIS DATA

Bab ini berisikan percobaan-percobaan yang dilakukan terhadap perangkat lunak dan menampilkan data pengamatan serta analisa hasil percobaan.

BAB V : KESIMPULAN DAN SARAN

Bab ini berisikan kesimpulan dari hasil percobaan yang telah didapatkan dari Tugas Akhir serta saran-saran yang dapat digunakan untuk membantu dalam pengembangan Tugas Akhir ini.

(12)

BAB V

SIMPULAN DAN SARAN

V.1 Simpulan

Berdasarkan data pengamatan dan analisa pada BAB IV, dapat diambil kesimpulan sebagai berikut:

1. Persen perbaikan akurasi pengenalan wajah rata-rata ketika menerapkan metoda Kernel PCA dibandingkan PCA jika dipengaruhi oleh faktor pose untuk database AT&T, Weizmann, dan penggabungan dua database dengan dua citra latih adalah 3,44%.

2. Untuk penggunaan database lebih dari satu , terjadi penurunan akurasi pengenalan pada metoda KPCA dan PCA. Penurunannya adalah sebesar 5,63% untuk KPCA dan 0,47% untuk PCA.

V.2 Saran

Pada topik selanjutnya sebaiknya dikembangkan metode multikernel, dan diharapkan metode ini menunjukkan hasil pengenalan yang lebih baik dibanding dengan metode single kernel.

(13)

DAFTARA PUSTAKA

[1] Stan Z. Li, Lie Gu, Bernhard Sch¨olkopf, and HongJiag Zhang. 2001.

Kernel Machine Based Learning For Multi-View Face Detection and Pose Estimation

[2] Jun-Bao Li,Shu-Chuan Chu, and Jeng-Shyang Pan. 2014. Kernel Learning

Algorithms for Face Recognition.

[3] http://www.library.binus.ac.id > eThesisdoc > Bab2. 19 Mei 2015

[4] Ismail Djakaria, Suryo Guritno, Haryatmi Kartiko. Januari 2010. Visualisasi Data Iris Menggunakan Analisis Komponen Utama dan Analisis Komponen Utama Kernel

[5] Marian Stewart BartlettTerrence J. Sejnowski. 1997. Viewpoint Invariant

Face Recognition Using Independent ComponentAnalysis And Attractor Network

[6] Ming-Hsuan Yang. 2002. Kernel Eigenfaces vs. Kernel Fisherfaces: Face

Recognition Using Kernel Methods

[7] Jun-Bao Li, Shu-Chuan Chu, Jeng-Shyang Pan Lakhmi C. Jain. October 2012. Multiple Viewpoints Based Overview for Face Recognition

[8] Philippe G. Schyns & Heinrich H. Bülthoff. Agustus 1993. Condition For

Viewpoint Dependent Face Recognition

[9] Cristianini, Nello Shawe-Taylor, John. 2004. Kernel Methods for Pattern

Analysis.

[10] http://reasearch.cs.tamu.edu/prism/lectures/pr/pr_128.pdf . 20 Mei 2015 [11] https://www.youtube.com/watch?v=G9q5gD0sqqc. 29 Mei 2015

[12] Štruc V., Pavešic, N.: The Complete Gabor-Fisher Classifier for Robust Face Recognition, EURASIP Advances in Signal Processing, vol. 2010, 26pages, doi:10.1155/2010/847680, 2010.

(14)

[13] Štruc V., Pavešic, N.:Gabor-Based Kernel Partial-Least-Squares Discrimination Features for Face Recognition, Informatica (Vilnius), vol.20, no. 1, pp. 115-138, 2009.

[14] http://luks.fe.uni-lj.si/sl/osebje/vitomir/face tools/PhDface/, 15 Februari 2016

[15] http://library.binus.ac.id/eColls/eThesisdoc/Bab2/2012-1-00178IF%20Bab2001.pdf, 15 Februari2016

[16] http://kilelme.blogspot.co.id/2010/02/image-file-format.html, 4 Maret 2016 [17] Bernard Scholkopf, Alexander Smola, dan Klaus-Robert Muller.Desember

1996. Nonlinear Componen Analysis as a Kernel Eigenvalue Problem. [18] Stan Z.Li, Anil K. Jain. 2011. Handbook of Face Recognition Second

Edition.

[19] http://dendieisme.blogspot.co.id/2011/03/matlab-grayscale-image.html, 4 Maret 2016

[20] M. Turk and A. Pentland, 1991, “Eigenface for Recognition”, Massachusetts Institue of Technology: Vision and Modeling Group, The Media Laboratory.

[21] Smith, Lindsay., Tutorial On Principle Component Analysis, The MathWorks, Inc., 2002.

[22] Pissarenko, Dimitri., Eigenface-Based Facial Recognition, 2002. [23] http://en.wikipedia.org/wiki/Euclidean_distance, 28 Februari 2012.

(1)

BAB I

PENDAHULUAN

I.1 Latar Belakang

(2)

I.2 Perumusan Masalah

pengenalan wajah?

I.3 Tujuan

Tujuan yang ingin dicapai dari Tugas Akhir ini adalah :

1. Mengevaluasi hasil pengenalan wajah dengan menggunakan metoda PCA dan

Kernel PCA akibat variasi pose.

2. Menganalisa error rate akibat penggunaan database yang berbeda.

I.4 Hipotesis

Hipotesis pada Tugas Akhir ini adalah:

1. Pengenalan wajah dengan Kernel PCA di harapkan mempunyai akurasi yang

lebih tinggi dibandingkan dengan PCA dan juga mempunyai error rate yang kecil untuk masalah variasi pose.

I.5 Kontribusi

Kontribusi pada Tugas Akhir ini adalah:

1. Penggunaan metode Kernel PCA untuk penggabungan dua database yang

berbeda, yang difokuskan pada masalah variasi pose untuk pengenalan wajah.

I.6 Pembatasan Masalah

1. Ukuran citra 112x92 pixel

2. Citra masukan berupa citra gray scale (database Weizmann dan AT&T)

3. Realisasi pengenalan wajah menggunakan program MATLAB

4. Dalam satu citra terdapat hanya satu wajah 5. Proses deteksi wajah sudah dilakukan 6. Format citra wajah pgm

(3)

I.7 Sistematika Penulisan

Sistematika penulisan yang akan digunakan untuk menyusun laporan Tugas Akhir ini adalah sebagai berikut:

BAB I : PENDAHULUAN

Pada bab ini dijelaskan latar belakang, perumusan masalah, tujuan, hipotesis, kontribusi, pembatasan masalah, serta sistematika penulisan yang digunakan untuk menyusun laporan Tugas Akhir.

BAB II : LANDASAN TEORI

Pada bab ini dijelaskan teori-teori yang digunakan serta studi literatur sebagai referensi penulis dalam pengerjaan Tugas Akhir ini. Teori yang diuraikan berkaitan dengan metode Kernel PCA dan PCA.

BAB III : PERANCANGAN PERANGKAT LUNAK

Pada bab ini dijelaskan mengenai sistem dari Tugas Akhir ini serta perancangan perangkat lunak dengan menggunakan software MATLAB.

BAB IV : DATA PENGAMATAN DAN ANALISIS DATA

Bab ini berisikan percobaan-percobaan yang dilakukan terhadap perangkat lunak dan menampilkan data pengamatan serta analisa hasil percobaan.

BAB V : KESIMPULAN DAN SARAN

Bab ini berisikan kesimpulan dari hasil percobaan yang telah didapatkan dari Tugas Akhir serta saran-saran yang dapat digunakan untuk membantu dalam pengembangan Tugas Akhir ini.

(4)

BAB V

SIMPULAN DAN SARAN

V.1 Simpulan

Berdasarkan data pengamatan dan analisa pada BAB IV, dapat diambil kesimpulan sebagai berikut:

2. Untuk penggunaan database lebih dari satu , terjadi penurunan akurasi pengenalan pada metoda KPCA dan PCA. Penurunannya adalah sebesar 5,63% untuk KPCA dan 0,47% untuk PCA.

V.2 Saran

Pada topik selanjutnya sebaiknya dikembangkan metode multikernel, dan diharapkan metode ini menunjukkan hasil pengenalan yang lebih baik dibanding dengan metode single kernel.

(5)

DAFTARA PUSTAKA

[1] Stan Z. Li, Lie Gu, Bernhard Sch¨olkopf, and HongJiag Zhang. 2001. Kernel Machine Based Learning For Multi-View Face Detection and Pose Estimation

[2] Jun-Bao Li,Shu-Chuan Chu, and Jeng-Shyang Pan. 2014. Kernel Learning

Algorithms for Face Recognition.

[3] http://www.library.binus.ac.id > eThesisdoc > Bab2. 19 Mei 2015

[4] Ismail Djakaria, Suryo Guritno, Haryatmi Kartiko. Januari 2010.

Visualisasi Data Iris Menggunakan Analisis Komponen Utama dan Analisis Komponen Utama Kernel

[5] Marian Stewart BartlettTerrence J. Sejnowski. 1997. Viewpoint Invariant Face Recognition Using Independent ComponentAnalysis And Attractor Network

[6] Ming-Hsuan Yang. 2002. Kernel Eigenfaces vs. Kernel Fisherfaces: Face Recognition Using Kernel Methods

[7] Jun-Bao Li, Shu-Chuan Chu, Jeng-Shyang Pan Lakhmi C. Jain. October 2012. Multiple Viewpoints Based Overview for Face Recognition

[8] Philippe G. Schyns & Heinrich H. Bülthoff. Agustus 1993. Condition For Viewpoint Dependent Face Recognition

[9] Cristianini, Nello Shawe-Taylor, John. 2004. Kernel Methods for Pattern Analysis.

[10] http://reasearch.cs.tamu.edu/prism/lectures/pr/pr_128.pdf . 20 Mei 2015 [11] https://www.youtube.com/watch?v=G9q5gD0sqqc. 29 Mei 2015

[12] Štruc V., Pavešic, N.: The Complete Gabor-Fisher Classifier for Robust Face Recognition, EURASIP Advances in Signal Processing, vol. 2010,

(6)

[13] Štruc V., Pavešic, N.:Gabor-Based Kernel Partial-Least-Squares Discrimination Features for Face Recognition, Informatica (Vilnius), vol.20, no. 1, pp. 115-138, 2009.

[14] http://luks.fe.uni-lj.si/sl/osebje/vitomir/face tools/PhDface/, 15 Februari 2016

[15] http://library.binus.ac.id/eColls/eThesisdoc/Bab2/2012-1-00178IF%20Bab2001.pdf, 15 Februari2016

[16] http://kilelme.blogspot.co.id/2010/02/image-file-format.html, 4 Maret 2016 [17] Bernard Scholkopf, Alexander Smola, dan Klaus-Robert Muller.Desember

1996. Nonlinear Componen Analysis as a Kernel Eigenvalue Problem. [18] Stan Z.Li, Anil K. Jain. 2011. Handbook of Face Recognition Second

Edition.

[19] http://dendieisme.blogspot.co.id/2011/03/matlab-grayscale-image.html, 4 Maret 2016

[20] M. Turk and A. Pentland, 1991, “Eigenface for Recognition”,

Massachusetts Institue of Technology: Vision and Modeling Group, The Media Laboratory.

[21] Smith, Lindsay., Tutorial On Principle Component Analysis, The MathWorks, Inc., 2002.

[22] Pissarenko, Dimitri., Eigenface-Based Facial Recognition, 2002. [23] http://en.wikipedia.org/wiki/Euclidean_distance, 28 Februari 2012.

Perbandingan PCA (Principal Component Analysis) dan Kernel PCA dalam Pengenalan Wajah Akibat Variasi Pose.