Vektor Acak dan Distribusinya Matriks Kovarians

dalam pattern recognition dikarakterkan ke dalam satu bentuk kurva atau pola gambar geometri. Sebagai contoh, pengetesan suatu mesin layak atau tidak menampilkan pola berbentuk kurva. Masalah ini mereduksi untuk pemisahan kurva dari mesin yang bagus dan yang tidak bagus. Pada contoh lain, pengenalan pola huruf hasil cetak tulisan tangan diklasifikasikan dalam bentuk gambar geometri. Dalam proses untuk pengklasifikasiannya, pertama kita ukur karakteristik- karakteristik pengamatan dari sampel. Kemudian, ekstrasi seluruh informasi yang terdapat dalam sampel untuk menghitung nilai sampel-waktu untuk suatu pola berbentuk kurva, 1 ,..., n x t x t , dan tingkat kehitaman piksel untuk suatu figur, 1,..., x x n seperti yang ditunjukkan dalam gambar 2.1. Gambar 2.1: Contoh dua pengukuran pola a gelombang b huruf Karena input dari pengenalan pola merupakan suatu vektor acak dengan n peubah, maka, baik untuk pola berbentuk gelombang ataupun huruf, keduanya diekspresikan ke dalam bentuk vektor dalam suatu ruang dimensi-n. Sebagai contoh, pengamatan xi bervariasi dari huruf A yang satu ke huruf A yang lainnya dan oleh karena itu, xi merupakan suatu variabel acak, dan X merupakan vektor acak.

2.1.1 Vektor Acak dan Distribusinya

Seperti yang telah didiskusikan pada bagian 2.1, input dari jaringan pengenalan pola merupakan suatu vektor acak dengan n peubah sebagai berikut   1 2 X= x x ...x T n 2.1 0 t 1 t 2 t 3 xt t t n-1 t n a . . . Pixel 1 Pixel n b Universitas Sumatera Utara dimana T adalah transpos dari vektor. Suatu vektor acak dapat dikarakterisasikan oleh suatu fungsi distribusi peluang, yang didefinisikan oleh   1 1 1 , . . ., Pr x , . . ., x n n n P x x x x    2.2 Fukunaga, 1990 Selain itu, suatu vektor acak mempunyai suatu paramater distribusi. Parameter distribusi yang akan dibahas dalam penelitian ini adalah matriks kovarians.

2.1.2 Matriks Kovarians

Matriks kovarians S adalah matriks kovarians sampel yang didefinisikan sebagai berikut: S = E [ X i – M i ] [ X i – M i ] T Fukunaga, 1990 2.3 X i adalah data pada masing-masing kelas, M i adalah rata-rata kelas ke-i. Matriks kovarians S berisi nilai varians pada diagonal utama sebanyak p variabel dan nilai kovarians pada elemen lainnya sebanyak p – 1 kovarians. Suatu matriks  dikatakan matriks kovarians populasi jika matriks tersebut adalah matriks simetris yang diagonalnya harus berisi elemen-elemen nonnegatif sehingga matriks tersebut merupakan matriks definit nonnegatif. Jika A i = [ a i1, a i2 , . . ., a in ] T mempunyai rata-rata kelas 1 1 n i i i i M a n    , maka untuk melihat betapa dekatnya korelasi antar kelas, harus diatur agar masing-masing nilai mempunyai jumlah selisih rata-rata sama dengan 0, yaitu dengan cara mengurangi setiap a i dengan rata-rata kelasnya. Kemudian menempatkan nilai-nilai tersebut ke dalam sebuah matriks seperti berikut: 11 1 1 1 1                    n n n nn n a M a M X a M a M Universitas Sumatera Utara 11 1 1 11 1 1 1 1 1 1 1 1 T n n n n n nn n n nn n a M a M a M a M S n a M a M a M a M                                       2.4 Komponen diagonal dari matriks kovarians adalah varians dari masing-masing kelas peubah acak. Untuk lebih jelasnya tentang matriks kovarians, perhatikan contoh 2.1.2 berikut. Contoh 2.1.2 Diketahui suatu data nilai 7 mahasiswa meliputi nilai tugas rumah, ujian dan ujian akhir sebagai berikut. Mahasiswa Nilai Tugas Rumah Ujian Ujian Akhir MH 1 198 200 196 MH 2 160 165 165 MH 3 158 158 133 MH 4 150 165 91 MH 5 175 182 151 MH 6 134 135 101 MH 7 152 136 80 Rata-rata 161 163 131 Dari data pada contoh 2.1.2 akan diperlihatkan bagaimana kinerja mahasiswa dengan membandingkan antara kelompok ujian atau nilai tugas. Agar terlihat betapa dekatnya dua kelompok nilai saling berkorelasi, harus diatur agar masing-masing nilai tersebut mempunyai rata-rata sama dengan 0, yaitu dengan cara mengurangi setiap nilai dalam kolom dengan rata-rata nilai pada kolom yang sama sehingga nilai yang telah ditranslasikan ini akan mempunyai jumlah selisih atau deviasi terhadap rata-rata sama dengan 0. Kemudian, tempatkan nilai-nilai yang telah ditranslasikan tersebut ke dalam matriks Universitas Sumatera Utara 37 37 65 -1 2 34 -3 -5 2 -11 2 -40 14 19 20 -27 -28 -30 -9 -27 -51                       Jika terdapat lebih dari dua kelompok data, maka dapat dibentuk sebuah matriks X dimana kolom-kolomnya memperlihatkan simpangan dari rata-rata untuk setiap kelompok dan kemudian membentuk sebuah matriks kovariansi S dengan menetapkan 1 -1 S n  T X X Matriks kovariansi untuk ketiga kelompok data nilai matematika adalah 37 37 65 1 2 34 37 1 3 11 14 27 9 3 5 2 1 37 2 5 2 19 28 27 11 2 40 6 65 34 2 10 20 30 51 14 19 20 27 28 30 9 27 51 S                                                      417, 7 4375,5 725, 7 437, 5 546, 0 830, 0 725, 7 830, 0 1814,3            Entri-entri diagonal matriks S adalah variansi untuk ketiga kelompok nilai dan entri- entri di luar diagonal adalah kovariansi-kovariansi.

2.1.3 Nilai Eigen dan Vektor Eigen Definisi. Anggap A adalah suatu matriks n × n. Skalar