Matriks Kovariansi Dekomposisi Dalam Model Graf Gauss Tak Berarah

MATRIKS KOVARIANSI DEKOMPOSISI DALAM MODEL GRAF GAUSS TAK BERARAH
TESIS
Oleh DEWI SURYANI HANUM NASUTION
117021014/MT
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SUMATERA UTARA MEDAN 2013
Universitas Sumatera Utara

MATRIKS KOVARIANSI DEKOMPOSISI DALAM MODEL GRAF GAUSS TAK BERARAH
TESIS
Diajukan Sebagai Salah Satu Syarat Untuk Memperoleh Gelar Magister Sains dalam
Program Studi Magister Matematika pada Fakultas Matematika dan Ilmu Pengetahuan Alam
Universitas Sumatera Utara
Oleh DEWI SURYANI HANUM NASUTION
117021014/MT
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM UNIVERSITAS SUMATERA UTARA MEDAN 2013
Universitas Sumatera Utara

Judul Tesis
Nama Mahasiswa Nomor Pokok Program Studi

: MATRIKS KOVARIANSI DEKOMPOSISI DALAM MODEL GRAF GAUSS TAK BERARAH

: Dewi Suryani Hanum Nasution : 117021014 : Matematika

Menyetujui, Komisi Pembimbing

(Prof. Dr. Saib Suwilo, M.Sc) Ketua
Ketua Program Studi,
(Prof. Dr. Herman Mawengkang)

(Prof. Dr. Tulus, M.Si) Anggota
Dekan,
(Dr. Sutarman, M.Sc)

Tanggal lulus: 5 Juni 2013

Universitas Sumatera Utara

Telah diuji pada Tanggal 5 Juni 2013
PANITIA PENGUJI TESIS Ketua : Prof. Dr. Saib Suwilo, M.Sc Anggota : 1. Prof. Dr. Tulus, M.Si
2. Prof. Dr. Opim Salim S, M.Sc 3. Prof. Dr. Herman Mawengkang
Universitas Sumatera Utara

PERNYATAAN
MATRIKS KOVARIANSI DEKOMPOSISI DALAM MODEL GRAF GAUSS TAK BERARAH
TESIS
Dengan ini saya menyatakan bahwa dalam tesis ini tidak terdapat karya yang pernah diajukan untuk memperoleh gelar magister di suatu perguruan tinggi dan sepanjang pengetahuan juga tidak dapat karya atau pendapat yang pernah ditulis atau diterbitkan oleh orang lain, kecuali secara tertulis diacu dalam naskah ini dan disebutkan dalam daftar pustaka.
Medan, Penulis, Dewi Suryani Hanum Nasution
i
Universitas Sumatera Utara

ABSTRAK Suatu graf kovariansi merupakan suatu graf tak berarah dengan adanya suatu distribusi probabilitas multivariat pada vektor acak dimana tiap verteks menunjukkan komponen yang berbeda dari vektor acak. Model graf merupakan kerangka kerja yang digunakan untuk merepresentasikan suatu struktur saling bebas kondisional dengan distribusi dengan menggunakan graf G. Dalam penelitian ini dikaji estimasi distribusi dalam menentukan dekomposisi matriks kovariansi pada model graf Gauss tak berarah yang berkaitan dengan invers kovariansi (matriks konsentrasi). Sehingga diperoleh estimasi dekomposisi kovariansi dengan kompleksitas komputasi yang lebih baik. Hasil penelitian menunjukkan diperolehnya korelasi antar komponen yang berbeda dalam suatu vektor acak yang diberikan yang diperoleh dari hasil penaksiran dekomposisi kovariansi matriks. Kata kunci: Saling bebas kondisional, Dekomposisi kovariansi, Model graf Gauss,
Konsentrasi graf.
ii
Universitas Sumatera Utara

ABSTRACT A covariance graph is an undirected graph associated with a multivariate probability multivariate of a given random vektor where each vertex represents of the different components of the random vector. Graphical models are framework for representing and conditional independence structures within distributions using graph G. This research discusses distribution estimation in determining decomposable covariance matrix in an undirected Gauss graphical model related to sparsity of invers convarince (concentration matrix). It showed decomposable covariance estimation with lower computational complexity. The result showed the correlation each different components in a given random vector that determined from decomposition covariance matrix estimation. Keyword: Conditional independence, Covariance decomposition, Gauss graphical
model, Concentration graph.
iii
Universitas Sumatera Utara

KATA PENGANTAR

Syukur Alhamdulillah kehadirat ALLAH SWT, penulis panjatkan atas limpahan Rahmat dan KaruniaNya yang telah diberikan sehingga penulis dapat menyelesaikan tesis dengan judul: ”Matriks Kovariansi Dekomposisi Dalam Model Graf Gauss Tak Berarah”. Selawat dan salam kepada junjungan Nabi Muhammad SAW beserta keluarga dan sahabat sekalian.
Tesis ini merupakan salah satu persyaratan penyelesaian studi pada Program Studi Magister Matematika Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Sumatera Utara.
Pada kesempatan yang baik ini, penulis menyampaikan ucapan terima kasih dan penghargaan yang sebesar-besarnya kepada:
Prof. Dr. dr. Syahril Pasaribu, DTM&H, MSc(CTM). Sp.A(K) selaku Rektor Universitas Sumatera Utara.
Dr. Sutarman, M.Sc selaku Dekan Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Sumatera Utara yang telah memberikan kesempatan kepada penulis untuk mengikuti Program Studi Magister Matematika di Universitas Sumatera Utara.
Prof. Dr. Herman Mawengkang selaku ketua Program Studi Magister Matematika di Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Sumatera Utara sekaligus sebagai anggota komisi pembanding yang telah banyak memberikan bantuan dan dorongan dalam penulisan tesis ini hingga selesai.
Prof. Dr. Saib Suwilo, M.Sc selaku sekretaris Program Studi Magister Matematika di Fakultas MIPA Universitas Sumatera Utara serta selaku ketua komisi
iv
Universitas Sumatera Utara

pembimbing dalam penulisan tesis ini, atas saran dan bantuan dari beliau hingga penulisan ini dapat diselesaikan.
Prof. Dr. Tulus, M.Si selaku anggota komisi pembimbing yang telah banyak memotivasi dan membimbing dalam penulisan tesis ini.
Prof. Dr. Opim Salim Sitompul, M.Sc sebagai anggota komisi pembanding yang telah banyak memberikan saran dan arahan dalam penulisan tesis ini.
Seluruh staf pengajar di Program Studi Magister Matematika Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Sumatera Utara yang telah banyak memberikan ilmu pengetahuan selama masa perkuliahan.
Ibu Misiani, S.Si selaku Staf Administrasi Program Studi Magister Matematika Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Sumatera Utara yang telah memberikan pelayanan yang baik kepada penulis selama mengikuti perkuliahan.
Ucapan terima kasih yang tak terhingga dan penghargaan setinggi-tingginya penulis ucapkan kepada Ibunda tercinta Syamsuarti yang telah mencurahkan kasih sayang dan dukungan kepada penulis. Selain itu, terima kasih juga kepada suami tercinta Banda Satria dan Ananda tersayang Suci Widana serta seluruh keluarga yang telah membantu, memberikan semangat dan dorongan kepada penulis hingga penulisan tesis ini selesai. Tak lupa juga penulis mengucapkan terimakasih kepada Kepala Sekolah dan seluruh guru SMP N 1 Karang Baru yang telah banyak membantu dan memberikan motivasi hingga penulisan ini selesai.
Seluruh sahabat serta rekan-rekan seperjuangan mahasiswa angkatan 2011 ganjil atas kebersamaan dan bantuan dalam mengatasi masalah selama perkuliahan berlangsung. Terima kasih juga kepada sahabat dan rekan-rekan lainnya yang tidak
v
Universitas Sumatera Utara

dapat disebutkan satu persatu, yang telah membantu dan memberikan semangat untuk penulis hingga tesis ini selesai.
Akhir kata penulis menyadari bahwa tesis ini masih jauh dari sempurna. Untuk itu penulis mengharapkan kritik dan saran untuk penyempurnaan tesis ini. Semoga tesis ini dapat bermanfaat bagi pembaca dan pihak-pihak lainnya yang memerlukannya.
Medan, Juni 2013 Penulis, Dewi Suryani Hanum Nasution
vi
Universitas Sumatera Utara

RIWAYAT HIDUP
Penulis di lahirkan di Karang Baru Kabupaten Aceh Tamiang Pada tanggal 12 Oktober 1968 dan merupakan anak ke 3 dari 5 bersaudara, dari ayah Palitan Nasution dan ibu syamsuarni. Penulis menamatkan Sekolah dasar SD Negeri No 2 Karang Baru lulus tahun 1981. Sekolah Menengah Pertama (SMP) Negeri 1 Karang Baru lulus tahun 1984. Sekolah Menengah Atas (SMA) Negeri 1 Kuala Simpang lulus Tahun 1987. Pada tahun 1988 penulis melanjutkan pendidikan diploma III di Universitas Abulyatama Banda Aceh pada Fakultas Keguruan dan Ilmu pendidikan (FKIP) Jurusan Matematika dan lulus tahun 1982. Selanjutnya pada tahun 1994 penulis berkesempatan untuk diangkat menjadi pegawai negeri sipil yang bertugas di SMP N 1 Karang Baru Aceh Tamiang sampai sekarang. Penulis melanjutkan pendidikan sarjana di Universitas syiahkuala di Banda Aceh pendidikan Fakultas Matematika dan Ilmu pengetahuan alam (MIPA) jurusan matematika dan lulus pada tahun 1998. Pada tahun 2011 penulis berkesempatan untuk melanjutkan program Master pada program studi Magister Matematika di Universitas Sumatera Utara Medan.
vii
Universitas Sumatera Utara

DAFTAR ISI

PERNYATAAN ABSTRAK ABSTRACT KATA PENGANTAR RIWAYAT HIDUP DAFTAR ISI

Halaman i ii
iii iv vii viii

BAB 1 PENDAHULUAN

1

1.1 Latar belakang 1.2 Perumusan Masalah 1.3 Tujuan Penelitian 1.4 Manfaat Penelitian

1 3 3 3

BAB 2 KAJIAN PUSTAKA DAN LANDASAN TEORI

4

2.1 Graf Tak Berarah 2.2 Distribusi Gauss 2.3 Model Graf Gauss Tak Berarah 2.4 Kovariansi Dekomposisi dalam Graf

4 7 15 16

BAB 3 HASIL DAN PEMBAHASAN

18

3.1 Model Graf Gauss
3.2 Matriks Kovariansi Dekomposisi dalam Model Graf Gauss Tak Berarah

18 21

BAB 4 HASIL PERHITUNGAN

25

4.1 Matriks Dimensi m × m

25

viii
Universitas Sumatera Utara

4.2 Matriks Dimensi m × n BAB 5 KESIMPULAN DAN SARAN
5.1 Kesimpulan 5.2 Saran DAFTAR PUSTAKA

26 28
28 28 29

ix
Universitas Sumatera Utara

ABSTRAK Suatu graf kovariansi merupakan suatu graf tak berarah dengan adanya suatu distribusi probabilitas multivariat pada vektor acak dimana tiap verteks menunjukkan komponen yang berbeda dari vektor acak. Model graf merupakan kerangka kerja yang digunakan untuk merepresentasikan suatu struktur saling bebas kondisional dengan distribusi dengan menggunakan graf G. Dalam penelitian ini dikaji estimasi distribusi dalam menentukan dekomposisi matriks kovariansi pada model graf Gauss tak berarah yang berkaitan dengan invers kovariansi (matriks konsentrasi). Sehingga diperoleh estimasi dekomposisi kovariansi dengan kompleksitas komputasi yang lebih baik. Hasil penelitian menunjukkan diperolehnya korelasi antar komponen yang berbeda dalam suatu vektor acak yang diberikan yang diperoleh dari hasil penaksiran dekomposisi kovariansi matriks. Kata kunci: Saling bebas kondisional, Dekomposisi kovariansi, Model graf Gauss,
Konsentrasi graf.
ii
Universitas Sumatera Utara

ABSTRACT A covariance graph is an undirected graph associated with a multivariate probability multivariate of a given random vektor where each vertex represents of the different components of the random vector. Graphical models are framework for representing and conditional independence structures within distributions using graph G. This research discusses distribution estimation in determining decomposable covariance matrix in an undirected Gauss graphical model related to sparsity of invers convarince (concentration matrix). It showed decomposable covariance estimation with lower computational complexity. The result showed the correlation each different components in a given random vector that determined from decomposition covariance matrix estimation. Keyword: Conditional independence, Covariance decomposition, Gauss graphical
model, Concentration graph.
iii
Universitas Sumatera Utara

BAB 1 PENDAHULUAN
1.1 Latar belakang
Model graf adalah suatu ruang lingkup kerja dalam memperoleh struktur independen kondisional pada suatu distribusi menggunakan graf. Salah satu model graf yang digunakan adalah model graf tak berarah yang sering digunakan untuk mendeskripsikan suatu distribusi berdimensi besar. Penelitian yang berkaitan dengan model graf pada graf tak berarah salah satunya adalah menunjukkan struktur bebas kondisional dalam suatu distribusi multivariat dan teknik komputasi yang diimplementasikan dengan pemodelan graf dalam persoalan peningkatan kompleksitas dan dimensi (Dobra et al., 2004).
Kovariansi merupakan penaksiran dari dua variabel tertentu x dan y pada n ukuran sampel data dalam menentukan variansi dan korelasi linier suatu data multivariat atau multidimensi. Estimasi kovariansi dalam distribusi Gauss merupakan persoalan dasar dalam pemrosesan sinyal statistik yang diperoleh dari hasil penaksiran suatu matriks kovariansi. Model graf Gauss memberikan suatu cara dalam menunjukkan struktur saling bebas kondisional untuk variabel acak tertentu yang direpresentasikan ke dalam suatu graf. Salah satu sifat yang paling penting dalam distribusi Gauss adalah struktur saling bebas kondisional antar variabel acak yang dipasangkan ke invers kovariansi yang diperoleh. Estimasi kovariansi berukuran tinggi dapat diklasifikasikan menjadi dua kategori: estimasi yang didasarkan pada urutan antar variabel yang ada dan estimasi yang didasarkan pada estimator yang merupakan permutasi invarians terhadap masing-masing indeks variabel yang ada (Zhou, 2011).
1
Universitas Sumatera Utara

2
Asumsikan terdapat suatu vektor acak y = (y1, . . . , yd) berdasarkan suatu distribusi Gauss multivariat Nd(µ, Σ). Andaikan K = Σ−1 yang menyatakan matriks kovariansi dari vektor acak, maka matriks K merupakan matriks konsentrasi yang menyatakan korelasi parsial antara y1 dan y2. Pada dasarnya, estimasi dari parameter deterministik dalam model graf Gauss merupakan estimasi kovariansi dimana distribusi Gauss diperoleh dari hasil penaksiran statistik kedua setelah penaksiran yang umum digunakan, yaitu estimasi maximum likelihood. Estimasi kovariansi dalam model graf Gauss melibatkan kovariansi yang tidak diketahui berdasarkan struktur saling bebas kondisional dalam distribusi Gauss.
Dekomposisi model graf juga merupakan suatu struktur khusus yang digunakan dalam menentukan penaksiran estimasi maximum likelihood (MLE). Penaksiran ini umumnya digunakan dalam menentukan matriks konsentrasi dan variansinya (lihat Kavcic dan Monra, 2000; Bickel dan Levina, 2008) sebagai struktur multiskala (lihat Choi dan Willsky, 2007).
Riset mengenai model graf pada graph tak berarah telah berkembang untuk memperoleh struktur bebas bersyarat dalam distribusi multivariat, dan mengalami kemajuan dengan adanya metode secara komputasi yang dikembangkan ke dalam model graf, khususnya dalam persoalan peningkatan dimensi dan kompleksitas. Hasil yang diperoleh dari estimasi kovariansi diantara dua variabel dalam suatu distribusi Gauss multivariat merupakan hasil jumlah bobot path untuk semua path yang menghubungkan kedua variabel pada suatu graf bebas tak berarah (Wiesel dan Hero, 2012). Dalam penelitian ini, estimasi dekomposisi matriks kovariansi dilakukan pada model graf Gauss tak berarah.
Penelitian ini difokuskan pada estimasi dekomposisi matriks kovariansi Σ dan inversnya, yaitu matriks kovariansi yang dinotasikan sebagai Σ−1 pada graf Gauss
Universitas Sumatera Utara

3 tak berarah sehingga diperoleh tingkat keterhubungan tiap verteks pada suatu graf Gauss dengan nilai kovariansi yang diperoleh. 1.2 Perumusan Masalah
Kovariansi dekomposisi dua variabel pada suatu distribusi multivariat Gauss merupakan total penjumlahan seluruh bobot path yang menghubungkan dua variabel pada suatu graf. Penelitian ini menentukan matriks kovariansi dekomposisi antara dua variabel acak dalam suatu distribusi multivariat Gauss yang direpresentasikan pada suatu model graf Gauss tak berarah. Melalui model graf gauss tak bearah dapat ditentukan determinan matriks dan invers matriks dalam menyelesaikan persoalan yang berkaitan dengan dekomposisi kovariansi dalam suatu graf. 1.3 Tujuan Penelitian
Tujuan penelitian ini adalah menentukan hasil penaksiran matriks determinan dan matriks invers dengan menentukan matriks kovariansi dekomposisi pada semua path antara dua variabel acak pada model graf gauss tak berarah 1.4 Manfaat Penelitian
Hasil yang diperoleh dapat digunakan sebagai solusi dalam hal meminimumkan biaya komunikasi, biaya transportasi dan persoalan jaringan lainnya. Selain itu, hasil penelitian dapat menjadi alat bantu dalam penaksiran tingkat keterhubungan antar variabel yang terdapat pada graf tak berarah.
Universitas Sumatera Utara

BAB 2 KAJIAN PUSTAKA DAN LANDASAN TEORI
Dalam beberapa tahun terakhir, model graph secara statistik telah diaplikasikan dengan baik pada aplikasi pengenalan suara, pengolahan citra (Willsky, 2002 dan Choi dan Willsky, 2007), jaringan sensor (Cetin et al., 2006), jaringan komputer (Wiesel dan Hero, 2009) dan aplikasi lainnya dalam bidang proses sinyal. Bab ini mengkaji beberapa teori dan definisi yang berkaitan dengan model graf dan estimasi kovariansi pada model graf Gauss. Dalam penelitian ini, Cowell et al. (1999) menjadi rujukan mengenai teori graf yang diaplikasikan ke dalam model graf. Suatu model graf tak berarah merupakan suatu himpunan pasangan berurut G = (V, E) dimana V = {1, . . . , p} merupakan suatu himpunan hingga pada verteks dan E sebagai himpunan edge, merupakan suatu subhimpunan pasangan tak berurutan verteks. Andaikan terdapat dua buah verteks i, j ∈ V yang membentuk suatu edge, maka i dan j adalah saling bertetanggaan dan dinotasikan sebagai (i, j) ∈ E, dengan edge merupakan pasangan tak berurutan maka (i, j) = (j, i).
2.1 Graf Tak Berarah
Suatu graf G merupakan suatu pasangan G = (V, E) yang terdiri dari suatu himpunan hingga V = ∅ dan suatu himpunan E yang terdiri dari dua elemen subhimpunan V . Elemen di V disebut dengan verteks. Suatu elemen e = {a, b} di E disebut edge. a dan b dikatakan incident dengan e dan a dan b adalah adjacent atau saling bertetanggaan satu sama lain sehingga dapat dinyatakan dengan e = ab (Jungnickel, 2005).
4
Universitas Sumatera Utara

5

Suatu graf tak berarah merupakan pasangan berurut G = (V, E) dengan V = {1, . . . , p} merupakan suatu himpunan hingga verteks-verteks di G dan E, himpunan edge di G, merupakan suatu subhimpunan pada pasangan tak berurutan verteks yang berbeda-beda. Jika dua verteks, i, j ∈ V membentuk suatu edge pada pasangan tak berurutan, sehingga (i, j) = (j, i). Untuk dua graf dengan himpunan verteks, G = (V, E) dan G′ = (V ′, E′), asumsikan bahwa G′ lebih besar dari G, maka G ⊆ G′, jika E′ ⊆ E′ dimana tidak terdapat inklusi dengan E ⊂ E′, maka G ⊂ G′. Suatu subhimpunan C ⊆ V dengan semua verteks adalah mutual adjacent disebut lengkap, dan jika V adalah lengkap, maka dapat dikatakan bahwa G merupakan graf lengkap. Suatu graf tak berarah dapat diidentifikasi dengan clique pada himpunan C. Himpunan E¯ merupakan himpunan edge yang hilang di G, sehingga untuk suatu pasangan i, j ∈ V , (i, j) ∈ E¯ jika dan hanya jika i = j dan (i, j) ∈ E. Suatu path dengan panjang 1 > 0 dari verteks v0 ke v1 merupakan suatu barisan v0, v1, . . . , v1 pada verteks yang berbeda dengan (vk−1, vk) ∈ E untuk semua k = 1, . . . , l. Subhimpunan U ⊆ V memisahkan I ⊆ V dari J ⊆ V jika untuk setiap i ∈ I dan j ∈ J semua path dari i ke j mempunyai sedikitnya satu verteks di U (Roverato dan Castelo, 2006). Malouche (2009) juga menambahkan, suatu graf tak berarah G = (V, E) terdiri dari dua himpunan V dan E, dengan V menunjukkan himpunan verteks graf dan E ⊆ (V × V ) \ {(u, u), u ∈ V } yang menunjukkan himpunan edge yaitu:

∀(u, v) ∈ E ⇐⇒ (v, u) ∈ E

(2.1)

untuk u, v ∈ V , sehingga dapat dituliskan sebagai u ∼ Gv dimana (u, v) ∈ E. Maka u dan v adalah saling bertetanggaan di G (Malouche, 2009).

Definisi 1 Suatu path yang menghubungkan dua verteks yang berbeda, u dan v, di G merupakan suatu barisan verteks yang berbeda (u0, u1, . . . , un) dimana u0 = u dan un = v dimana untuk tiap i = 0, 1, . . . , n − 1, ui ∼ Gui+1 .

Universitas Sumatera Utara

6
Dengan suatu path yang didenotasikan dengan p = p(u, v, G) dimana p = p(u, v, G) menghubungkan u dan v atau sebaliknya. Panjang path didenotasikan dengan |p = p(u, v, G)| yang didefinisikan sebagai jumlah edge yang menghubungkan verteks di p. Pada kasus ini |p = p(u, v, G)| = n, sehingga P(u, v, G) adalah himpunan path antara u dan v.

Definisi 2 Asumsikan G = (V, E) suatu graf tak berarah. Graf G dikatakan tree jika suatu pasangan verteks (u, v) di G terhubung paling sedikit oleh satu path, yaitu |P(u, v, G)| = 1, ∀u, v ∈ V .

Suatu subgraf G yang dibatasi oleh suatu subhimpunan U ⊆ V yang didenotasikan oleh GU = (U, EU ), U ⊆ V dan EU = E ∩ (U × U ).

Definisi 3 Suatu komponen terhubung pada graf G merupakan subgraf terbesar GU = (U, EU ) di G dimana tiap pasangan verteks dapat dihubungkan oleh paling sedikit satu path di GU .

Definisi 4 Untuk suatu graf terhubung, suatu pemisah merupakan suatu subhim-

punan S di V dimana terdapat suatu pasangan verteks non-adjacent u dan v dengan

u, v ∈ S dan

∀p ∈ P(u, v, G), p ∩ S = ∅

(2.2)

Jika S merupakan suatu pemisah, maka untuk setiap S′ ⊇ S dengan S′ ⊆ V \{u, v} juga merupakan pemisah di S. Ini menunjukkan terdapat suatu pemisah minimum yang diberikan pada Definisi 5.

Universitas Sumatera Utara

7
Definisi 5 Pemisah S didefinisikan sebagai pemisah minimum antara dua verteks yang non-adjacent, u dan v, jika untuk setiap w ∈ S, subhimpunan S \ {w} bukan merupakan pemisah di u dan v.

Pada kasus ini, graf G mempunyai lebih dari dua komponen yang terhubung dan jika u dan v merupakan bagian komponen yang terhubung dimana himpunan kosong adalah satu-satunya pemisah yang mungkin di u dan v. Ambil A, B dan S sebagai pasangan subhimpunan disjoint di V . Sehingga S memisahkan A dan B jika untuk setiap pasangan verteks (u, v) ∈ A × B, tiap path yang menghubungkan u dan v yang merupakan himpunan bagian di S. Pada kasus dimana A dan B merupakan bagian komponen G dengan subhimpunan S dapat berupa himpunan kosong karena himpunan path antara tiap pasangan verteks (u, v) ∈ A × B adalah himpunan kosong (Malouche, 2009).

2.2 Distribusi Gauss

Penelitian ini menggunakan beberapa teori pada proses distribusi Gauss dalam perolehan model, sehingga digunakan suatu proses Gauss untuk mendeskripsikan suatu distribusi tertentu pada suatu fungsi. Asumsikan µ ∈ Rp merupakan suatu vektor dan Σ ∈ Rp×p sebagai matriks definit positif.

Definisi 6 Distribusi dengan fungsi densitas probabilitas

f(x) =

1 exp (2π)p det(Σ)

−

1 2

(x

−

µ)T

Σ−1

(x

−

µ)

, x ∈ Rp

selanjutnya disebut sebagai distribusi normal Gauss atau multivariat dengan rata-

rata µ dan matriks kovariansi Σ yang dinotasikan dengan Np(µ, Σ).

Secara khusus, diperoleh Definisi 7 yang telah dikaji oleh Rasmussen dan Williams (2006) sebagai berikut:

Universitas Sumatera Utara

8
Definisi 7 Suatu proses Gauss merupakan suatu kumpulan dari beberapa variabel acak, untuk bilangan hingga yang mempunyai suatu distribusi joint Gauss.

Asumsikan terdapat suatu fungsi rata-rata m(x) dan fungsi kovariansi k(x, x′) pada proses riil f(x) sebagai

m(x) = E[f (x)] k(x, x′) = E[(f (x) − m(x)) − (f (x′) − m(x′))] dan proses Gauss dapat dinyatakan sebagai

(2.3)

f (x) ∼ GP(m(x), k(x, x′))

(2.4)

Ambil X sebagai himpunan input yang mungkin pada suatu proses Gauss. Digunakan notasi umum dalam enumerasi untuk mengidentifikasi variabel-variabel acak terhadap pasangan (xi, yi). Lebih sederhananya, proses Gauss dinyatakan dengan (y1, y2) ∼ N (µ, Σ) yang juga menjelaskan bahwa y1 ∼ N (µ1, Σ11) dimana Σ11 merupakan submatriks relevan pada Σ. Ambil rata-rata dan kovariansi pada proses Gauss berturut-turut

E[f (x)] = φ(x)T E[w] = 0 E[f (x)f (x′)] = φ(x)T E[wwT ]φ(x′) = φ(x)T Σpφ(x′)

(2.5)

Sehingga f(x) dan f(x′) merupakan joint Gauss dengan nilai rata-rata 0 dan ko-

variasi yang diberikan, φ(x)T Σpφ(x′). Nilai fungsi f (x1), . . . , f (xn) dipasangkan

ke suatu bilangan pada input titik n yang merupakan joint Gauss, meskipun jika

N < n, maka proses Gauss adalah proses Gauss singular. Fungsi kovariansi antara

variabel-variabel acak yang ada dinyatakan dengan

cov

(f (xp),

f (xq))

=

k(xp,

xq)

=

exp(−

1 2

|xp

−

xq|2)

(2.6)

sehingga, pada vektor Gauss diperoleh matriks kovariansi

f∗ ∼ N (0, K(X∗, X∗))

(2.7)

Universitas Sumatera Utara

9

dengan X∗ merupakan matriks kovariansi yang diperoleh dari Persamaan (2.5).

Gauss multivariat (atau distribusi normal) mempunyai suatu densitas joint probabilitas yaitu

p(x|m, Σ) = (2π)−D/2|Σ|−1/2 exp

−

1 2

(x

−

m)T

Σ−1(x

−

m)

(2.8)

dengan m merupakan vektor rata-rata (dengan panjang D) dan Σ merupakan ma-

triks kovariasi yang simetrik dan definit positif dengan ukuran D × D. Sehingga

dapat dituliskan dengan x ∼ N (m, Σ). Asumsikan x dan y sebagai vektor acak

joint Gauss,

x y

∼N

µx µy

,

A CT

C B

=N

µx µy

,

A˜ C˜ T

C˜ −1 B˜

(2.9)

maka distribusi marginal x dan distribusi kondisional x diberikan y, yaitu x ∼ N (µx, A) dengan ketentuan

x|y ∼ N (µx + CB−1(y − µy), A − CB−1CT ) x|y ∼ N (µx − A˜−1C˜(y − µy), A˜−1)

(2.10)

Malouche (2009) memberikan pandangan distribusi Gauss pada suatu model graf dengan memperhatikan konsentrasi Gauss. Asumsikan terdapat suatu ruang probabilitas dengan triplet (Ω, F , P) dan ambil X : Ω → R|V | sebagai suatu vektor acak dimana X = (Xv, v ∈ V )′ dan P menunjukkan ukuran P oleh X. Jika X merupakan suatu distribusi Gauss, maka fungsi densitas dengan penaksiran Lebesgue dapat dinyatakan dengan

f (x)

=

1 (2π)|V |/2|Σ|1/2

exp

−

1 2

(x

−

µ)′

Σ−1(x

−

µ)′

(2.11)

dimana x = (xu, u ∈ V )′ ∈ R|V |, µ ∈ R|V | merupakan vektor nilai rata-rata (mean) dan Σ = (σuv) ∈ P+ merupakan matriks kovariansi dengan P+ merupakan matriks definit positif simetrik. Asumsikan µ = 0. Untuk setiap distribusi Gauss dengan

Universitas Sumatera Utara

10

µ = 0 diperoleh dari matriks kovariansi Σ, dimana himpunan distribusi multivariat Gauss dapat diidentifikasi oleh himpunan matriks definit positif simetrik. Selanjutnya, distribusi Gauss dapat diperoleh dari hasil invers matriks kovariansi Σ yang didenotasikan dengan K = Σ−1 = (kuv ). Matriks S disebut matriks konsentrasi atau invers kovariansi dimana untuk tiap pasangan (Xu, Xv) dengan u = v berlaku

Xu ⊥ Xv|XV \{u,v} ⇐⇒ kuv = 0

(2.12)

sehingga, graf konsentrasi G = (V, E) dapat dinyatakan secara sederhana dengan suatu matriks konsentrasi K dan sesuai dengan aturan

(u, v) ∈ E ⇐⇒ kuv = 0

(2.13)

Zhou et al. (2011) telah menjelaskan bahwa dalam hal menentukan matriks konsentrasi terdapat suatu graf tak berarah yang dinotasikan oleh G = (V, E0). Ambil suatu himpunan verteks V = (1, . . . , p) dan suatu himpunan edge tak berarah E0 ⊆ V × V yang didefinisikan sebagai berikut. Terdapat suatu edge tak berarah antara node i dan j, maka
θ0,ij = 0 ⇐⇒ βij = 0 dan βji = 0
sehingga dapat diperoleh ketentuan tertentu yang menyatakan korelasi atau hubungan antar node pada suatu graf Gauss tak berarah. Malouche (2009) memberikan pandangan mengenai matriks kovariansi pada model graf sebagai berikut.

Proposisi 2.1 Asumsikan XV = (Xv, v ∈ V )′ merupakan suatu vektor acak dengan distribusi probabilitas P berdasarkan sifat interseksi kovariansi dan asumsikan G0 = (V, E0) sebagai graf kovariansi yang dihubungkan dengan P . Maka, pernyataan berikut adalah ekuivalen

1. jika untuk tiap pasangan subhimpunan disjoint A, B dan S di V : jika V \ (A ∪ B ∪ S) memisahkan A dan B di G0, maka XA ⊥ XB|XS .

Universitas Sumatera Utara

11
2. jika untuk tiap pasangan subhimpunan disjoint A, B dan S di V : jika S memisahkan A dan B di G0, maka XA ⊥ XB|XV \(A∪B∪S).
Bukti Asumsikan bahwa Pernyataan 1 benar, sehingga akan dibuktikan Pernyataan 2. Asumsikan A, B dan S sebagai pasangan subhimpunan disjoint V dimana S memisahkan A dan B di G0. Maka dapat ditulis S sebagai berikut
S = V \ (V \ (A ∪ B ∪ S)) ∪ A ∪ B
Karena (V \ (A ∪ B ∪ S)) ∪ A ∪ B = V \ S dan V \ (V \ S) = S. Asumsikan S′ = V \ (A ∪ B ∪ S) dan karena S = V \ (S′ ∪ A ∪ B), gunakan Pernyataan 1 ke triplet (A, B, S′). Sehingga, XA ⊥ XB|XS′ . Sehingga XA ⊥ XB|XV \(S∪A∪B) karena S′ := V \ (S ∪ A ∪ B).
Kemudian, asumsikan A, B dan S sebagai pasangan subhimpunan disjoint V dengan V \ (S ∪ A ∪ B) memisahkan A dan B di G0. Denotasikan oleh S′ = V \(S∪A∪B) merupakan subhimpunan yang memisahkan A dan B di G0. Sehingga diperoleh
V \ (A ∪ B ∪ S′) = V \ ((V \ (A ∪ B ∪ S)) ∪ A ∪ B) = S
Akibatnya, dapat disimpulkan bahwa V \ (A ∪ B ∪ S) memisahkan A dan B di G0 dengan XA ⊥ XB|XS .
Wiesel et al. (2010) memberikan pandangan mengenai model graf Gauss tak berarah, G = (V, E), yang terdiri atas himpunan node-node V = {1, . . . , |V |} yang dihubungkan dengan edge tak berarah E = {(i1, j1), . . . , (i|E|, j|E|)} dengan adanya ketentuan bahwa tiap node terhubung ke node itu sendiri, (i, i) ∈ E dengan ∀i ∈ V . Ambil x = [x1, . . . , xp]T yang merupakan suatu vektor acak rata-rata nol dengan panjang p = |V | dengan elemen yang diindekskan oleh node pada V . Vektor x
Universitas Sumatera Utara

12

memiliki sifat Markov ke G, sehingga xi dan xj adalah saling independen pada xr untuk {i, j} ∈ E dan r = {V \ i, j} yang dapat dinyatakan sebagai berikut.

p(xi, xj|xr) = p(xi|xr)p(xj |xr)

dan fungsi distribusi yang diperoleh dengan faktorisasi sebagai berikut

p(xi, xj|xr)

=

p(xi, xr)p(xj , xr) p(xr)

Dalam Gauss, hasil faktorisasi tersebut digunakan untuk memperoleh sparsity

dalam matriks invers kovariansi atau matriks konsentrasi dengan distribusi Gauss

multivariat yang dinyatakan sebagai berikut.

p(x;

K)

=

c|K

|

1 2

e

−1 2

xT

Kx

dimana c merupakan suatu konstanta dan K ≺ 0 merupakan matriks invers kovariansi. Dengan distribusi marginal dan menggabungkan Gauss diperoleh

p(xr )

=

c |K |′

r

1 2

e

−1 2

xrT

K¯ r

xr

dimana c′ merupakan suatu konstanta dan matriks konsentrasi adalah

K¯r| = (|K−1|r,r)−1

Dari persamaan yang diperoleh diatas, diperoleh konsentrasi sebagai berikut

Kr| = [K¯ ir]0 + [K¯jr]0 − [K¯r]0

|K |

=

|K¯ir||K¯ jr| K¯ r

dengan K¯ir, K¯jr dan K¯r adalan konsentrasi pada {xi, xr},{xj, xr} dan {xr}. Se-

hingga sifat model graf Gauss yang dinyatakan sebagai berikut

[K]i,j = 0 ∀{i, j} ∈ E

Universitas Sumatera Utara

13

Zhou et al. (2011) menjelaskan suatu model Gauss multivariat yang dinyatakan sebagai

X = (X1, . . . , Xp) ∼ Np(0, Σ0) dengan Σ0,ii = 1

Notasikan matriks konsentrasi adalah Θ0 = Σ0−1. Gunakan formula model regresi, sehingga diperoleh

Xi = Σj=iβjiXj + Vi(i = 1, . . . , p) dengan

Vi ∼ N (0, σv2i) yang saling bebas pada {Xj ; j = i}(i = 1, . . . , p)

Sehingga diperoleh untuk masing-masing galat kovariansi dan matriks konsentrasi Θ0 = (θ0,ij) sebagai berikut

βji

=

−θ0,ij θ0,ii

;

Var(Vi)

=

σv2i

=

1 θ0,ii

(i,

j

=

1, . . . , p)

Diperoleh koefisien regresi sebagai berikut

θ0,ij = 0 ⇐⇒ βij = 0 dan βji = 0

dengan

asumsi

Var(Vi)=

1 θ0,ii

>

0

dan

Var(Vj

)=

1 θ0,ij

>

0.

Ini dapat

dihubungkan

ke

suatu graf tak berarah yang dinotasikan oleh G = (V, E0). Ambil suatu himpunan

verteks V = (1, . . . , p) dan suatu himpunan edge tak berarah E0 ⊆ V × V yang

didefinisikan sebagai berikut. Terdapat suatu edge tak berarah antara node i dan

j, maka

θ0,ij = 0 ⇐⇒ βij = 0 dan βji = 0

Højsgaard dan Lauritzen (2007) memberikan model graf Gauss yang diperoleh dari distribusi pada suatu vektor multivariat acak Y = (Yα)α∈V dan distribusi Nd(µ, Σ) dimana d = |V |, dimana dapat diasumsikan bahwa µ = 0. Ambil K = Σ−1 yang dinotasikan sebagai kovariansi invers, yang juga disebut sebagai

Universitas Sumatera Utara

14

konsentrasi dengan elemen (kαβ)α,β∈V . Sehingga diperoleh korelasi parsial antara

Yα dan Yβ pada seluruh variabel lainnya dapat dinyatakan sebagai

ραβ|V α,β =

−kαβ kααkββ

Akibatnya, nilai kαβ = 0 jika dan hanya jika Yα dan Yβ kondisional independen

terhadap seluruh variabel lainnya. Suatu model graf Gauss diperoleh dari suatu

graf tak berarah G = (V, E) dengan V merupakan himpunan verteks yang menun-

jukkan banyaknya variabel dan E menyatakan himpunan edge yang tak berarah.

Graf menunjukkan suatu model dengan K adalah matriks positif berhingga dan

mempunyai nilai kαβ = 0 dimana tidak terdapat edge diantara α dan β pada G.

Lauritzen (1996) memperkenalkan model graf Gauss pada suatu graf tak berarah G = (V, E) dengan himpunan verteks V = {1, . . . , |V |} yang dihubungkan oleh edge tak berarah E = {(i1, j1), . . . , (i|E|, j|E|)} dan andaikan x = [x1, . . . , xp]T sebagai vektor rata-rata acak dengan panjang p = |V | dimana masing-masing elemen diindekskan oleh verteks pada V .

Wiesel et al. (2010) mengembangkan model tersebut ke beberapa aplikasi pada pemrosesan sinyal. Model graf merupakan suatu struktur kondisional karakteristik dengan melibatkan suatu distribusi. Ambil suatu graf tak berarah G = (V, E) yang terdiri dari suatu himpunan verteks V = {1, . . . , |V |} yang dihubungkan dengan edge tak berarah E = {(i1, j1), . . . , (i|E|, j|E|)}. Ambil x = [x1, . . . , xp]T sebagai suatu vektor acak rata-rata 0 dengan panjang p = |V | dimana masing-masing elemen diindekskan oleh titik pada V . Sehingga ambil xi dan xj yang kondisional independen pada xr untuk tiap {i, j} ∈ E dan r = {V \i, j}. Maka,

p(xi, xj|xr) = p(xi|xr)p(xj |xr)

Sehingga diperoleh, dengan faktorisasi diperoleh distribusi gabungan yaitu

p(xi,

xj,

xr)

=

p(xi, xr)p(xj , p(xr)

xr)

Universitas Sumatera Utara

15

Dalam aturan Gauss, faktorisasi ini penting dalam matriks konsentrasi (invers kovariansi). Distribusi multivariat Gauss dapat didefinisikan sebagai

p(x;

K)

=

c|K

|

1 2

e−

1 2

xT

Kx

dimana c adalah suatu konstanta dan K ≻ 0 merupakan matriks konsentrasi. Wiesel et al. (2010) memperoleh [K]i,j = 0, ∀{i, j} ∈ E. Hal ini menunjukkan bahwa matriks K mempunyai pola sparsity yang menunjukkan topologi pada graf bebas.

2.3 Model Graf Gauss Tak Berarah

Asumsikan terdapat suatu distribusi Gauss multivariat X = (X1, X2, . . . , Xp) dengan vektor rata-rata 0 dan kovariansi Σ, maka Θ = Σ−1 menunjukkan distribusi kondisional pada masing-masing Xj . Maka edge pada graf merupakan invers kovariansi Σ−1 dimana (Σ−ij1) = 0 antara verteks i dan j. Akibatnya, Xi dan Xj adalah saling bebas yang dapat dinyatakan sebagai berikut

Xj|Xj ∼ N (Σi=j Xiβij, σjj)
yang selanjutnya dapat dinotasikan sebagai X ∼ Nd(ξ, Σ). Ambil λ = ei atau λ = ei + ej dimana ei menyatakan unit vektor dengan koordinat ke-i, sehingga ξ merupakan suatu vektor mean dan Σ adalah matriks kovariansi yang dinyatakan masing-masing sebagai berikut.

Xi ∼ N (ξ, σii), Cov(Xi, Xj) = σij

(2.14)

Koefisien regresi βij merupakan proporsional terhadap kovariansi parsial θij, yang juga proporsional terhadap korelasi parsial ρij = θij/(θiiθjj)1/2. Sehingga,
βij = 0 ⇐⇒ θij = 0 βij = 0 ⇐⇒ ρij = 0

Universitas Sumatera Utara

16

untuk suatu graf G = (V, E), model graf Gauss didasarkan pada graf G merupakan suatu himpunan distribusi peluang

N = {N (0, Σ), Σ ∈ PG} PG = {Σ : Σ ∈ P+, Σij = 0 jika (i, j) ∈ E}

(2.15)

dengan P+ merupakan himpunan matriks positif definit dan PG merupakan himpunan matriks positif definit dengan batas 0 pada graf G.

Berdasarkan pada penjelasan diatas, diperoleh model matriks pada distribusi Gauss multivariat yaitu X = (X1, . . . , Xp) ∼ N (0, Σ). Ambil Θ = Σ−1, maka loglikelihood adalah ℓ(Θ) = log det Θ−tr(SΘ) dengan S merupakan matriks kovariansi pada suatu graf G.

2.4 Kovariansi Dekomposisi dalam Graf

Teorema 2.4.1 Andaikan terdapat distribusi multivariat n-dimensi dengan suatu matriks kovariansi hingga Σ dan matriks invers kovariansi Ω = Σ−1. Ambil Ω untuk memperoleh suatu matriks incidence pada graf tak berarah dengan verteks (1, . . . , n), dengan elemen nonzero dalam Ω yang menyatakan edge. Elemen pada Σ merupakan kovariansi antara x dan y yang dapat dinyatakan sebagai hasil total jumlah bobot seluruh path pada graf antara x dan y yaitu

Σxy =

(−1)m+1ωp1p2 ωp2p3

.

.

.

ωpm−1pm

det(Ω \ p) det(Ω)

P ∈Pxy

dengan Pxy menunjukkan himpunan path antara x dan y, sehingga p = x1 dan

pm = y untuk semua P ∈ Pxy dan Ω \ P merupakan suatu matriks antara baris dan

kolom ke variabel di path P dengan determinan pada matriks dimensi 0 adalah 1.

Universitas Sumatera Utara

Lemma 2.4.2 Andaikan A adalah matriks n × n nonsingular, maka

17

(i.)

(A−1)i,j

=

(−1)i+j det(A\j,\i) detA

dimana A\j,\i merupakan matriks yang diperoleh dengan menghilangkan baris

j dan kolom i pada A.

(ii.) untuk suatu baris i
n
det(A) = (−1)i+j aijdet(A\j,\i)
j=1
dengan menambahkan satu kolom pada A.

Karena Σ = Ω−1 adalah simetrik, sesuai dengan Lemma 1(i), maka diperoleh

σxy

=

(−1)x+y det(Ω\x,\y) det(Ω)

(2.16)

Sehingga, untuk menentukan korelasi antar dua variabel acak x dan y pada suatu path dalam graf dapat ditentukan dengan

σxy

=

1 det(Ω)

(ωx1d(Ω,

x1,

xy)

+

·

·

·

+

ωxnd(Ω, xn, xy))

(2.17)

dimana d(Ω, xi, xy) bernilai -1 untuk semua path dengan memperhatikan nilai

Ω dimana x menunjukkan baris dan kolom pertama dan y menunjukkan baris

dan kolom ke-m. Akibatnya, (−1)x+y det(Ω\x,\y) mempunyai koefisien (−1)m+1. Akibatnya, elemen pada matriks kovariansi Σ dapat dinyatakan sebagai kofaktor

Ωij pada Ω sebagai berikut

Ω11 Ω21 . . . Ωn1 

Σ

=

1 det(Ω)

Ω12

 

...

Ω22 ...

... ...

Ωn2

...

 

Ω1n Ω2n . . . Ωnn

Universitas Sumatera Utara

BAB 3 HASIL DAN PEMBAHASAN

3.1 Model Graf Gauss

Dalam penelitian ini digunakan beberapa asumsi dalam menentukan dekom-

posisi matriks kovariansi dalam model graf Gauss. Asumsikan X = XV p, Vp = {1, . . . , p} adalah suatu vektor acak dengan distribusi normal multivariat dimensip, Np(0, K−1). Ambil suatu graf G = (Vp, E) dimana tiap verteks i ∈ V dipasangkan dengan suatu variabel acak Xi dan E ⊂ Vp × Vp yang merupakan suatu edge tak berarah, dengan ketentuan (i, j) ∈ E jika dan hanya jika (j, i) ∈ E. Suatu

model graf Gauss dengan graf saling bebas kondisional G diperoleh dengan adanya

batasan pada elemen diagonal di K yang tidak dipasangkan dengan edge di G.

Jika (i, h ∈ E, Xi dan Xj adalan bebas kondisional pada variabel-variabel acak yang diberikan. Matriks konsentrasi K = (Kij)1≤i,j≤p merupakan batasan ke matriks definit positif simetrik dengan entri diagonal Kij = 0 untuk semua (i, j) ∈ E. Gunakan distribusi G-Wishart, W isG(δ, D) dengan densitas

p(K|G, δ, D)

=

IG

1 (δ,

D)

(

det

K)(δ−2)/2 exp

−

1 2

(K,

D)

(3.1)

didasarkan pada penaksiran Lebesgue di PG (lihat Roverato, 2002; Atay-Kayis dan Massam, 2005 dan Letac dan Massam, 2007). Jika G merupakan graf lengkap (E =

Vp × Vp), maka W isG(δ, D) merupakan distribusi Wishart W isp(δ, D). Kemudian, gunakan dekomposisi Cholesky pada matriks K dengan K ∈ PG adalah K = QT (ψT ψ)Q dimana Q = (Qij)1≤i≤j≤p dan ψ = (ψij)1≤i≤j≤p merupakan segitiga atas dengan D−1 = QT Q yang merupakan dekomposisi Cholesky dari D−1.

18
Universitas Sumatera Utara

19

Asumsikan XT = (X1, X2, . . . , Xn) dengan Xi saling bebas dan Xi ∼ N (ξi, σi2).

Maka

λT X = λ1X1 + λ2X2 + · · · + λnXn ∼ N (µ, τ 2)

(3.2)

dengan

µ = λT ξ = λ1ξ1 + λ2ξ2 + · · · + λnξn, τ 2 = λ12σ12 + λ22σ22 + · · · + λ2nσn2 Sehingga, X ∼ Nn(ξ, Σ) dengan ξT = (ξ1, ξ2, . . . , ξn) dan

(3.3)

σ12

σ

=

 

0 0

0 σ22 0

0 0 σ32

0 0 0

0 0 0 σn2

(3.4)

Jika Σ adalah definit positif yaitu jika λT Σλ > 0 untuk λ = 0, maka distribusi

mempunyai densitas pada Rd yaitu

f (x|ξ, Σ) = (2π)−d/2(det K)1/2e−(x−ξ)T K(x−ξ)/2

(3.5)

dengan K = Σ−1 adalah matriks konsentrasi pada distribusi. Karena matriks adalah definit positif jika dan hanya jika matriks bersifat invertible, maka dapat disimpulkan bahwa Σ merupakan matriks regular.

Andaikan X1, X2, . . . , Xn saling bebas dan Xi ∼ N (ξi, σi2), maka bentuk densitas joint dapat dinyatakan sebagai

Σ = diag (σi2)

(3.6)

dan

K = Σ−1 = diag (1/σi2)

(3.7)

Maka, vektor pada Gaussian bebas merupakan Gaussian multivariat. Dalam kasus

bivariate, dapat dinyatakan dengan

Σ=

σ12 σ1σ2ρ σ1σ2ρ σ22

(3.8)

Universitas Sumatera Utara

20

dengan ρ menyatakan korelasi antara X1 dan X2. Maka,

det (Σ) = σ12σ22(1 − ρ2) = det (K)−1

dan

K

=

1 σ12σ22(1 −

ρ2)

Maka, densitas pada distribusi menjadi

σ22 −σ1σ2ρ

−σ1σ2ρ σ12

(3.9) (3.10)

f(x|ξ, Σ)

=

(x1

− ξ1)2 σ12

−

2ρ (x1

−

ξ1)(x2 σ1σ2

−

ξ2)

+

(x2

− ξ2)2 σ22

× e−1/2(1−ρ2)

1 2πσ1σ2 1 − ρ2

Estimasi dari matriks kovarians merupakan suatu persoalan dasar dari statis-

tik multivariat yang berhubungan dengan bidang ilmu pemrosesan sinyal, matema-

tika keuangan, pengenalan pola, geometri konveks komputasi. Ambil suatu sample

pada n titik yang saling bebas X1, . . . , Xn dari distribusi dan bentuk dari sampel

matriks kovariansi

Σn

=

1 n

n

Xk XkT

=

1 n

AT

A.

i=1

(3.11)

dengan Σn merupakan suatu matriks acak. Maka dilakukan estimasi matriks ko-

varians Σ dengan tingkat akuransi ε = 0.01 dalam operasi norm:

||Σn − Σ|| ≤ ε||Σ||

Asumsikan X = (X1, X2, . . . , Xn) dari suatu distribusi Gaussian multivariat Nd(0, Σ) dengan Σ merupakan matriks reguler. Maka diperoleh fungsi likelihood

L(K ) = (2π)−nd/2(det K )n/2e− nv=1(xv)Kxv/2

∝

(det K)n/2e−

/2n
v=1

tr{Kxv(xv)T

}

=

(det K)n/2e−tr{K

/2n
v=1

xv

(xv)T

}

= (det K)n/2e−tr(Kw)/2

Universitas Sumatera Utara

21

dengan

n
W = Xv(Xv)T

v=1

merupakan matriks hasil penjumlahan dan perkalian. Sehingga persamaan likeli-

hood pada matriks Gaussian menjadi

E(−W/2) Kˆ −1

log L(K)

∂ ∂ kij

log(det

K)

∂ ∂K

log(det

K)

= = = =
=

−nΣ 2

=

−w 2

Σˆ

=

w n

n 2

log(det

K)

−

tr(K w)/2

wij

n

K −1

3.2 Matriks Kovariansi Dekomposisi dalam Model Graf Gauss Tak Berarah

Diadopsi dari struktur sederhana pada kajian model komponen variansi dan persoalan deret waktu, Anderson (1973) memberikan definisi dari formula model kovariansi linier yang dinyatakan dengan

Σ = α1U1 + · · · + αqUq

(3.12)

dimana Ui merupakan matriks-matriks yang simetrik dan αi merupakan suatu pa-

rameter yang tidak diketahui yang menjadi syarat sehingga matriks selalu definit

positif. Persamaan (3.12) merupakan bentuk formula umum termasuk dalam per-

soalan model kovariansi deret waktu, mixed-linear dan model graf. Lebih khusus,

dimensi besar q untuk sebarang matriks kovariansi dapat dinyatakan dengan

pp

Σ = (σij) =

σij Uij

i=1 j=1

(3.13)

dengan Uij adalah matriks berdimensi p × p dengan elemen 1 di (i, j) dan elemen

0 untuk lainnya.

Universitas Sumatera Utara

22

Dalam penelitian ini diberikan asumsi sebagai berikut. Andaikan terdapat suatu matriks X berdimensi m × n dengan X = XV p, Vp = {1, . . . , p} adalah suatu vektor acak dengan distribusi normal multivariat dimensi-p, Np(0, K−1). Ambil suatu graf G = (Vp, E) dimana tiap verteks i ∈ V dipasangkan dengan suatu variabel acak Xi dan E ⊂ Vp × Vp yang merupakan suatu edge tak berarah, dengan ketentuan (i, j) ∈ E jika dan hanya jika (j, i) ∈ E. Kemudian asumsikan x = [x1, . . . , xp]T sebagai vektor rata-rata (mean) dengan panjang p = |V | dimana tiap elemen diindekskan ke verteks di V . Asumsikan Vektor x didasarkan pada sifat Markov di G, jika untuk tiap pasangan verteks nonadjacent di x adalah bebas kondisional di xr dengan xi dan xj untuk {i, j} ∈ E dan r = {V \ i, j} dengan

p(xi, xj|xr) = p(xi|xr)p(xj |xr)

(3.14)

Sehingga, dari hasil faktorisasi diperoleh distribusi joint yaitu

p(xi,

xj,

xr)

=

p(xi, xr)p(xj , p(xr)

xr)

(3.15)

Untuk tiap kolomn dan baris dapat ditentukan matriks variansi dengan beberapa langkah sebagai berikut:

1. Ubah matriks X menjadi matriks deviasi untuk x dengan ketentuan

x = X − 11′X

1 n

(3.16)

2. Hitung x′x, hasil penjumlahan dan perkalian silang dimensi k × k pada matriks x

3. Tiap elemen pada matriks x hasil penjumlahan dan perkalian silang diba-

gi oleh n. Akibatnya, diperoleh matriks variansi-kovariansi dari x, dengan

ketentuan

V = x′x

1 n

(3.17)

Universitas Sumatera Utara

dengan

23

1 : Vektor kolom dengan elemen 1 berdimensi n × 1 x : Matriks deviasi berdimensi m × n X : Matriks data berdimensi m × n V : Matriks kovariansi berdimensi n × n x′x : Matriks hasil penjumlahan deviasi dan hasil perkalian n : Jumlah pengamatan pada matriks X

Asumsikan bahwa matriks kovariansi V = Σ yang merupakan definit positif, yaitu jika λT Σλ > 0 untuk λ = 0. Maka, distribusi mempunyai densitas pada Rd

f (x|ξ, Σ) = (2φ)−d/2(det K)1/2c−(x−ξ)T K(x−ξ)/2

(3.18)

dengan K = Σ−1 merupakan matriks kovariansi yang didekomposisi sehingga diperoleh matriks invers kovariansi yang menyatakan matriks konsentrasi pada matriks X. Karena matriks dekomposisi yang diperoleh adalah definit positif, maka dapat disimpulkan bahwa Σ merupakan matriks regular.

Menurut Pourahmadi (2004), formulai sederhana dari dekomposisi matriks

kovariansi adalah

Σi = DiRiDi

(3.19)

dimana Di = diag (√σ11, . . . , √σipp) adalah suatu matriks diagonal dengan entri

tiap elemen matriks merupakan hasil akar kuadrat Σi dan Ri merupakan matriks

korelasi yang diperoleh. Karena entri diagonal di Di adalah nonnegatif, maka

matriks korelasi Ri adalah definit positif.

Dari kajian yang dilakukan oleh Pourahmadi (2004), digunakan asumsi bahwa matriks X dibagi menjadi X1 dan X2 dimana X1 ∈ Rr dan X2 ∈ Rs dengan

Universitas Sumatera Utara

24

m + s = n. Secara khusus, Σ12 = 0 jika dan hanya jika X1 dan X2 adalah saling bebas. Maka, untuk densitas kondisional dapat ditentukan dengan

f (x1|x2) ∝ fξ,Σ(x1, x2) ∝ exp{−(x1 − ξ1)T K11(x1 − ξ1)/2 − (x1 − ξ1)T K12(x2 − ξ2)}

(3.20)

dan bentuk linier x1 mempunyai koefisien yaitu

K11ξ1 − K12(x2 − ξ2) = K11{ξ1 − K1−11K12(x2 − ξ2)}

(3.21)

Gunakan matriks identitas, maka

K1−11 = Σ11 − Σ12Σ2−21Σ21 K1−11K12 = −Σ12Σ2−21

(3.22)

Dari Persamaan (3.21) dan (3.22), ambil suatu matriks dengan dimensi 2×2. Maka,

diperoleh vektor nilai rata-rata (mean), matriks konsentrasi dan matriks kovariansi

pada matriks dengan dimensi n × n, berturut-turut

ξ=

ξ1 ξ2

,

K=

K11 K21

K12 K22

,

Σ=

Σ11 Σ12 Σ21 Σ22

(3.23)

sehingga, Σ11 = r × r dan seterusnya untuk masing-masing entri matriks Σij . Jika Σ22 adalah reguler, maka ini berlaku untuk X1|X2 = x2 ∼ Nr(ξ1|2, Σ1|2) dimana

ξ1|2 = ξ1 + Σ12Σ−221(x2 − ξ2) Σ1|2 = Σ11 − Σ12Σ−221Σ21

(3.24)

Selanjutnya, matriks kovariansi yang diperoleh didekomposisi dalam menentukan parsial korelasi antar dua variabel acak dengan ketentuan

ρi,j =

−kij kii .kj j

(3.25)

Universitas Sumatera Utara

BAB 4 HASIL PERHITUNGAN

4.1 Matriks Dimensi m × m

Asumsikan terdapat suatu matriks A3×3, yaitu
141 A3×3 = 2 1 4
331

Sehingga, ditentukan matriks kovariansi dari matriks A dengan ketentuan Cov (A) = A − 11′A. Maka

141

111

Cov (A) = 2 1 4 − 1 1 1

331

111

141

−5 −4 −5

2 1 4 = −4 −7 −2

331

−3 −5 −5

Karena n = 3, maka tiap entri elemen pada hasil perolehan akhir matriks kovariansi

adalah

−5 −4 −5 Cov (A) = −4 −7 −2
−3 −5 −5

1 3

=

−1.6667 −1.3333 −1.6667 −1.3333 −2.3333 −0.6667 −1.0000 −1.6667 −1.6667

Selanjutnya, matriks kovariansi yang diperoleh didekomposisi dan diperoleh matriks invers yaitu

−1.1719 −0.2344 1.2656 Inv (A) = 0.6563 −0.4688 −0.4688
0.0469 0.6094 −0.8906

25
Universitas Sumatera Utara

dan untuk masing-masing korelasi sebagai berikut

ρ12|3

=

0.2344 (−1.1719)(−0.4688)

=

0.2344 0.7412

=

0.3162

ρ13|2

=

−0.0469 (−1.1719)(−0.8906)

=

−10.0.0241669=

-0.0459

ρ23|1

=

0.4688 (−0.4688)(−0.8906)

=

0.4688 0.6461

=

0.7255

26

4.2 Matriks Dimensi m × n

Asumsikan terdapat suatu matriks A5×3, yaitu
 4 2 0.6  4.2 2.1 0.59
A5×3 = 3.9 2 0.58 4.3 2.1 0.62 4.1 2.2 0.63

Sehingga, ditentukan matriks kovariansi dari matriks A dengan ketentuan Cov (A) =

A − 11′A. Maka

 4 2 0.6  1 1 1 1 1  4 2 0.6 

4.2 2.1 0.59

1 1 1 1 1 4.2 2.1 0.59

Cov (A) = 3.9 2 0.58 − 1 1 1 1 1 3.9 2 0.58

4.3 2.1 0.62 1 1 1 1 1 4.3 2.1 0.62

4.1 2.2 0.63

1 1 1 1 1 4.1 2.2 0.63

−0.1 0.1
= −0.2  0.2 0

−0.08 0.02 −0.08 0.02 0.12

−0.004 −0.014 −0.024 0.016  0.026

Karena n = 5, maka tiap entri elemen pada hasil perolehan akhir matriks kovariansi

adalah

−0.1 −0.08 −0.004

0.1 0.02 −0.014 Cov (A) = �