FST UTY Press Yogyakarta
PENGANTAR SIMULATED ANNEALING DAN APLIKASINYA
Dr. Suparman, M.Si., DEA
FST UTY Press YogyakartaPENGANTAR SIMULATED ANNEALING DAN APLIKASINYA
Oleh : Dr. Suparman, M.Si., DEA Hak Cipta @ 2010 pada Penulis Penerbit : FST UTY Press Jl. Ringroad Utara, Jombor Sleman
Hak cipta dilindungi undang-undang. Dilarang memperbanyak buku ini
sebagian atau seluruhnya, dalam bentuk dan dengan cara apa pun juga,
baik secara mekanis maupun elektronis, termasuk fotokopi, rekaman,
dan lain-lain tanpa izin tertulis dari penulis. Edisi pertama Cetakan pertama, 2010Editor : Sugiyarto, M.Si., Ph.D Desain Cover : Magistera Laningratum Setting : Ayudea Az Zahra Zulfa Dr. Suparman, M.Si., DEA
Pengantar Simulated Annealing dan Aplikasinya, ________ Yogyakarta :
FST UTY Press, 2010 vi+52 hlm; 18,5 x 26,5 cmISBN : 978-979-1334-30-3 Statistika : Buku Referensi
Kutipan Pasal 44 : Sangsi pelanggaran undang-undang hak cipta 1987
1.Barang siapa dengan sengaja dan tanpa hak mengumumkan atau memperbanyak suatu ciptaan atau memberi ijin untuk itu, dipidana dengan pidana penjara paling lama 7 (tujuh) tahun dan/atau denda paling banyak Rp 100.000.000,- (seratus juta rupiah).
2. Barang siapa dengan sengaja menyiarkan, memamerkan, mengedarkan, atau menjual kepada umum suatu ciptaan atau barang hasil pelanggaran hak cipta sebagaimana dimaksud ayat 1 (satu), dipidana dengan pidana penjara paling lama 5 (lima) tahun dan/atau denda paling banyak Rp 50.000.000,- (lima puluh juta rupiah).
KATA PENGANTAR
Buku ini disusun berdasarkan penelitian dan pengajaran yang penulis lakukan selama lima tahun. Di samping itu, penulis juga telah mengkaji berbagai literatur dan hasil penelitian. Buku ini ditulis sebagai buku referensi untuk para peneliti, para pengajar di Perguruan Tinggi dan para mahasiswa dalam memahami Metode Simulated Annealing. Dalam buku ini disertakan beberapa aplikasinya sehingga membuat buku ini cocok juga untuk para praktisi yang ingin memahami Metode Simulated Annealing dan permasalahan yang bisa diselesaikan dengan metode ini.
Dalam buku ini dibahas berbagai hal, yaitu : 1) Simulated Annealing; 2) Estimasi Model Runtun Waktu Autoregresif; 3) Estimasi Model Runtun Waktu Subset Autoregresif; 4) Estimasi Model Runtun Waktu Moving Average; 5) Estimasi Model Runtun Waktu Subset Moving Average; 6) Estimasi Model Subset Autoregresif Moving Average; dan 7) Segmentasi Model Synthetic Aperture Radar.
Karena saya tidak mungkin menyelesaikan buku ini sendirian, daya ingin mengucapkan banyak terima kasih pada berbagai pihak yang telah mendukung kelancaran penulisan buku ini. Akhirnya penulis tetap mengharapkan berbagai masukan, kritik dan saran demi perbaikan karya di masa yang akan datang.
Yogyakarta, Juni 2010 Penulis
Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA
Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA
iv
DAFTAR ISI
KATA PENGANTAR iii DAFTAR ISI vBAB 1 SIMULATED ANNEALING
1
1.1 Pendahuluan
1
1.2 Pembentukan Ukuran
4
1.3 Perhitungan Fungsi Kepadatan
6
1.4 Simulated Annealing
8 BAB 2 ESTIMASI MODEL RUNTUN WAKTU AUTOGRESIF
11
2.1 Rumusan Masalah
11
2.2 Bayesian Hirarki
12
2.3 Metode MCMC
13
2.4 Algoritma SA
14
2.5 Aplikasi
14
2.6 Kesimpulan
18 BAB 3 ESTIMASI MODEL RUNTUN WAKTU SUBSET
19 AUTOGRESIF
3.1 Rumusan Masalah
19
3.2 Bayesian Hirarki
19
3.3 Metode MCMC
21
3.4 Algoritma SA
21
3.5 Kesimpulan
22 BAB 4 ESTIMASI MODEL RUNTUN MOVING AVERAGE
23
4.1 Rumusan Masalah
23
4.2 Bayesian Hirarki
24
4.3 Metode MCMC
25
4.4 Algoritma SA
26
4.5 Aplikasi
26
4.6 Kesimpulan
30 Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA
BAB 5 ESTIMASI MODEL RUNTUN SUBSET MOVING AVERAGE
AUTOGRESIF MOVING AVERAGE
40
38 BAB 7 SEGMENTASI MODEL SYNTHETIC APERTURE
RADAR
39
7.1 Rumusan Masalah
39
7.2 Pendekatan Bayesian
7.3 Metode SA
38
41
7.4 Aplikasi
42
7.5 Kesimpulan
45 DAFTAR PUSTAKA
47
6.5 Kesimpulan
Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA vi
31
33
5.1 Rumusan Masalah
31
5.2 Bayesian Hirarki
31
5.3 Metode MCMC
33
5.4 Algoritma SA
5.5 Kesimpulan
37
34 BAB 6 ESTIMASI MODEL RUNTUN WAKTU SUBSET
35
6.1 Rumusan Masalah
35
6.2 Bayesian Hirarki
36
6.3 Metode MCMC
6.4 Algoritma SA
BAB
1 SIMULATED ANNEALING
1.1 PENDAHULUAN
Misalkan E menyatakan himpunan keadaan dan menyatakan probabilitas keadaan pada E. Algoritma Metropolis-Hastings ([1], [2]) menghasilkan rantai Markov pada E yang mempunyai probabilitas stasioner sama dengan . Pembentukan rantai Markov tersebut mendasarkan pada kondisi reversibilite. Probabilitas disebut stasioner jika untuk kernel K dari rantai Markov pada E berlaku :
( x ) ( y ) K ( y , x ) y E
untuk semua . Probabilitas disebut reversibel untuk kernel K
x E
jika
( x ) K ( x , y ) ( y ) K ( y , x )
untuk semua x , y E . Jelas bahwa reversibilite dari berimplikasi
pada stasionaritas untuk kernel K. Sifat ini digunakan untuk membentuk kernel K sedemikian sehingga merupakan distribusi stasioner. Misalkan q menyatakan kernel bantu pada E. Dimulai dari , penarikan sebuah titik baru y dilakukan dalam 2 tahap :
x E 1.
Titik y ditarik menurut q(x,y) 2. Titik y diterima dengan probabilitas
( y ) q ( y , x ) ( x , y ) min 1 ,
( x ) q ( x , y )
Kernel K didefinisikan sebagai
K ( x , y ) q ( x , y ) ( x , y ) jika x y
K ( x , y ) q ( x , x ) 1 ( x , y ) y
x
Kernel K ini memenuhi persamaan reversibite. Dibawah kondisi bahwa rantai Markov adalah irreduktibel dan aperiodik maka probabilitas juga merupakan probabilitas limit.
Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA Misalkan E menyatakan ruang yang dibentuk oleh dua ruang yang berbeda dimensinya. n n 1 2 E 1 x 2 x dengan n dan n adalah bilangan bulat yang berbeda. Untuk
1 n n n n 1
2 1 2 2
selanjutnya 1 x ditulis dengan dan 2 x ditulis dengan . Dengan demikian himpunan E dibentuk oleh dua unsur yaitu unsur n n 1 2 dari dan unsur dari . Demikian pula, ukuran dibentuk
n n 1 2 oleh dan .
dibawa oleh dibawa oleh 1 n n 1 2 2 Di dalam atau , algoritma Metropolis-Hastings dapat
berfungsi tanpa kesulitan. Sebaliknya perlu mendefinisikan n n 1 2 tranformasi dari menuju atau sebalinya yang memenuhi persamaan reversibilite. Idea dari Green ([3]), misalkan q menyatakan kernel instrumental dan menyatakan probabilitas
penerimaan/penolakan. Maka harus dipenuhi ( dx ) q ( x , dx ' ) ( x , x ' ) ( dx ' ) q ( x ' , dx ) ( x ' , x )
A B B A
untuk semua A dan B . Atau 1 2 A B B A ( dx ) q ( x , dx ' ) ( x , x ' ) ( dx ' ) q ( x ' , dx ) ( x ' , x ) 12 21
n n 1 2 Dimana q menyatakan kernel probabilitas dari menuju dan
12 n n 2 1
q menyatakan kernel probabilitas dari menuju
12 .
Misalkan bahwa ukuran dan kernel mempunyai fungsi kepadatan terhadap ukuran Lebesque, maka ( x ) q ( x , x ' ) ( x , x ' ) dxdx ' ( x ' ) q ( x ' , x ) ( x ' , x ) dx ' dx 1 12 2 21 AxB BxA
( x ' ) q ( x ' , x ) ( x ' , x ) dxdx ' 2 21 AxB
Atau ( x ) q ( x , x ' ) ( x , x ' ) = ( x ' ) q ( x ' , x ) ( x ' , x )
1 12 2 21 Jadi
Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA
2
( x ' ) q ( x ' , x ) 2 21
( x ' , x ) min 1 ,
( x ) q ( x , x ' ) 1 12
Selanjutnya dibentuk ukuran dalam himpunan ExE
simetris dan memenuhi ( dx ) q ( x , dx ' ) mempunyai fungsi kepadatan
dan mempunyai fungsi kepadatan
f ( x , x ' ) ( dx ' ) q ( x ' , dx ) f ( x ' , x )
terhadap . Ingatlah bahwa ukuran adalah simetris jika dan hanya jika untuk semua fungsi terukur positif diatas ExE
( x , y )
berlaku ( x , y ) ( dx , dy ) ( y , x ) ( dx , dy ) ExE ExE
Karena ukuran ini simetris, maka ( dx ) q ( x , dx ' ) ( x , x ' ) f ( x . x ' ) ( x , x ' ) ( dx , dx ' )
A B AxB f ( x '. x ) ( x ' , x ) ( dx , dx ' )
BxA
( dx ' ) q ( x ' , dx ) ( x ' , x ) f ( x '. x ) ( x ' , x ) ( dx ' , dx ) B A BxA f ( x . x ' ) ( x , x ' ) ( dx , dx ' )
BxA
Persamaan reversibilite menjadi f ( x '. x ) ( x ' , x ) ( dx , dx ' ) f ( x . x ' ) ( x , x ' ) ( dx , dx ' ) BxA BxA Agar supaya persamaan ini dipenuhi, cukup dipenuhi f ( x ' , x ) ( x ' , x ) f ( x , x ' ) ( x , x ' ) untuk semua . Atau
( x , x ' ) ExE f ( x ' , x )
.
( x , x ' ) min 1 , f ( x , x ' )
Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA Permasalahan selanjutnya adalah bagaimana membentuk ukuran yang simetris diatas ExE dan fungsi kepadatan f yang berkaitan dengan transformasi yang dilakukan.
1.2 PEMBENTUKAN UKURAN
n n 1 2 Ide umum adalah melengkapi dua ruang dan untuk berada
dalam ruang yang sama dimensinya. Misalkan m dan m adalah dua 1 2 bilangan positif sedemikian sehingga n m n m 1 1 2 2 Selanjutnya mendefinisikan transformasi-transformasi yang bersesuaian. Misalkan n m n 1 1 2
g : 2
( x , x ) g ( x , x ) 1 2 1 dan n m n 2 2 1
g : 1
( x ' , x ) g ( x ' , x ) 2 1 2
Anggap bahwa ada ijektivitas dari transformasi-transformasi terhadap komponen, yaitu untuk i =1, 2 berlaku g ( u , ) g ( u , ) i i
Anggap juga bahwa ada sebuah rumus inversi yang memungkinkan n m 1 1 untuk kembali ke belakang. Untuk semua x dan x , m 2 1 terdapat dengan tunggal x sedemikian sehingga 2 n m 1 1 g g ( x , x ), x . Definisikan juga sebuah fungsi h x dari x ke 1 2 1 m 2 2
2
dalam dengan memisalkan x h ( x , x ) yang memenuhi 2 2 1 persamaan sebelumnya. n m 2 2 Secara simetris, untuk semua dan terdapat m 1 x ' x 2 dengan tunggal sedemikian sehingga x g g ( x ' , x ), x . x ' 1 n m m 2 2 1 2 1 2 1 Definisikan fungsi h dari ke dalam dengan memisalkan
a x
x h ( x ' , x ) Akhirnya sifat inversi ini memungkinkan berdasarkan 1 1 2 g dan g untuk membentuk dua aplikasi yang saling invers
1 2, Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA
4 n m n m 1 1 2
2 : x 12 ( x , x ) g ( x , x ), h ( x , x ) 1 2 12
1dan n m n m 2 3 1 1
: x 21 ( x ' , x ) g ( x ' , x ), h ( x ' , x ) 2 1 2 1 2 Untuk ilustrasi, misalkan
n dan 1 1 n . Maka lengkapi ruang 2 2 dan ambil m dan 1 1 m . Definisikan aplikasi g dan g dengan 2 1 2 cara berikut 2 2 g : 2
( x , x ) g ( x , x ) ( x x , x x ) 1 2 1 1 1
dan 2
g : 1 x ' x ' 1 2 x : ( x ' , x ' ) g ( x " ) 1 2 2
2 n n 1 2 Ingatlah bahwa E adalah berbentuk
1 x 2 x dan ukuran simetris diatas ExE berdasarkan aplikasi g dan g . Dimulai dengan n n 1 2
1
2
mendefinisikan pada x kemudian secara simetris pada m m 1 2
x dan akhirnya diperluas pada ExE. Pertimbangkan aplikasi
n m n m 1 1 2 2 : x x ( x , x ) x , g ( x , x ) 1 2 1 Karena adalah bayangan dari ukuran Lebesque dari n n 1 2
x melalui aplikasi maka dapat dimisalkan d . d . Untuk
n n 1 2 A dan B berlaku n m 1 1 ( AxB ) ( x , x ) x x A dan g ( x , x ) B 1 m m 1 2 2 1
Definisi ini diperluas pada x melalui sifat simetris dengan memisalkan n n 1 2 untuk dan .
( BxA ) ( AxB ) A B
Akhirnya n n n n 1 2 2 1
( AxB ) A xB A xB
Perhatikan bahwa n n 1 1
( AxB ) jika A dan B
Dan
Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA n n 2 2 ( AxB ) jika A dan B
Untuk sebuah fungsi dua variabel positif pada ExE berlaku
( x , y ) ( x , x ' ) ( dx , dx ' ) ( x , x ' ) ( dx , dx ' ) ExE n n 1 x 1
( x , x ' ) ( dx , dx ' ) n n 2 x 2
Karena simetris maka juga berlaku
( x , x ' ) ( dx , dx ' ) ( ( x , x ' ) ( x ' , x )) ( dx , dx ' ) ExE n n 1 x 1 n n 1 2 Akhirnya, untuk dan berlaku
A B
( x , x ' ) ( dx , dx ' ) AxB 1 ( x ) A B 1 ( x ' ) ( x , x ' ) ( dx , dx ' ) ExE
1 ( x ) A B 1 ( g ( x , x )) ( x , g ( x , x )) ( dx , dx ) 2 1
2
1 1 n n 1 x 2 1.3 PERHITUNGAN FUNGSI KEPADATAN
n n 1 2 Misalkan x . Dipilih lompatan menuju dengan probabilitas n 1 j(2,x) dan tinggal di dengan probabilitas 1-j(2,x). Ambil secara m 1 random titik x dengan distribusi bantu q (x ) dan kemudian 1
1
1
dimisalkan x ' g ( x , x ) 2 1 Misalkan ( x ) dan ( x ) adalah fungsi-fungsi kepadatan 1 2 n n 1 2 terhadap ukuran Lebesque dari
dan . Maka ( dx ) q ( x , dx ' ) ( x , x ' ) A B
1 ( x ) ( x ) A 1 B 1 ( g ( x , x ))) 2 1 n n 1 x 2
j ( 2 , x ) ( x , g ( x , x )) q ( x ) dxdx n n 1 2 2 1 1 1 1 dengan A dan B .
Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA
6
Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA
' 1 ) x ( ) ' x (
1
)) x , ' x ( g , ' x ( ) ' x , 1 ( j 2 1 2 2 2 ) dxdx x ( q
Untuk menyatakan integral ini terhadap ukuran
, lakukan perubahan variabel
) x , x ( h x ) x , x ( g ' x 1 2 2 1 2 Jika integral di ruas kanan dinyatakan sebagai fungsi dari x dan x
1
maka akan muncul jacobian ) x , x (
) x , ' x ( 1 2
Sehingga
) ' dx ( B
) x , ' x ( ) dx , ' x ( q A
1 m 1 n x 2 1 A 2 B )) x , ' x ( g (
) x , ' x ( ) dx , ' x ( q A
Menurut kondisi inversi, untuk x dan
' x
yang diberikan terdapat dengan tunggal x
1
sedemikian sehingga ) x , x ( g ' x 1 2
. Dengan demikian
) x ( q 1 1 dinyatakan dengan ) ' x , x ( q 1 .
) dx ( A
) ' x , x ( ) ' dx , x ( q B
AxB 1 ) ' x , x ( ) x , ) 2 ( j x ( ) ' dx , dx ( ) ' x , x ( q 1
Sehingga fungsi kepadatan terhadap ukuran
dapat ditulis sebagai ) ' x , x ( q ) x ,
) 2 ( j x ( ) ' x , x ( f 1 1
Dengan cara yang sama diperoleh ) ' dx ( B
1 ( x ' ) ( x ' ) 1 ( x ) B 2 A AxB
( x ' , x ) 2
j ( 1 , x ' ) ( x ' , x ) q ( x ' , x ) ( dx , dx ' ) 2
( x , x ) 1 Maka diperoleh ( x ' , x )
2 f ( x ' , x ) ( x ' ) j ( 2 1 , x ' ) q ( x ' , x ) 2 ( x , x )
1 Probabilitas penerimaan menjadi
( x ' ) j ( 2
1 , x ' ) q ( x ' , x ) ( x ' , x )
2 ( x , x ' ) min 1 , . ( x ) j ( 12 , x ) q ( x , x ' ) ( x , x )
1 1 1.4 SIMULATED ANNEALING
Algoritma reversibel jump Markov chain Monte Carlo yang diuraikan i dalam bagian sebelumnya menghasilkan pengamatan x dalam
ruang keadaan E menurut distribusi .
Dalam bagian ini, diuraikan versi simulated annealing dari algoritma reversible jupm Markov chain Monte Carlo. Algoritma Simulated Annealing (lihat sebagai contoh [4]) menggunakan skema i penurunan temperatur T dan menghasilkan x menurut
i
distribusi h ( x )
( x ) T
T i dimana h ( x ) log ( x ) . Dengan menurunkan temperatur T menuju
i
0, nilai yang disimulasikan berada disekitar dekat sekali dengan minimum global dari fungsi h(x).
Bartoli dan Del Moral memberikan kondisi sangat umum dari kekonvergenan algoritma simulated annealing dalam ruang terukur sembarang. Kondisi reversibilitas dari kernel otomatis dipenuhi untuk kernel Metropolis-Hasting. Di sini, skema penurunan
Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA
8
Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA
) x ( log ) x ( h ) x ( log ) x ( h
dengan
1 exp
- * i
T
) x , x (
) 1 min x , x ( 12 T 12 * * 21 *
temperatur T
) u ( h ) x ( j ,
) u , x ( f ) u ( g ) x ( j
) u , x (
menjadi
dicari secara empiris. Probabilitas penerimaan/penolakan ) x , x ( *
i
) x ( h ) x ( h ) x , x ( * * * *
Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA
10
BAB
2 ESTIMASI MODEL RUNTUN WAKTU AUTOREGRESIF
2.1 RUMUSAN MASALAH Misalkan adalah suatu runtun waktu berharga riil.
(
X t ) t Z
Runtun waktu (
X t ) t Z dikatakan memiliki model AR dengan orde p,
dinotasikan sebagai AR(p), jika (
X t ) t Z memenuhi persamaan
stokhastik berikut : p ( p ) (2.1)
t Z
X X E t i t i t
i 1
di mana orde p N , vektor koefisien
( p ) ( p ) ( p ) ( p ) P
, , ,
p
1 2
dan ( E t ) t Z merupakan suatu barisan peubah acak berharga riil
yang saling bebas dan masing-masing berdistribusi normal dengan
2
rata-rata 0 dan variansi ([5]). Data jumlah pembangkit tenaga listrik oleh industri listrik, jumlah pendaftaran mobil di suatu negara, jumlah penumpang pesawat udara dan data jumlah penjualan industri merupakan beberapa contoh data riil yang dapat dimodelkan oleh model AR.
Selanjutnya model AR (
X ) disebut stasioner jika dan hanya t t Z
jika persamaan suku banyak p ( p ) i
( a ) 1 a i 1 i
bernilai nol untuk nilai a di luar lingkaran dengan jari-jari sama dengan satu ([6]).
Berdasarkan data x t (t = 1, 2, …, n), selanjutnya kita akan berusaha untuk menaksir harga
( p )
2
p, , dan . Untuk melakukan itu, kita akan menggunakan pendekatan Bayesian hierarki, yang akan diuraikan dalam bagian berikut ini.
Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA
2.2 BAYESIAN HIERARKI
Andaikan adalah suatu realisasi dari model
s x p 1 , x p 2 , , x n
AR(p). Jika nilai s x
1 , x 2 , , x p diketahui, maka fungsi
kemungkinan dari s dapat ditulis kurang lebih sebagai berikut : ( n p ) / 2 ( p ) 2 n (2.2)
1
1 2 ( p ) s p , , exp g t , p ,
2 2
t q 1 2 2
di mana ( p ) p ( p )
g t , p , x x t i 1 i t i x x x ([7]).
ˆ 1 ˆ 2 ˆ p
untuk t = p+1, p+2, …, n dengan nilai awal Misalkan S adalah daerah stabilitas. Dengan menggunakan
p
transformasi ( p ) ( p ) ( p ) ( p )
(2.3)
G : , , , S 1 2 p p ( p ) p
r r , r , , r ( 1 , 1 )
1 2 p
maka model AR stasioner jika dan hanya jika (
X t ) t Z ( p ) p
([8]). Selanjutnya fungsi kemungkinan dapat
r r 1 , , r p ( 1 , 1 )
ditulis kembali sebagai : ( n p ) / 2 ( r ) 2 n (2.4)
1
1 2 1 ( p ) s p , r , exp g t , p , G ( )
2
2
t p
1 2 2 Penentukan distribusi prior untuk parameter-parameter tersebut di atas adalah sebagai berikut : a)
Orde p berdistribusikan Binomial dengan parameter λ : p p p p max
( p ) C ( 1 ) p max ( p )
b)
r
Untuk orde q ditentukan terlebih dahulu, vektor koefisien
q berdistribusikan seragam pada interval (-1, 1) .
2
c) berdistribusikan invers gamma dengan parameter
Variansi α/2 dan β/2 : / 2 2 ( /
2 ) 2 ( 1 / 2 ) 2
( , ) ( ) exp /( 2 ) ( / 2 )
Di sini parameter λ diasumsikan berdistribusi seragam pada interval
(0,1), nilai α diambil sama dengan 2 dan parameter β diasumsikan berdistribusi Jeffrey. Sehingga distribusi prior untuk parameter
( p )
2 H 1 ( p , r , ) dan H 2 ( , ) dapat dinyatakan sebagai : ( p ) 2 ( H , H ) ( ) ( ) (2.5) 1 2 p r p ,
Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA
12
Menurut Teorema Bayes, maka distribusi a posteriori untuk parameter H dan H dapat dinyatakan sebagai :
1
2 ( H , H ) ( H , H s ) s H
(2.6) 1 2 1 1 2 Distribusi a posteriori merupakan gabungan dari fungsi kemungkinan dan distribusi prior yang kita asumsikan sebelum sampel diambil. Fungsi kemungkinan bersifat obyektif sementara distribusi prior ini bersifat subyektif. Dalam kasus ini, distribusi a posteriori H
1 , H 2 s mempunyai bentuk yang sangat rumit sehingga
tidak dapat diselesaikan secara analitis. Untuk mengatasi masalah tersebut, diusulkan metode MCMC.
2.3 METODE MCMC
Misalkan M = (H , H ). Secara umum, metode Markov Chain
1
2 Monte Carlo (MCMC) merupakan suatu metode sampling, yaitu
dengan cara membuat rantai Markov homogen M ,...,M yang
1 m
memenuhi sifat aperiodik dan irreduktibel ([9]) sedemikian hingga M ,...,M dapat dipertimbangkan sebagai variabel acak yang
1 m
mengikuti distribusi , . Dengan demikian M ,...,M dapat H
1 H 2 s 1 m
digunakan sebagai sarana untuk menaksir parameter M. Untuk merealisasikan itu diadopsi algoritma Gibbs Hibrida ([9]) yang terdiri dari dua tahap :
1. H
2 s
Simulasi distribusi
2. H
1 , H 2 s
Simulasi distribusi
Algoritma Gibbs digunakan untuk mensimulasikan distribusi dan algoritma hibrida, yang mengabungkan algoritma H
2 s
Reversible Jump Markov Chain Monte Carlo (RJMCMC) ([3]) untuk
( p )
mensimulasikan parameter ( p , r ) dengan algoritma Gibbs untuk
2
mensimulasikan parameter , digunakan untuk mensimulasikan σ distribusi H
1 , H 2 s . Algoritma RJMCMC merupakan rampatan dari
algoritma Metroppolis-Hastings ([1], [9]). Estimator yang dihasilkan oleh metode MCMC dalam dua tahap. Tahap pertama adalah estimator dari orde q. Tahap kedua
2
adalah estimator dari parameter model AR dan variansi yang σ bersesuaian dengan orde q yang diperoleh pada tahap pertama.
Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA Untuk mendapatkan kecepatan dan efisiensi diperlukan suatu algoritma untuk menentukan estimator orde q, parameter model AR
2
dan variansi secara bersamaan. Untuk keperluan itu, diusulkan σ algoritma Simulated Annealing (SA).
2.4 ALGORTIMA SA
Algoritma SA ([10]) diperoleh dengan menambahkan barisan temperatur T ,...,T dalam metode MCMC di atas. Selanjutnya
1 m
algoritma SA akan memproduksi suatu rantai Markov M(T ),...,M(T ) yang tidak lagi homogen. Dengan suatu hipotesis
1 m
tertentu pada T
1 ,...,T m ([11]) maka M(T m ) akan konvergen menuju
suatu nilai yang memaksimumkan distribusi posteriori H
1 , H 2 s .
2.5 APLIKASI
Sebagai ilustrasi, kita akan menerapkan metode ini untuk mengidentifikasi orde dan menaksir parameter data AR sintesis dan data riil. Studi simulasi ditempuh untuk mengkonfirmasi kinerja dari algoritma SA apakah dapat berkerja dengan baik. Sedangkan studi kasus diberikan untuk memberikan contoh penerapan penelitian dalam memecahkan permasalahan dalam kehidupan sehari-hari.
Baik untuk data AR sintesis maupun data AR riil ini, kita akan menggunakan algoritma SA untuk mengidentifikasi orde dan mengestimasi parameter model AR yang bersesuaiaan. Untuk keperluan itu, algoritma SA dimplementasikan sebanyak 70000 iterasi dengan nilai awal temperatur T = 10 kemudian temperatur diturunkan dengan faktor 0,995 hingga mencapai temperatur akhir T = 0,01. Nilai orde q dibatasi maksimum 10 sehingga q = 10.
1400 maks
Data AR Sintesis
Gambar 2.1 merupakan data AR sintesis yang dibuat menurut persamaan (2.1) di atas dengan menggunakan bahasa pemogramanPengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA
14
( 2 )
MATLAB, dengan jumlah data n = 250, orde p = 2, , 4162 ,
1 ( 2 )
2 dan = 4.
, 5377 σ
2 Gambar 2.1. Data AR Sintesis
Selanjutnya berdasarkan data dalam Gambar 2.1 orde p, parameter
2
model AR, variansi akan ditentukan atau lebih tepat akan ditaksir σ dengan menggunakan algoritma SA. Penaksir orde, parameter model
2 AR dan variansi yang dihasilkan oleh algoritma SA adalah p 2 ,
σ
ˆ ( 2 ) ( 2 )
2
ˆ ˆ , 4073 , , 5430 dan
= 3,5239. ˆ
1
2 Data AR Riil
Gambar 2.2 menyajikan data penjualan suatu produk pada CVJaya Warsa Klaten untuk 50 periode yaitu dari Januari 2002 sampai Pebruari 2006 ([12]). Dari plot data dapat kita lihat bahwa bahwa data tidak stasioner. Untuk mendapatkan menstasionerkan data, dibuat data baru yang terdiri dari pembedaan data asli antara periode yang berturut-turut.
Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA
Gambar 2.2. Data Penjualan suatu Produk pada CVJaya Warsa Dengan melakukan pembedaan pertama terhadap data asli pada Gambar 2.2 akan menghasilkan suatu data stasioner yang plotnya ditunjukkan pada Gambar 2.3.
Gambar 2.3. Pembedaan Pertama Data Penjualan suatu Produk pada CV Jaya Warsa.Seperti untuk kasus data sintesis, berdasarkan data pada 2 Gambar 2.3 orde p, parameter model AR dan varisnsi diestimasi
dengan menggunakan algoritma SA. Hasilnya adalah p
4 , ˆ ( 4 ) ( 4 ) ( 4 ) ( 4 )
2
ˆ ˆ ˆ ˆ , 5105 , , 3414 , , 2809 , , 2250 dan
ˆ =
1
2
3
4 16,6262.
Data riil kedua disajikan pada Gambar 2.4. Data tersebut merupakan data penjualan Penjualan Jasa Penumpang Pesawat
Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA
16
Udara (PJP2U) dalam negeri pada PT Angakasa Pura I Bandar Udara Internasional Adisutjipto Yogyakarta untuk 55 periode yaitu Januari 2001 sampai Juli 2005 ([13]). Terlihat jelas pada Gambar 4 bahwa data inipun tidak stasioner.
Gambar 2.4. Data Penjualan PJP2U dalam negeri pada PT Angakasa Pura I.Untuk mendapakan data yang stasioner dilakukan pembedaan pertama dan hasilnya ditunjukkan pada Gambar 2.5.
Gambar 2.5. Pembedaan Pertama Data Penjualan PJP2U dalam Negeri pada PT Angakasa Pura I.Berdasarkan data pada Gambar 2.5 selanjutnya orde p,
2
parameter model AR dan variansi ditaksir dengan menggunakan σ
Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA
( 1 )
2
ˆ algoritma SA. Hasilnya adalah
1 , , 3926 dan p ˆ = 6,8499 x ˆ
1
7 10 .
2.6 KESIMPULAN
Uraian di atas, merupakan kajian teori tentang algoritma SA dan penerapannya pada identifikasi orde p, penaksiran vektor
( p )
2
koefisien , dan penaksiran variansi dari model AR. Dari hasil
σ simulasi menunjukkan bahwa algoritma SA dapat menaksir parameter-parameter itu dengan baik.
Sebagai implementasi algoritma SA, diambil dua data riil pada CV Jaya Warsa dan PT Angkasa Pura I. Hasilnya adalah data penjualan suatu produk pada CV Jaya Warsa Klaten dapat dimodelkan dengan model ARI(4) dan data penjualan PJP2U dalam negeri pada PT Angakasa Pura I Bandar Udara Internasional Adisutjipto Yogyakarta dapat dimodelkan dengan model ARI(1). Selanjutnya model-model yang diperoleh dapat digunakan untuk memprediksi jumlah penjualan pada CV Jaya Warsa dan juga jumlah penjualan PJP2U dalam negeri pada PT Angakasa Pura I Bandar Udara Internasional Adisutjipto pada periode berikutnya.
Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA
18
BAB
3 ESTIMASI MODEL RUNTUN WAKTU SUBSET AUTOREGRESIF
3.1 RUMUSAN MASALAH Misalkan adalah suatu runtun waktu berharga riil.
(
X t ) t Z
Runtun waktu (
X t ) t Z dikatakan memiliki model Subset
AutoRegresif dengan orde p, dinotasikan sebagai SAR(p), jika (
X t ) t Z
memenuhi persamaan stokhastik berikut :
( p ) p
(3.1)
X X E , t Z
t t m i t
i1 m i
di mana orde dan vektor koefisien
p N ( p ) ( p ) p ( p )
.
, ,
m m
1 p
Di sini, merupakan suatu barisan peubah acak berharga riil ( E t ) t Z yang saling bebas dan masing-masing berdistribusi normal dengan
2
mean 0 dan variansi . Data kurs mata uang rupiah terhadap euro, σ jumlah pendaftaran mobil di suatu negara, jumlah penumpang pesawat udara dan data jumlah penjualan industri merupakan beberapa contoh data riil yang dapat dimodelkan oleh model SAR.
Berdasarkan data x
t (t = 1, 2, …, n), selanjutnya kita akan
berusaha untuk menaksir harga
( p )
2 p, dan .
σ
Untuk melakukan itu, kita akan menggunakan pendekatan Bayesian hierarki, yang akan diuraikan dalam bagian berikut ini.
3.2 BAYESIAN HIERARKI
Andaikan adalah suatu realisasi dari model
s x p 1 , x p 2 , , x n
SAR(p). Jika nilai diketahui, maka fungsi
s x 1 , x
2 , , x p
kemungkinan dari s dapat ditulis kurang lebih sebagai berikut :
Pengantar Simulated Annealing dan Aplikasinya | Dr. Suparman, M.Si., DEA
( n p ) /
2
(3.2)
1
1
n ( )
2 2 ( ) p p
( s p , , ) exp g ( t , p , )
t p
2
2
1
2 2 di mana
( p ) p
( p ) ( q )
g ( t , p , q , , ) x t x t m i
i 1 m i
untuk t = p+1, p+ .
x ˆ 1 x ˆ 2 x ˆ p
2, …, n dengan nilai awal Penentukan distribusi prior untuk parameter-parameter tersebut di atas adalah sebagai berikut : a)
Orde p berdistribusikan Binomial dengan parameter λ : p p p p max
( p ) C ( p max 1 ) ( p )
b)
Untuk orde p ditentukan terlebih dahulu, vektor koefisien berdistribusikan normal dengan mean 0 dan variansi 1.
2
c) berdistribusikan invers gamma dengan parameter Variansi σ
α/2 dan β/2 : / 2
2 ( / 2 ) 2 ( 1 / 2 ) 2
( , ) ( ) exp /( 2 ) ( / 2 )
Di sini parameter λ diasumsikan berdistribusi seragam pada interval
(0,1), nilai α diambil sama dengan 2 dan parameter β diasumsikan berdistribusi Jeffrey. Sehingga distribusi prior untuk parameter
( p )
2 H ( p , , ) dan H ( , ) dapat dinyatakan sebagai : 1 2
( H , H )
1
2
( H
1 H 2 ) ( H 2 ) ( p )
2
(3.3) ( p ) ( p ) ( , ) ( ) ( ) ( )
Menurut Teorema Bayes, maka distribusi a posteriori untuk parameter H dan H dapat dinyatakan sebagai :
1
2 ( H , H ) (3.4)
( H , H s ) s H 1 2 1 1 2 Distribusi a posteriori merupakan gabungan dari fungsi
kemungkinan dan distribusi prior yang kita asumsikan sebelum sampel diambil. Fungsi kemungkinan bersifat obyektif sementara distribusi prior ini bersifat subyektif. Dalam kasus ini, distribusi a posteriori H , H s mempunyai bentuk yang sangat rumit sehingga
1 2
tidak dapat diselesaikan secara analitis. Untuk mengatasi masalah tersebut, diusulkan metode Markov Chain Monte Carlo (MCMC).