Peranan Fungsi Objektif Linier Dalam Metode Barrier

PERANAN FUNGSI OBJEKTIF LINIER DALAM METODE BARRIER
TESIS Oleh DAME IFA SIHOMBING 117021023/MT
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM PROGRAM STUDI MAGISTER MATEMATIKA UNIVERSITAS SUMATERA UTARA 2013
Universitas Sumatera Utara

PERANAN FUNGSI OBJEKTIF LINIER DALAM METODE BARRIER
TESIS
Diajukan Sebagai Salah Satu Syarat untuk Memperoleh Gelar Magister Sains dalam
Program Studi Magister Matematika pada Fakultas Matematika dan Ilmu Pengetahuan Alam
Universitas Sumatera Utara
Oleh DAME IFA SIHOMBING
117021023/MT
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM PROGRAM STUDI MAGISTER MATEMATIKA UNIVERSITAS SUMATERA UTARA 2013
2
Universitas Sumatera Utara

Judul Penelitian
Nama Mahasiswa NIM Program Studi

: PERANAN FUNGSI OBJEKTIF LINIER DALAM METODE BARRIER
:Dame Ifa Sihombing :117021023 :Magister Matematika

Menyetujui, Komisi Pembimbing

( Prof. Dr. Herman Mawengkang ) Pembimbing I

( Prof.Dr. Opim Salim S.,M.Sc) Pembimbing II

Ketua Program Studi
(Prof. Dr. Herman Mawengkang ) Ketua Program Studi

Dekan Fakultas MIPA
( Dr. Sutarman M.Sc) Dekan

Universitas Sumatera Utara

Telah diuji pada Tanggal 5 Juni 2013

PANITIA PENGUJI TESIS

Ketua Anggota

: Prof.Herman Mawengkang : Prof.Dr.Opim Salim S.,M.Sc
Prof.Dr.Saib Suwilo,M.Sc Prof.Tulus M.Si

Universitas Sumatera Utara

ABSTRAK Metode Newton/log barrier dalam persoalan optimisasi non linier dengan fungsi objektif yang non linier, pengurangan parameter barrier sering tidak baik ditampilkan dalam mendapatkan solusi optimal. Dalam tesis ini akan dianalisa perilaku asimptotik dari metode logaritma barrier dengan kendala pertidaksamaan mengambil langkah yang efektif dari arah Newton setelah mereduksi paramater barrier dengan memanfaatkan fungsi objektif linier yang dapat menghasilkan konvergensi superlinier . Kata Kunci:Fungsi logaritma barrier, Metode Newton, Konvergensi Superlinier.
i
Universitas Sumatera Utara

ABSTRACT Newton/log barrier method for non linear programming optimization,when the objective function is non linear, on reduction barrier parameter often performs more and more poorly. This thesis will analyze the asymptotic behavior of the Newton/log barrier with inequality constrained an effective step can be taken along Newton direction to get superlinear convergence with the case of a linear objective. Key words :Logarithmic barrier function, Newtons method, Superlinear convergence
ii
Universitas Sumatera Utara

KATA PENGANTAR
Dengan kerendahan hati dan penuh ucapan syukur kepada Tuhan Yang Maha Esa untuk segala berkat dan penyertaanNya penulis dapat menyelesaikan tesis ini dengan judul : PERANAN FUNGSI OBJEKTIF LINIER DALAM METODE BARRIER. Tesis ini merupakan salah satu syarat untuk menyelesaikan studi pada Program Studi Magister Matematika Universitas Sumatera Utara. Pada kesempatan ini, penulis menyampaikan ucapan terima kasih dan penghargaan yang sebesar-besarnya kepada :
Prof. Dr.dr.Syahril Pasaribu, D.T.M.& H,M.Sc(C.T.M).Sp.A.(K) selaku Rektor Universitas Utara.
Dr.Sutarman,M.Sc selaku Dekan Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Sumatera Utara yang telah memberikan kesempatan kepada penulis untuk mengikuti Program Studi Magister Matematika di Universitas Sumatera Utara.
Prof.Herman Mawengkang Ketua Program Studi Magister Matematika pada Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Sumatera Utara dan juga selaku pembimbing utama penyelesaian tesis ini.
Prof.Dr.Saib Suwilo,M.Sc selaku Sekretaris Program Studi Magister Matematika pada Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Sumatera Utara dan juga selaku pembanding dalam penyelesaian tesis ini.

iii
Universitas Sumatera Utara

Seluruh rekan-rekan Mahasiswa angkatan 2010/2011 Program Studi Magister Matematika Universitas Sumatera Utara yang telah memberikan bantuan moril dan dorongan kepada penulis dan tidak lupa kepada Saudari Misiani,S.Si selaku staf Administrasi Program Studi Magister Matematika Universitas Sumatera Utara yang telah banyak memberikan pelayanan yang baik kepada penulis selama mengikuti perkuliahan.
Secara khusus penulis menyampaikan terimakasih yang sebesar-besarnya untuk keluarga tercinta, Ayahanda Jaspiun Sihombing dan Ibunda Rasima Saragih, serta adik-adik dan sahabat terkasih Yani, Adi, Ita, Pran, Enita yang senantiasa memberikan dukungan dan mendoakan penulis dalam menyelesaikan pendidikan ini serta seluruh pihak yang tidak dapat disebutkan satu persatu, penulis berterimakasih atas dukungan doa dan semangat yang diberikan, semoga Tuhan yang Maha Esa membalas segala kebaikan yang telah diberikan. Penulis menyadari tesis ini masih jauh dari sempurna, namun demikian penulis berharap semoga tesis ini bermanfaat bagi pembaca dan pihak-pihak yang memerlukannya.
Medan, 2013 Penulis,
Dame Ifa Sihombing
iv
Universitas Sumatera Utara

RIWAYAT HIDUP Dame Ifa Sihombing dilahirkan di Marjandi pada tanggal 16 Mei 1986 dari pasangan Bapak Jaspiun Sihombing dan Ibu Rasima Saragih dan merupakan anak pertama dari lima bersaudara. Penulis menamatkan pendidikan Sekolah Dasar Negeri 091292 Simpang Raya tahun 1998, Sekolah Menengah Pertama (SMP) RK. Bintang Timur Pematangsiantar 2001, Sekolah Menengah Atas (SMA) Negeri 1 Pematangsiantar tahun 2004. Pada tahun 2004 memasuki Perguruan Tinggi Universitas Sumatera Utara, Fakultas Matematika dan Ilmu Pengetahuan Alam, Program Studi Statistika pada Jenjang Diploma-3 dan lulus tahun 2007. Melanjutkan pendidikan pada Program Studi Matematika Ekstensi bidang Statistika Universitas Sumatera Utara dan lulus tahun 2009. Kemudian pada tahun 2011 penulis melanjutkan pendidikan pada Program Studi Magister Matematika Universitas Sumatera Utara.
vi
Universitas Sumatera Utara

DAFTAR ISI

Halaman

ABSTRAK . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

i

ABSTRACT . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

ii

KATA PENGANTAR . . . . . . . . . . . . . . . . . . . . . . . . . iii

RIWAYAT HIDUP . . . . . . . . . . . . . . . . . . . . . . . . . . vi

DAFTAR ISI . . . . . . . . . . . . . . . . . . . . . . . . . . . . . iii

BAB 1 PENDAHULUAN . . . . . . . . . . . . . . . . . . . . . . .

1

1.1 Latar Belakang . . . . . . . . . . . . . . . . . . . . . . 1.2 Perumusan Masalah . . . . . . . . . . . . . . . . . . . . 1.3 Tujuan Penelitian . . . . . . . . . . . . . . . . . . . . . 1.4 Manfaat Penelitian . . . . . . . . . . . . . . . . . . . . 1.5 Metode Penelitian . . . . . . . . . . . . . . . . . . . . .

1 3 3 3 4

BAB 2 TINJAUAN PUSTAKA . . . . . . . . . . . . . . . . . . . .

5

2.1 Pemrograman Nonlinier . . . . . . . . . . . . . . . . . . 2.2 Optimisasi Nonlinier dengan kendala pertidaksamaan . . .
2.2.1 Kondisi Karush Kuhn Tucker (KKT) . . . . . . . . 2.2.2 Konveksitas dan Kualifikasi kendala . . . . . . . . . 2.3 Metode Titik Interior . . . . . . . . . . . . . . . . . . .

5 7 8 10 11

BAB 3 LANDASAN TEORI . . . . . . . . . . . . . . . . . . . . . 14

3.1 Metode Barrier . . . . . . . . . . . . . . . . . . . . . . 3.2 Fungsi Logaritma Barrier . . . . . . . . . . . . . . . . . 3.3 Metode Newton dan Fungsi Barrier . . . . . . . . . . . .

14 14 15

iii
Universitas Sumatera Utara

3.4 Kondisi Optimal pada Persoalan Nonlinier . . . . . . . . . 3.5 Pecarian Arah Newton . . . . . . . . . . . . . . . . . .

16 18

BAB 4 PERANAN FUNGSI OBJEKTIF LINIER . . . . . . . . . . . 22

4.1 Konvergensi Metode Newton dengan unit langkah terhadap log-barrier minimizer . . . . . . . . . . . . . . . . . . .
4.2 Konsistensi Strategi Newton Line Search . . . . . . . . .
4.3 Kecepatan Konvergensi pada saat Fungsi Objektif Linier . .
4.4 Membatasi Perilaku arah Newton . . . . . . . . . . . . .

22 28 29 32

BAB 5 KESIMPULAN . . . . . . . . . . . . . . . . . . . . . . . . 44

DAFTAR PUSTAKA . . . . . . . . . . . . . . . . . . . . . . . . . 45

iv
Universitas Sumatera Utara

ABSTRAK Metode Newton/log barrier dalam persoalan optimisasi non linier dengan fungsi objektif yang non linier, pengurangan parameter barrier sering tidak baik ditampilkan dalam mendapatkan solusi optimal. Dalam tesis ini akan dianalisa perilaku asimptotik dari metode logaritma barrier dengan kendala pertidaksamaan mengambil langkah yang efektif dari arah Newton setelah mereduksi paramater barrier dengan memanfaatkan fungsi objektif linier yang dapat menghasilkan konvergensi superlinier . Kata Kunci:Fungsi logaritma barrier, Metode Newton, Konvergensi Superlinier.
i

Universitas Sumatera Utara

ABSTRACT Newton/log barrier method for non linear programming optimization,when the objective function is non linear, on reduction barrier parameter often performs more and more poorly. This thesis will analyze the asymptotic behavior of the Newton/log barrier with inequality constrained an effective step can be taken along Newton direction to get superlinear convergence with the case of a linear objective. Key words :Logarithmic barrier function, Newtons method, Superlinear convergence
ii
Universitas Sumatera Utara

BAB 1 PENDAHULUAN

1.1 Latar Belakang

Persoalan optimasi sering digunakan untuk mendapatkan suatu solusi yang optimal dari persoalan yang bersifat linier atau nonlinier. Pada pemrograman nonlinier tidak jarang ditemukan bentuk yang lebih kompleks dan dinamis. Pembagian pemrograman nonlinier dapat ditentukan dari bentuk fungsi tujuan,dari karakteristik fungsi objektif atau dari keberadaaan fungsi-fungsi kendala. Nash dan Sofer (1994). Salah satu bentuk persoalan nonlinier programming yaitu

minf (x)

kendala ci(x) ≥ 0

(1.1)

dimana f : Rn → R dan c : Rn → Rm adalah fungsi mulus yang dapat ditu-

runkan dua kali secara kontinu, dengan mempertimbangkan fungsi objektif yang

berbentuk linier

f (x) = gT (x)

(1.2)

Metode Barrier adalah metode yang digunakan untuk menyelesaikan pro-

gram nonlinier pada daerah layak yang memiliki titik interior yang tidak kosong.

Metode barrier mereformulasi pertidaksamaan kendala-kendala ke dalam fungsi

logaritma barrier.

Bentuk fungsi logaritma barrier adalah

m
P (x, µ) = f (x) − µ lnci(x)

i=1

(1.3)

1

Universitas Sumatera Utara

2
Dengan x(µ) sebagai fungsi minimizer dari P (·; µ) untuk µ > 0 dan di asumsikan bahwa x(µ) ada untuk semua µ yang cukup kecil. Fungsi logaritma barrier mengestimasi x(µ) untuk semua urutan yang terkecil, dan meminimalkan nilai dari µ > 0. Pada kondisi tertentu, terdapat limµ→0 x(µ) = x∗, dimana x∗ adalah nilai lokal minima dari fungsi non linier. Setelah x(µ) diestimasi untuk nilai µ > 0, langkah yang nyata untuk dilakukan adalah mengurangi nilai µ menjadi beberapa nilai µ+ dan kemudian mengambil langkah Metode Newton untuk meminimalkan fungsi barrier P (x; µ+).Wright dan Jarre (1999).
Dalam metode Newton/logaritma barrier,apabila fungsi objektif linier maka langkah-langkah metode Newton dapat diambil dengan menggunakan fungsi logaritma barrier untuk mendapatkan sebuah nilai yang pasti dari parameter barrier sampai kriteria kekonvergensian dipenuhi. Parameter barrier akan semakin kecil dan proses Newton akan diulang. Tetapi pada kasus fungsi objektif yang nonlinier metode Newton sering menampilkan hasil yang kurang baik pada pengurangan parameter barrier sampai ke titik nol. Wright dan Jarre(1999).
Aproksimasi akhir terhadap x(µ) digunakan sebagai titik awal metode Newton untuk fungsi logaritma barrier P (·; µ+), hal ini segera dapat dilihat bahwa langkah pertama Newton untuk masing-masing nilai µ biasanya pencarian arah yang buruk, dan sebuah panjang langkah α dengan sangat lebih kecil dari 1 biasanya digunakan untuk mempertahankan kelayakan pada iterasi ini. (Conn et al, 1994).
Bagaimanapun, iterasi-iterasi berikutnya dari metode Newton konvergen dengan cepat menuju x(µ). Walaupun Hessian Pxx(x; µ) adalah definit positif dan dekat dengan x = x(µ). Penelitian rata-rata konvergensi metode Newton bi-
Universitas Sumatera Utara

3
asanya lebih baik dari hasil yang diharapkan dalam teori konvergensi yang biasa, dimana dinyatakan bahwa Euclidian ball yang besar dengan konvergensi kuadratik dapat menghasilkan jari-jari O(µ2). Metode Newton akan menampilkan satu unit langkah yang konvergen dari semua titik didalam Euclidian ball dengan jari-jari O(µσ ), untuk sebarang σ > 1 dan semua nilai µ yang kecil. (Fiacco dan McCormick, 1990).
1.2 Perumusan Masalah
Pada persoalan nonlinier jika fungsi objektif berbentuk nonlinier maka metode Newton /logaritma barrier tidak menampilkan hasil yang baik karena parameter barrier dikurangi sampai ke titik nol, tetapi apabila fungsi objektif berbentuk linier dengan kendala nonlinier yang berbentuk pertidaksamaan, melalui metode Newton/logaritma barrier sebuah langkah yang efektif dapat ditampilkan pada pengurangan parameter barrier sampai pada algoritma akhir yang dibutuhkan.
1.3 Tujuan Penelitian

Tujuan dari penelitian ini adalah untuk menentukan peranan fungsi objektif linier dalam metode barrier dengan strategi line search metode Newton untuk mendapatkan konvergensi superlinier.
1.4 Manfaat Penelitian
Penelitian ini diharapkan dapat memberikan sumbangan teoritis dalam bidang matematika khususnya bidang operasi riset.Pemanfaatan fungsi objektif linier pada persoalan nonlinier dalam metode Newton/log barrier dapat digunakan untuk mencapai konvergensi superlinier.
Universitas Sumatera Utara

4 1.5 Metode Penelitian Penelitian ini bersifat studi literatur ataupun studi kepustakaan yang berhubungan dengan program nonlinier serta analisa pencarian nilai optimalnya dengan langkah-langkah metode penelitian adalah :
1. Menjelaskan latar belakang masalah dan rumusan masalah 2. Menampilkan bahan-bahan pustaka yang berhubungan dengan metode bar-
rier yaitu optimisasi pada program non linier 3. Menjelaskan tentang teori penyelesaian metode barrier dalam persoalan non-
linier 4. Menampilkan peranan fungsi objektif linier dalam metode barrier untuk
mendapatkan konvergensi superlinier
Universitas Sumatera Utara

BAB 2 TINJAUAN PUSTAKA

Pada bab ini akan dijelaskan mengenai teori-teori yang berhubungan dengan pembahasan ini sehingga dapat dijadikan sebagai landasan berpikir dan akan mempermudah dalam hal pembahasan hasil utama berikutnya.

2.1 Pemrograman Nonlinier

Menurut Bradley et al (1977), persoalan umum optimisasi adalah memilih n varia-

bel keputusan x1, x2, ..., xn dari daerah layak yang diberikan untuk mengoptimasi

(maksimum atau minimum) fungsi tujuan yang diberikan f (x1, x2, ..., xn) dari va-

riabel keputusan.Persoalan ini disebut persoalan nonlinier jika fungsi tujuannya

nonlinier dan atau daerah layaknya ditentukan oleh kendala nonlinier. Fokus

utama dari pemrograman nonlinier adalah terkait dengan eksistensi dari solusi

optimal, karakterisasi dari solusi optimal dan algoritma untuk menghitung solusi

optimal.Persoalan nonlinier mempunyai 2 jenis persoalan yaitu persoalan nonlinier

berkendala dan nonlinier tidak berkendala.Pada persoalan nonlinier programming

berkendala yang memiliki fungsi mulus dengan kata lain dapat diturunkan secara

kontinu, yaitu

minf (x), x ∈ Rn

(2.1)

ci(x) = 0, i = 1, ..., me

(2.2)

ci(x) ≥ 0, i = me + 1, ..., m

(2.3)

xl ≤ x ≤ xu

(2.4)

5
Universitas Sumatera Utara

6

Disini, x adalah parameter vektor berdimensi n, disebut juga vektor variabel rancangan, f adalah fungsi objektif atau fungsi harga untuk meminimisasi persamaan nonlinier. Diasumsikan bahwa fungsi nya dapat diturunkan secara kontinu dalam Rn. Supaya lebih lengkap lagi maka diasumsikan bahwa batas atas dan batas bawah xu dan xl tidak bisa diberlakukan secara terpisah dengan kata lain bahwa batas-batas tersebut dikategorikan sebagai bentuk umum pertidaksamaan kendala-kendala. Sehingga diperoleh bentuk persoalan umum nonlinier programming.

Walaupun software untuk optimisasi dapat digunakan dalam black box, sangat diperlukan untuk memahami sedikitnya ide dasar dari analisa persoalan ini. Salah satu alasannya adalah bahwa ada banyak kondisi dimana kita dapat menghindari algoritma dari sebuah solusi pendekatan melalui langkah yang benar.

Menurut Zillober dan Schittkowski (2002) untuk alasan inilah, maka dasardasar dari teori optimisasi perlu dipahami sebelum menampilkan algoritma-algoritma pada langkah awal. Pertama, kita perlu memahami beberapa notasi untuk turunan pertama dan kedua dari fungsi yang terdiferensiasi. Gradien fungsi f(x)adalah

∇f(x) =

∂ ∂x1

f

(x),

...,

∂ ∂xn

f

(x)

T

(2.5)

Selanjutnya dari turunan parsial diatas dibentuk sebuah matriks Hessian dari

fungsi f(x) yaitu

∇2f (x) =

∂

∂2 xi∂

xj

f

(x)

i,j=1,...,n

(2.6)

Universitas Sumatera Utara

7

Matriks Jacobian dari fungsi vektor value F (x) = (f1(x), ..., fl(x))T adalah

∇f(x) =

∂ ∂xi

fj

(x)

i=1,...,n

j=1,...,l

(2.7)

Dapat juga ditulis dalam bentuk ∇F (x) = (f1(x), ..., fl(x) Hal yang paling mendasar untuk memperoleh kondisi optimal dan algoritma op-

timasi dinamakan fungsi Lagrange, yaitu

m
L(x, µ) := f (x) − λici(x)
i=1

(2.8)

Didefinisikan untuk semua x ∈ Rn dan u = (u1, ..., um)T ∈ Rm. Tujuan dari

L(x, u) adalah menghubungkan fungsi objektif f(x) dengan kendala ci(x), i =

1, ..., m. Variabel λi disebut pengali Lagrangian dari persoalan nonlinier. Selan-

jutnya, P sebagai daerah layak,yaitu himpunan semua daerah layak.

P := {x ∈ Rn : ci(x) = 0, i = 1, ..., me, ci(x) ≥ 0, i = me + 1, ..., m} (2.9)

Pertidaksamaan kendala aktif yang mengacu pada nilai x ∈ P ditunjukkan dalam bentuk I(x) := {i : ci(x) = 0, me < i ≤ m

2.2 Optimisasi Nonlinier dengan kendala pertidaksamaan

Menurut Forsgren et al (2002) Bentuk umum persoalan nonlinier dengan pertidaksamaan berkendala adalah

minx∈ℜnf (x)

kendala ci(x) ≥ 0

(2.10)

dengan c(x) adalah m-buah vektor dari fungsi {ci(x)}, i = 1, ..., m dan diasumsikan f dan {ci} kontinu dan dapat diturunkan dua kali. Gradien fungsi f dinotasikan ∇f(x) atau g(x) dan ∇2f(x) dinotasikan sebagai matriks Hessian dari

Universitas Sumatera Utara

8
turunan kedua f . Gradien dan Hessian yaitu ci(x) dan ∇2ci(x). Matriks Jacobian m x n yaitu c′(x) dari c(x) memiliki barisan {∇ci(x)T } Syarat kondisi optimal untuk optimisasi nonlinier berkendala adalah sebagai berikut :
2.2.1 Kondisi Karush Kuhn Tucker (KKT)
Kondisi KKT adalah kondisi yang diperlukan bagi penyelesaian permasalahan optimasi nonlinier. Jaminan akan diperoleh solusi optimal jika kondisi KKT terpenuhi. Menurut Forsgren et al(2002) ada beberapa definisi untuk menyatakan suatu kondisi KKT, antara lain
Definisi 1 (Operator · sebagai komponen pengali) Diberikan dua buah vektor x dan y dari r - dimensi, x · y adalah sebuah r - vektor dimana komponen ke - i adalah xiyi.

Definisi 2 (Daerah layak) Diberikan kendala c(x) ≥ 0,maka daerah layaknya adalah F {x ∈ Rn : c(x) ≥ 0}

Definisi 3 (first order titik KKT) First-Order dari kondisi KKT untuk persoalan pertidaksamaan berkendala diperoleh dari (2.11) dipenuhi pada titik x∗ atau setara dengan, x∗ adalah kondisi first order KKT, jika terdapat sebuah m-vektor λ∗ maka disebut vektor pengali Lagrange,sedemikian sehingga

c(x∗) ≥ 0(kelayakan)

(2.11)

g(x∗) = J (x∗)T λ∗(stasioner)

(2.12)

Universitas Sumatera Utara

λ∗ ≥ 0(P engaliyangnonnegatif ) c(x∗) · λ∗ = 0(kelengkapan)

9
(2.13) (2.14)

Definisi 4 (kendala aktif, tidak aktif dan terlarang) Himpunan kendala-kendala c(x) ≥ 0,kendala ke - i dikatakan kendala aktif pada titik x¯ jika ci(x¯) = 0 dan tidak aktif jika ci(x¯) > 0. Himpunan kendala aktifA(x¯)adalah himpunan yang mengindikasi kendala-kendala aktif pada x¯, yakni A(x¯) = {i : ci(x¯) = 0}; argumen A akan dihilangkan jika sudah terlihat jelas. Kendala ci(x) ≥ 0 dikatakan terlarang pada x¯ jika ci(x) < 0.

Untuk memenuhi kondisi kelengkapan c(x∗) · λ∗ = 0 (2.15),komponen λ∗ diga-

bungkan dengan kendala tidak aktif akan sama dengan nol yang berarti gradien

dari f pada titik KKT x∗ harus merupakan kombinasi linier dari gradien kendala

aktif yaitu

g(x∗) = JA(x∗)T λ∗A,

(2.15)

dimana JA menyatakan kendala aktif dari Jacobian dan λA∗ vektkor pengali untuk kendala yang aktif.

Definisi 5 (Pengali Lagrange yang diterima) Diberikan titik KKT x∗ dari (2.11), maka himpunan pengali yang diterima didefinisikan sebagai
Mλ(x∗) {λ ∈ Rm : g(x∗) = J (x∗)T λ, λ ≥ 0, dan c(x∗) · λ = 0} (2.16)

Dalam hal ini syarat kelengkapan c(x∗) · λ = 0 membuat nilai λi menjadi nol jika kendala ke i merupakan kendala tidak aktif tetapi sangat mungkin bahwa λi = 0 pada saat kendala ke i aktif. Syarat-syarat strict complementary terjadi saat semua pengali kendala aktif bernilai positif.

Universitas Sumatera Utara

10
Definisi 6 (strict complementary) strict complementary dipenuhi pada titik KKT x∗ jika terdapat λ∗ ∈ Mλ sedemikian sehingga λi∗ > 0 untuk semua i ∈ A(x∗)
2.2.2 Konveksitas dan Kualifikasi kendala Menurut Forsgren et al (2002) untuk persoalan dengan kendala linier, kondisi first order KKT adalah penting untuk kondisi optimal, tetapi ciri ini tidak dapat di aplikasikan pada persoalan dengan kendala nonlinier. Untuk spesifikasi kondisi penting first order pada kendala yang nonlinier dibutuhkan bahwa kendalakendala tersebut harus memenuhi kualifikasi pada titik (x∗), jika hal ini tidak dipenuhi maka kemungkinan x∗ tidak memenuhi titik KKT.
Definisi 7 (Kualifikasi kendala bebas linier) Misalkan sebuah persoalan pertidaksamaan kendala dengan kendala c(x) ≥ 0. Kualifikasi kendala bebas linier dipenuhi pada titik layak x¯ jika x¯ strictly feasible(berarti tidak ada kendala aktif ) atau jika Jacobian dari kendala aktif pada x¯ memiliki full row rank, yaitu jika gradien dari kendala aktif adalah bebas linier.
Definisi 8 (Kualifikasi kendala Mangasarian-Fromovitz) Misalkan sebuah persoalan dengna pertidaksamaan kendala c(x) ≥ 0. Kualifikasi kendala Mangasarian Fromovitz dipenuhi pada titik x¯ jika x¯ srtictly feasible atau jika terdapat sebuah vektor p sedemikian sehingga ∇ci(x¯)T p > 0 untuk semua i ∈ A(x¯) yaitu jika JA(x¯)p > 0
Kondisi kualifikasi kendala Mangasarian-Fromovitz ternyata lebih lemah dibandingkan dengan kualifikasi kendala bebas linier. Kualifikasi kendala MangasarianFromovitz dipenuhi pada titik x¯ jika x¯ strictly feasible atau jika terdapat sebuah
Universitas Sumatera Utara

11

vektor p sedemikian sehingga ∇ci(x¯)T p > 0 untuk semua i ∈ A(x¯) dengan kata lain jika JA(x¯)p > 0.
2.3 Metode Titik Interior

Zillober dan Schittkowski (2002) mengatakan pengembangan dari program linier salah satunya adalah variasi dari bentuk metode barrier modern yang diturunkan sehingga disebut dengan metode titik interior. Berdasarkan kondisi tersebut, himpunan fungsi minima barrier tak berkendala membentuk kurva mulus x(µ) untuk µ ∈ (0; ∞)pada persoalan optimisasi konveks, yang disebut central path. Sebuah arah pencarian dk pada iterasi xk dihitung dengan eksplorasi linier sepanjang garis singgung central path. Untuk mendukung hal ini, abaikan persamaan kendala untuk masalah yang sederhana, dan memperkenalkan variabel slack untuk pertidaksamaan tanpa batas dengan kata lain, diproses dari sebuah perluasan persoalan min f (x), x ∈ Rn, y ∈ Rm g(x) − y = 0 y≥0 dimana g(x) = (g1(x), ..., gm(x))T menunjukkan hubungan kondisi Karush Kuhn Tucker terhadap fungsi Lagrange.

L(x, y, u, v) = f (x) − (g(x) − y)T u − vT y

(2.17)

dengan ∇f(x) − ∇g(x)u = 0, g(x) − y = 0, y ≥ 0, v ≥ 0,

Universitas Sumatera Utara

12

vjyj = 0, j = 1, ..., m dimana u = (u1, ..., um)T adalah vektor-vektor pengali.Tetapi, aplikasi metode Newton dalam penyelesaiannya pada persoalan nonlinier secara langsung sangat dihalangi oleh kondisi pada saat vjyj = 0, yang menyatakan bahwa slack variabel haruslah bernilai 0. Oleh karena itu, dengan mengganti kondisi tersebut menjadi bentuk vjyj = µ, dengan parameter µ sebagai parameter positif yang sesuai dan kemudian mengalikan ketiga persamaan dengan (-1). Dengan mengasumsikan strict feasibility dari v dan y, yakni v > 0 dan y > 0, maka diperoleh persamaan

∇f(x) − ∇g(x)u = 0,

(2.18)

y − g(x) = 0,

vjyj = µ, j = 1, ..., m

Pada kondisi yang lain,dapat diperoleh persamaan yang sama mewakili sebuah

solusi optimal, jika dimasukkan titik stasioner pada fungsi logaritma barrier yaitu

L(x, y, v, r) = f (x) − (g(x) − y)T v − 1 r

m

logyj

j=1

(2.19)

Andaikan xk dan yk merupakan iterasi saat ini, yk = (y1k, ..., ymk ) > 0 sebagai variabel slack iterasi saat ini juga, vk = (v1k, ..., vmk ) > 0 sebagai estimasi pengali dan

{µk} himpunan barisan parameter positif yang mendekati nilai 0.Oleh karena itu

digunakan Metode Newton kedalam persamaan (2.19), ketiga persamaan diatas

ditulis dalam bentuk µk − v1kymk = 0 menghasilkan

    

∇2xL(xk, vk) 

−∇g(xk) 

=

d 

=

ak 

 −∇g(xk)T

−Vk−1Yk 

 p

 bk

(2.20)

Dalam hal ini L(xk, vk) mengacu pada fungsi Lagrangian dari persoalan asli NLP. Vk dan Yk adalah matriks diagonal yang mengandung koefisien vk dan yk dan

Universitas Sumatera Utara

13

persamaan sebelah kanan didefinisikan sebagai

ak := −(∇f (xk) − ∇g(xk)vk)

(2.21)

dan

bk := (µkV −1c − g(xk)), c ∈ ℜm

(2.22)

adalah sebuah vektor yang mengandung nilai satu pada masing-masing komponen. Jika dk dan pk menotasikan solusi dari sistem linier, iterasi baru diperoleh yakni

xk+1 = xk + dk, vk+1 = vk + pk

(2.23)

Hubungan variabel slack dihitung dari yk+1 = −Vk−1(Ykpk − µkc) dengan mengasumsikan bahwa ∇2xL−1 ada, maka dapat direduksi menjadi

(∇g(xk)T ∇x2L−1(xk, vk)∇g(xk) + Vk−1Yk)p = −∇g(xk)T ∇2xL−1(xk, vk)ak − bk (2.24)
Asumsi variabel slack yk dan variabel dual vk harus tetap positif selama iterasi,hal ini dijalankan melalui strategi line search. Manfaat utama adalah, bahwa kelayakan variabel awal xk tidak dibutuhkan. Beberapa koefisien konvergen ke nol, jika hubungan masing-masing kendala menjadi aktif. Parameter Barrier µk di update setelah melakukan masing-masing langkah, tidak hanya setelah siklus minimisasi tak berkendala lengkap sebagai metode penalty.

Universitas Sumatera Utara

BAB 3 LANDASAN TEORI
3.1 Metode Barrier
Metode Barrier adalah salah satu klasifikasi dari Metode Interior Point untuk menyelesaikan NLP,dimana daerah layak memiliki titik interior yang tidak kosong. Pada tahun 1960-an langkah yang sudah diterima untuk menyelesaikan persoalan berkendala adalah mentransformasi persoalan berkendala ke dalam bentuk parameter persoalan tidak berkendala melalui sebuah ’penalty’ atau ’barrier’. Untuk bentuk pertidaksamaan kendala, metode barrier di motivasi oleh fungsi objektif minimasi yang tidak berkendala f digabung dengan sebuah ’barrier’ positif yang berbobot untuk menghindarkan iterasi-iterasi menjauhi daerah layak. Metode penalty secara kontras, didasarkan pada fungsi minimasi yang mencakup fungsi f dan sebuah penalty yang positif jika dievaluasi pada sebarang titik pada daerah tidak layak. Penentuan nilai optimal pada persoalan nonlinier, dapat dilakukan dengan pendekatan metode Newton menggunakan fungsi logaritma barrier dalam pencarian arah terdekat dari central path dan menggunakan pertidaksamaan kendala (Forsgren et al, 2002)
3.2 Fungsi Logaritma Barrier
Fungsi logaritma barrier adalah salah satu cara untuk menyelesaikan persoalan non linier pada daerah layak yang memiliki titik interior. Metode barrier mereformulasi persoalan pertidaksamaan kedalam fungsi logaritma barrier. Tujuan fungsi logaritma barrier ini adalah memperkirakan rumusan masalah pertidak-
14
Universitas Sumatera Utara

15

samaan kendala menjadi masalah tanpa kendala, dan dapat diaplikasikan dalam

metode Newton. Ide utama dari metode barrier adalah untuk memperkirakan in-

dikator fungsi konveks dan turunan fungsi. Bentuk umum fungsi logaritma Barrier

adalah

m

P x; µ = f (x) − µ lnci(x)

(3.1)

i=1

dimana µ > 0 adalah parameter barrier.Fungsi logaritma barrier mengestimasi

x(µ) untuk semua urutan yang terkecil, dan meminimalkan nilai dari µ > 0.

Berdasarkan hal tersebut, terdapat limµ→0 = x∗, dimana x∗ adalah nilai lokal minimal dari fungsi nonlinier. Setelah x(µ) diestimasi untuk nilaiµ > 0, langkah

yang nyata untuk dilakukan adalah mengurangi nilai µ menjadi beberapa nilai µ+

dan kemudian mengambil langkah Metode Newton untuk meminimalkan fungsi

barrier P (x; µ+). Wright dan Jarre (1999).

3.3 Metode Newton dan Fungsi Barrier

Dalam pengembangan metode interior untuk optimisasi dengan kendala nonlinier,beberapa aspek dari Metode Newton dikhususkan pada fungsi barrier. Dalam penelitian ini akan dibahas pemakaian metode Newton yang digunakan sekaligus untuk menyelesaikan persoalan persamaan nonlinier dan optimisasi tanpa kendala. Untuk persamaan nonlinier F (x) = 0, dimana F adalah fungsi kontinu dan differensiabel dari Rn → Rn, pk adalah langkah Newton dari iterasi xk dimana F ′(xk) nonsingular yang didefinisikan sebagai langkah untuk mendekati titik 0, diambil dari model rangkaian lokal linier Taylor F yaitu

F ′(xk)pk = −F (xk)

(3.2)

Dengan cara yang sama, metode Newton dalam meminimalkan fungsi f(x) yang dapat diturunkan dua kali secara berturut-turut adalah berdasarkan model rangka-

Universitas Sumatera Utara

16

ian lokal kuadratik Taylor yaitu

f (xk

+

p)

≈

f (xk)

+

gkT p

+

1 2

pT

∇2f

(xk)p

dimana gk menyatakan ∇f (xk). Jika ∇2f (xk) definit positif, fungsi kuadratik ini mempunyai minimizer unik pada xk + pk, dimana pk akan memenuhi persamaan

∇2f (xk)pk = −gk

(3.3)

Pada kedua persamaan (3.2) dan (3.3), iterasi-iterasi metode Newton asli adalah

xk+1 = xk + pk, dan dibawah kondisi yang paling dikenal iterasi-iterasi ini konvergen secara kuadratik menuju titik nol dari F (x) atau disebut sebagai minimizer

dari f(x)

Walaupun metode Newton sangat terkenal dengan konvegensi lokal yang cepat,

tetap harus dibutuhkan metode yang praktis untuk mendorong konvergensi kepada

titik awal yang lebih umum. Sebuah globalisasi strategi umum berdasarkan

metode Newton untuk persoalan nonlinier dan minimisasi persoalan tak ber-

kendala adalah dengan memasukkan strategi line search, sehingga iterasi baru

didefinisikan sebagai

xx+1 = xk + αkpk

(3.4)

dengan αk > 0, dimana αk dipilih untuk memastikan bahwa beberapa fungsi yang layak akan dikurangi melalui pergerakan menuju xk+1. (forsgren et al, 2002)

3.4 Kondisi Optimal pada Persoalan Nonlinier
Ada beberapa kondisi yang harus dipenuhi untuk menyatakan persoalan nonlinier berada dalam kondisi optimal. Asumsikan titik solusi nya adalah x∗, maka sebuah

Universitas Sumatera Utara

17

fungsi Lagrange yaitu

L(x, λ) = f (x) − λT c(x),

(3.5)

dimana λ adalah vektor pengali Lagrange. Solusi x∗ memenuhi kondisi first order,

sehingga terdapat vektor pengali Lagrange λ∗ yang memenuhi

c(x∗) ≥ 0,

λ∗ ≥ 0,

(λ∗)T c(x∗) = 0,

m
∇f (x∗) = λ∗i ∇ci(x∗)
i=1
(3.6)

Kendala-kendala aktif adalah komponen c untuk ci(x∗) = 0. Diasumsikan bahwa

titik solusinya adalah non degenerate yaitu

[∇c1(x∗)|...|∇cq(x∗)]

(3.7)

Juga diasumsikan strict complementary yaitu

λ∗i + ci(x∗) > 0,

i = 1, 2, ..., m

(3.8)

Terakhir, diasumsikan bahwa second order merupakan kondisi cukup untuk nilai optimal yang dipenuhi pada titik (x∗, λ∗) yaitu

yT Lxx(x∗, λ∗)y > 0 ∀y = 0 dengan ∇ci(x∗)T y = 0, ∀i = 1, 2, ..., q (3.9)

Dengan demikian, sangat mudah untuk dilihat bahwa (x∗, λ∗) adalah akar dari

fungsi F (x, λ) yang didefinisikan sebagai

 



Lx(x, λ)

g − A(x)λ

F (x, λ) = 

=



 



Λc(x)

Λc(x)

(3.10)

dimana Λ = diag(λ1, λ2, ..., λm)

Fungsi Jacobian F adalah



∇F

(x,

λ)

=

Lxx(x, 

λ)

−A(x)T ,

 ΛA(x)T

 C (x)

(3.11)

Universitas Sumatera Utara

18

dimana C(x) = diag(c1(x), c2(x), ..., cm(x)). Pada kondisi nondegeneracy, strict complementary, dan second order cukup dipenuhi, maka ∇F (x∗, λ∗) dikatakan

non singular. Hal ini menyebabkan asumsi dari kemulusan fungsi f dan c dimana

jika fungsi Jacobian ∇F (x, λ) non singular, maka untuk semua (x, λ) pasti akan

dekat dengan (x∗, λ∗). (Fiacco dan McCormick, 1990)

Diberikan sebarang titik solusi x dan sebarang parameter barrier positif µ, dide-

finisikan sebuah vektor pengali Lagrange yang mengestimasi λ(x, µ) yaitu

T

λ(x, µ) = µC(x)−1e =

µ c1 (x)

,

...,

µ cm (x)

(3.12)

Jika x adalah minimizer yang tepat x(µ) dari P (., µ) didefinisikan

λ(x) λ(x(µ), µ)

(3.13)

Selanjutnya, sebagai referensi bahwa turunan-turunan dari fungsi barrier adalah

Px(x; µ)

=

∇f (x) −

m i=1

µ ci(x)

∇ci(x)

(3.14)

m
Pxx(x; µ) = ∇2f (x) + µ
i=1
(Wright, 1997)

1 ci2 (x)

∇i(x)∇ci

(x)T

−

1 ci(x)

∇2

ci

(x)

(3.15)

3.5 Pecarian Arah Newton

Selanjutnya berdasarkan penjelasan diatas, dari persamaan (3.12) maka dapat diperoleh



F

(x,

λ(x,

µ))

=

Lx(x, 

λ(x,

µ)) 



µe

dimana e = (1, 1, ..., 1)T dan dari (3.13) bahwa jika (x˜, λ˜) − (x∗, λ∗) dan nilai µ yang cukup kecil, maka

Universitas Sumatera Utara


F (x˜, λ˜) =  0  ⇒ (x˜, λ˜) = (x(µ), λ(µ))  µe

19

Dengan menggabungkan (3.12) dan (3.14) maka diperoleh

∇f (x) = A(x)λ(x, µ) + Px(x; µ)

(3.16)

pada saat x = x(µ), diambil dari (3.13 )diperoleh yaitu ∇f(x(µ)) = A((x(µ), λ(µ)) sehingga dengan mensubstitusi (3.12) ke dalam (3.14) diperoleh nilai parameter barrier yang terbaru yaitu µ+

Px(x;

µ+)

=

∇f (x)

−

µ+ µ

A(x)λ(x,

µ)

=

(1

−

µ+ µ

)∇f (x)

+

µ+ µ

Px(x;

µ).

Pxx(x;

µ+)

=

∇2f (x)

+

µ+ µ

A(x)Λ(x, µ)2A(x)T − µ

m i=1

λi

(x,

µ)∇2ci(x)

(3.17)

Arah Newton yang awal p dihitung setelah pengurangan parameter barrier dari

µ ke µ+ yang memenuhi persamaan

Pxx(x; µ+)p = −Px(x; µ+)

(3.18)

dengan kata lain jika diambil dari persamaan (3.17) dan (3.5) dapat ditulis sebagai berikut :

Lxx x, λ(x, µ)

µ+ µ

p

+ λ2f (x)

1−

µ+ µ

p

+

1 µ

A(x)Λ(x,

µ)2A(x)T

µ+ µ

p

=−

1

−

µ+ µ

λf (x)

−

µ+ µ

Px(x;

µ)

(3.19)

Universitas Sumatera Utara

20

Jika fungsi objektif f linier, identitas ∇2f(x) ≡ 0 menyebabkan persamaan (3.19)

menjadi sederhana. Pada kenyataannya ditunjukkan bahwa (µ+/µ)p) akan men-

jadi sama terhadap komponen x yang merupakan langkah untuk mengaplikasikan

metode Newton terhadap sistem persamaan nonlinier yaitu :
 F x˜, λ˜ −  0  = 0
 µ+e

(3.20)

pada titik (x˜, λ˜) = x(µ), λ(µ) .

Hubungan dari persamaan diatas, adalah kunci yang terbaik untuk langkah

µ+ µ

p

,

berdasarkan keterangan sebelumnya bahwa fungsi Jacobian secara seragam adalah

nonsingular pada daerah yang layak dan oleh sebab itu Metode Newton konvergen

dengan sangat linier terhadap akar (x˜, λ˜) = (x(µ+), λ(µ+)). Keterangan lebih

lanjut lagi bahwa kelebihan

µ+ µ

p

dapat diselidiki melalui kondisi-kondisi penting

dalam parameter barrier jika fungsi objektif linier.

Maka diperoleh dari (3.17), (3.12) dan (3.5) yaitu

Pxx(x; µ+)

=

µ+ µ

Px

xx(x;

µ)

λ(x; µ+)

=

µ+ µ

λ(x,

µ)

Lxx x, λ(x, µ+)

=

µ+ µ

Lxx

x, λ(x, µ+)

(3.21) (3.22) (3.23)

Persamaan (3.22) menggambarkan bahwa konsep barrier terhindar dari sistemati-

ka underestimator dari pengali-pengali pada saat µ direduksi sampai µ+. Hanya pengali 1 untuk ∇f(x) dipertahankan pada kondisi optimal ∇f(x) − A(x)λ =

0 ketika µ diganti. Jika fungsi objektif linier, seperti yang ditampilkan pada

(3.21),underestimasi pengali-pengali mengaplikasikan secara seragam terhadap

semua nilai Pxx. Jika ruas kanan persamaan (3.18) dan (3.19) tidak terlalu dipengaruhi oleh linieritas atau jika tidak fungsi f membuat Px(x; µ) menjadi kecil.

Universitas Sumatera Utara

21

Oleh karena itu, arah dari langkah ini tidak dipengaruhi, dan interval yang ku-

rang baik dari pengali

µ+ µ

λ(x,

µ)

hanya

membuat

langkah-langkah

menjadi

sangat

panjang.(Wright dan Jarre, 1999)

Universitas Sumatera Utara

BAB 4 PERANAN FUNGSI OBJEKTIF LINIER

4.1 Konvergensi Metode Newton dengan unit langkah terhadap logbarrier minimizer

Akan dianalisa sifat konvergensi lokal dari metode Newton melalui satu unit langkah menuju minimizer x(µ) fungsi barrier P (x; µ),untuk memperoleh nilai yang pasti dari µ. Dimulai dari iterasi w yang sekarang, langkah Newton s adalah

s = −Pxx(w; µ)−1Px(w; µ)

(4.1)

Dan iterasi berikutnya adalah w+ = w+s. Dianggap sebuah Euclidean Ball berada disekitar minimizer P (·; µ) sedemikian sehingga pada saat metode Newton dimulai dari sebarang titik pada bola ini, maka konvergensi akan sangat cepat menuju minimizer. Pembahasan sebelumnya asumsi kondisi second order yaitu bahwa fungsi barrier P (x; µ) memiliki minimizer x(µ) dimana Hessian nya definit positif. Lebih lagi, karena fungsi objektif f(·) dan fungsi kendala ci(·), i = 1, 2, ..., m Lipschitz dapat diturunkan dua kali secara berturut-berturut maka P (x, µ) juga dua kali dapat diturunkan secara berturut-turut,mendekati x(µ). Jika w1, w2, w3, ... adalah iterasi Newton maka teori ini akan menghasilkan estimasi

wt+1 − x(µ) ≤ L1(µ)L2(µ) wt − x(µ) 2

(4.2)

dimana L1(µ) adalah konstanta Lipschitz untuk Pxx(x; µ) dalam lingkungan x(µ)

dan L2(µ) adalah batas pada Pxx(x; µ)−1 dekat dengan x(µ). Dengan masing-

masing nilai

L1(µ) = O(µ−2),

L2(µ) = O(1)

(4.3)

22

Universitas Sumatera Utara

23

Oleh karena itu persamaan (4.2) berubah jadi

wt+1 − x(µ) = O(µ−2) wt − x(µ) 2

Hal ini tidak menunjukkan kekonvergensian jika w1 tidak berada pada daerah solusi yang sangat kecil, secara rinci dapat ditulis sebagai

w1 − x(µ) = O(µ2)

(4.4)

Wright dan Jarre (1999) menyelidiki manfaat dari reformulasi (1.1) dimana fungsi objektif nya berbentuk linier. Mereka menunjukkan bahwa jika perkiraan akhir terhadap x(µ−) diperoleh dari nilai parameter barrier µ− sebelumnya adalah sangat mungkin mendapatkan hasil yang akurat, sehingga langkah Newton P (·; µ) di titik ini untuk mendapatkan nilai parameter yang baru yaitu µ pelan-pelan akan lewat mendekati minimizer yang baru x(µ).Bahkan pada kasus ini,walaupun hasilnya secara umum tidak berada pada daerah yang ada di persamaan (4.4), kecuali mungkin, pada saat dilakukan kriteria penghentian yang tiba-tiba dari
Px(x; µ) = O(µ) digunakan pada nilai µ yang sebelumnya. Dari persamaan (4.2) dan (4.4) masih sangat sulit untuk melihat konvergensi metode Newton. Jika dibahas selanjutnya,terdapat sebuah konstanta µ¯ > 0 sedemikian sehingga konvergensi kuadratik metode Newton dengan satu unit langkah dapat diperoleh dari sebarang titik w yaitu

w − x(µ) ≤ C0µσ,

∀µ ∈ (0, µ¯0]

(4.5)

dimana C0 dan σ adalah konstanta tertentu C0 > 0 dan σ > 1. Daerah asal atau domain dari konvergensi kuadratik untuk P (·; µ) menyusut atau menciut seperti µ ↓ 0, tapi rata-rata penyusutan tidak terjadi secara tiba-tiba. Langkah penyelesaiannya adalah membagi ruang Rn kedalam interval ruang dari kendala

Universitas Sumatera Utara

24

aktif Jacobian beserta komplemennya. Diasumsikan teori-teori sebelumnya bahwa w berada pada daerah layak

w − x(µ) ≤ Cµσ,

(4.6)

dengan konstanta yang diberikan C > 0 dan σ > 1 dan

µ ∈ (0, µ¯],

(4.7)

untuk beberapa µ¯ > 0. Analisis ini berdasarkan akibat dari teorema Taylor. Jika w

adalah iterasi pada saat ini dan s adalah langkah Newton sebagaimana persamaan

(4.1) maka diperoleh

1

Px(w + s; µ) = Px(w; µ) + Pxx(w; µ)s + [Pxx(w + τ s; µ) − Pxx(w; µ)]sdτ

0

1

= [Pxx(w + τ s; µ) − Pxx(w; µ)]sdτ

(4.8)

0

Dengan menganalisa persamaan integral diatas, diperoleh estimasi proyeksi Pxx(w+ s; µ) terhadap dua komplementari sub ruang yang dipaksa oleh matriks kendala

Jacobian. Akhirnya diselidiki proyeksi dua sisi dari Pxx(w + s; µ) dalam sub ruang yang sama untuk mendapatkan batas ukuran langkah Newton, satu-satunya

adalah diambil dari titik w + s.Dengan mengasumsikan tetapi tanpa menghi-

langkan generalisasi nilai µ¯ sangat kecil, bahwa lingkungan yang terdapat pada

(4.6) melarang minimizer lokal P (·; µ) yang lain selain dari pada x(µ).Karena

σ > 1 pada (4.6),maka hal ini membuat untuk semua nilai µ cukup kecil dilihat dari eksistensi dan keterbatasan (x˙(µ), λ˙ (µ)) sehingga

 x(µ) − x∗
  = O(µ) 
λ(µ) − λ∗

(4.9)

Universitas Sumatera Utara

25

Oleh karena itu, dengan menggunakan persamaan (3.12) asumsi strict complemen-

tary dan dari persamaan (4.6) diperoleh untuk semua indeks aktif i = 1, 2, ..., q

bahwa

ci(w) = ci(x(µ)) + O( w − x(µ) )

=

µ λi(µ)

+ O(µσ)

=

µ λ∗i

+

O(µmin(2,σ) )

=

Θ(µ).

i = 1, 2, ..., q

untuk semua µ yang sangat kecil. Fiacco dan McCormick(1990).

(4.10)

Teorema 1 Diberikan konstanta C > 0 dan σ > 1, hal yang sama juga diberikan

untuk C1, C2, C3 dan µ¯,maka persamaan (4.6) dipenuhi untuk semua w. Andaikan

konstanta C0 > 0 dan µ¯0 dipilih maka dengan itu pertidaksamaan berikut akan

dipenuhi

(1 + 2C1)C0 ≤ C,

2C0C1C2C3µ0−σ−1 ≤ 1/4

(4.11)

Maka jika µ ∈ (0, µ¯0] dan w1 adalah sebarang titik dimana

w1 − x(µ) ≤ C0µσ,

(4.12)

maka metode Newton dengan satu unit langkah, diaplikasikan terhadap fungsi P (·; µ) dan mulai dari w1, menghasilkan sebuah barisan dari sekumpulan langkah {st}t=1,2,3,... dan iterasi-iterasi {wt}t=1,2,3,... sedemikian sehingga

wt+1 − xµ ≤ C4µ−1 2, t = 1, 2, 3, ...,

(4.13)

untuk beberapa konstanta C4, dan oleh karena itu konvergen secara kuadratik terhadap x(µ)

(Wright, 1997). Bukti Langkah pertama s1 Newton memenuhi persamaan berikut
s1 ≤ C1 w1 − x(µ) ,

(4.14)

Universitas Sumatera Utara

26

dan oleh karena C0 yang diberikan oleh (4.10) maka iterasi w2 = w1 + s1 menjadi

w2 − x(µ) ≤ w1 − x(µ) + s1 ≤ (1 + C1) w1 − x(µ) ≤ C0(1 + C1)µσ < Cµσ

,sehingga w2 juga berada dalam lingkungan pada persamaan (4.6), dan berikutnya dapat di estimasi langkah Newton berikutnya yaitu s2:

s2 ≤ 2C2C3µ−1 s1 2

(4.15)

maka dari persamaan (4.11) dan (4.13) diperoleh

µ−1 s1 ≤ C0C1µσ−1,

dengan mensubstitusi (4.14) melalui definisi persamaan (4.10) diperoleh

s2 ≤ 2C0C1C2C3µσ−1 s1 ≤ (1/4) s1

Oleh karena itu iterasi berikutnya adalah w3 = w2 + s2, diperoleh

w3 − x(µ) ≤ w1 − x(µ) + s1 + s2

≤ w1 − x(µ) + (5/4) s1 ≤ C0(1 + (5/4)C1)µσ < Cµσ
sehingga w3 juga berada dalam lingkungan pada persamaan (4.6). Pernyataan diatas masih berlanjut secara induktif, jika diberikan t = 1, 2, 3, ..., menjadi

st+1 ≤ 2C2C3µ−1 st 2 ≤ (2C2C3µ−1 s1 ) st ≤ (1/4) st

(4.16)

dan

wt+1 − x(µ)

t

≤ w1 − x(µ) +

sj

j=1

t
≤ w1 − x(µ) + 4−(j−1) s1

j=1
≤ C0(1 + (4/3)C1)µσ < Cµσ

Universitas Sumatera Utara

27

sehingga semua iterasi Newton w1, w2, w3, ... termasuk di dalam lingkungan pada persamaan (4.6). Dari persamaan (4.15),diperoleh st , t = 1, 2, ... turun secara geometri dalam hal ini secara kuadratik menuju titik nol. Oleh karena itu, {wt} adalah barisan Cauchy, berarti konvergen misalkan ke titik w∗(µ).Dalam hal ini berarti titik limit akan memenuhi
Px(w∗(µ); µ) = 0.

Selanjutnya, berdasarkan kondisi second order maka dari pemilihan µ¯ dan Hes-

sian dari Pxx(·; µ) dan invers nya maka dapat disimpulkan Pxx(w; µ) adalah definit positif untuk semua nilai w pada persamaan (4.6).Hal ini berarti w∗(µ) adalah

lokal minimizer dari P (·; µ). Karena x(µ) satu-satunya lokal minimizer dari lingkun-

gan pada fungsi (4.6) maka w∗(µ) = x(µ). Untuk membuktikan bahwa konver-

gensi dari {wt} terhadap x(µ) adalah kuadratik,misalkan di estimasikan bahwa wt − x(µ) dalam st error. Dengan menggunakan persamaan (4.15) untuk
semua nilai t = 1, 2, 3, ... bahwa

wt − x(µ) =

∞∞

∞

sj ≤

sj ≤ 4−(j−1) st ≤ (4/3) st .

j=t j=t

j=t

Dengan cara yang sama diperoleh

∞

wt − x(µ) ≥ st −

sj ≥ (2/3) st .

j=t+1

Sehingga diperoleh

wt+1−x(µ) ≤ (4/3) st+1 ≤ (8/3)C2C3µ−1 st 2 ≤ (128/27)C2C3µ−1 wt−x(µ) 2

Universitas Sumatera Utara

28

hal ini menunjukkan bahwa kekonvergensian barisan {wt} adalah kuadratik. Sebagai catatan untuk kemudian, dari persamaan (4.12), (4.14) dan (4.16) diperoleh

st+1 ≤ [2C0C1C2C3]2t(2C2C3)−1µ2t(σ−1)+1,

t = 0, 1, 2, ...,

dan oleh karena itu

Px(wt+1; µ) ≤ 2C2µ−2 st 2 ≤ [2C0C1C2C3]2t(2C2C32)−1µ2t(σ−1),

t = 1, 2, 3, ..., (4.17)

4.2 Konsistensi Strategi Newton Line Search

Pada metode Newton konvergensi global klasik satu unit langkah diambil pada setiap iterasi.Disamping itu versi yang lebih praktis dari metode Newton yaitu menggunakan line search untuk menjamin konvergensi bergerak ke titik stasioner atau daerah lokal minimizer. Bentuk standar untuk menerima sebuah panjang langkah α yaitu dengan mengasumsikan titik w pada daerah layak persamaan (4.6) akan ditunjukkan bahwa α = 1 adalah sebuah panjang langkah yang dapat diterima dan memenuhi untuk semua nilai µ yang kecil. Kondisi line search dalam α adalah sebagai berikut

P (w + αs; µ) ≤ P (w; µ) + γαsT Px(w; µ)

(4.18)

|sT Px(w + αs; µ)| ≤ −γ¯sT Px(w; µ), dimana γ dan γ¯ adalah parameter yang memenuhi interval

(4.19)

0 < γ < 1/2,

γ < γ¯ < 1

(4.20)

Melalui penjelasan diatas dijamin bahwa α adalah sebuah perkiraan lokal minimizer dari fungsi P (·; µ) sepanjang arah Newton s. Hal ini ditunjukkan bahwa

Universitas Sumatera Utara

29
terdapat interval titik-titik yang memenuhi. Secara alami, dibutuhkan w + αs yang strictly feasible untuk persoalan pada (1.1), karena sebaliknya fungsi P (·; µ) tidak didefinisikan. Berdasarkan praktek yang sering digunakan, jika kita mengambil panjang langkah α = 1 kapanpun pilihan ini akan memenuhi kondisi pada persamaan (4.18) dan (4.19). Dapat dipastikan bahwa memang untuk kasus nilai µ yang cukup kecil, kapanpun nilai w dalam persamaan (4.6 )akan dipenuhi juga. Murray dan Wright(1994).
Teorema 2 Misalkan asumsi dari Teorema 1 dipenuhi, maka diberikan sebarang konstanti γ dan γ¯ memenuhi persamaan (4.18), terdapat µ¯1 ∈ (0, µ¯0] sedemikian sehingga pada saat w1 adalah sebarang titik yang memenuhi persamaan(4.11) dengan µ ∈ (0, µ¯1] langkah penuh α = 1 sepanjang arah Newton s1 akan melengkapi semua pernyataan pada (4.16) dan (4.17)
(Wright, 1997).
4.3 Kecepatan Konvergensi pada saat Fungsi Objektif Linier
Bagaimana kecepatan konvergensi jika fungsi objektif f(·) dalam (1.1) linier.Persoalan non linier dalam metode Newton/log-barrier diasumsikan akan memiliki konvergensi yang sangat cepat melalui strategi line search jika terdapat sedikitnya satu kendala aktif q > 1. Setelah pengurangan parameter barrier dicapai maka langkah pertama Newton segera diambil, dengan kata lain bahwa titik optimal akan diambil dengan mengaplikasikan strategi line search sepanjang arah Newton secara bersama dengan memberhentikan kriteria berdasarkan arah dari turunan pertama. Pada kondisi tertentu pemeriksaan titik diperoleh dengan
Universitas Sumatera Utara

30
mengambil strategi line search sepanjang arah Newton bersamaan dengan kriteria penghentian berdasarkan arah turunan, sama hal nya seperti pada (4.19). Untuk mempermudah, maka digunakan parameter skala line search, dengan menggantikan α dalam(4.19) oleh α¯(µ/µ−)

Teorema 3 Misalkan fungsi f linier, yaitu ∇f(x) ≡ g dan nilai parameter barrier µ− dan µ memenuhi kondisi sebagai berikut

µ ∈ [ρ0µσ−¯ , ρ1µ−]

(4.21)

dimana ρ0 > 0, ρ1 ∈ (0, 1), dan σ˜ ∈ (1, 2] adalah konstanta. Misalkan juga bahwa

batas

Px(x; µ−) ≤ µ−

(4.22)

dipenuhi pada nilai x yang sekarang. Maka jika s merupakan arah Newton untuk

fungsi P (·; µ) dari x sekarang, berarti diperoleh

−sT Px(x + α¯(µ/µ−)s; µ)

=

µ2− µ

1

−

µ µ−

+

O(µ− )

q ci(x) i=1 ci(x + α¯(µ/µ−)s)

(1 − α¯)

1

−

µ µ−

+ O(µ−) + O(µ2−)

(4.23)

=

µ−2 µ

1

−

µ µ−

+ O(µ−)

q i=1

(1 − α¯)(1 − µ/µ−) + O(µ−) (1 − α¯)(1 − µ/µ−) + µ/µ− + O(µ−)

+ O(µ2−)

(4.24)

(Wright,1997). Bukti (Wright dan Jarre,1999) dalam pembuktian ini pada teorema 2 mengganti beberapa notasi, yaitu s menjadi p, µ− menjadi µ, µ menjadi µ+ kemudian α¯ menjadi τ. Sebagai catatan dari persamaan (4.22) nilaiα yang dipakai adalah α = 1. Dari

Universitas Sumatera Utara

31

persamaan (3.14) diper