Sistem Persamaan Linier Homogen Nilai Eigen dan Vektor Eigen

sehingga . Jika dan adalah elemen-elemen dari , maka + = + = + = akibatnya + . Karena dan + , berarti adalah ruang bagian dari ℝ . 2.2.2 Kebebasan Linier Sebuah vektor disebut sebagai kombinasi linier dari vektor-vektor 1 , 2 , … jika vektor tersebut dapat dituliskan dalam bentuk = 1 1 + 2 2 + + dimana 1 , 2 , … , adalah skalar. Himpunan semua kombinasi linier dari 1 , 2 , … disebut rentang dari 1 , 2 , … . Definisi 2.2.2.1 Himpunan 1 , 2 , … disebut himpunan perentang untuk jika dan hanya jika setiap vektor dalam dapat ditulis sebagai kombinasi linier dari 1 , 2 , … . Definisi 2.2.2.2 Himpunan 1 , 2 , … dikatakan bebas linier jika kombinasi linier 1 1 + 2 2 + + = 0 mengakibatkan 1 = 2 = = = 0. 2.2.3 Basis dan Dimensi Definisi 2.2.3.1 Vektor-vektor 1 , 2 , … , yang bebas linear dan merentang pada ruang vektor disebut sebagai basis dan banyaknya vektor dalam basis pada ruang vektor dikatakan sebagai dimensi. Contoh 2.2.3.2 Tentukan dari matriks = 1 1 1 2 1 1 dan kemudian tentukan basis dan dimensi dari yang diperoleh. Penyelesaian: Dengan menggunakan proses eliminasi Gauss untuk menyelesaikan = , diperoleh 1 1 1 2 1 1 2 + −2 1 1 1 1 −1 −2 1 1 1 1 −1 −2 1 1 + 2 1 −1 1 −1 −2 1 sehingga 1 −1 1 −1 −2 1 −1 2 1 −1 1 1 2 −1 Bentuk eselon baris tersebut melibatkan dua peubah bebas, 3 dan 4 sehingga 1 = 3 − 4 2 = −2 3 + 4 kemudian jika didefinisikan 3 = dan 4 = , maka = − −2 + = 1 −2 1 + −1 1 1 adalah penyelesaian dari = . Jadi, adalah semua vektor yang berbentuk 1 −2 1 + −1 1 1 dimana , ℝ. Dari hasil tersebut terlihat bahwa adalah ruang bagian dari ℝ 4 yang direntang vektor-vektor 1 −2 1 dan −1 1 1 . Selain itu kedua vektor tersebut juga bebas linear, akibatnya vektor-vektor tersebut membentuk basis untuk . Dan karena mempunyai 2 vektor dalam basis , berarti dimensi dari = 2. 2.2.4 Ruang Baris dan Ruang Kolom Definisi 2.2.4.1 Jika adalah matriks × , maka ruang bagian dari ℝ yang direntang oleh vektor-vektor baris dari disebut ruang baris dari , sedangkan ruang bagian dari ℝ yang direntang oleh vektor-vektor kolom dari disebut ruang kolom dari . Contoh 2.2.4.2 Misalkan = 1 1 , maka tentukan ruang baris dan ruang kolom dari . Penyelesaian: Ruang baris dari adalah himpunan semua vektor yang berbentuk 1,0,0 + 0,1,0 = , , 0 dan ruang kolom dari adalah himpunan semua vektor yang berbentuk 1 + 1 + = . Misalkan adalah matriks × , vektor � ℝ berada di dalam ruang kolom dari jika dan hanya jika � = untuk ℝ . Maka, ruang kolom dari dapat dinyatakan sebagai , = � ℝ � = untuk ℝ , dan ruang kolom dari dinyatakan sebagai = ℝ = untuk ℝ . Ruang kolom dari sesungguhnya sama dengan ruang baris dari . Jadi jika dan hanya jika berada di dalam ruang baris dari . Selanjutnya akan diperlihatkan bahwa dan adalah ruang bagian dari ℝ . i Jika � dan suatu skalar, maka untuk ℝ � = = sehingga � . Jika � 1 dan � 2 adalah elemen-elemen dari , maka untuk 1 + 2 ℝ � 1 + � 2 = 1 + 2 = 1 + 2 akibatnya � 1 + � 2 . Karena � dan � 1 + � 2 , berarti adalah ruang bagian dari ℝ . ii Jika dan suatu skalar, maka untuk ℝ = = sehingga . Jika 1 dan 2 adalah elemen-elemen dari , maka untuk 1 + 2 ℝ 1 + 2 = 1 + 2 = 1 + 2 akibatnya 1 + 2 . Karena dan 1 + 2 , berarti adalah ruang bagian dari ℝ . Teorema 2.2.4.3 Dua matriks yang ekivalen baris memiliki ruang baris yang sama. Bukti: Jika matriks ekivalen baris dengan matriks , maka dapat dibentuk dari dengan operasi baris yang berhingga banyaknya. Ini berarti vektor- vektor baris dari harus merupakan kombinasi linear dari vektor-vektor baris dari . Akibatnya, ruang baris dari harus merupakan ruang bagian dari ruang baris . Karena matriks ekivalen baris dengan matriks , maka dengan alasan yang sama, ruang baris dari adalah ruang bagian dari ruang baris . Definisi 2.2.4.4 Rank dari suatu matriks adalah dimensi dari ruang baris . Contoh 2.2.4.5 Misalkan = 1 −2 3 2 −5 1 1 −4 −7 Dengan mereduksi menjadi bentuk eselon baris, diperoleh = 1 −2 3 1 5 sehingga 1, −2,3 dan 0,1,5 membentuk basis untuk ruang baris . Karena dan ekivalen baris, maka menurut Teorema 2.2.4.3 matriks memiliki ruang baris yang sama sehingga rank dari adalah 2.

2.3 Ortogonalitas

2.3.1 Ruang Hasil Kali Dalam Definisi 2.3.1.1 Hasil kali dalam pada ruang vektor riil adalah fungsi yang mengasosiasikan bilangan riil , dengan vektor dan pada , sedemikian sehingga aksioma-aksioma berikut terpenuhi untuk semua , , di dan semua skalar , di ℝ: i , 0; dan , = 0 jika dan hanya jika = 0. ii , = , untuk setiap dan di dalam . iii + , = , + , untuk setiap , , di dalam dan setiap skalar , . Sebuah ruang vektor yang dilengkapi dengan sebuah hasil kali dalam disebut ruang hasil kali dalam. Salah satu contoh dari ruang hasil kali dalam adalah ruang vektor ℝ , dimana hasil kali dalam baku untuk ℝ dihitung sebagai hasil kali skalar , = . Definisi 2.3.1.2 Dua vektor dan dikatakan ortogonal jika , = 0, yang dinotasikan sebagai ⊥ . Definisi 2.3.1.3 Sebuah ruang vektor dikatakan ruang linier bernorma jika untuk setiap vektor dikaitkan dengan sebuah bilangan riil yang disebut norma dari yang memenuhi: i 0. ii = 0 jika dan hanya jika = . iii = � v untuk setiap ℝ. iv + + untuk setiap dan di . Teorema 2.3.1.4 Jika sebuah ruang hasil kali dalam, maka = , untuk setiap mendefinisikan sebuah norma pada . Bukti: i Karena nilai dari = , 0, berarti nilai terkecil yang mungkin hanyalah = . ii Jika = , maka 2 = , = , = 0. Jadi = 0. Kemudian jika = , = , = 0, berarti haruslah = . iii 2 = , = 2 , = 2 . Jadi, = . iv + 2 = + , + = , + 2 , + , 2 + 2 + 2 ketaksamaan Cauchy-Schwarz = + 2 Jadi, + + Kemudian dapat didefinisikan beberapa norma yang berbeda pada ruang vektor yang diberikan. Seperti, di ℝ kita dapat mendefinisikan 2 = 2 =1 1 2 = , = disebut sebagai norma- 2 vektor. Selain itu, norma lainnya yang penting pada ℝ adalah ∞ = max 1 Bukti: i Untuk 1 , 0 sehingga max 1 . Akibatnya, max 1 = ∞ 0. ii Jika ∞ = 0, maka max 1 = 0. Karena maksimal dari = 0, = 1,2, … , berarti 1 = 2 = = = 0, akibatnya = sehingga = . Oleh karena itu haruslah suatu vektor nol. Jika = , berarti 1 = 2 = = = 0. Akibatnya max 1 = 0 sehingga ∞ = 0. iii ∞ = max 1 = max 1 = ∞ . iv + ∞ = max 1 + max 1 + max 1 ∞ + ∞ . Berdasarkan bukti di atas ∞ memenuhi definisi sebagai norma, maka ∞ disebut sebagai norma- ∞ vektor. Contoh 2.3.1.5 Misalkan adalah vektor 4, −5,3 di ℝ 3 . Hitunglah 2 dan ∞ . 2 = 16 + 25 + 9 = 50 = 5 2. ∞ = max 4 , −5 , 3 = 5. Teorema 2.3.1.6 Ketaksamaan Cauchy-Schwarz Jika dan adalah vektor-vektor di dalam sebuah ruang hasil kali dalam , maka , Bukti: Jika = maka , = = 0, sehingga ketaksamaan berlaku. Jika ≠ , untuk setiap bilangan � ℝ nilai � + � + 0 , � 2 + 2 , � + , 0 merupakan fungsi kuadrat dalam � sehingga haruslah � 0. Ini berarti fungsi kuadrat tersebut tidak mempunyai akar berbeda. Oleh karena ini, diskriminannya tidak mungkin positif, sehingga 4 , 2 − 4 , , 0 atau 4 , 2 4 , , , 2 , , , 2 2 2 dengan mengambil akar dari kedua ruas diperoleh , .

2.3.2 Ruang Bagian Ortogonal Vektor dan himpunan

= 1 , 2 , . . , adalah ortogonal jika terdapat dan untuk setiap berlaku , = 0. Dan apabila dan ortogonal, dinotasikan sebagai ⊥ . Definisi 2.3.2.1 Dua ruang bagian dan dari ℝ dikatakan ortogonal jika , = 0 untuk setiap dan setiap , dan apabila dan ortogonal ditulis ⊥ . Misalkan adalah matriks × dan misalkan . Karena = sehingga 1 1 + 2 2 + + = 0 untuk = 1,2, … , . Persamaan tersebut menunjukkan bahwa ortogonal pada setiap vektor kolom dari , maka ortogonal ke setiap kombinasi linier dari vektor-vektor kolom . Sehingga jika adalah vektor kolom dalam ruang vektor , maka = 0. Jadi setiap vektor di dalam ortogonal terhadap setiap vektor di dalam ruang kolom , yang ditulis sebagai ⊥ . Jika dua ruang bagian memiliki sifat ini, maka dapat dikatakan bahwa ruang bagian tersebut adalah ortogonal. Definisi 2.3.2.2 Misalkan 1 , 2 , … , adalah vektor-vektor di dalam sebuah ruang hasil kali dalam . Jika semua pasangan vektor , = 0, dimana ≠ , maka 1 , 2 , … , disebut sebagai himpunan ortogonal. Definisi 2.3.2.3 Misalkan adalah ruang bagian dari ℝ . Himpunan semua vektor-vektor di dalam ℝ yang ortogonal pada setiap vektor di akan dinotasikan dengan ⊥ , ⊥ = ℝ , = 0 untuk setiap . Himpunan ⊥ disebut komplemen ortogonal dari .

2.3.2.4 Ruang-Ruang Bagian Pokok Fundamental Subspaces

Telah dijelaskan bahwa ⊥ , selanjutnya akan diperlihatkan bahwa sebenarnya merupakan komplemen ortogonal dari . Teorema 2.3.2.5 Jika adalah sebuah matriks × , maka = ⊥ dan = ⊥ . Bukti: Diketahui bahwa ⊥ , sehingga ⊂ ⊥ . Ambil sebarang vektor di ⊥ . Berdasarkan definisi komplemen ortogonal maka ortogonal pada setiap vektor kolom dari , akibatnya = . Padahal = ℝ = . Jadi haruslah menjadi sebuah elemen dari , yaitu = ⊥ . Secara khusus, hasil ini juga berlaku untuk matriks = . Jadi = = ⊥ = ⊥ .

2.3.3 Masalah Kuadrat Terkecil

Masalah kuadrat terkecil pada umumnya dapat dirumuskan sebagai sebuah sistem kelebihan persamaan linier, yaitu sistem yang memiliki lebih banyak persamaan daripada peubah. Sistem yang seperti ini biasanya tidak mempunyai penyelesaian. Misalkan diberikan sebuah sistem × yaitu = � dengan , kemudian penyelesaian dari sistem tersebut adalah mencari sebuah vektor ℝ sehingga sama dengan �. Berarti vektor yang didapat untuk harus sedekat mungkin dengan �. Diberikan sistem = �. Untuk setiap ℝ dapat dihitung sebuah selisih antara � dan sebagai � = � − dan jarak antara � dan diberikan sebagai � − = � . Untuk mendapatkan vektor ℝ yang terbaik dalam mendekati �, maka harus dicari nilai � yang paling minimum. Sebuah vektor yang memenuhi ini disebut sebagai penyelesaian kuadrat terkecil untuk sistem = �. Teorema 2.3.3.1 Jika adalah matriks × yang memiliki rank , maka persamaan normal = � mempunyai sebuah penyelesaian tunggal ′ = −1 � dimana ′ adalah penyelesaian kuadrat terkecil yang tunggal dari sistem = �. Bukti: Akan ditunjukkan bahwa adalah taksingular. Misalkan adalah penyelesaian untuk = , berarti . Sehingga 1 1 + 2 2 + + = 0 menunjukkan bahwa ortogonal pada setiap vektor kolom dari , maka ortogonal ke setiap kombinasi linier dari vektor-vektor kolom . Akibatnya ortogonal terhadap , maka = ⊥ . Karena dan ⊥ adalah ruang bagian yang ortogonal, berarti ∩ ⊥ dan ⊥ ⊥ , maka = 0 sehingga = . Jika mempunyai rank maka vektor-vektor kolom dari adalah bebas linear, sehingga = akan mempunyai penyelesaian trivial. Jadi = dan = juga mempunyai penyelesaian trivial. Berdasarkan Teorema 2.1.1, adalah taksingular. Ini mengakibatkan bahwa ′ = −1 � adalah penyelesaian tunggal untuk persamaan = �, sehingga ′ merupakan penyelesaian kuadrat terkecil yang tunggal untuk sistem = �. 2.3.4 Himpunan Ortonormal Definisi 2.3.4.1 Himpunan ortogonal yang setiap vektornya mempunyai norma 1 disebut sebagai himpunan ortonormal. Himpunan 1 , 2 , … , akan menjadi ortonormal jika dan hanya jika , = , dimana = 1 jika = 0 jika ≠ . Untuk membentuk sebuah himpunan ortonormal dari himpunan ortogonal vektor-vektor taknol 1 , 2 , … , dapat dilakukan dengan mendefinisikan = 1 = 1 . = 1 untuk = 1,2, … Proses pengalian vektor taknol ini dengan kebalikan panjangnya untuk mendapatkan vektor yang normanya 1 dinamakan menormalisasikan . Definisi 2.3.4.2 Suatu basis yang anggota-anggotanya saling ortogonal dan masing-masing memiliki norma 1 disebut basis ortonormal. Definisi 2.3.4.3 Matriks yang berukuran × disebut sebagai matriks ortogonal, jika vektor-vektor kolom dari membentuk sebuah himpunan ortonormal di dalam ℝ .

2.3.4.4 Sifat-sifat Matriks Ortogonal

Jika adalah matriks ortogonal × , maka i = � ii = −1 iii , = , iv 2 = 2 Bukti: i Berdasarkan definisi 2.3.4.1, sebuah matriks yang berukuran × adalah ortogonal jika dan hanya jika vektor-vektor kolom dari membentuk sebuah himpunan ortonormal, yaitu , = = dimana = 1 jika = 0 jika ≠ . Dan dari perhitungan , akan menghasilkan nilai-nilai untuk entri , , = 1,2, . . dan = 1,2, … , dari sehingga = 1 1 1 ⋱ 1 = � . ii Berdasarkan sifat i = � maka = � −1 , sehingga = −1 . iii , = = = � = = , . iv 2 = , = = = � = = , = 2 .

2.4 Nilai Eigen dan Vektor Eigen

Apabila sebuah matriks berukuran × dan sebuah vektor ℝ , maka biasanya tidak ada hubungan geometris di antara vektor dan vektor Gambar 2.1a. Akan tetapi, ada beberapa vektor taknol , sehingga dan merupakan kelipatan satu sama lainnya Gambar 2.1b. Vektor- vektor tersebut muncul secara alami dalam telaah getaran, sistem elektris, genetik, reaksi kimia, mekanika kuanturm, tekanan mekanis, ekonomi dan geometris. Pada bagian ini akan ditunjukkan bagaimana mencari vektor- vektor ini. a b Gambar 2.1. Hubungan geometris di antara dan Definisi 2.4.1 Misalkan adalah matriks berukuran × . Skalar � disebut sebagai nilai eigen dari , jika terdapat vektor tak nol sehingga = � . Vektor disebut vektor eigen yang bersesuaian dengan �. Ax x Ax x Contoh 2.4.2 Diberikan matriks = 3 8 −1 , maka = 1 2 merupakan vektor eigen dari matriks . Sebab merupakan kelipatan dari , yaitu = 3 8 −1 1 2 = 3 6 = 3 1 2 = 3 Dari persamaan ini terlihat bahwa � = 3 merupakan nilai eigen dari matriks . Untuk dapat mencari nilai eigen dari matriks persegi , perlu diperhatikan kembali definisi nilai eigen dan vektor eigen, bahwa bentuk = � dapat ditulis sebagai = �� − �� = − �� = , dimana � adalah matriks identitas yang mempunyai bentuk � = 1 1 1 ⋱ 1 . Agar � menjadi nilai eigen, maka harus ada penyelesaian tak nol dari persamaan − �� = . Sehingga persamaan tersebut akan mempunyai penyelesaian tak nol jika dan hanya jika det − �� = 0. Jika det − �� = 0 diuraikan, akan didapatkan suatu polinomial berderajat ke- dalam peubah �, � � = det − �� . Polinomial ini disebut polinomial karakteristik dan � � = det − �� tersebut disebut sebagai persamaan karakteristik dari matriks . Contoh 2.4.3 Carilah nilai-nilai eigen dari matriks = 1 1 4 1 Penyelesaian: Polinomial karakteristik dari matriks adalah det − �� = det 1 1 4 1 − � 0 � = det 1 − � 1 4 1 − � = 1 − � 2 − 4. Dan persamaan karakteristik dari matriks adalah � 2 − 2� − 3 = 0, dengan memfaktorkan � 2 − 2� − 3 = 0, diperoleh � − 3 � + 1 = 0 sehingga penyelesaian dari persamaan ini adalah � 1 = 3 dan � 2 = −1. Jadi, nilai-nilai eigen dari matriks tersebut adalah � 1 = 3 dan � 2 = −1.

2.5 Dekomposisi Nilai Singular Singular Value Decomposition

Dekomposisi nilai singular merupakan suatu teknik pemfaktoran matriks yang berkaitan erat dengan nilai singular dari sebuah matriks yang merupakan karakteristik dari matriks tersebut. Teorema 2.5.1 Misalkan adalah matriks × dan � = min , . Maka terdapat basis ortonormal 1 , 2 , … , untuk ℝ , 1 , 2 , … , untuk ℝ dan skalar-skalar � 1 � 2 � � 0, sehingga mempunyai suatu dekomposisi nilai singular, = Λ , dengan Λ adalah matriks × yang berbentuk Λ = σ 1 ⋱ σ ⋱ jika = �, atau Λ = σ 1 ⋱ σ ⋱ jika � = , atau Λ = σ 1 σ 2 ⋱ σ � jika = = �, = 1 , 2 , … , adalah matriks ortogonal × , dan = 1 , 2 , … , adalah matriks ortogonal × dan Λ merupakan matriks diagonal yang entrinya nilai-nilai singular. Bukti: adalah matriks simetris berukuran × , yaitu matriks persegi yang elemen-elemennya simetri terhadap diagonal utama. Misalkan � adalah nilai eigen dari dan adalah vektor eigen yang bersesuaian dengan �. Dengan menggunakan Teorema 2.3.1.4, 2 = 2 = 2 = = = � karena � merupakan suatu skalar, berlaku 2 = � = � = � 2 akibatnya � = 2 2 0. Asumsikan bahwa kolom-kolom dari tersusun terurut sehingga nilai-nilai eigen yang bersesuaian memenuhi � 1 � 2 � 0. dan nilai-nilai singular dari matriks diberikan oleh � = � , = 1,2, … , . Misalkan � merupakan rank dari . Karena matriks simetris maka ranknya ditentukan dari banyaknya nilai eigen taknol dari . Jadi � 1 � 2 � � 0 dan � �+1 = � �+2 = = � = 0 sehingga matriks juga mempunyai rank �. Dan hubungan yang sama juga berlaku bagi nilai-nilai singularnya � 1 � 2 � � 0 dan � �+1 = � �+2 = = � = 0 Sekarang, misalkan 1 = 1 , 2 , … , � dan 2 = �+1 , �+2 , … , dan Λ 1 = σ 1 σ 2 ⋱ 0 σ � Jadi Λ 1 adalah matriks diagonal � × � yang entri-entri diagonalnya adalah nilai-nilai singular taknol σ 1 , … , σ � . Selanjutnya matriks Λ × dapat dinyatakan oleh Λ = Λ 1 . Vektor-vektor dari 2 adalah vektor-vektor eigen dari untuk � = 0, sehingga = , = � + 1, … , dan akibatnya, vektor-vektor kolom dari 2 membentuk basis ortonormal untuk = . Dengan demikian, 2 = dan karena adalah matriks ortogonal, maka � = = 1 1 + 2 2 = � = 1 1 + 2 2 = 1 1 . 2.1 Kemudian akan dibuktikan bahwa matriks ortogonal berorde × memenuhi = Λ ↔ = Λ 2.2 dan dengan membandingkan � kolom-kolom pertama dari setiap ruas dari 2.2 , diperoleh = � , = 1, … , � sehingga = 1 � , = 1, … , � 2.3 akibatnya 1 = 1 , … , � dan berdasarkan hal itu, maka 1 = 1 Λ 1 . 2.4 Vektor-vektor kolom dari 1 akan membentuk suatu himpunan ortonormal karena = 1 � 1 � 1 �, 1 � = 1 � � = 1 � � � � = 1 � � � 2 = � 2 � � = � � = Dari persamaan 2.3 maka setiap , 1 � berada dalam ruang kolom dan dimensi dari ruang kolom tersebut adalah �, sehingga 1 , … , � membentuk basis ortonormal untuk . Berarti ruang vektor = ⊥ mempunyai dimensi − �. Misalkan �+1 , … , adalah basis ortonormal untuk dan 2 = �+1 , … , = 1 2