sehingga
. Jika dan adalah elemen-elemen dari , maka
+ = +
= +
=
akibatnya +
. Karena dan +
, berarti adalah ruang bagian dari ℝ .
2.2.2 Kebebasan Linier Sebuah vektor disebut sebagai kombinasi linier dari vektor-vektor
1
,
2
, … jika vektor tersebut dapat dituliskan dalam bentuk
=
1 1
+
2 2
+ +
dimana
1
,
2
, … , adalah skalar. Himpunan semua kombinasi linier dari
1
,
2
,
… disebut rentang dari
1
,
2
, … .
Definisi 2.2.2.1
Himpunan
1
,
2
,
… disebut himpunan perentang untuk jika dan
hanya jika setiap vektor dalam dapat ditulis sebagai kombinasi linier dari
1
,
2
, … .
Definisi 2.2.2.2
Himpunan
1
,
2
,
… dikatakan bebas linier jika kombinasi linier
1 1
+
2 2
+ +
= 0 mengakibatkan
1
=
2
= =
= 0.
2.2.3 Basis dan Dimensi Definisi 2.2.3.1
Vektor-vektor
1
,
2
, … , yang bebas linear dan merentang pada ruang
vektor disebut sebagai basis dan banyaknya vektor dalam basis pada ruang vektor dikatakan sebagai dimensi.
Contoh 2.2.3.2
Tentukan dari matriks
= 1
1 1
2 1
1 dan kemudian tentukan basis dan dimensi dari
yang diperoleh.
Penyelesaian: Dengan menggunakan proses eliminasi Gauss untuk menyelesaikan
= , diperoleh 1
1 1
2 1
1
2
+ −2
1
1 1
1 −1 −2 1
1 1
1 −1 −2 1
1
+
2
1 −1 1
−1 −2 1 sehingga
1 −1 1
−1 −2 1
−1
2
1 −1
1 1
2 −1
Bentuk eselon baris tersebut melibatkan dua peubah bebas,
3
dan
4
sehingga
1
=
3
−
4 2
= −2
3
+
4
kemudian jika didefinisikan
3
= dan
4
= , maka
= −
−2 + = 1
−2 1
+ −1
1 1
adalah penyelesaian dari = .
Jadi, adalah semua vektor yang berbentuk
1 −2
1 +
−1 1
1
dimana ,
ℝ.
Dari hasil tersebut terlihat bahwa adalah ruang bagian dari ℝ
4
yang direntang vektor-vektor
1 −2
1 dan
−1 1
1 .
Selain itu kedua vektor tersebut juga bebas linear, akibatnya vektor-vektor tersebut membentuk basis untuk
. Dan karena mempunyai 2 vektor dalam basis
, berarti dimensi dari = 2.
2.2.4 Ruang Baris dan Ruang Kolom Definisi 2.2.4.1
Jika adalah matriks × , maka ruang bagian dari
ℝ yang direntang
oleh vektor-vektor baris dari disebut ruang baris dari , sedangkan
ruang bagian dari ℝ yang direntang oleh vektor-vektor kolom dari
disebut ruang kolom dari .
Contoh 2.2.4.2
Misalkan =
1 1
, maka tentukan ruang baris dan ruang kolom dari .
Penyelesaian: Ruang baris dari adalah himpunan semua vektor yang berbentuk
1,0,0 + 0,1,0 = , , 0 dan ruang kolom dari adalah himpunan semua vektor yang berbentuk
1 +
1 +
= .
Misalkan adalah matriks × , vektor
� ℝ berada di dalam ruang kolom dari jika dan hanya jika
� = untuk
ℝ . Maka, ruang kolom dari dapat dinyatakan sebagai
, = � ℝ � =
untuk ℝ ,
dan ruang kolom dari dinyatakan sebagai
= ℝ =
untuk ℝ .
Ruang kolom dari sesungguhnya sama dengan ruang baris dari .
Jadi jika dan hanya jika
berada di dalam ruang baris dari . Selanjutnya akan diperlihatkan bahwa
dan adalah ruang
bagian dari ℝ .
i Jika �
dan suatu skalar, maka untuk
ℝ
� = = sehingga
� . Jika �
1
dan �
2
adalah elemen-elemen dari , maka untuk
1
+
2
ℝ
�
1
+
�
2
=
1
+
2
=
1
+
2
akibatnya �
1
+ �
2
. Karena � dan �
1
+ �
2
, berarti adalah ruang bagian dari
ℝ
.
ii Jika
dan suatu skalar, maka untuk
ℝ =
=
sehingga . Jika
1
dan
2
adalah elemen-elemen dari , maka untuk
1
+
2
ℝ
1
+
2
=
1
+
2
=
1
+
2
akibatnya
1
+
2
. Karena dan
1
+
2
, berarti adalah ruang bagian dari
ℝ
.
Teorema 2.2.4.3
Dua matriks yang ekivalen baris memiliki ruang baris yang sama.
Bukti:
Jika matriks ekivalen baris dengan matriks , maka dapat dibentuk dari dengan operasi baris yang berhingga banyaknya. Ini berarti vektor-
vektor baris dari harus merupakan kombinasi linear dari vektor-vektor baris dari . Akibatnya, ruang baris dari harus merupakan ruang bagian
dari ruang baris . Karena matriks ekivalen baris dengan matriks , maka dengan alasan yang sama, ruang baris dari adalah ruang bagian
dari ruang baris .
Definisi 2.2.4.4 Rank
dari suatu matriks adalah dimensi dari ruang baris .
Contoh 2.2.4.5
Misalkan =
1 −2
3 2
−5 1
1 −4 −7
Dengan mereduksi menjadi bentuk eselon baris, diperoleh =
1 −2 3
1 5
sehingga 1, −2,3 dan 0,1,5 membentuk basis untuk ruang baris .
Karena dan ekivalen baris, maka menurut Teorema 2.2.4.3 matriks memiliki ruang baris yang sama sehingga rank dari adalah 2.
2.3 Ortogonalitas
2.3.1 Ruang Hasil Kali Dalam Definisi 2.3.1.1
Hasil kali dalam pada ruang vektor riil
adalah fungsi yang mengasosiasikan bilangan riil
, dengan vektor dan pada ,
sedemikian sehingga aksioma-aksioma berikut terpenuhi untuk semua
, , di dan semua skalar , di ℝ:
i , 0; dan , = 0 jika dan hanya jika = 0.
ii
, = , untuk setiap dan di dalam .
iii +
, = , + , untuk setiap , , di dalam
dan setiap skalar , .
Sebuah ruang vektor yang dilengkapi dengan sebuah hasil kali
dalam disebut ruang hasil kali dalam. Salah satu contoh dari ruang hasil
kali dalam adalah ruang vektor ℝ , dimana hasil kali dalam baku untuk
ℝ dihitung sebagai hasil kali skalar , =
.
Definisi 2.3.1.2 Dua vektor dan dikatakan ortogonal jika
, = 0, yang dinotasikan sebagai
⊥ .
Definisi 2.3.1.3 Sebuah ruang vektor dikatakan ruang linier bernorma jika untuk setiap
vektor dikaitkan dengan sebuah bilangan riil
yang disebut norma dari yang memenuhi:
i 0.
ii = 0 jika dan hanya jika = .
iii = � v untuk setiap
ℝ. iv
+ + untuk setiap dan di .
Teorema 2.3.1.4
Jika sebuah ruang hasil kali dalam, maka = , untuk setiap
mendefinisikan sebuah norma pada .
Bukti:
i Karena nilai dari
= , 0, berarti nilai terkecil yang mungkin hanyalah
= .
ii Jika = , maka
2
= , = , = 0. Jadi = 0.
Kemudian jika = , = , = 0, berarti haruslah = .
iii
2
= , =
2
, =
2
. Jadi, = .
iv +
2
= + , +
= , + 2 , + ,
2
+ 2 +
2
ketaksamaan Cauchy-Schwarz =
+
2
Jadi, + +
Kemudian dapat didefinisikan beberapa norma yang berbeda pada ruang vektor yang diberikan. Seperti, di
ℝ kita dapat mendefinisikan
2
=
2 =1
1 2
= , =
disebut sebagai norma- 2 vektor. Selain itu, norma lainnya yang penting
pada ℝ adalah
∞
= max
1
Bukti: i
Untuk 1 ,
0 sehingga max
1
. Akibatnya, max
1
=
∞
0.
ii Jika
∞
= 0, maka max
1
= 0. Karena maksimal dari = 0, = 1,2, … , berarti
1
=
2
= =
= 0, akibatnya
=
sehingga = . Oleh karena itu haruslah suatu vektor nol.
Jika = ,
berarti
1
=
2
= =
= 0. Akibatnya
max
1
= 0 sehingga
∞
= 0.
iii
∞
= max
1
= max
1
=
∞
.
iv +
∞
= max
1
+ max
1
+ max
1 ∞
+
∞
.
Berdasarkan bukti di atas
∞
memenuhi definisi sebagai norma, maka
∞
disebut sebagai norma- ∞ vektor.
Contoh 2.3.1.5
Misalkan adalah vektor 4, −5,3 di ℝ
3
. Hitunglah
2
dan
∞
.
2
= 16 + 25 + 9 = 50 = 5 2.
∞
= max 4 , −5 , 3 = 5.
Teorema 2.3.1.6 Ketaksamaan Cauchy-Schwarz
Jika dan adalah vektor-vektor di dalam sebuah ruang hasil kali dalam , maka
,
Bukti:
Jika = maka
, = = 0, sehingga ketaksamaan berlaku. Jika
≠ , untuk setiap bilangan � ℝ nilai � + � + 0
, �
2
+ 2 , � + , 0
merupakan fungsi kuadrat dalam � sehingga haruslah � 0. Ini berarti
fungsi kuadrat tersebut tidak mempunyai akar berbeda. Oleh karena ini, diskriminannya tidak mungkin positif, sehingga
4 ,
2
− 4 , , 0 atau
4 ,
2
4 , ,
,
2
, ,
,
2 2
2
dengan mengambil akar dari kedua ruas diperoleh , .
2.3.2 Ruang Bagian Ortogonal Vektor dan himpunan
=
1
,
2
, . . ,
adalah ortogonal jika
terdapat dan untuk setiap
berlaku , = 0. Dan apabila
dan ortogonal, dinotasikan sebagai ⊥ .
Definisi 2.3.2.1
Dua ruang bagian dan dari
ℝ dikatakan ortogonal jika , = 0
untuk setiap dan setiap
, dan apabila dan ortogonal ditulis ⊥ .
Misalkan adalah matriks × dan misalkan
. Karena
= sehingga
1 1
+
2 2
+ +
= 0 untuk
= 1,2,
… , . Persamaan tersebut menunjukkan bahwa ortogonal
pada setiap vektor kolom dari , maka ortogonal ke setiap kombinasi
linier dari vektor-vektor kolom . Sehingga jika adalah vektor kolom
dalam ruang vektor , maka
= 0. Jadi setiap vektor di dalam
ortogonal terhadap setiap vektor di dalam ruang kolom , yang ditulis
sebagai ⊥ . Jika dua ruang bagian memiliki sifat ini, maka
dapat dikatakan bahwa ruang bagian tersebut adalah ortogonal.
Definisi 2.3.2.2
Misalkan
1
,
2
, … , adalah vektor-vektor di dalam sebuah ruang hasil
kali dalam . Jika semua pasangan vektor , = 0, dimana ≠ , maka
1
,
2
,
… , disebut sebagai himpunan ortogonal.
Definisi 2.3.2.3
Misalkan adalah ruang bagian dari ℝ . Himpunan semua vektor-vektor
di dalam ℝ yang ortogonal pada setiap vektor di akan dinotasikan
dengan
⊥
,
⊥
= ℝ , = 0 untuk setiap
.
Himpunan
⊥
disebut komplemen ortogonal dari .
2.3.2.4 Ruang-Ruang Bagian Pokok Fundamental Subspaces
Telah dijelaskan bahwa ⊥ , selanjutnya akan diperlihatkan
bahwa sebenarnya merupakan komplemen ortogonal dari .
Teorema 2.3.2.5
Jika adalah sebuah matriks × , maka
=
⊥
dan =
⊥
.
Bukti:
Diketahui bahwa ⊥ , sehingga
⊂
⊥
. Ambil sebarang vektor di
⊥
. Berdasarkan definisi komplemen ortogonal
maka ortogonal pada setiap vektor kolom dari
,
akibatnya
= .
Padahal =
ℝ =
.
Jadi haruslah menjadi sebuah elemen dari
, yaitu =
⊥
. Secara khusus, hasil ini juga berlaku untuk matriks
= . Jadi
= =
⊥
=
⊥
.
2.3.3 Masalah Kuadrat Terkecil
Masalah kuadrat terkecil pada umumnya dapat dirumuskan sebagai sebuah sistem kelebihan persamaan linier, yaitu sistem yang memiliki
lebih banyak persamaan daripada peubah. Sistem yang seperti ini biasanya tidak mempunyai penyelesaian. Misalkan diberikan sebuah sistem
× yaitu
= � dengan , kemudian penyelesaian dari sistem tersebut
adalah mencari sebuah vektor ℝ sehingga sama dengan �. Berarti
vektor yang didapat untuk harus sedekat mungkin dengan
�. Diberikan sistem
= �. Untuk setiap
ℝ dapat dihitung sebuah selisih antara
� dan sebagai
� = � − dan jarak antara
� dan diberikan sebagai � − = � .
Untuk mendapatkan vektor ℝ yang terbaik dalam mendekati �, maka
harus dicari nilai � yang paling minimum. Sebuah vektor yang
memenuhi ini disebut sebagai penyelesaian kuadrat terkecil untuk sistem =
�.
Teorema 2.3.3.1
Jika adalah matriks × yang memiliki rank , maka persamaan
normal
= �
mempunyai sebuah penyelesaian tunggal
′
=
−1
�
dimana
′
adalah penyelesaian kuadrat terkecil yang tunggal dari sistem =
�.
Bukti:
Akan ditunjukkan bahwa adalah taksingular. Misalkan adalah
penyelesaian untuk = , berarti
. Sehingga
1 1
+
2 2
+ +
= 0 menunjukkan bahwa ortogonal pada setiap vektor kolom dari , maka
ortogonal ke setiap kombinasi linier dari vektor-vektor kolom .
Akibatnya ortogonal terhadap , maka
=
⊥
. Karena
dan
⊥
adalah ruang bagian yang ortogonal, berarti ∩
⊥
dan ⊥
⊥
, maka = 0
sehingga = . Jika mempunyai rank maka vektor-vektor kolom
dari adalah bebas linear, sehingga
= akan mempunyai penyelesaian trivial. Jadi
= dan = juga mempunyai
penyelesaian trivial. Berdasarkan Teorema 2.1.1, adalah taksingular.
Ini mengakibatkan bahwa
′
=
−1
� adalah penyelesaian tunggal untuk persamaan
= �, sehingga
′
merupakan penyelesaian kuadrat terkecil yang tunggal untuk sistem
= �.
2.3.4 Himpunan Ortonormal Definisi 2.3.4.1
Himpunan ortogonal yang setiap vektornya mempunyai norma 1 disebut
sebagai himpunan ortonormal.
Himpunan
1
,
2
, … , akan menjadi ortonormal jika dan hanya
jika , =
, dimana
= 1 jika =
0 jika ≠
.
Untuk membentuk sebuah himpunan ortonormal dari himpunan ortogonal vektor-vektor
taknol
1
,
2
, … , dapat dilakukan dengan
mendefinisikan
= 1
= 1
. = 1 untuk = 1,2, …
Proses pengalian vektor taknol ini dengan kebalikan panjangnya untuk
mendapatkan vektor yang normanya 1 dinamakan menormalisasikan .
Definisi 2.3.4.2
Suatu basis yang anggota-anggotanya saling ortogonal dan masing-masing
memiliki norma 1 disebut basis ortonormal.
Definisi 2.3.4.3
Matriks yang berukuran × disebut sebagai matriks ortogonal, jika
vektor-vektor kolom dari membentuk sebuah himpunan ortonormal di dalam
ℝ .
2.3.4.4 Sifat-sifat Matriks Ortogonal
Jika adalah matriks ortogonal × , maka
i =
�
ii =
−1
iii , = ,
iv
2
=
2
Bukti:
i Berdasarkan definisi 2.3.4.1, sebuah matriks yang berukuran ×
adalah ortogonal jika dan hanya jika vektor-vektor kolom dari membentuk sebuah himpunan ortonormal, yaitu
, = =
dimana
= 1 jika =
0 jika ≠
.
Dan dari perhitungan , akan menghasilkan nilai-nilai untuk
entri , , = 1,2, . . dan = 1,2, … , dari
sehingga
= 1
1 1
⋱ 1
= � .
ii Berdasarkan sifat i
= � maka
= �
−1
, sehingga =
−1
.
iii , =
= =
� = =
, .
iv
2
= , =
= =
� =
= , =
2
.
2.4 Nilai Eigen dan Vektor Eigen
Apabila sebuah matriks berukuran × dan sebuah vektor
ℝ , maka biasanya tidak ada hubungan geometris di antara vektor dan vektor
Gambar 2.1a. Akan tetapi, ada beberapa vektor taknol , sehingga dan
merupakan kelipatan satu sama lainnya Gambar 2.1b. Vektor- vektor tersebut muncul secara alami dalam telaah getaran, sistem elektris,
genetik, reaksi kimia, mekanika kuanturm, tekanan mekanis, ekonomi dan geometris. Pada bagian ini akan ditunjukkan bagaimana mencari vektor-
vektor ini.
a b
Gambar 2.1. Hubungan geometris di antara dan
Definisi 2.4.1
Misalkan adalah matriks berukuran × . Skalar
� disebut sebagai nilai eigen dari , jika terdapat vektor tak nol sehingga
=
� . Vektor
disebut vektor eigen yang bersesuaian dengan
�.
Ax x
Ax
x
Contoh 2.4.2
Diberikan matriks =
3 8
−1 , maka
= 1
2 merupakan vektor eigen
dari matriks . Sebab merupakan kelipatan dari , yaitu
= 3
8 −1
1 2
= 3
6 = 3
1 2
= 3
Dari persamaan ini terlihat bahwa � = 3 merupakan nilai eigen dari
matriks . Untuk dapat mencari nilai eigen dari matriks persegi
, perlu diperhatikan kembali definisi nilai eigen dan vektor eigen, bahwa bentuk
=
� dapat ditulis sebagai
= ��
− �� = − �� = ,
dimana � adalah matriks identitas yang mempunyai bentuk
� = 1
1 1
⋱ 1
.
Agar � menjadi nilai eigen, maka harus ada penyelesaian tak nol dari
persamaan − �� = . Sehingga persamaan tersebut akan mempunyai
penyelesaian tak nol jika dan hanya jika det
− �� = 0.
Jika det
− �� = 0 diuraikan, akan didapatkan suatu polinomial berderajat ke- dalam peubah
�,
� � = det − �� .
Polinomial ini disebut polinomial karakteristik dan � � = det − ��
tersebut disebut sebagai persamaan karakteristik dari matriks .
Contoh 2.4.3
Carilah nilai-nilai eigen dari matriks =
1 1
4 1
Penyelesaian: Polinomial karakteristik dari matriks adalah
det − �� = det
1 1
4 1 −
� 0 �
= det 1
− � 1
4 1
− � =
1 − �
2
− 4. Dan persamaan karakteristik dari matriks adalah
�
2
− 2� − 3 = 0, dengan memfaktorkan
�
2
− 2� − 3 = 0, diperoleh � − 3 � + 1 = 0
sehingga penyelesaian dari persamaan ini adalah �
1
= 3 dan �
2
= −1.
Jadi, nilai-nilai eigen dari matriks tersebut adalah �
1
= 3 dan �
2
= −1.
2.5 Dekomposisi Nilai Singular Singular Value Decomposition
Dekomposisi nilai singular merupakan suatu teknik pemfaktoran matriks yang berkaitan erat dengan nilai singular dari sebuah matriks yang
merupakan karakteristik dari matriks tersebut.
Teorema 2.5.1
Misalkan adalah matriks
× dan � = min , . Maka terdapat
basis ortonormal
1
,
2
, … ,
untuk ℝ ,
1
,
2
, … , untuk ℝ dan
skalar-skalar �
1
�
2
�
�
0, sehingga mempunyai suatu
dekomposisi nilai singular, =
Λ , dengan
Λ adalah matriks × yang berbentuk
Λ = σ
1
⋱ σ
⋱ jika
= �, atau
Λ = σ
1
⋱ σ
⋱ jika � =
,
atau
Λ = σ
1
σ
2
⋱ σ
�
jika = = �,
=
1
,
2
, … ,
adalah matriks ortogonal ×
, dan =
1
,
2
, … , adalah matriks ortogonal × dan Λ merupakan
matriks diagonal yang entrinya nilai-nilai singular.
Bukti:
adalah matriks simetris berukuran × , yaitu matriks persegi yang
elemen-elemennya simetri terhadap diagonal utama. Misalkan � adalah
nilai eigen dari dan adalah vektor eigen yang bersesuaian dengan
�.
Dengan menggunakan Teorema 2.3.1.4,
2
=
2
=
2
= =
= �
karena � merupakan suatu skalar, berlaku
2
= � = �
= �
2
akibatnya � =
2 2
0. Asumsikan bahwa kolom-kolom dari
tersusun terurut sehingga nilai-nilai eigen yang bersesuaian memenuhi
�
1
�
2
� 0.
dan nilai-nilai singular dari matriks diberikan oleh � = � , = 1,2, … , .
Misalkan � merupakan rank dari . Karena matriks
simetris maka ranknya ditentukan dari banyaknya nilai eigen taknol dari
. Jadi �
1
�
2
�
�
0 dan �
�+1
= �
�+2
= =
� = 0 sehingga matriks
juga mempunyai rank �. Dan hubungan yang sama
juga berlaku bagi nilai-nilai singularnya �
1
�
2
�
�
0 dan �
�+1
= �
�+2
= =
� = 0 Sekarang, misalkan
1
=
1
,
2
, … ,
�
dan
2
=
�+1
,
�+2
, … ,
dan
Λ
1
= σ
1
σ
2
⋱ 0 σ
�
Jadi Λ
1
adalah matriks diagonal � × � yang entri-entri diagonalnya adalah
nilai-nilai singular taknol σ
1
, … , σ
�
. Selanjutnya matriks Λ × dapat
dinyatakan oleh Λ = Λ
1
. Vektor-vektor dari
2
adalah vektor-vektor eigen dari untuk
� = 0, sehingga
= , =
� + 1, … , dan akibatnya, vektor-vektor kolom dari
2
membentuk basis ortonormal untuk
= . Dengan demikian,
2
= dan karena adalah matriks ortogonal, maka
� = =
1 1
+
2 2
= � =
1 1
+
2 2
=
1 1
. 2.1
Kemudian akan dibuktikan bahwa matriks ortogonal berorde
× memenuhi
= Λ
↔ =
Λ 2.2
dan dengan membandingkan � kolom-kolom pertama dari setiap ruas dari
2.2 , diperoleh =
� , = 1, … , � sehingga
= 1
� , = 1,
… , � 2.3
akibatnya
1
=
1
, … ,
�
dan berdasarkan hal itu, maka
1
=
1
Λ
1
. 2.4
Vektor-vektor kolom dari
1
akan membentuk suatu himpunan ortonormal karena
= 1
� 1
� 1
�, 1 �
= 1
� � =
1 � �
� �
= 1
� � �
2
= �
2
� � =
� �
= Dari persamaan
2.3 maka setiap , 1 � berada dalam ruang
kolom dan dimensi dari ruang kolom tersebut adalah
�, sehingga
1
, … ,
�
membentuk basis ortonormal untuk . Berarti ruang vektor
=
⊥
mempunyai dimensi − �. Misalkan
�+1
, … ,
adalah basis ortonormal untuk dan
2
=
�+1
, … ,
=
1 2