ANALISIS REGRESI LINIER BERGANDA
Matriks di atas merupakan matriks varians-kovarians dari faktor gangguan � .
Elemen-elemen diagonal utama matriks yang dimulai dari sudut kiri atas hingga sudut kanan bawah akan menjadi varians, dan elemen yang tidak berada pada diagonal
utama akan menjadi kovarians. Apabila elemen-elemen pada diagonal utama tidak sama dengan
�
2
maka akan terjadi heteroskedastisitas, dan apabila elemen lain yang tidak berada pada diagonal utama tidak sama dengan nol, maka terjadi otokorelasi.
3. X adalah suatu himpunan bilangan yang tetap dalam pengamatan yang berulang. 4. Tidak ada multikolinieritas
Sebelum membahas penaksir , akan dibahas terlebih dahulu mengenai regresi sampel untuk regresi berganda. Persamaan regresi sampel dalam regresi linier
berganda yaitu: =
+
1 1
+
2 2
+ +
+ 3.58
Persamaan regresi sampel dalam bentuk matriks yaitu: =
� + �
3.59 Atau
� = − �
3.60 Penaksir-penaksir dalam regresi linier berganda juga dicari dengan
menggunakan OLS. Prinsip dari OLS untuk regresi linier berganda juga sama dengan regresi linier sederhana yaitu meminimumkan
2
=
1 2
+
2 2
+
3 2
+ +
2 =1
3.61 Persamaan 3.61 dinyatakan dalam bentuk matriks sebagai berikut:
2
=
1 2
…
1 2
=1
= �
�
� 3.62
Jadi � = �
�
� =
− � − � � = �
�
� = − �
� �
−
�
� + �
� �
� 3.63
Sesuai dengan sifat-sifat transpose matriks, � = �
� �
. Selanjutnya akan
dibuktikan bahwa �
� �
=
�
� .
Bukti: �
� �
= �
� � �
jika matriks �
� �
merupakan matriks simetri dan merupakan matriks skalar berordo 1 x 1, maka:
Diketahui :
� adalah vektor berordo + 1 × 1, maka �
�
vektor berordo 1 × + 1,
merupakan matriks yang berordo ×
+ 1 , maka
�
adalah matriks yang berordo
+ 1 × , Y adalah vektor berordo × 1 . Sesuai dengan definisi mengenai perkalian matriks yaitu jika A adalah sebuah matriks
× dan B adalah sebuah
matriks
× maka AB adalah matriks × , dan sesuai dengan sifat asosiatif
perkalian matriks sehingga �
� �
= �
� �
maka
�
adalah matriks yang
berordo + 1 × 1, maka �
� �
adalah matriks yang berordo 1 × 1 . Maka
�
� �
merupakan matriks skalar. Karena matriks �
� �
merupakan matriks skalar maka terbukti
�
� �
= �
� � �
, sehingga sesuai dengan sifat transpose matriks; �
� �
= �
� � �
�
� �
=
�
�
3.64 Persamaan 3.63 menjadi :
�
�
� = − �
� �
+ �
� �
�
3.65 Persamaan 3.65 diturunkan secara parsial, agar
�
�
� = − �
� �
+ �
� �
� minimum, kemudian persamaan tersebut disamakan dengan nol, sebagai
berikut:
�
�
�
=
− �
� �
+ �
� �
�
0 = −2
�
+
�
�
Bukti :
=
1 2
1 2
=
1 1
+
2 2
+ +
=
1 2
+
2 2
+ +
2
Sehingga
� �
=
�
1 2
+
2 2
+ +
2
�
= 0
� �
=
1 2
1
11 12
1
1 1
21 31
22 32
2 3
… …
1
1 2
1 2
3
=
1 2
1
+
2
+
3
+ +
11 1
+
21 2
+
31 3
+ +
1 12 1
+
22 2
+
32 3
+ +
2
… … … … … … … … … … … … …
1 1
+
2 2
+
3 3
+ +
=
1
+
2
+
3
+ +
+
1 11 1
+
21 2
+
31 3
+ +
1
+
2 12 1
+
22 2
+
32 3
+ +
2
+ +
1 1
+
2 2
+
3 3
+ +
Sehingga
� �
� �
�
=
�
1
+
2
+
3
+ + +
1 11 1
+
21 2
+
31 3
+ +
1
+
2 12 1
+
22 2
+
32 3
+ +
2
+ +
1 1
+
2 2
+
3 3
+ + �
=
1
+
2
+
3
+ +
� �
� �
�
1
=
�
1
+
2
+
3
+ + +
1 11 1
+
21 2
+
31 3
+ +
1
+
2 12 1
+
22 2
+
32 3
+ +
2
+ +
1 1
+
2 2
+
3 3
+ + �
1
=
11 1
+
21 2
+
31 3
+ +
1
�
�
�
�
�
2
=
�
1
+
2
+
3
+ + +
1 11 1
+
21 2
+
31 3
+ +
1
+
2 12 1
+
22 2
+
32 3
+ +
2
+ +
1 1
+
2 2
+
3 3
+ + �
2
=
12 1
+
22 2
+
32 3
+ +
2
�
�
�
�
�
=
�
1
+
2
+
3
+ + +
1 11 1
+
21 2
+
31 3
+ +
1
+
2 12 1
+
22 2
+
32 3
+ +
2
+ +
1 1
+
2 2
+
3 3
+ + �
=
1 1
+
2 2
+
3 3
+ +
Jadi
�
�
�
�
�
=
�
�
�
�
� �
�
�
�
�
1
�
�
�
�
�
2
�
�
�
�
�
=
1
+
2
+
3
+ +
11 1
+
21 2
+
31 3
+ +
1 12 1
+
22 2
+
32 3
+ +
2 1
1
+
2 2
+
3 3
+ +
= 1
11 12
1
1 1
21 31
22 32
2 3
… …
1
1 2
1 2
3
=
�
Perhatikan bahwa
�
�
�
=
1 2
1
11 12
1
1 1
21 31
22 32
2 3
… …
1
1 2
1 1
1 1
11 12
21 22
31 32
1 2
… …
1 2
3 1
2
= +
1 11
+
2 12
… +
1
+
1 21
+
2 22
… +
2
+
1 31
+
2 32
… +
3
…. +
1 1
+
2 2
… + ×
+
1 11
+
2 12
+ +
1
+
1 21
+
2 22
+ +
2
+
1 31
+
2 32
+ … +
3
… … … … … … … … … … … … … … … … +
1 1
+
2 2
+ … +
= +
1 11
+
2 12
+ +
1
+
1 11
+
2 12
+ +
1
+ +
1 21
+
2 22
+ +
2
+
1 21
+
2 22
+ +
2
+ +
1 31
+
2 32
+ +
3
+
1 31
+
2 32
+ … +
3
+ … +
+
1 1
+
2 2
+ +
+
1 1
+
2 2
+ … +
3.66
Hasil perkalian ruas kanan persamaan 3.66 bagian pertama: +
1 11
+
2 12
+ +
1
+
1 11
+
2 12
+ +
1
= +
1 11
+
2 12
+ +
1
+
1 11
+
11 11
+
2 12
+ +
1
+
2 12
+
1 11
+
2 12
+ +
1
+ +
1
+
11 11
+
2 12
+ +
1
=
2
+
1 11
+
2 12
+ +
1
+
1 11 0
+
1 2
11 2
+
1 11 2 12
+ +
11 11 1
+
2 12 0
+
2 12 1 11
+
2 2
12 2
+ +
2 12 1
+ +
1
+
1 1 11
+
1 2 12
+ +
2 1
2
1
Hasil perkalian ruas kanan persamaan 3.66 bagian kedua: +
1 21
+
2 22
+ +
2
+
1 21
+
2 22
+ +
2
= +
1 21
+
2 22
+ +
2
+
1 21
+
1 21
+
2 22
+ +
2
+
2 22
+
1 21
+
2 22
+ +
2
+ +
2
+
1 21
+
2 22
+ +
2
=
2
+
1 21
+
2 22
+ +
2
+
1 21 0
+
1 2
21 2
+
1 21 2 22
+ +
1 21 2
+
2 22 0
+
2 22 1 21
+
2 2
22 2
+ +
2 22 2
+ +
2
+
2 1 21
+
2 2 22
+ +
2 2
2
2
Hasil perkalian ruas kanan persamaan 3.66 bagian ketiga: +
1 31
+
2 32
+ … +
3
+
1 31
+
2 32
+ … +
3
= +
1 31
+
2 32
+ … +
3
+
1 31
+
1 31
+
2 32
+ … +
3
+
2 32
+
1 31
+
2 32
+ … +
3
+ +
3
+
1 31
+
2 32
+ … +
3
=
2
+
1 31
+
2 32
+ +
3
+
1 31 0
+
1 2
31 2
+
1 31 2 22
+ +
1 31 3
+
2 32 0
+
2 32 1 31
+
2 2
32 2
+ +
2 32 3
+ +
3
+
3 1 31
+
3 2 32
+ +
2 3
2
3
Hasil perkalian ruas kanan persamaan 3.67 bagian terakhir: +
1 1
+
2 2
+ … +
+
1 1
+
2 2
+ … +
= +
1 1
+
2 2
+ … +
+
1 1
+
1 1
+
2 2
+ … +
+
2 2
+
1 1
+
2 2
+ … +
+ +
+
1 1
+
2 2
+ … +
=
2
+
1 1
+
2 2
+ +
+
1 1 0
+
1 2
1 2
+
1 1
2 2
+ +
1 1
+
2 2 0
+
2 2
1 1
+
2 2
2 2
+ +
2 2
+ + +
1 1
+
2 2
+ +
2 2
4
Kemudian persamaan 1, 2, 3, dan 4 diturunkan Terhadap ,
�
� �
� =
��
� �
� �
��
� �
� �
1
��
� �
� �
2
��
� �
� �
hasilnya adalah: persamaan 1,2,3,4 diturunkan terhadap
= �
2
+
1 11
+
2 12
+ +
1
+
1 11 0
+
1 2
11 2
+
1 11 2 12
+ +
1 11 1
+
2 12 0
+
2 12 1 11
+
2 2
12 2
+ +
2 12 1
+ +
1
+
1 1 11
+
1 2 12
+ +
2 1
2
� =
2 +
1 11
+
2 12
+ +
1
+
1 11
+
2 12
+ +
1
= 2 + 2
11 1
+ 2
12 2
+ + 2
1
1a
�
2
+
1 21
+
2 22
+ +
2
+
1 21 0
+
1 2
21 2
+
1 21 2 22
+ +
1 21 2
+
2 22 0
+
2 22 1 21
+
2 2
22 2
+ +
2 22 2
+ +
2
+
2 1 21
+
2 2 22
+ +
2 2
2
� =
2 +
1 21
+
2 22
+ +
2
+
1 21
+
2 22
+ +
2
= 2
+ 2
21 1
+ 2
22 2
+ + 2
2
2a
�
2
+
0 1 31
+
2 32
+ +
3
+
1 31 0
+
1 2
31 2
+
1 31 2 22
+ +
1 31 3
+
2 32 0
+
2 32 1 31
+
2 2
32 2
+ +
2 32 3
+ +
3
+
3 1 31
+
3 2 32
+ +
2 3
2
�
= 2
+
31 1
+
32 2
+ +
3
+
31 1
+
32 2
+ +
3
= 2
+ 2
31 1
+ 2
32 2
+ + 2
3
3a
�
2
+
1 1
+
2 2
+ + +
1 1 0
+
1 2
1 2
+
1 1
2 2
+ +
1 1
+
2 2 0
+
2 2
1 1
+
2 2
2 2
+ +
2 2
+ + +
1 1
+
2 2
+ +
2 2
�
= 2
+
1 1
+
2 2
+ +
+
1 1
+
2 2
+ +
= 2
+ 2
1 1
+ 2
2 2
+ + 2
4a
Jadi hasil keseluruhan �
� �
� yang diTurunkan Terhadap
adalah:
��
� �
� �
= 2 + 2
1 11
+ 2
2 12
+ + 2
1
+ 2
+ 2
1 21
+ 2
2 22
+ + 2
2
+ 2 + 2
1 31
+ 2
2 32
+ +
2
3
+ + 2 + 2
1 1
+ 2
2 2
+ + 2
Persamaan 1, 2, 3, dan 4 diTurunkan Terhadap
1
, hasilnya adalah:
�
2
+
1 11
+
2 12
+ +
1
+
1 11 0
+
1 2
11 2
+
1 11 2 12
+ +
1 11 1
+
2 12 0
+
2 12 1 11
+
2 2
12 2
+ +
2 12 1
+ +
1
+
1 1 11
+
1 2 12
+ +
2 1
2
�
1
=
11 0
+
11 0
+ 2
11 2
1
+
11 12 2
+ +
1 11
+
11 12 2
+ +
1 11
= 2
11 0
+ 2
11 2
1
+ 2
11 12 2
+ + 2
1 11
1b
�
2
+
1 21
+
2 22
+ +
2
+
1 21 0
+
1 2
21 2
+
1 21 2 22
+ +
1 21 2
+
2 22 0
+
2 22 1 21
+
2 2
22 2
+ +
2 22 2
+ +
2
+
2 1 21
+
2 2 22
+ +
2 2
2
�
1
=
21 0
+
21 0
+ 2
21 2
1
+
21 22 2
+ +
2 21
+
21 22 2
+ +
2 21
= 2
21 0
+ 2
21 2
1
+ 2
21 22 2
+ + 2
2 21
2b
�
2
+
1 31
+
2 32
+ +
3
+
1 31 0
+
1 2
31 2
+
1 31 2 22
+ +
1 31 3
+
2 32 0
+
2 32 1 31
+
2 2
32 2
+ +
2 32 3
+ +
3
+
3 1 31
+
3 2 32
+ +
2 3
2
�
1
=
31 0
+
31 0
+ 2
31 2
1
+
31 32 2
+ +
3 31
+
31 32 2
+ +
3 31
= 2
31 0
+ 2
31 2
1
+ 2
31 32 2
+ + 2
3 31
3b
�
2
+
1 1
+
2 2
+ + +
1 1 0
+
1 2
1 2
+
1 1
2 2
+ +
1 1
+
2 2 0
+
2 2
1 1
+
2 2
2 2
+ +
2 2
+ + +
1 1
+
2 2
+ +
2 2
�
1
=
1 0
+
1 0
+ 2
1 2
1
+
1 2 2
+ +
1
+
1 2 2
+ +
1
= 2
1 0
+ 2
1 2
1
+ 2
1 2 2
+ + 2
1
4b Jadi hasil keseluruhan
�
� �
� yang diTurunkan Terhadap
1
adalah:
��
� �
� �
1
= 2
11 0
+ 2
11 2
1
+ 2
11 12 2
+ + 2
1 11
+ 2
21 0
+ 2
21 2
1
+ 2
21 22 2
+ + 2
2 21
+ 2
31 0
+ 2
31 2
1
+ 2
31 32 2
+ + 2
3 31
+ + 2
1 0
+ 2
1 2
1
+ 2
1 2 2
+ + 2
1
Persamaan 1,2 ,3 , dan 4 diTurunkan Terhadap
2
, hasilnya adalah:
�
2
+
1 11
+
2 12
+ +
1
+
1 11 0
+
1 2
11 2
+
1 11 2 12
+ +
1 11 1
+
2 12 0
+
2 12 1 11
+
2 2
12 2
+ +
2 12 1
+ +
1
+
1 1 11
+
1 2 12
+ +
2 1
2
�
2
=
12 0
+
11 12 1
+
12 0
+
11 12 1
+ 2
12 2
2
+ +
12 1
+ +
12 1
= 2
12 0
+ 2
11 12 1
+ 2
12 2
2
+ + 2
12 1
1c
�
2
+
1 21
+
2 22
+ +
2
+
1 21 0
+
1 2
21 2
+
1 21 2 22
+ +
1 21 2
+
2 22 0
+
2 22 1 21
+
2 2
22 2
+ +
2 22 2
+ +
2
+
2 1 21
+
2 2 22
+ +
2 2
2
�
2
=
22 0
+
21 22 1
+
22 0
+
21 22 1
+ 2
22 2
2
+ +
22 2
+ +
22 2
= 2
22 0
+ 2
21 22 1
+ 2
22 2
2
+ + 2
22 2
2c
�
2
+
1 31
+
2 32
+ +
3
+
1 31 0
+
1 2
31 2
+
1 31 2 22
+ +
1 31 3
+
2 32 0
+
2 32 31
+
2 2
32 2
+ +
2 32 3
+ +
3
+
3 1 31
+
3 2 32
+ +
2 3
2
�
2
=
32 0
+
31 32 1
+
32 0
+
31 32 1
+ 2
32 2
2
+ +
32 3
+ +
32 3
= 2
32 0
+ 2
31 32 1
+ 2
32 2
2
+ + 2
32 3
3c
�
2
+
1 1
+
2 2
+ + +
1 1 0
+
1 2
1 2
+
1 1
2 2
+ +
1 1
+
2 2 0
+
2 2
1 1
+
2 2
2 2
+ +
2 2
+ + +
1 1
+
2 2
+ +
2 2
�
2
=
2 0
+
1 2
1
+
2 0
+
1 2 1
+ 2
2 2
2
+ +
2
+ +
2
= 2
2 0
+ 2
1 2
1
+ 2
2 2
2
+ + 2
2
4c Jadi hasil keseluruhan
�
� �
� yang diTurunkan Terhadap
2
adalah:
��
� �
� �
2
= 2
12 0
+ 2
11 12 1
+ 2
12 2
2
+ + 2
12 1
+ 2
22 0
+ 2
21 22 1
+ 2
22 2
2
+ + 2
22 2
+ 2
32 0
+ 2
31 32 1
+ 2
32 2
2
+ + 2
32 3
+ + 2
2 0
+ 2
1 2
1
+ 2
2 2
2
+ + 2
2
Persamaan 1, 2, 3, dan 4 diTurunkan Terhadap , hasilnya adalah:
� �
2
+
1 11
+
2 12
+ +
1
+
1 11 0
+
1 2
11 2
+
1 11 2 12
+ +
1 11 1
+
2 12 0
+
2 12 1 11
+
2 2
12 2
+ +
2 12 1
+ +
1
+
1 1 11
+
1 2 12
+ +
2 1
2
�
=
1
+
11 1 1
+
12 1 2
+ +
1
+
11 1
1
+
12 1 2
+ + 2
1 2
= 2
1
+ 2
11 1 1
+ 2
12 1 2
+ + 2
1 2
1d
�
2
+
1 21
+
2 22
+ +
2
+
1 21 0
+
1 2
21 2
+
1 21 2 22
+ +
1 21 2
+
2 22 0
+
2 22 1 21
+
2 2
22 2
+ +
2 22 2
+ +
2
+
2 1 21
+
2 2 22
+ +
2 2
2
�
=
2
+
21 2 1
+
22 2 2
+ +
2
+
21 2
1
+
22 2 2
+ + 2
2 2
= 2
2
+ 2
21 2 1
+ +2
22 2 2
+ + 2
2 2
2d
�
2
+
1 31
+
2 32
+ +
3
+
1 31 0
+
1 2
31 2
+
1 31 2 22
+ +
1 31 3
+
2 32 0
+
2 32 1 31
+
2 2
32 2
+ +
2 32 3
+ +
3
+
3 1 31
+
3 2 32
+ +
2 3
2
�
=
3
+
31 3 1
+
32 3 2
+ +
3
+
31 3
1
+
32 3 2
+ + 2
3 2
= 2
3
+ 2
31 3 1
+ 2
32 3 2
+ + 2
3 2
3d
�
2
+
1 1
+
2 2
+ + +
1 1 0
+
1 2
1 2
+
1 1
2 2
+ +
1 1
+
2 2 0
+
2 2
1 1
+
2 2
2 2
+ +
2 2
+ + +
1 1
+
2 2
+ +
2 2
�
= +
1 1
+
2 2
+ +
+
1 1
+
2 2
+ + 2
2
= 2 + 2
1 1
+ 2
2 2
+ + 2
2 2
4d
Jadi hasil keseluruhan �
� �
� yang diTurunkan Terhadap adalah:
��
� �
� �
= 2
1
+ 2
11 1 1
+ 2
12 1 2
+ + 2
1 2
+ 2
2
+ 2
21 2 1
+ +2
22 2 2
+ + 2
2 2
+ 2
3
+ 2
31 3 1
+ 2
32 3 2
+ + 2
3 2
+ + 2
+ 2
1 1
+ 2
2 2
+ + 2
2 2
Jadi
��
� �
� �
=
2 +
1 11
+
2 12
+ +
1
+ +
1 21
+
2 22
+ +
2
+ +
1 31
+
2 32
+ +
3
+ + +
1 1
+
2 2
+ +
11
+
11 1
+
12 2
+ +
1
+
21
+
21 1
+
22 2
+ +
2
+
31
+
31 1
+
32 2
+ +
3
+ +
1
+
1 1
+
2 2
+ +
12
+
11 1
+
12 2
+ +
1
+
22
+
21 1
+
22 2
+ +
2
+
32
+
31 1
+
32 2
+ +
3
+ +
2 2 0
+
1 1
+
2 2
+ +
1
+
11 1
+
12 2
+ +
1
+
2
+
21 1
+ +
22 2
+ +
2
+
3
+
31 1
+
32 2
+ +
3
+ +
+
1 1
+
2 2
+ +
= 2 1
11 12
1
1 1
21 31
22 32
2 3
… …
1
1 2
+
1 11
+
2 12
+ +
1
+
1 21
+
2 22
+ +
2
+
1 31
+
2 32
+ … +
3
… … … … … … … … … … … … … … … … +
1 1
+
2 2
+ … +
= 1
11 12
1
1 1
21 31
22 32
2 3
… …
1
1 2
1 1
1 1
11 12
21 22
31 32
1 2
… …
1 2
3 1
2
=
�
�
3.67 karena
�
�
� = − �
� �
+ �
� �
� maka
� �
�
� ��
=
�
− �
� �
+ �
� �
�
��
� �
�
� ��
= −2
+ 2 �
0 = −
�
+
�
�
�
=
�
�
�
=
�
�
�
� =
�
� =
�
�
� =
� −
� �
−
≠
3.68
seperti pada analisis regresi sederhana yang memiliki sifat-sifat penaksir, dalam analisis regresi berganda juga akan dibahas mengenai sifat-sifat penaksir
regresi berganda. 1. Linier
Akan dibuktikan sifat linier dari penaksir
� � =
� −
�
3.69 Substitusi persamaan 3.56 yaitu
=
� + � ke dalam persamaan 3.69,
sehingga; � =
� −
�
� + � =
� −
�
� +
� −
�
�
Karena berdasarkan sifat matriks
� −
�
=
� , maka
� = � +
� −
�
�
3.70 Persamaan 3.70 menunjukan bahwa
� merupakan fungsi linier dari � dan �
2. Tidak bias Akan dibuktikan sifat tidak bias dari penaksir
� � = � +
� −
�
� =
� +
� −
�
�
Karena
� = 0 menurut asumsi 1 maka; � = �
3.71 Persamaan 3.40 menunjukan bahwa penaksir
� merupakan penaksir yang tidak
bias. 3. Varian minimum
Sebelum varian minimum dibuktikan, terlebih dahulu ditentukan varian dari penaksir .
Diketahui bahwa � � = [� − �
2
] = [
� − � � − � ] � = [ � − � � − � ]
Akan ditentukan terlebih dahulu bentuk lain dari , dan kerena pada persamaan
3.70 di mana � = � +
� −
�
�, maka ; � − � = � +
� −
�
� − � � − � =
� −
�
�
3.72 Selanjutnya akan ditentukan
� � , � � = [ − − ]
Substitusikan persamaan 3.41 di mana � − � =
� −
�
� ke dalam persamaan di atas, sehingga;
� � = [
� −
�
�
� −
�
� ]
Berdasarkan sifat-sifat matriks di mana =
� �
dan
�
, maka persamaan di atas menjadi;
� � = [
� −
�
�
� −
�
� ] = [
� −
�
� �
� �
−
]
= [
� −
�
� �
� �
−
] = [
� −
�
� �
� �
� −1
] = [
� −
�
��
� �
−1
] =
� −
�
��
� �
−1
Berdasarkan asumsi 4 di mana ��
�
= �
2
, maka: � � =
� −
�
�
2 �
� −1
Karena �
2
merupakan sebuah skalar sebuah angka riil sedangkan dapat
diabaikan, maka; � � = �
2 �
− � �
� −1
Karena
� � �
−1
= maka; � � = �
2 �
−
� � � = �
2 �
−
3.73 Selanjutnya akan dibuktikan bahwa penaksir yang diperoleh memiliki varians
yang minimum. Langkah-langkah dalam membuktikan bahwa penaksir memiliki varians yang minimum sama dengan langkah-langkah membuktikan varians
minimum pada regresi sederhana. Untuk membuktikan varian penaksir tersebut memiliki varian yang minimum maka perlu dibandingkan dengan penaksir tidak
bias lainnya. Misalkan
∗
adalah penaksir lain yang juga tidak bias, di mana
∗
=
� −
�
+ di mana merupakan matriks berordo k x n yang
diketahui. Akan dibuktikan pertama-tama sifat linier dari
∗
. Selanjutnya dengan mensubstitusi persamaan 3.29 di mana
= � + � ke dalam persamaan
∗
=
� −
�
+ maka;
∗
=
� −
�
+ � + �
∗
=
� −
�
� + � + � + �
Terbukti bahwa
∗
merupakan fungsi linier dari
� dan �.
Selanjutnya dicari nilai harapan dari
∗ ∗
= [
� −
�
� + � + � + � ] = [
� −
�
� +
� −
�
� + � + �] =
�� +
� −
�
� + � + �
berdasarkan asumsi 1 di mana � = 0 maka persamaan di atas menjadi;
∗
= � +
� 3.74
Karena
∗
merupakan penaksir yang tidak bias, maka haruslah
∗
= �
akibatnya � = 0. Selanjutnya akan ditentukan varian dari
∗ ∗
= [
∗
−
∗
− ]
Dengan mensubtitusi
∗
=
� −
�
+ , maka;
∗
= [
∗
−
∗
− ] = [
� −
�
+ −
� −
�
+ − ]
Substitusi persamaan 3.29 di mana =
� + � ke dalam persamaan di atas
maka;
∗
= [
� −
�
+ −
� −
�
+ − ]
= [
� −
�
+ � + � −
� −
�
+ � + � − ]
= [{
� −
�
� +
� −
�
� + � + � − }{
� −
�
� +
� −
�
� + � + � – } ]
= { �� +
� −
�
� + � + � − }{�� +
� −
�
� + � +
� – } ] = {
� +
� −
�
� + � + � − }{� +
� −
�
� + � + � – } ]
= [
� −
�
� + � + �
� −
�
� + � + � ]
Karena diketahui � = 0 maka ;
∗
= [
� −
�
� + �
� −
�
� + � ] = [
� −
�
� + �
� −
�
� + � ]
Berdasarkan sifat-sifat transposisi matriks yaitu +
�
=
�
+
�
maka persamaan di atas menjadi;
∗
= [
� −
�
� + �
� −
�
� + � ] = [
� −
�
� + � �
� �
−
+ �
�
] Karena perkalian matriks bersifat distributif, maka;
∗
= [
� −
�
� + � �
� �
−
+ �
�
]
= [
� −
�
+ ��
� �
−
+ ]
=
� −
�
+ ���
� �
−
+
Berdasarkan asumsi 4 di mana ��
�
= �
2
, maka:
∗
=
� −
�
+ ���
� �
−
+ =
� −
�
+ �
2 �
−
+
Karena �
2
merupakan merupakan sebuah skalar sebuah angka riil sedangkan dapat diabaikan, maka;
∗
=
� −
�
+ �
2 �
−
+ =
�
2 �
− �
+
� −
+ =
�
2 �
− �
� −
+
� −
+
� −
�
+
�
= �
2 �
−
� +
� −
+
� −
�
+
�
Karena diketahui � = 0 maka
= dan menurut sifat matriks di mana
�
=
� �
, maka persamaan di atas menjadi;
∗
= �
2 �
−
+
� −
+
� −
�
+
�
= �
2 �
−
+
� ∗
= �
2 �
−
+ �
2 �
∗
= +
�
2 �
3.75 Dari persamaan 3.44
�
2 �
selalu bernilai positif, karena kuadrat dari
suatu bilangan bernilai positif, dan bentuk lain dari
�
adalah
2
maka dapat disimpulkan bahwa
∗
lebih besar senilai �
2 �
dari , sehingga
terbukti bahwa memiliki varians yang minimum.
Seperti pada analisis regresi sederhana dibahas mengenai koefisien determinasi, untuk mengukur kebaikan garis regresi, di dalam regresi berganda juga
akan dibahas mengenai koefisien determinasi. Koefisien determinasi untuk regresi berganda di lambangkan dengan
2
. Secara matematis koefisien determinasi
2
didefinisikan sebagai berikut:
2
=
selanjutnya akan ditentukan bentuk lain dari ESS dan TSS. Langkah- langkahnya adalah sebagai berikut:
Telah didefinisikan sebelumnya bahwa =
− , kemudian kedua ruas dikuadratkan, sehingga;
= −
2
= −
2
=
2
− 2 +
2
Kedua ruas dijumlahkan, sehingga:
2
=
2
− 2 +
2 2
=
2
− 2 +
2
=
2
− 2 +
=
2
− 2
2
+
2 2
=
2
− 2
2
+
2
2
=
2
−
1 2
3.76
2
dalam bentuk matriks adalah
�
, sehingga persamaan 3.70 menjadi:
2
=
2
−
1 2
2
=
�
−
1 2
3.77
Persamaan 3.71 di atas merupakan variasi kuadrat total atau TSS dan RSS adalah residual atau variasi nilai Y yang tidak dapat dijelaskan, di mana RSS =
2
. Jumlah kuadrat yang bisa dijelaskan atau ESS adalah :
TSS = ESS + RSS 3.78
ESS = TSS - RSS =
2
–
2
Substitusi persamaan 3.71 di mana
2
=
�
−
1 2
ke dalam persamaan di atas, menjadi:
ESS =
2
–
2
=
�
−
1 2
–
2
Substitusi persamaan 3.63 di mana � = �
�
� ke dalam persamaan di atas,
sehingga: =
�
−
1 2
–
2
=
�
−
1 2
– �
�
� =
�
– �
�
� −
1 2
3.79 Dari persamaan 3.63 di mana
�
�
� = − �
� �
+ �
� �
� dan karena
�
� =
� �
maka: �
�
� = − �
� �
+ �
� �
� =
− �
� �
+ �
� �
�
�
� = − �
� �
�
� �
= − �
�
�
3.80 Substitusi persamaan 3.48 ke dalam persamaan 3.47 sehingga:
=
�
– �
�
� −
1 2
= �
� �
−
1 2
Karena telah didefinisikan bahwa
2
= maka:
2
=
2
=
�
� �
−
1 2
�
−
1 2
2
=
�
� �
−
2 �
−
2
3.81