2.2.1 Prinsip Metode Kuadrat Terkecil
Perhatikan bentuk persamaan regresi linier sederhana berikut: �
�
= �
+ �
1
�
�
+ �
�
, untuk
� = 1,2, … , �, sehingga jumlah kuadrat semua kesalahan penggangguerror dari garis yang sebenarnya adalah
� = ∑ �
� 2
� �=1
= ∑ �
�
− � − �
1
�
� 2
� �=1
. 2.4
Sebagai nilai dugaan kita akan memilih �
dan �
1
yang memiliki nilai yang jika nilai-nilai itu disubstitusikan ke dalam
� dan
�
1
dalam persamaan 2.4, maka akan dihasilkan nilai
� yang paling kecil. Kita dapat menentukan � dan
�
1
dengan cara mendiferensialkan persamaan 2.4 terhadap �
dan kemudian terhadap
�
1
dan kemudian menyamakan hasil pendiferensialan itu dengan nol. Sekarang,
�� ��
= −2 � �
�
− � − �
1
�
� �
�=1
2.5
�� ��
1
= −2 ∑
�
�
�
�
− � − �
1 �
�=1
�
�
. Sehingga nilai dugaan
� dan
�
1
dapat diperoleh dari ∑ �
�
− � − �
1
�
�
= 0
� �=1
2.6 ∑
�
�
�
�
− � − �
1
�
� �
�=1
= 0 dengan mensubstitusikan
� ,
�
1
untuk �
, �
1
ketika kita menyamakan persamaan 2.5 dengan nol. Dari persamaan 2.6 kita memperoleh
∑ �
�
− �� − �
1
∑ �
� �
�=1 �
�=1
= 0 2.7
∑ �
� �
�=1
�
�
− � ∑
�
�
− �
1
∑ �
� 2
� �=1
� �=1
= 0 atau
� � + �
1
∑ �
�
= ∑
�
� �
�=1 �
�=1
2.8 �
∑ �
�
+ �
1
∑ �
� 2
� �=1
� �=1
= ∑
�
�
�
� �
�=1
. 2.9
Kedua persamaan ini disebut persamaan-persamaan normal Draper Smith, 1992.
Universitas Sumatera Utara
Dari persamaan 2.8 diperoleh: �
� + �
1
� �
� �
�=1
= � �
� �
�=1
� � = �
�
�
− �
1
� �
� �
�=1 �
�=1
� =
∑ �
�
− �
1
∑ �
� �
�=1 �
�=1
� �
=
∑ �
� �
�=1
�
− �
1 ∑
�
� �
�=1
�
2.10 �
= �� − �
1
��. 2.11
Substitusi persamaan 2.10 kedalam persamaan 2.9, diperoleh: �
∑ �
� �
�=1
�
− �
1 ∑
�
� �
�=1
�
� ∑ �
� �
�=1
+ �
1
∑ �
� 2
� �=1
= ∑
�
�
�
� �
�=1 ∑
�
� �
�=1
∑ �
� �
�=1
�
− �
1 ∑
�
� �
�=1 2
�
+ �
1
∑ �
� 2
� �=1
= ∑
�
� �
�=1
�
��
�
1
�∑ �
� 2
� �=1
−
∑ �
� �
�=1 2
�
� = ∑ �
�
�
� �
�=1
−
∑ �
�
∑ �
� �
�=1 �
�=1
�
�
1
�
� ∑ �
� 2
−∑ �
� �
�=1 2
� �=1
�
� =
� ∑ �
�
�
�
−∑ �
�
∑ �
� �
�=1 �
�=1 �
�=1
�
�
1
=
� ∑ �
�
�
�
−∑ �
�
∑ �
� �
�=1 �
�=1 �
�=1
� ∑ �
� 2
� �=1
−∑ �
� �
�=1 2
. 2.12
Makridakis 1992, suatu cara yang sering dipakai untuk menyatakan persamaan regresi adalah dalam bentuk deviasi dari nilai-nilai tengah
� dan � . Data ditransformasi dengan mensubstitusikan:
�
�
= �
�
− �� atau �
�
= �
�
+ ��
��
�
= ��
�
− �� atau ��
�
= �
�
+ ��.
Persamaan regresi, �� = �
+ �
1
�
�
, kemudian menjadi: ��
�
+ �� = �
+ �
1
�
�
+ ��
yang dapat disederhanakan menjadi ��
�
= �
+ �
1
�
�
+ �
1
�� − ��. Tetapi karena,
� =
�� − �
1
�� ��
�
= �� − �
1
�� + �
1
�
�
+ �
1
�� − �� dan
��
�
= �
1
�
�
. 2.13
Demikian pula, dengan substitusi: ∑
�
� 2
= ∑ �
�
− ��
� �
�=1 2
� �=1
= ∑ �
�
− �
1
�
� 2
� �=1
. 2.14
Universitas Sumatera Utara
Diferensialkan persamaan 2.14 terhadap �
1
kemudian samakan persamaan baru yang didapat dengan nol.
� ∑ �
� 2
� �=1
��
1
= −2∑
�
�
�
�
− �
1
�
� �
�=1
= −2∑
�
�
�
� �
�=1
− �
1
∑ �
� 2
� �=1
0 = −2 ∑
�
�
�
�
+ 2 �
1
∑ �
� 2
� �=1
� �=1
�
1
=
∑ �
�
�
� �
�=1
∑ �
� 2
� �=1
. 2.15
Gujarati 1988, penduga yang diperoleh tadi dikenal sebagai penduga kuadrat terkecil karena diperoleh dari prinsip kuadrat terkecil. Penduga kuadrat terkecil
� dan
�
1
dinyatakan dalam nilai-nilai observasi dari sampel sebanyak n pasang nilai X
i
,Y
i
dan merupakan penduga tunggal point estimator, maksudnya dari suatu sampel tertentu hanya dihitung satu nilai
� dan satu nilai
�
1
. Penduga �
dan �
1
tersebut setelah dihitung berdasarkan suatu sampel tertentu akan diperoleh nilai
� dan
�
1
yang memungkinkan untuk penggambaran kurva garis regresi yang mempunyai sifat-sifat sebagai berikut:
1. Garis tersebut melalui rata-rata �� dan ��. Hal ini jelas ditunjukkan oleh
persamaan 2.11 dimana �
= �� − �
1
�� 2.
Nilai rata-rata Y yang ditaksir ��� adalah sama dengan nilai rata-rata pengamatan Y
Bukti : ��
�
= �
+ �
1
�
�
= �� − �
1
�� + �
1
�
�
= �� + �
1
�
�
− �� jumlahkan untuk seluruh nilai sampel ∑
��
� �
�=1
= ��� + �
1
∑ �
�
− ��
� �=1
karena ∑ �
�
− �� = 0
� �=1
maka ∑
��
� �
�=1
= ��� kalikan
1 �
1 � � �
�
� �
�=1
= ��
Jadi, ���
�
= ��
Universitas Sumatera Utara
3. Rata-rata kesalahan penggangguerror adalah nol atau �
�
= 0 Bukti :
�
�
= �
�
− ��
�
= �
�
− � − �
1
�
�
� �
�
= � �
�
− � −
� �=1
� �=1
�
1
�
�
� �
� �
�
= � �
�
− �� −
� �=1
�
1
�� − �
1
�
�
= � �
�
− �� − �
1
�
�
− ��
� �=1
= � �
�
− �� − �
1
� �
�
− ��
� �=1
� �=1
∑ �
� �
�=1
= 0 kalikan
1 �
1 � � �
� �
�=1
= 0 �̅
�
= 0.
2.3 Sifat-Sifat Penduga yang Utama