Bentuk umum persamaan regresi linier sederhana yang sederhana yang menunjukkan hubungan antara dua variabel, yakni variabel bebas
dan variabel tak bebas
untuk pasangan pengamatan adalah :
dengan: = variabel
tak bebas pada pengamatan ke
-i
= variabel bebas pada pengamatan ke
-i
= konstanta yang merupakan perpotongan dengan sumbu
Y
= kemiringan kurva
slope
= nilai kesalahan
error
pada pengamatan ke
-i
Persamaan diatas dapat digunakan untuk menaksirkan nilai
Y
jika nilai
,
β
i,
dan
X
diketahui. Nilai pada persamaan tersebut merupakan nilai
Y
yang dipotong oleh kurva linier pada sumbu vertikal
Y
dengan kata lain adalah nilai
Y
pada saat
x
= 0. Nilai dan
merupakan parameter yang akan ditaksirdiestimasi, nilainya hanya dapat ditentukan bila keseluruhan nilai populasi
X
dan
Y
diketahui. Untuk mengestimasi parameter
β dapat digunakan metode kuadrat terkecil
least square method
.
2.2.1 Estimasi Parameter Dengan Metode Kuadrat Terkecil
Dalam regresi linier sederhana maupun regresi linier berganda metode yang digunakan untuk mengestimasi nilai parameter adalah metode kuadrat terkecil
least square method
. Dalam penerapannya metode ini mendapatkan standard baku atau asumsi yang harus dipenuhi yakni:
a. Variabel bebas
X
1i
,
X
2i
, … ,
X
ki
adalah ukuran yang bebas dari kesalahan b.
Error
adalah perubahan acak dengan rata-rata nol yaitu
E
= 0 c.
Peubah acak mempunyai varians yang sama yaitu
E
= d.
Peubah acak tidak berkorlasi dengan yang lainnya dengan kata lain bebas
terhadap sesamanya
Cov.
,
= 0 untuk
i j
e. adalah bebas linier
Universitas Sumatera Utara
Metode kuadrat terkecil
least square method
merupakan suatu metode dalam pemilihan regresi linier yang meminimumkan jumlah kuadrat
error
residu yaitu jumlah kuadrat dari selisih nilai observasi variabel terikat dengan nilai dugaan.
Secara sistematis meminimalkan nilai
error
dapat dilakukan melalui langkah-langkah berikut:
s = -
2
s = -
–
2
Jika masing-masing terkecil maka
juga akan terkecil.
Prinsip metode kuadrat terkecil menyatakan bahwa perlu menaksir dan
sehingga minimum. Sebagai nilai dugaan
dan adalah
dan dilakukan
dengan mendeperensialkan menurunkan persamaan diatas terhadap dan
kemudian menyamakannya dengan nol.
Turunan parsial s terhadap lalu menyamakannya dengan nol:
= 2.1
Turunan S terhadap β
1
, lalu menyamakannya dengan nol: =
2.2
Nilai dan
diperoleh dengan mensubtitusikan
,
kedalam persamaan 2.1 dan persamaan 2.2 sebagai berikut:
= = 0
= n +
2.3 dan
= -
= 0 +
2.4
Universitas Sumatera Utara
Persamaan 2.3 dan 2.4 diatas merupakan persamaan linier yang disebut dengan persamaan normal, bila:
= =
maka diperoleh: =
- =
- Untuk memperoleh
substitusikan ke persamaan 2.4 sehingga
diperoleh:
Maka persamaan garis regresi linier sederhana estimasi kuadrat terkecil
least square method line
adalah :
dengan: = nilai estimasi dugaan bagi variabel tak bebas
Y
nilai estimasi dugaan bagi = nilai estimasi dugaan bagi
2.3 Model Regresi Linier Berganda
