dengan penelitiannya terhadap manusia. Penelitian tersebut membandingkan antara tinggi anak laki-laki dan tinggi badan orang tuanya. Istilah regresi pada mulanya
bertujuan untuk membuat perkiraan nilai suatu variabel tinggi badan anak terhadap suatu variabel yang lain tinggi badan orang tua. Pada perkembangan selanjutnya,
analisis regresi dapat digunakan sebagai alat untuk membuat perkiraan nilai suatu variabel dengan menggunakan beberapa variabel lain yang berhubungan dengan
variabel tersebut.
2.1.1 Regresi Linier Sederhana
Regresi linier sederhana adalah analisis regresi yang melibatkan hubungan fungsional antara satu variabel terikat dengan satu variabel bebas. Variabel terikat merupakan
variabel yang nilainya selalu bergantung dengan nilai variabel lain. Dalam hal ini variabel terikat yang nilainya selalu dipengaruhi oleh variabel bebas, sedangkan
variabel bebas adalah variabel yang nilainya tidak bergantung pada nilai variabel lain. Dan biasanya variabel terikat dinotasikan dengan X. Hubungan-hubungan tersebut
dinyatakan dalam model matematis yang memberikan persamaan-persamaan tertentu.
Bentuk umum persamaan regresi linier sederhana yang menunjukkan hubungan antara dua variabel, yaitu variabel X sebagai variabel bebas dan variabel Y
sebagai variabel terikat adalah
i i
bX a
Y +
= 2.1
Keterangan:
i
Y = variabel terikat ke-i
i
X = variabel bebas ke-i
a = intersep titik potong kurva terhadap simbu Y
b = kemiringan slope kurva linier
Universitas Sumatera Utara
Metode kuadrat terkecil adalah suatu metode untuk menghitung a dan b sebagai perkiraan A dan B, sedemikian rupa sehungga jumlah deviasi kuadrat
2
∑
=
i
e SSD
memiliki niali terkecil.
Model sebenarnya : Y = A + BX +
ε Model perkiraan
: Y = a + bX +e
a, b merupakan perkiraan taksiran atas A, B.
Jika X dikurangi rata-ratanya
X X
x
i i
− =
akan diperoleh variabel baru x dengan
=
∑
i
x
. Maka persamaannya menjadi:
i i
i
e bx
a Y
+ +
=
i i
i
bx a
Y e
+ −
=
[ ]
2 2
∑ ∑
+ −
= =
i i
i
bx a
Y e
SSD 2.2
Metode meminimumkan jumlah deviasi kuadrat regresi kuadrat terkecil yang didasarkan pada pemilihan a dan b, sehungga meminimalkan jumlah kuadrat deviasi
titik-titik data dari garis yang dicocokkan.
Kemudian akan ditaksir a dan b sehingga jika taksiran ini disubstitusikan ke dalam persamaan 2.2, maka jumlah deviasi kuadrat menjadi minimum. Dengan
mendifferensialkan persamaan 2.2 terhadap a dan b dengan menetapkan derivatif parsial yang dihasilkan sama dengan nol, diperoleh:
∑ ∑
∑ ∑
∑
= →
= −
− =
− −
∂ ∂
= ∂
∂
2 2
i i
i i
i i
x x
b na
Y bx
a Y
a a
e
Y n
Y a
i
= =
⇒
∑
ˆ 2.3
Universitas Sumatera Utara
∑ ∑
∑ ∑
∑ ∑
= →
= −
− =
− −
∂ ∂
= ∂
∂
2 2
2 i
i i
i i
i i
i
x x
b x
a Y
x bx
a Y
b b
e
∑ ∑
= ⇒
i i
i
x Y
x b
2
ˆ 2.4
Nilai
aˆ
dan bˆ yang diperoleh dan cara ini disebut taksiran kuadrat terkecil masing-masing dari a dan b. Dengan demikian, taksiran persamaan regresi dapat
ditulis sebagai, X
b a
Y ˆ
ˆ ˆ
+ =
yang disebut persamaan prediksi.
Garis regresi berguna untuk menentukan hubungan pengaruh perubahan variabel yang satu dengan yang lainnya. Selanjutnya dari hubungan dua variabel ini
dapat dikembangkan untuk analisa tiga variabel atau lebih.
2.1.2 Regresi Linier Berganda