dengan penelitiannya terhadap manusia. Penelitian tersebut membandingkan antara tingggi anak laki-laki dan tinggi badan orang tuanya. Istilah regresi pada mulanya
bertujuan untuk membuat perkiraan nilai suatu variabel tinggi badan anak terhadap suatu variabel yang lain tinggi badan orang tua. Pada perkembangan selanjutnya,
analisis regresi dapat digunakan sebagai alat untuk membuat perkiraan nilai suatu variabel dengan menggunakan beberapa variabel lain yang berhubungan dengan
variabel tersebut.
2.1.1 Regresi Linier Sederhana
Regresi linier sederhana adalah analisis regresi yang melibatkan hubungan fungsional antara satu variabel terikat dengan satu variabel bebas. Variabel terikat merupakan
variabel yang nilainya selalu bergantung dengan nilai variabel lain. Dalam hal ini variabel terikat yang nilainya selalu dipengaruhi oleh variabel bebas, sedangkan
variabel bebas adalah variabel yang nilainya tidak bergantung pada nilai variabel lain. Dan biasanya variabel terikat dinotasikan dengan Y, sedangkan variabel bebas
dinotasikan dengan X. Hubungan-hubungan tersebut dinyatakan dalam model matematis yang memberikan persamaan-persamaan tertentu.
Bentuk umum persamaan regresi linier sederhana yang menunjukkan hubungan antara dua variabel, yaitu variabel X sebagai variabel bebas dan variabel Y
sebagai variabel terikat adalah
i i
bX a
Y +
= 2.1
dimana: Y
i
= variabel terikat ke-i X
i
= variabel bebas ke-i a
= intersep titik potong kurva terhadap sumbu Y b
= kemiringan slope kurva linier
Universitas Sumatera Utara
Gambar 2.1 Diagram pencar
Metode kuadrat terkecil adalah suatu metode untuk menghitung a dan b sebagai perkiraan A dan B, sedemikian rupa sehingga jumlah deviasi kuadrat
∑
=
2 i
e SSD
memiliki nilai terkecil.
Model sebenarnya : Y = A + BX +
ε Model perkiraan
: Y = a + bX + e
Dimana a, b merupakan perkiraan taksiran atas A, B.
Jika X dikurangi dengan rata-ratanya
X X
x
i i
− =
akan diperoleh variabel baru x dengan
∑
= 0
i
x
. Maka persamaannya menjadi:
i i
i i
i i
bx a
Y e
e bx
a Y
+ −
= +
+ =
[ ]
∑ ∑
+ −
= =
2 2
i i
i
bx a
Y e
SSD 2.2
Metode meminimumkan jumlah deviasi kuadrat regresi kuadrat terkecil yang didasarkan pada pemilihan a dan b, sehingga meminimalkan jumlah kuadrat deviasi
titik-titik data dari garis yang dicocokkan.
Universitas Sumatera Utara
Gambar 2.2 Suatu pengamatan data yang tidak tepat pada garis regresi
Kemudian akan ditaksir a dan b sehingga jika taksiran ini disubstitusikan ke dalam persamaan 2.2, maka jumlah deviasi kuadrat menjadi minimum. Dengan
mendifferensialkan persamaan 2.2 terhadap a dan b dengan menetapkan derivatif parsial yang dihasilkan sama dengan nol, diperoleh:
2 2
∑ ∑
∑ ∑
∑
= →
= −
− =
− −
∂ ∂
= ∂
∂
i i
i i
i i
x x
b na
Y bx
a Y
a a
e
Y n
Y a
i
= =
⇒
∑
ˆ 2.3
2 2
2
= →
= −
− =
− −
∂ ∂
= ∂
∂
∑ ∑
∑ ∑
∑ ∑
i i
i i
i i
i i
x x
b x
a Y
x bx
a Y
b b
e
∑ ∑
= ⇒
2
ˆ
i i
i
x Y
x b
2.4
Nilai
aˆ
dan bˆ yang diperoleh dengan cara ini disebut taksiran kuadrat terkecil masing-masing dari a dan b. Dengan demikian, taksiran persamaan regresi dapat
ditulis sebagai, X
b a
Y ˆ
ˆ ˆ
+ =
yang disebut persamaan prediksi.
Garis regresi berguna untuk menentukan hubungan pengaruh perubahan variabel yang satu terhadap variabel yang lainnya. Selanjutnya dari hubungan dua
variabel ini dapat dikembangkan untuk analisa tiga variabel atau lebih.
Universitas Sumatera Utara
2.1.2 Multiple Regresi