variabel terikat dilambangkan dengan Y. Bentuk hubungan variabel bebas dan terikat ini bisa linier, kuadratik, logaritma, eksponensial, atau hiperbola. Dalam penulisan ini
hanya akan dibahas hubungan yang linier. Pembahasan mengenai analisis regresi ini terdiri dari analisis regresi
sederhana dan analisis regresi berganda. Tetapi sebelumnya terlebih dahulu akan dibahas mengenai sifat variabel bebas dan variabel terikat.
Variabel bebas diasumsikan bersifat tetap karena memiliki nilai yang sama dalam berbagai sampel. Nilai dari variabel bebas sudah ditentukan sebelumnya oleh
peneliti. Satu variabel bebas dapat menentukan lebih dari satu variabel terikat. Variabel terikat bersifat random, karena nilainya ditentukan oleh suatu eksperimen
acak.
A. ANALISIS REGRESI LINIER SEDERHANA
Analisis regresi linier sederhana adalah analisis regresi linier di mana nilai variabel terikat Y hanya dipengaruhi oleh satu variabel penjelas X. Contoh,
pengeluaran keluarga mingguan dipengaruhi oleh pendapatan mingguan keluarga. Dengan pengetahuan sebelumnya bahwa hubungan X dan Y yang linier
maka dapat dinyatakan dengan persamaan matematik berikut: =
+
1
+ 3.1
merupakan intercept atau jarak dari titik O0,0 dengan titik potong terhadap sumbu ordinat sumbu y,
1
adalah slope atau gradient atau kemiringan garis, merupakan galat atau error.
dan
1
merupakan koefisien-koefisien regresi. Asumsi-asumsi di dalam regresi linier yang harus dipenuhi, yaitu:
1. = 0
Dengan kata-kata bahwa nilai harapan bersyarat terhadap X tertentu
adalah 0. Nilai-nilai Y untuk X tertentu dapat berada di atas maupun di bawah garis regresi, jarak antara Y dengan nilai harapannya adalah .
2. , = − [ − ]
= karena asusmsi 1
= 0 ≠
, = 0 berarti pula bahwa dan tidak saling mempengaruhi, atau tidak berhubungan, atau tidak berkorelasi satu sama lain. Apabila terjadi korelasi
antara yang satu dengan yang lainnya maka akan timbul masalah autokorelasi atau korelasi berurutan, dan yang dikehendaki oleh asumsi 2 adalah tidak ada masalah
autokorelasi, atau , = 0.
3. = [ − ]
2
= [ ]
2
karena asumsi 1 =
�
2
Varians bersyarat untuk X tertentu adalah suatu angka konstan positif
yang sama dengan �
2
. Apa yang diinginkan oleh asumsi ini adalah varians untuk X tertentu adalah sama. Apabila terjadi pelanggaran terhadap asumsi ini maka akan
muncul masalah heteroskedastisitas, yaitu bilamana varians untuk X tertentu tidak sama.
4. berdistribusi normal dengan rata-rata 0 dan varians
�
2
, ditulis ~
�0, �
2
. Asumsi kenormalan ini penting dalam pengujian hipotesis, pada pengambilan
kesimpulan. Jika berdistribusi normal, maka tidak dapat dilakukan uji F dan uji t
. Nilai harapan dari terhadap X tertentu adalah :
= +
1
+ =
+
1
+
Karena ,
1
, bersifat konstan sehingga
= dan
= dan akibat dari asumsi 1 di mana
= 0 maka: =
+
1
3.2 Varians dari adalah :
Var = [
− ]
2
= [ +
1
+ −
+
1
]
2
= [ +
1
+ −
−
1
]
2
= [ ]
2
Akibat dari asumsi 3 di mana [ ]
2
= �
2
maka; Var
= �
2
3.3 Dari 3.2 dan 3.3 dapat dikatakan bahwa regresi linier sederhana dapat dinyatakan
dengan persamaan =
+
1
+ dengan nilai harapan =
+
1
dan varians �
2
.
Besarnya nilai koefisien-koefisien regresi tidak dapat ditentukan secara tepat, melainkan merupakan suatu taksiran. Hal ini disebabkan karena tidak mungkin
untuk memperoleh data populasi, namun koefisien-koefisien regresi ini dapat diduga berdasarkan koefisien-koefisien regresi sampel. Persamaan regresi sampel dinyatakan
sebagai berikut, =
+
1
+ 3.4
Dengan Ý =
+
1
3.5 Ý = estimator E
Y X
i
, = estimator
β ;
1
= estimator β
1
. di sini menunjukan nilai galat. dinyatakan analog dengan , sehingga dikatakan sebagai estimator .
Garis regresi sampel dapat dihasilkan sebanyak n buah. Dari garis-garis tersebut, tidak ada yang menjamin mana garis yang mewakili garis regresi populasi,
