09 Analisis Regresi Sederhana 2013
Analisis Regresi Linear
Sederhana
Ali Muhson
Pendahuluan
• Menggunakan metode statistik berdasarkan
data yang lalu untuk memprediksi kondisi
yang akan datang
• Menggunakan pengalaman, pernyataan ahli
dan survei untuk memprediksi keadaan
mendatang
(c) 2013 by Ali Muhson
2
1
Mengapa Memprediksi?
• Untuk menyusun perencanaan yang
matang
• Untuk memastikan kondisi mendatang
• Untuk menemukan strategi yang tepat bagi
perbaikan kondisi yad
• Untuk mengurangi risiko/pembiayaan
(c) 2013 by Ali Muhson
3
Analisis Regresi
• Analisis regresi dapat digunakan untuk
membuat model kausalitas dalam
memprediksi
• X untuk memprediksi Y
• X = independent variable
• Y = dependent variable
(c) 2013 by Ali Muhson
4
2
Regresi Linear Sederhana
• Hanya melibatkan satu variabel bebas dan
satu variabel terikat
• Perubahan yang terjadi pada variabel
bebas digunakan untuk memprediksi
perubahan pada variabel terikat
(c) 2013 by Ali Muhson
5
Persamaan Garis (Populasi)
Population
Slope
Coefficient
Population
Y intercept
Random
Error
Yi X i i
Dependent
(Response)
Variable
Population
Regression
Line
(c) 2013 by Ali Muhson
Independent
(Explanatory)
Variable
6
3
Bagaimana menemukan Garis?
Yi X i i
Y
Observed
Value
i = Random Error
YX X i
X
Observed Value
(c) 2013 by Ali Muhson
7
Persamaan Garis (Sampel)
Sample
Y Intercept
Yi b0 b1 X i ei
b0 digunakan mengestimasi
b1 digunakan mengestimasi
(c) 2013 by Ali Muhson
Sample
Slope
Coefficient
Residual
Sample
Regression
Line
8
4
Menghitung Persamaan
Metode Kuadrat Terkecil (Ordinary Least
Square = OLS):
Y nb
0
b1 X
XY b X b X
0
2
1
(c) 2013 by Ali Muhson
9
Menghitung Persamaan
•Berdasarkan rumus OLS ditemukan:
b1
n XY X Y
n X X
2
2
b0
Y b X
n
b0 Y b1 X
(c) 2013 by Ali Muhson
1
n
10
5
Contoh
No
1
2
3
4
5
6
7
8
9
10
11
12
X
6
6
5
7
8
8
9
7
9
9
6
9
•Bagaimana pengaruh
motivasi belajar
terhadap prestasi belajar
mahasiswa? Apakah
berpengaruh positif atau
negatif? (Gunakan taraf
signifikansi 5%)
Y
4
5
4
6
7
9
9
6
6
9
6
8
(c) 2013 by Ali Muhson
11
Contoh Perhitungan
No
X
Y
X^2
Y^2
XY
1
2
3
4
5
6
7
8
9
10
11
12
Jml
6
6
5
7
8
8
9
7
9
9
6
9
89
4
5
4
6
7
9
9
6
6
9
6
8
79
36
36
25
49
64
64
81
49
81
81
36
81
683
16
25
16
36
49
81
81
36
36
81
36
64
557
24
30
20
42
56
72
81
42
54
81
36
72
610
(c) 2013 by Ali Muhson
12
6
Scatter Diagram
P
r
e
s
t
a
s
i
10
9
8
7
6
5
4
3
2
1
0
0
2
4
6
8
10
Motivasi Belajar
(c) 2013 by Ali Muhson
13
Persamaan Garis
• Hitunglah persamaan garis regresi tersebut!
(c) 2013 by Ali Muhson
14
7
Persamaan Garis
• Hitunglah persamaan garis regresi tersebut!
Yˆi b0 b1 X i
1, 21 1 .05 X i
(c) 2013 by Ali Muhson
15
Garis Regresi
P
r
e
s
t
a
s
i
10
9
8
7
6
5
4
3
2
1
0
0
2
4
6
8
10
Motivasi Belajar
(c) 2013 by Ali Muhson
16
8
Penafsiran Persamaan
Yi = -1,21 + 1,05Xi
Koefisien garis sebesar 1,05 menunjukkan bahwa
setiap kenaikan X sebanyak satu satuan, prediksi
rata-rata Y akan naik sebesar 1,05 satuan.
Jadi jika skor motivasi belajar naik sebesar 1 point
akan mengakibatkan kenaikan prediksi skor
prestasi belajar sebesar 1,05
(c) 2013 by Ali Muhson
17
Menguji Koefisien Garis
• Digunakan uji t
Apakah motivasi belajar berpengaruh terhadap
prestasi belajar?
H0: 1 = 0 (tidak ada hubungan/pengaruh)
Ha: 1 0 (Ada hubungan/pengaruh)
(c) 2013 by Ali Muhson
18
9
Menguji Koefisien Garis
•Uji Statistik:
b1 1
SE b1
t
Di mana
SYX
SEb1
X
X
2
2
SYX
n
JKE
n k 1
t tabel diperoleh dengan db = n - 2
(c) 2013 by Ali Muhson
19
Estimasi Parameter
•Estimasi koefisien garis regresi dapat
dihitung dengan rumus:
b1 t SE 1 b1 t SE
(c) 2013 by Ali Muhson
20
10
Koefisien Determinasi
r2 =
JKR
Jumlah Kuadrat Regresi
=
JKT
Jumlah Kuadrat Total
Koefisien determinasi (r2 ) mengukur
proporsi varians Y yang dapat
dijelaskan oleh X melalui model.
(c) 2013 by Ali Muhson
21
Koefisien Determinasi
Yˆ Y
Y Y
2
r2
•Hitunglah
koefisien
determinasinya!
2
X Y
b1 XY
n
2
r
2
Y
2
Y
n
(c) 2013 by Ali Muhson
22
11
Total Varians
Y
X
JKR
JKE
(c) 2013 by Ali Muhson
23
Menguji r2
r 2 n k 1
F
k 1 r 2
•F tabel (alpha; k; n-k-1)
•Untuk Regresi sederhana, nilai F di atas
sama dengan nilai t2 yang diperoleh dari
hasil pengujian koefisien garis regresi
(c) 2013 by Ali Muhson
24
12
Total Varians
•
•
•
•
•
Keterangan:
SST = Total sum of square
SSR = Regression sum of square
SSE = Error sum of square
JKT = Jumlah Kuadrat Total
JKR = Jumlah Kuadrat Regresi
JKE = Jumlah Kuadrat Error
k
= Banyaknya variabel bebas
SST = SSR + SSE atau
JKT = JKR + JKE
dbR = k
dbE = n – k – 1
dbT = n – 1
(c) 2013 by Ali Muhson
25
Tabel Analysis Of Variance
(ANOVA)
Sumber
Variansi
Jumlah
Kuadrat
(JK)
db
Rerata
Kuadrat
(RK)
F
Regresi
Yˆ Y
k
JKR/dbR
RKR/RKE
Error/
Residu
Y Yˆ
n–k–1
JKE/dbE
-
Total
Y Y
n–1
JKT/dbT
-
2
2
2
(c) 2013 by Ali Muhson
26
13
PR
• Menghitung koefisien determinasi.
• Menghitung nilai F dan t lalu buktikan
bahwa F = t2
• Menghitung tabel ANOVA
• Ujilah apakah motivasi belajar berpengaruh
terhadap prestasi belajar! (taraf nyata 5%)
(c) 2013 by Ali Muhson
27
Interval Keyakinan Prediksi Y
14
Interval Keyakinan
Confidence
Interval for the
mean of Y
Confidence Interval
Y for a individual Yi
_
X
X
A Given X
(c) 2013 by Ali Muhson
29
Interval Keyakinan
• Prediksi rerata Y
1
( X i X )2
ˆ
Yi t S yx
2
n
X
X
(
)
• Prediksi nilai Y:
1 ( X i X )2
ˆ
Yi t S yx 1
2
n
X
X
(
)
(c) 2013 by Ali Muhson
30
15
Contoh
Jika diketahui seorang mahasiswa memiliki
skor motivasi sebesar 8, hitunglah:
• Interval kepercayaan rerata prestasi yang
dicapainya!
• Interval kepercayaan prestasi yang
dicapainya!
(c) 2013 by Ali Muhson
31
Contoh Hasil Analisis
Model Summary
Model
R
1
.828a
R Square
Adjusted R
Square
.686
Std. Error of the
Estimate
.654
1.07737
a. Predictors: (Constant), Motivasi Belajar
ANOVAa
Sum of
Squares
Model
1
Mean
Square
df
Regression
25.309
1
Residual
11.607
10
Total
36.917
11
F
25.309 21.805
Sig.
.001b
1.161
a. Dependent Variable: Prestasi Belajar
b. Predictors: (Constant), Motivasi Belajar
(c) 2013 by Ali Muhson
32
16
Contoh Hasil Analisis
Coefficientsa
Unstandardized
Coefficients
Model
B
(Constant)
Std. Error
Standardized
Coefficients
t
Sig.
Beta
-1.211
1.698
-.713
.492
Motivasi
1.051
Belajar
a. Dependent Variable: Prestasi Belajar
.225
.828 4.670
.001
1
Persamaan Garis Regresi: Y = -1,211 + 1,051 X
(c) 2013 by Ali Muhson
33
17
Sederhana
Ali Muhson
Pendahuluan
• Menggunakan metode statistik berdasarkan
data yang lalu untuk memprediksi kondisi
yang akan datang
• Menggunakan pengalaman, pernyataan ahli
dan survei untuk memprediksi keadaan
mendatang
(c) 2013 by Ali Muhson
2
1
Mengapa Memprediksi?
• Untuk menyusun perencanaan yang
matang
• Untuk memastikan kondisi mendatang
• Untuk menemukan strategi yang tepat bagi
perbaikan kondisi yad
• Untuk mengurangi risiko/pembiayaan
(c) 2013 by Ali Muhson
3
Analisis Regresi
• Analisis regresi dapat digunakan untuk
membuat model kausalitas dalam
memprediksi
• X untuk memprediksi Y
• X = independent variable
• Y = dependent variable
(c) 2013 by Ali Muhson
4
2
Regresi Linear Sederhana
• Hanya melibatkan satu variabel bebas dan
satu variabel terikat
• Perubahan yang terjadi pada variabel
bebas digunakan untuk memprediksi
perubahan pada variabel terikat
(c) 2013 by Ali Muhson
5
Persamaan Garis (Populasi)
Population
Slope
Coefficient
Population
Y intercept
Random
Error
Yi X i i
Dependent
(Response)
Variable
Population
Regression
Line
(c) 2013 by Ali Muhson
Independent
(Explanatory)
Variable
6
3
Bagaimana menemukan Garis?
Yi X i i
Y
Observed
Value
i = Random Error
YX X i
X
Observed Value
(c) 2013 by Ali Muhson
7
Persamaan Garis (Sampel)
Sample
Y Intercept
Yi b0 b1 X i ei
b0 digunakan mengestimasi
b1 digunakan mengestimasi
(c) 2013 by Ali Muhson
Sample
Slope
Coefficient
Residual
Sample
Regression
Line
8
4
Menghitung Persamaan
Metode Kuadrat Terkecil (Ordinary Least
Square = OLS):
Y nb
0
b1 X
XY b X b X
0
2
1
(c) 2013 by Ali Muhson
9
Menghitung Persamaan
•Berdasarkan rumus OLS ditemukan:
b1
n XY X Y
n X X
2
2
b0
Y b X
n
b0 Y b1 X
(c) 2013 by Ali Muhson
1
n
10
5
Contoh
No
1
2
3
4
5
6
7
8
9
10
11
12
X
6
6
5
7
8
8
9
7
9
9
6
9
•Bagaimana pengaruh
motivasi belajar
terhadap prestasi belajar
mahasiswa? Apakah
berpengaruh positif atau
negatif? (Gunakan taraf
signifikansi 5%)
Y
4
5
4
6
7
9
9
6
6
9
6
8
(c) 2013 by Ali Muhson
11
Contoh Perhitungan
No
X
Y
X^2
Y^2
XY
1
2
3
4
5
6
7
8
9
10
11
12
Jml
6
6
5
7
8
8
9
7
9
9
6
9
89
4
5
4
6
7
9
9
6
6
9
6
8
79
36
36
25
49
64
64
81
49
81
81
36
81
683
16
25
16
36
49
81
81
36
36
81
36
64
557
24
30
20
42
56
72
81
42
54
81
36
72
610
(c) 2013 by Ali Muhson
12
6
Scatter Diagram
P
r
e
s
t
a
s
i
10
9
8
7
6
5
4
3
2
1
0
0
2
4
6
8
10
Motivasi Belajar
(c) 2013 by Ali Muhson
13
Persamaan Garis
• Hitunglah persamaan garis regresi tersebut!
(c) 2013 by Ali Muhson
14
7
Persamaan Garis
• Hitunglah persamaan garis regresi tersebut!
Yˆi b0 b1 X i
1, 21 1 .05 X i
(c) 2013 by Ali Muhson
15
Garis Regresi
P
r
e
s
t
a
s
i
10
9
8
7
6
5
4
3
2
1
0
0
2
4
6
8
10
Motivasi Belajar
(c) 2013 by Ali Muhson
16
8
Penafsiran Persamaan
Yi = -1,21 + 1,05Xi
Koefisien garis sebesar 1,05 menunjukkan bahwa
setiap kenaikan X sebanyak satu satuan, prediksi
rata-rata Y akan naik sebesar 1,05 satuan.
Jadi jika skor motivasi belajar naik sebesar 1 point
akan mengakibatkan kenaikan prediksi skor
prestasi belajar sebesar 1,05
(c) 2013 by Ali Muhson
17
Menguji Koefisien Garis
• Digunakan uji t
Apakah motivasi belajar berpengaruh terhadap
prestasi belajar?
H0: 1 = 0 (tidak ada hubungan/pengaruh)
Ha: 1 0 (Ada hubungan/pengaruh)
(c) 2013 by Ali Muhson
18
9
Menguji Koefisien Garis
•Uji Statistik:
b1 1
SE b1
t
Di mana
SYX
SEb1
X
X
2
2
SYX
n
JKE
n k 1
t tabel diperoleh dengan db = n - 2
(c) 2013 by Ali Muhson
19
Estimasi Parameter
•Estimasi koefisien garis regresi dapat
dihitung dengan rumus:
b1 t SE 1 b1 t SE
(c) 2013 by Ali Muhson
20
10
Koefisien Determinasi
r2 =
JKR
Jumlah Kuadrat Regresi
=
JKT
Jumlah Kuadrat Total
Koefisien determinasi (r2 ) mengukur
proporsi varians Y yang dapat
dijelaskan oleh X melalui model.
(c) 2013 by Ali Muhson
21
Koefisien Determinasi
Yˆ Y
Y Y
2
r2
•Hitunglah
koefisien
determinasinya!
2
X Y
b1 XY
n
2
r
2
Y
2
Y
n
(c) 2013 by Ali Muhson
22
11
Total Varians
Y
X
JKR
JKE
(c) 2013 by Ali Muhson
23
Menguji r2
r 2 n k 1
F
k 1 r 2
•F tabel (alpha; k; n-k-1)
•Untuk Regresi sederhana, nilai F di atas
sama dengan nilai t2 yang diperoleh dari
hasil pengujian koefisien garis regresi
(c) 2013 by Ali Muhson
24
12
Total Varians
•
•
•
•
•
Keterangan:
SST = Total sum of square
SSR = Regression sum of square
SSE = Error sum of square
JKT = Jumlah Kuadrat Total
JKR = Jumlah Kuadrat Regresi
JKE = Jumlah Kuadrat Error
k
= Banyaknya variabel bebas
SST = SSR + SSE atau
JKT = JKR + JKE
dbR = k
dbE = n – k – 1
dbT = n – 1
(c) 2013 by Ali Muhson
25
Tabel Analysis Of Variance
(ANOVA)
Sumber
Variansi
Jumlah
Kuadrat
(JK)
db
Rerata
Kuadrat
(RK)
F
Regresi
Yˆ Y
k
JKR/dbR
RKR/RKE
Error/
Residu
Y Yˆ
n–k–1
JKE/dbE
-
Total
Y Y
n–1
JKT/dbT
-
2
2
2
(c) 2013 by Ali Muhson
26
13
PR
• Menghitung koefisien determinasi.
• Menghitung nilai F dan t lalu buktikan
bahwa F = t2
• Menghitung tabel ANOVA
• Ujilah apakah motivasi belajar berpengaruh
terhadap prestasi belajar! (taraf nyata 5%)
(c) 2013 by Ali Muhson
27
Interval Keyakinan Prediksi Y
14
Interval Keyakinan
Confidence
Interval for the
mean of Y
Confidence Interval
Y for a individual Yi
_
X
X
A Given X
(c) 2013 by Ali Muhson
29
Interval Keyakinan
• Prediksi rerata Y
1
( X i X )2
ˆ
Yi t S yx
2
n
X
X
(
)
• Prediksi nilai Y:
1 ( X i X )2
ˆ
Yi t S yx 1
2
n
X
X
(
)
(c) 2013 by Ali Muhson
30
15
Contoh
Jika diketahui seorang mahasiswa memiliki
skor motivasi sebesar 8, hitunglah:
• Interval kepercayaan rerata prestasi yang
dicapainya!
• Interval kepercayaan prestasi yang
dicapainya!
(c) 2013 by Ali Muhson
31
Contoh Hasil Analisis
Model Summary
Model
R
1
.828a
R Square
Adjusted R
Square
.686
Std. Error of the
Estimate
.654
1.07737
a. Predictors: (Constant), Motivasi Belajar
ANOVAa
Sum of
Squares
Model
1
Mean
Square
df
Regression
25.309
1
Residual
11.607
10
Total
36.917
11
F
25.309 21.805
Sig.
.001b
1.161
a. Dependent Variable: Prestasi Belajar
b. Predictors: (Constant), Motivasi Belajar
(c) 2013 by Ali Muhson
32
16
Contoh Hasil Analisis
Coefficientsa
Unstandardized
Coefficients
Model
B
(Constant)
Std. Error
Standardized
Coefficients
t
Sig.
Beta
-1.211
1.698
-.713
.492
Motivasi
1.051
Belajar
a. Dependent Variable: Prestasi Belajar
.225
.828 4.670
.001
1
Persamaan Garis Regresi: Y = -1,211 + 1,051 X
(c) 2013 by Ali Muhson
33
17