2.7. Inferensia Tentang Parameter Regresi
Matriks Varians Kovarians :
=
n n
n n
n
b b
b b
b b
b b
b b
b b
b b
b b
2 1
1 1
2 1
1 2
2
, ,
, ,
, ,
σ σ
σ σ
σ σ
σ σ
σ σ
Yang diberikan oleh:
1 2
2 −
′ =
X X
b
σ σ
Taksiran Matriks Varians Kovarians :
=
n n
n n
n
b s
b b
s b
b s
b b
s b
s b
b s
b b
s b
b s
b s
b s
2 1
1 1
2 1
1 2
2
, ,
, ,
, ,
Yang diberikan oleh:
1 2
− ×
′ =
X X
MSE b
s
n n
Universitas Sumatera Utara
Bab 3
PEMBAHASAN
3.1. Menentukan Model Regresi Nonlinier
Bentuk Regresi Nonlinier Model Kuadratik adalah sebagai berikut:
2 2
1 i
i i
x x
Y
β β
β
+ +
=
Jumlah kuadrat galat dari model kuadratik tersebut adalah:
2 2
1 i
i i
x x
Y S
β β
β +
+ −
= Penaksiran kuadrat terkecil dari
β adalah meminimumkan jumlah kuadrat galat dari parameter
β yaitu β
ˆ
, dimana
{ }
2 1
ˆ ,
ˆ
∑
=
− =
n i
i
f Y
SSE β
ξ β
Dengan
2 2
1
ˆ ,
i i
x x
f
β β
β β
ξ
+ +
=
Untuk menghitung jumlah kuadrat galat dapat juga dilakukan dengan menggunakan matrik sebagai berikut:
[ ]
[ ]
β β
β ˆ
ˆ ˆ
f Y
f Y
SSE −
′ −
= dimana
[ ]
[ ]
2 1
2 1
, ,
, ˆ
, ,
ˆ ,
, ˆ
, ˆ
n n
Y Y
Y Y
dan f
f f
f
=
= β
ξ β
ξ β
ξ β
Menurut persamaan normal yaitu
{ }
θ θ
β β
ξ β
ξ
ˆ 1
, ˆ
,
= =
∂ ∂
−
∑
i u
n u
u u
f f
Y maka
terlebih dahulu penulis diferensialkan dari β
SSE terhadap parameternya masing-
masing dan disamakan dengan nol. Setiap persamaan normalnya akan diberikan sebagai berikut :
Universitas Sumatera Utara
{ }
ˆ ,
, 2
ˆ ˆ
1
=
∂
∂ −
− =
∂ ∂
∑
− j
i n
i i
i j
f f
Y SSE
θ θ
ξ θ
ξ θ
θ Dan selanjutnya dilakukan penaksiran
parameter model nonlinernya dengan menggunakan kuadrat terkecil.
3.2. Perumusan Matriks Umum untuk Kuadrat Terkecil Linier
Ada tiga jenis regresi yaitu Linear sederhana, polynomial, dan linear ganda. ketiga regresi tersebut berasal dari model kuadrat terkecil linear umum berikut ini:
e z
a z
a z
a z
a z
a y
m m
+ +
+ +
+ +
=
3 3
2 2
1 1
Dengan
m
z z
z
, ,
1
merupakan m + 1 fungsi yang berbeda. Dapat dilihat dengan mudah bagaiman regresi linear sederhana dan berganda berada didalam model
ini, Yaitu
m m
x z
x z
x z
z =
= =
=
, ,
1
2 2
1 1
. Lebih lanjut, regresi polynomial juga termasuk di dalam model ini , jika z merupakan fungsi monomial sederhana seperti
pada
m m
x z
x z
x z
z =
= =
=
, ,
1
2 2
1 1
. Istilah linear hanya mengacu pada ketergantungan model terhadap parameternya yaitu nilai a. Sebagaimana regresi
polynomial, maka fungsi – fungsi nya itu sendiri dapat sama sekali tak linear.
Persamaannya dapat dinyatakan dalam notasi matriks sebagai berikut:
[ ] [ ][ ] [ ]
Ε +
Α =
Υ Z
Dengan
[ ]
Ζ merupakan matriks dari nilai nilai variabel bebas yang ditinjau,
[ ]
= Ζ
mn n
n m
m
z z
z z
z z
z z
z
1 2
12 02
1 11
01
Dimana m merupakan jumlah variabel didalam model dan n merupakan jumlah data. Vektor kolom
[ ]
Υ berisi nilai variabel tak bebas yang ditinjau.
Universitas Sumatera Utara
[ ] [ ]
,
2 1
n T
y y
y
= Υ
Vektor kolom {A} adalah berisi koefisien
[ ] [ ]
,
2 1
m T
a a
a A
=
Dan vektor kolom
[ ]
Ε berisi residu
[ ] [ ]
,
2 1
n T
e e
e
= Ε
Jumlah kuadrat dari bagian sisanya untuk model ini dapat didefinisikan sebagai berikut
∑ ∑
= =
− =
n i
m j
ji j
i r
z a
y S
1 2
Besaran ini dapat dibuat minimum dengan menggunakan turunan parsial terhadap masing- masing koefisiennya dan selanjutnya menetapkan persamaan yang
dihasilkan sama dengan nol. Hasil dari proses ini akan berupa persamaan biasa yang dapat dinyatakan secara ringkas dalam matriks sebagai berikut.
[ ] [ ][ ]
Α Ζ
Ζ
T
=
[ ] [ ]
Υ Ζ
T
[ ]
Y =
[ ] [ ][ ] [ ]
T T
Ζ Α
Ζ Ζ
[ ]
Y =
[ ][ ]
A Z
Dan juga dapat dihasilkan
[ ] [ ] [ ] [ ] [ ]
Υ Ζ
Ζ =
Α
− T
T
Z
1
3.3. Persamaan dan Model Regresi
Kategori