∑ =
=
− −
− −
−
n i
ki k
i i
x x
Y n
k
e L
1 2
1 1
2 1
1
2 1
,..., ,
σ β
β β
π σ
β β
β
Dimana: Lβ
0,
β
1, ...,
β
k
σ = Parameter yang merupakan simpangan baku untuk distribusi.
= Fungsi maksimum likelihood pada parameter
π = nilai konstan 3.14
n = Banyak data sampel
e = Biangan konstan 2.7183
Y
i
β = Variabel terkat ke i
i
= Parameter regresi ke i
1.3 Tujuan Penelitian
Tujuan penelitian ini adalah untuk menguraikan cara mengestimasi parameter multiple regresi dengan meminimumkan eror menggunakan maksimum likelihood.
1.4 Kontribusi Penelitian
a. Menambah wawasan dan memperkaya literatur dalam bidang statistika yang
berhubungan dengan multipleregresi dan maksimum likelihood.
Universitas Sumatera Utara
b. Dengan diketahuinya bagaimana cara mengestimasi parameter multiple regrsi
menggunakan maksimum likelihood diharapkan dapat meminimumkan jarak antara titik data dan garis regresi.
c. Untuk mengetahui besarnya pengaruh dari setiap variabel bebas yang
tercakup dalam persamaan terhadap variabel tak bebas.
1.5 Metode Penelitian
Uraian metode yang digunakan dalam penelitian secara rinci sebagai berikut: a.
Membentuk persamaan dari jumlah deviasi kuadrat. b.
Menganalisis persamaan dengan menggunakan maksimum likelihood. c.
Mengambil kesimpulan dari analisa yang diperoleh.
Universitas Sumatera Utara
BAB 2
LANDASAN TEORI
2.1 Analisis Regresi
Perubahan nilai suatu variabel tidak selalu terjadi dengan sendirinya, namun perubahan nilai variabel itu dapat pula disebabkan oleh berubahnya variabel lain yang
berhubungan dengan variabel tersebut. Untuk mengetahui pola nilai suatu variabel yang disebabkan oleh variabel lain diperlukan alat analisis yang memungkinkan
peneliti untuk membuat perkiraan nilai variabel tersebut pada nilai tertentu variabel yang mempengaruhinya.
Teknik yang umum digunakan untuk menganalisis hubungan antara dua atau lebih variabel dalam ilmu statistik adalah analisis regresi. Analisis regresi adalah
teknik statistik untuk membangun persamaan garis lurus dan menggunakan persamaan
Universitas Sumatera Utara
tersebut untuk membuat perkiraan. Analisis regresi berguna dalam menyelidiki hubungan dua variabel atau lebih dan terutama untuk mengetatahui pola hubungan
yang modelnya belum diketahui dengan sempurna, sehingga dalam penerapannya lebih bersifat eksploratif.
Istilah persamaan regresi estimasi sering di temui dalam statistik yang berarti Persamaan regresi yang digunakan untuk membuat taksiran terhadap nilai variabel
terikat, yaitu suatu formula matematis yang menunjukkan hubungan keterkaitan antara satu atau beberapa variabel yang nilainya sudah diketahui known variabel dengan
satu variabel yang nilainya belum diketahui unknown variabel . Sifat hubungan antar variabel dalam persamaan regresi merupakan hubungan sebab akibat.
Istilah Regresi pada mulanya bertujuan untuk membuat perkiraan nilai suatu variabel terhadap variabel yang lain. pertama kali diperkenalkan pada tahun 1877 oleh
Sir Francis Galton 1822 – 1911 pada penelitiannya terhadap manusia. Penelitian tersebut membandingkan antara tingggi anak laki-laki dan tinggi badan orang tuanya.
Istilah regresi pada mulanya bertujuan untuk membuat perkiraan nilai suatu variabel tinggi badan anak terhadap suatu variabel yang lain tinggi badan orang tua. Pada
perkembangan selanjutnya, analisis regresi digunakan sebagai alat membuat perkiraan nilai suatu variabel dengan menggunakan beberapa variabel lain yang
berhubungan dengan variabel tersebut.
2.1.1 Regresi Linier Sederhana
Regresi linier sederhana adalah analisis regresi yang melibatkan hubungan fungsional antara satu variabel terikat dengan satu variabel bebas. Variabel terikat merupakan
variabel yang nilainya selalu bergantung dengan nilai variabel lain. Dalam hal ini variabel terikat yang nilainya selalu dipengaruhi oleh variabel bebas, sedangkan
variabel bebas adalah variabel yang nilainya tidak bergantung pada nilai variabel lain.
Universitas Sumatera Utara
Dan biasanya variabel terikat dinotasikan dengan Y, sedangkan variabel bebas dinotasikan dengan X. Hubungan-hubungan tersebut dinyatakan dalam model
matematis yang memberikan persamaan-persamaan tertentu.
Bentuk umum persamaan regresi linier sederhana yang menunjukkan hubungan antara dua variabel, yaitu variabel X sebagai variabel bebas dan variabel Y
sebagai variabel terikat adalah
�
�
= �
+ �
1
�
�
2.1
dimana: Y
i
X = variabel terikat ke-i
i
� = intersep titik potong kurva terhadap sumbu Y
= variabel bebas ke-i
�
1
= kemiringan slope kurva linier
X Y
Universitas Sumatera Utara
Gambar 2.1 Diagram pencar
Metode kuadrat terkecil adalah suatu metode untuk menghitung �
dan �
1
. sebagai perkiraan
� dan
�
1
, sehingga Sum Square Deviation
∑
=
2 i
e SSD
memiliki nilai terkecil.
Model sebenarnya : Y =
� +
�
1
X + ε Model perkiraan
:
Yˆ
= ˆ
β +
1
ˆ
β X + e
Yaitu ˆ
β ,
1
ˆ
β merupakan perkiraan taksiran atas � ,
�
1
.
Jika X dikurangi dengan rata-ratanya
X X
x
i i
− =
akan diperoleh variabel baru x dengan
∑
= 0
i
x . Sehingga di dapat persamaan baru:
�
�
= �
+ �
1
�
�
+ �
�
�
�
= �
�
− � +
�
1
�
�
��� = ∑ �
� 2
= ∑[�
�
− � +
�
1
�
�
]
2
2.2
Metode meminimumkan jumlah deviasi kuadrat regresi kuadrat terkecil yang didasarkan pada pemilihan
� dan
�
1
, sehingga meminimalkan jumlah kuadrat deviasi titik-titik data dari garis yang dicocokkan.
Universitas Sumatera Utara
Gambar 2.2 Suatu pengamatan data yang tidak tepat pada garis regresi
Kemudian akan ditaksir �
dan �
1
. jika taksiran ini disubstitusikan ke dalam persamaan 2.2, maka jumlah deviasi kuadrat menjadi minimum. Dengan
mendifferensialkan persamaan 2.2 terhadap �
dan �
1
. dengan menetapkan derivatif parsial yang dihasilkan sama dengan nol, diperoleh:
1 2
1 2
∑ ∑
∑ ∑
∑
= →
= −
− =
− −
∂ ∂
= ∂
∂
i i
i i
i i
x x
n Y
x Y
e β
β β
β β
β �̂
=
∑ �
�
�
= ��
2.3
2 1
2 1
1 1
2
= →
= −
− =
− −
∂ ∂
= ∂
∂
∑ ∑
∑ ∑
∑ ∑
i i
i i
i i
i i
x x
x Y
x x
Y e
β β
β β
β β
�̂
1
=
∑ �
�
�
�
∑ �
� 2
2.4
Universitas Sumatera Utara
Nilai ˆ
β dan
1
ˆ
β yang diperoleh dengan cara ini disebut taksiran kuadrat terkecil masing-masing dari
� dan
�
1
. Sehingga, taksiran persamaan regresi dapat ditulis sebagai,
Yˆ
= ˆ
β +
1
ˆ
β X yang disebut persamaan prediksi.
Untuk menentukan hubungan pengaruh perubahan variabel yang satu terhadap variabel yang lainnya maka di butuhkan peranan Garis Regrsi. Selanjutnya dari
hubungan dua variabel ini dapat dikembangkan untuk Permasalahan Multiple Regresi.
2.1.2 Multiple Regresi
Hubungan fungsional yang melibatkan antara sebuah variabel terikat dengan dua atau lebih variabel bebas disebut Multiple regresi regresi linier ganda . Semakin banyak
variabel bebas yang terlibat dalam suatu persamaan regresi semakin rumit menentukan nilai statistik yang diperlukan hingga diperoleh persamaan regresi estimasi. Regresi
linier berganda berguna untuk mendapatkan pengaruh dua variabel kriteriumnya atau untuk mencari hubungan fungsional dua variabel prediktor atau lebih dengan variabel
kriteriumnya, atau untuk meramalkan dua variabel prediktor atau lebih terhadap variabel kriteriumnya.
Hubungan linier lebih dari dua variabel yang bila dinyatakan dalam bentuk persamaan matematis adalah:
ε β
β β
+ +
+ +
=
k k
X X
Y
1 1
dimana: Y
= variabel terikat X
1
,…, X
k
= variabel bebas pada variabel ke-1sampai variabel ke-k
Universitas Sumatera Utara
k
β β
β ,...,
,
1
= parameter regresi
ε
= nilai kesalahan error
Metode kuadrat terkecil dari estimasi β yang terdiri dari minimum
∑
2 i
ε yang berkenaan dengan
β , dimana minimum
2
β ε
ε
X Y
− =
mengenai β , yaitu:
β β
β β
β ε
ε X
X Y
X Y
Y X
Y X
Y 2
+ −
= −
− =
Perbedaan ε
ε mengenai β dan persamaan =
∂ ∂
β ε
ε , diperoleh:
2 2
= +
−
β
X X
Y X
atau
Y X
X X
=
β 2.5
Y X
X X
ˆ
1 −
=
β 2.6
Kemudian untuk β ,
[ ]
[ ]
β β
β β
β β
β β
β β
β β
β β
β β
ˆ ˆ
ˆ ˆ
ˆ ˆ
ˆ ˆ
ˆ ˆ
X Y
X Y
X X
X Y
X Y
X X
Y X
X Y
X Y
X Y
− −
≥ −
− +
− −
= −
+ −
− +
− =
− −
Minimum dari β
β X
Y X
Y −
− adalah
β β
ˆ ˆ
X Y
X Y
− −
dicapai pada β
β
ˆ =
. Solusi ini untuk melihat minimum
ε ε .
Universitas Sumatera Utara
2.2 Estimasi
Menaksir ciri-ciri tertentu dari populasi atau memperkirakan nilai populasi parameter dengan memakai nilai sampel statistik diistilahkan dengan Estimasi.
Dengan statistika peneliti berusaha menyimpulkan populasi. Dalam kenyataannya, mengingat berbagai faktor untuk keperluan tersebut diambil sebuah sampel yang
representatif dan berdasarkan hasil analisis terhadap data sampel kesimpulan mengenai populasi dibuat. Cara pengambilan kesimpulan tentang parameter
berhubungan dengan cara-cara menaksir harga parameter. Jadi, harga parameter sebenarnya yang tidak diketahui akan diestimasi berdasarkan statistik sampel yang
diambil dari populasi yang bersangkutan.
Sifat atau ciri estimator yang baik yaitu tidak bias, efisien dan konsisten:
1. Estimator yang tidak bias
Estimator dikatakan tidak bias apabila ia dapat menghasilkan estimasi yang mengandung nilai parameter yang diestimasikan. Misalkan, estimator
θ
ˆ dikatakan estimator yang tidak bias jika rata-rata semua harga
θ
ˆ yang mungkin akan sama dengan
θ . Dalam bahasa ekspektasi ditulis θ
θ
= ˆ
E
.
2. Estimator yang efisien
Universitas Sumatera Utara
Estimator dikatakan efisien apabila hanya dengan rentang nilai estimasi yang kecil saja sudah cukup mengandung nilai parameter. Estimator bervarians
minimum ialah estimator dengan varians terkecil diantara semua estimator untuk parameter yang sama. Jika
1
ˆ
θ dan
2
ˆ
θ dua estimator untuk θ dimana
varians untuk
1
ˆ
θ lebih kecil dari varians untuk
2
ˆ
θ , maka
1
ˆ
θ merupakan estimator bervarians minimum.
3. Estimator yang konsisten
Estimator dikatakan konsisten apabila sampel yang diambil berapa pun besarnya, pada rentangnya tetap mengandung nilai parameter yang sedang di
estimasi. Misalkan, θˆ estimator untuk θ yang dihitung berdasarkan sebuah
sampel acak berukuran n. Jika ukuran sampel n makin besar mendekati ukuran populasi menyebabkan
θˆ mendekati θ , maka θˆ disebut estimator konsisten.
Estimasi nilai parameter memiliki dua cara, yaitu estimasi titik point estimation dan estimasi selang interval estimation.
a. Estimasi titik point estimation
Estimasi titik adalah estimasi dengan menyebut satu nilai atau untuk mengestimasi nilai parameter.
b. Estimasi interval interval estimation
Estimasi interval dengan menyebut daerah pembatasan dimana peneliti menentukan batas minimum dan maksimum suatu estimator. Metode ini
Universitas Sumatera Utara
memuat nilai-nilai estimator yang masih dianggap benar dalam tingkat kepercayaan tertentu confidence interval.
2.2.1 Estimasi Maksimum Likelihood
Suatu cara yang penting untuk mendapat estimator yang baik adalah metode maksimum likelihood yang diperkenalkan oleh R. A. Fisher. Maksimum likelihood
merupakan suatu cara mendapat estimator a untuk parameter b yang tidak diketahui dari populasi dengan memaksimumkan fungsi kemungkinan.
Untuk data sampel x
1
,…, x
n
dari distribusi yang kontinu dengan fungsi padat fx ; α ditentukan fungsi likelihood sebagai Lx
1
,…, x
n
; α = fx
1
;α … fx
n
; α.
Untuk data sampel distribusi yang diskrit dengan nilai kemungkinan pX = x
i
= p
i
α, i = 1,…r dan frekuensi f
1
,…,f
r
ditentukan dengan fungsi likelihood sebagai:
∑
=
= =
n i
i f
r f
i n
n f
p p
x x
L
r
1 1
, ...
; ,...,
1
α α
α
Karena ln L merupakan transformasi yang monoton naik daripada L, maka ln L mencapai maksimumnya pada nilai α yang sama. Menurut hitung differensial
persamaannya menjadi
ln =
∂ ∂
α
L
. Suatu akar persamaan ini
n
x x
a ,...,
ˆ
1
= α
yang memaksimum
kan L, disebut estimasi maksimum likelihood untuk α.
Universitas Sumatera Utara
2.2.2 Maksimum Likelihood dalam Multiple Regresi
Maksimum likelihood adalah metode yang dapat digunakan untuk mengestimasi suatu parameter dalam regresi.
Jika X dikurangi dengan rata-ratanya, maka akan diperoleh variabel baru x
X X
x
i i
− =
dan selisih antara
i
X dengan X merupakan perhitungan yang sederhana karena jumlah dari nilai
i
x tersebut adalah sama dengan nol
=
∑
= 1
n i
i
x .
Dan persamaan multiple regresinya menjadi: ε
β β
β +
+ +
+ =
k k
i
x x
Y
1 1
2.7 dimana:
Y
i
x = variabel terikat ke-i
1i
,…, x
ki
pengamatan ke-i = selisih antara variabel bebas X dengan nilai rata-ratanya pada
k
β β
β ,...,
,
1
= parameter regresi
ε
= nilai kesalahan error
Teknik estimasi maksimum likelihood mempertimbangkan berbagai populasi yang mungkin dengan perpindahan garis regresi dan regresi tersebut mengelilingi
distribusi untuk semua posisi yang mungkin. Perbedaan posisi yang berhubungan dengan perbedaan nilai percobaan untuk
k
β β
β ,...,
,
1
. Dalam hal ini, pengamatan likelihood Y
1
, Y
2
,…, Y
n
akan di estimasi. Untuk estimasi maksimum likelihood
Universitas Sumatera Utara
dipilih hipotesis populasi yang maksimum dalam likelihood. Secara umum, andaikan peneliti mempunyai sampel berukuran n dan peneliti ingin mengetahui kemungkinan
sampel yang diamati. Diperlihatkan fungsi nilai kemungkinan untuk
k
β β
β ,...,
,
1
:
k n
Y Y
Y p
β β
β ,...,
, ,...,
,
1 2
1
2.8
Mengingat kemungkinan nilai pertama Y adalah:
2 1
1 1
2 1
1
2 1
+ +
+ −
−
=
σ β
β β
π σ
ki k
i
x x
Y
e Y
p
2.9
Hal di atas adalah distribusi normal sederhana dengan rata-rata
ki k
i
x x
β β
β +
+ +
1 1
dan varians
2
σ yang disubstitusi ke dalam
2
2 1
2 1
−
−
=
σ µ
π σ
x
e x
p
. Kemungkinan nilai kedua Y sama dengan 2.9, kecuali angka satu diganti dengan dua dan seterusnya untuk semua nilai Y amatan lainnya.
Untuk nilai Y bebas dengan mengalikan semua kemungkinan bersama dalam 2.8, dimana:
k n
Y Y
Y p
β β
β ,...,
, ,...,
,
1 2
1
=
+ +
+ −
−
+
+ +
− −
2 1
1 2
2 1
1 1
2 1
2 1
2 1
2 1
σ β
β β
σ β
β β
π σ
π σ
ki k
i ki
k i
x x
Y x
x Y
e e
Universitas Sumatera Utara
∏
=
+
+ +
− −
=
n i
x x
Y
ki k
i i
e
1 2
1
2 1
1
2 1
σ β
β β
π σ
2.10
Dengan
∏
= n
i 1
menyatakan hasil kali n kemungkinan bersama untuk nilai Y
i
yang penggunaannya dikenal untuk eksponensial. Hasil 2.10 dapat diperlihatkan dengan penjumlahan eksponen:
2 1
1 1
2 1
1 2
1
2 1
,..., ,
,..., ,
∑
+
+ +
− −
=
=
n i
ki k
i i
x x
Y n
k n
e Y
Y Y
p
σ β
β β
π σ
β β
β
2.11
Mengingat Y
i k
β β
β ,...,
,
1
amatan yang diberikan dipertimbangkan untuk berbagai nilai . Sehingga persamaan 2.11 dinamakan fungsi likelihood:
∑ =
=
− −
− −
−
n i
ki k
i i
x x
Y n
k
e L
1 2
1 1
2 1
1
2 1
,..., ,
σ β
β β
π σ
β β
β
2.12
dimana:
k
L β
β β
,..., ,
1
= fungsi maksimum likelihood pada parameter
k
β β
β ,...,
,
1
σ = parameter yang merupakan simpangan baku untuk distribusi
π = nilai konstan
π = 3,1416 n
= banyak data sampel e
= bilangan konstan e = 2,7183 Y
i
= variabel terikat ke-i
Universitas Sumatera Utara
i
β = parameter regresi ke-i
Dari persamaan 2.12 diperoleh ln L
k
β β
β ,...,
,
1
, yaitu:
∑
=
− −
− −
− −
− =
= Λ
n i
ki k
i i
k
x x
Y n
n L
1 2
1 1
1
2 1
ln 2
ln 2
,..., ,
ln
σ β
β β
σ π
β β
β
2.13
Dengan mendifferensialkan Λ terhadap setiap parameter
k
β β
β ,...,
,
1
dan menetapkan derivatif parsial yang dihasilkan sama dengan nol, diperoleh:
∑
=
= Χ
+ Χ
+ Χ
+ +
Υ −
− =
∂ Λ
∂
n i
i i
i i
1 3
3 2
2 1
1 2
2 2
2 2
2 2
1 β
β β
β σ
β
∑
=
= Χ
+ Χ
+ Χ
+ +
Υ −
− =
n i
i i
i i
1 3
3 2
2 1
1 2
1
β β
β β
σ
∑
=
= Χ
+ Χ
+ Χ
+ +
Υ −
=
n i
i i
i i
1 3
3 2
2 1
1
β β
β β
∑
=
= Χ
+ Χ
+ Χ
+ +
Υ −
=
n i
i i
i i
1 3
3 2
2 1
1
β β
β β
∑ ∑
∑ ∑
∑
= =
= =
=
= Χ
+ Χ
+ Χ
+ +
Υ =
n i
n i
i n
i n
i i
i n
i i
1 3
3 2
2 1
1
β β
β β
asumsikan
∑
= Χ 0
i
∑
= +
Υ =
β n
i
−
Υ =
Υ =
∑
n
i
β 2.14
3 3
2 2
1 1
= Χ
+ Χ
+ Χ
+ +
Υ =
∑ ∑
∑ ∑
= =
= n
i i
n i
i n
i i
i
n
β β
β β
Universitas Sumatera Utara
∑
Χ Χ
+ Χ
Χ +
Χ +
Χ +
Χ Υ
− −
= ∂
Λ ∂
i i
i i
i i
i i
1 3
3 1
2 2
2 1
1 1
1 2
1
2 2
2 2
2 2
1
β β
β β
σ β
{ }
∑
Χ Χ
+ Χ
Χ +
Χ +
Χ +
Χ Υ
− −
=
i i
i i
i i
i i
1 3
3 1
2 2
2 1
1 1
1 2
2 2
1
β β
β β
σ
{ }
∑ ∑
∑ ∑
∑
Χ +
Χ Χ
+ Χ
Χ +
Χ +
Χ Υ
− −
− =
2 1
1 1
3 3
1 2
2 1
1 2
1
i i
i i
i i
i i
β β
β β
σ Asumsikan
∑
= Χ
ki
∑ ∑
∑ ∑
∑
Χ +
Χ Χ
+ Χ
Χ +
Χ +
Χ Υ
− =
2 1
1 1
3 3
1 2
2 1
1 i
i i
i i
i i
i
β β
β β
2.15
∑
Χ Χ
+ Χ
+ Χ
Χ +
Χ +
Χ Υ
− −
= ∂
Λ ∂
i i
i i
i i
i i
2 3
3 2
2 2
2 1
1 2
2 2
2
2 2
2 2
2 2
1
β β
β β
σ β
{ }
∑
Χ Χ
+ Χ
Χ +
Χ +
Χ +
Χ Υ
− −
=
i i
i i
i i
i i
2 3
3 1
2 1
2 2
2 2
2 2
2 2
1
β β
β β
σ
{ }
∑ ∑
∑ ∑
∑
Χ Χ
+ Χ
Χ +
Χ +
Χ +
Χ Υ
− −
− =
i i
i i
i i
i i
2 1
1 2
3 3
2 2
2 2
2 2
1
β β
β β
σ Asumsikan
∑
= Χ
ki
∑ ∑
∑ ∑
∑
Χ +
Χ Χ
+ Χ
Χ +
Χ +
Χ Υ
− =
2 2
2 2
3 3
1 2
1 2
2 i
i i
i i
i i
i
β β
β β
2.16 .
.
Universitas Sumatera Utara
.
∑ ∑
∑ ∑
∑ ∑
Χ Χ
+ +
Χ +
+ Χ
Χ +
Χ Χ
+ Χ
+ Χ
Υ −
= ∂
Λ ∂
ji ki
k ji
j ji
i ji
i ji
ji i
j
β β
β β
β β
... ...
2 2
2 1
1
k j
, ...
, 3
, 2
, 1
=
2.17
Maka hasil yang diperoleh dari penurunan parsial di atas dapat dihitung nilai parameter
k
β β
β ˆ
, ,
ˆ ,
ˆ
1
.
Universitas Sumatera Utara
BAB 3
PEMBAHASAN
3.1 Estimasi Parameter Menggunakan Maksimum Likelihood
Andaikan suatu persoalan penentuan model multiple regresi diberikan data sebagai berikut:
Tabel 3.1 Penyajian Data
Observasi Y
persen X
meter per sekon
1
X
2
X C
molar
3
1 42
80 27
89 2
37 80
27 88
3 37
75 25
90 4
28 62
24 87
5 18
62 22
87 6
18 62
23 87
7 19
62 24
93 8
20 62
24 93
9 15
58 23
87
Universitas Sumatera Utara
10 14
58 18
80
dengan menentukan regresi yang terdiri dari
3 3
2 2
1 1
ˆ ˆ
ˆ ˆ
ˆ X
X X
Y β
β β
β +
+ +
=
. Fungsi nilai kemungkinan untuk
3 2
1
, ,
, β
β β
β
:
3 2
1 2
1
, ,
, ,...,
, β
β β
β
n
Y Y
Y p
. Untuk nilai Y bebas dengan mengalikan semua kemungkinan bersama, dimana:
... 2
1 2
1 ,
, ,
,..., ,
2 3
3 2
2 1
1 2
2 3
3 2
2 1
1 1
2 1
2 1
3 2
1 2
1
= Υ
Υ Υ
Ρ
Χ +
Χ +
Χ +
− Υ
−
Χ
+ Χ
+ Χ
+ −
Υ −
σ β
β β
β σ
β β
β β
σ σ
π σ
β β
β β
i i
i i
i i
e e
n
=
Χ +
Χ +
Χ +
− Υ
− =
2 3
3 2
2 1
1 1
2 1
1
2 1
σ β
β β
β
π σ
π
i i
i
e
n i
Dengan
∏
= n
i 1
menyatakan hasil kali n kemungkinan bersama untuk nilai Y
i
yang penggunaannya dikenal untuk eksponensial. Hasil di atas dapat diperlihatkan dengan
penjumlahan eksponen:
pY
1
, Y
2, ...,
Y
n
â
0,
â
1,
â
2,
â
3
∑
=
+ +
+ −
−
n i
i i
i i
x x
x Y
n
e
1 2
3 3
2 2
1 1
2 1
2 1
σ β
β β
β
π σ
= 3.1
Mengingat Y
i
2 1
, ,
β β
β
amatan yang diberikan dipertimbangkan untuk berbagai nilai .
Sehingga persamaan 3.1 di atas dinamakan fungsi likelihood:
Lâ
0,
â
1,
â
2,
â
3
∑
=
− −
− −
−
n i
i i
i i
x x
x Y
n
e
1 2
3 3
2 2
1 1
2 1
2 1
σ β
β β
β
π σ
= 3.2
Universitas Sumatera Utara
dimana:
3 2
1
, ,
, β
β β
β L
= fungsi maksimum likelihood pada parameter
3 2
1
, ,
, β
β β
β σ
= parameter yang merupakan simpangan baku untuk distribusi
π
= nilai konstan
π
= 3,1416 n
= banyak data sampel e
= bilangan konstan e = 2,7183 Y
i
i
β
= variabel terikat ke-i = parameter regresi ke-i
Maka ln
2 1
, ,
β β
β L
=
∑
=
+ +
+ −
−
n i
i i
i i
x x
x Y
n
e
1 2
3 3
2 2
1 1
2 1
2 1
σ β
β β
β
π σ
adalah:
2 1
3 3
2 2
1 1
2 1
2 Ln
- 1
Ln
∑
=
− −
− −
−
n i
i i
i i
n
x x
x y
σ β
β β
β π
σ
2 1
3 3
2 2
1 1
2 1
2 Ln
-
∑
=
− −
− −
−
n i
i i
i i
n
x x
x y
σ β
β β
β π
σ
2 1
3 3
2 2
1 1
2 1
2 Ln
n -
∑
=
− −
− −
−
n i
i i
i i
n
x x
x y
σ β
β β
β π
σ
Universitas Sumatera Utara
2 1
3 3
2 2
1 1
2 1
2 1
2 Ln
Ln n
-
∑
=
− −
− −
−
+
n i
i i
i i
x x
x y
σ β
β β
β π
σ
2 1
3 3
2 2
1 1
2 1
2 1
2 Ln
Ln n
-
∑
=
− −
− −
− +
n i
i i
i i
x x
x y
σ β
β β
β π
σ
2 1
3 3
2 2
1 1
2 1
2 Ln
2 Ln
n -
∑
=
− −
− −
− −
n i
i i
i i
x x
x y
n σ
β β
β β
π σ
Sehingga diperoleh:
2 1
3 3
2 2
1 1
3 2
1
2 1
ln 2
ln 2
, ,
,
∑
=
Χ −
Χ −
Χ −
− Υ
− −
− =
= Λ
n i
i i
i i
n n
LnL
σ β
β β
β σ
π β
β β
β
Setelah diperoleh nilai Λ maka perhitungan differensialnya untuk
3 2
1
, ,
, β
β β
β
dan menetapkan derivatif parsial yang dihasilkan sama dengan nol, yaitu:
2 1
3 3
2 2
1 1
3 2
1
2 1
ln 2
ln 2
, ,
,
∑
=
Χ −
Χ −
Χ −
− Υ
− −
− =
= Λ
n i
i i
i i
n n
LnL
σ β
β β
β σ
π β
β β
β
∑
=
= Χ
+ Χ
+ Χ
+ +
Υ −
− =
∂ Λ
∂
n i
i i
i i
1 3
3 2
2 1
1 2
2 2
2 2
2 2
1 β
β β
β σ
β
∑
=
= Χ
+ Χ
+ Χ
+ +
Υ −
− =
n i
i i
i i
1 3
3 2
2 1
1 2
1
β β
β β
σ
∑
=
= Χ
+ Χ
+ Χ
+ +
Υ −
=
n i
i i
i i
1 3
3 2
2 1
1
β β
β β
Universitas Sumatera Utara
∑
=
= Χ
+ Χ
+ Χ
+ +
Υ −
=
n i
i i
i i
1 3
3 2
2 1
1
β β
β β
∑ ∑
∑ ∑
∑
= =
= =
=
= Χ
+ Χ
+ Χ
+ +
Υ =
n i
n i
i n
i n
i i
i n
i i
1 3
3 2
2 1
1
β β
β β
asumsikan
∑
= Χ 0
i
∑
= +
Υ =
β n
i
−
Υ =
Υ =
∑
n
i
β
3.4
∑
Χ Χ
+ Χ
Χ +
Χ +
Χ +
Χ Υ
− −
= ∂
Λ ∂
i i
i i
i i
i i
1 3
3 1
2 2
2 1
1 1
1 2
1
2 2
2 2
2 2
1
β β
β β
σ β
{ }
∑
Χ Χ
+ Χ
Χ +
Χ +
Χ +
Χ Υ
− −
=
i i
i i
i i
i i
1 3
3 1
2 2
2 1
1 1
1 2
2 2
1
β β
β β
σ
{ }
∑ ∑
∑ ∑
∑
Χ +
Χ Χ
+ Χ
Χ +
Χ +
Χ Υ
− −
− =
2 1
1 1
3 3
1 2
2 1
1 2
1
i i
i i
i i
i i
β β
β β
σ
Asumsikan
∑
= Χ
ki
∑ ∑
∑ ∑
∑
Χ +
Χ Χ
+ Χ
Χ +
Χ +
Χ Υ
− =
2 1
1 1
3 3
1 2
2 1
1 i
i i
i i
i i
i
β β
β β
3.5
∑
Χ Χ
+ Χ
+ Χ
Χ +
Χ +
Χ Υ
− −
= ∂
Λ ∂
i i
i i
i i
i i
2 3
3 2
2 2
2 1
1 2
2 2
2
2 2
2 2
2 2
1
β β
β β
σ β
{ }
∑
Χ Χ
+ Χ
Χ +
Χ +
Χ +
Χ Υ
− −
=
i i
i i
i i
i i
2 3
3 1
2 1
2 2
2 2
2 2
2 2
1
β β
β β
σ
{ }
∑ ∑
∑ ∑
∑
Χ Χ
+ Χ
Χ +
Χ +
Χ +
Χ Υ
− −
− =
i i
i i
i i
i i
2 1
1 2
3 3
2 2
2 2
2 2
1
β β
β β
σ
Asumsikan
∑
= Χ
ki
3 3
2 2
1 1
= Χ
+ Χ
+ Χ
+ +
Υ =
∑ ∑
∑ ∑
= =
= n
i i
n i
i n
i i
i
n
β β
β β
Universitas Sumatera Utara
∑ ∑
∑ ∑
∑
Χ +
Χ Χ
+ Χ
Χ +
Χ +
Χ Υ
− =
2 2
2 2
3 3
1 2
1 2
2 i
i i
i i
i i
i
β β
β β
3.6
∑ ∑
∑ ∑
∑ ∑
Χ Χ
+ +
Χ +
+ Χ
Χ +
Χ Χ
+ Χ
+ Χ
Υ −
= ∂
Λ ∂
ji ki
k ji
j ji
i ji
i ji
ji i
j
β β
β β
β β
... ...
2 2
2 1
1
k j
, ...
, 3
, 2
, 1
= 3.7
Dari persamaan di atas diperoleh:
β
∂ Λ
∂
−
Υ =
Υ =
∑
n
i
β
3.8 = 24,8
1
β
∂ Λ
∂
∑ ∑
∑ ∑
∑
Χ +
Χ Χ
+ Χ
Χ +
Χ +
Χ Υ
− =
2 1
1 1
3 3
1 2
2 1
1 i
i i
i i
i i
i
β β
β β
3.9
680,9 �
1
+ 161,3 �
2
+ 75,9 �
3
= 770,2
2
β
∂ Λ
∂
∑ ∑
∑ ∑
∑
Χ +
Χ Χ
+ Χ
Χ +
Χ +
Χ Υ
− =
2 2
2 2
3 3
1 2
1 2
2 i
i i
i i
i i
i
β β
β β
3.10 161,3
�
1
+ 60,1 �
2
+ 57,3 �
3
= 195,4
3
β
∂ Λ
∂
∑ ∑
∑ ∑
∑
Χ +
Χ Χ
+ Χ
Χ +
Χ +
Χ Υ
− =
2 3
3 3
2 2
3 1
1 3
3 i
i i
i i
i i
i
β β
β β
3.11 75,9
�
1
+ 57,3 �
2
+ 122,9 �
3
= 95,2
Hasil tersebut dibuat dalam tabel 3.2 sebagai berikut:
Universitas Sumatera Utara
Universitas Sumatera Utara
Tabel 3.2 Maksimum Likelihood pada Multiple Regresi Y dalam X
1
, X
2,
dan X
n
3
Y
1
X
2
X
3
X
1 1
1
X X
x −
=
2 2
2
X X
x −
=
3 3
3
X X
x −
=
Y x
1
Y x
2
Y x
3 2
1
x
2 2
x
2 3
x
2 1
x x
3 2
x x
3 1
x x
1 42
80 27
89 13,9
3,3 0,9
239,1 56,8
15,5 193,2
10,9 0,8
45,9 12,5
3,0 2
37 80
27 88
13,9 3,3
-0,1 169,6
40,3 -1,2
193,2 10,9
0,0 45,9
-1,4 -0,3
3 37
75 25
90 8,9
1,3 1,9
108,6 15,9
23,2 79,2
1,7 3,6
11,6 16,9
2,5 4
28 62
24 87
-4,1 0,3
-1,1 -13,1
1,0 -3,5
16,8 0,1
1,2 -1,2
4,5 -0,3
5 18
62 22
87 -4,1
-1,7 -1,1
27,9 11,6
7,5 16,8
2,9 1,2
7,0 4,5
1,9 6
18 62
23 87
-4,1 -0,7
-1,1 27,9
4,8 7,5
16,8 0,5
1,2 2,9
4,5 0,8
7 19
62 24
93 -4,1
0,3 4,9
23,8 -1,7
-28,4 16,8
0,1 24,0
-1,2 -20,1
1,5 8
20 62
24 93
-4,1 0,3
4,9 19,7
-1,4 -23,5
16,8 0,1
24,0 -1,2
-20,1 1,5
9 15
58 23
87 -8,1
-0,7 -1,1
79,4 6,9
10,8 65,6
0,5 1,2
5,7 8,9
0,8 10
14 58
18 80
-8,1 -5,7
-8,1 87,5
61,6 87,5
65,6 32,5
65,6 46,2
65,6 46,2
Jlh 248 661 237 881
770,2 195,4
95,2 680,9
60,1 122,9
161,3 75,9
57,3
Rata 24,8
66,1 23,7
88,1
Universitas Sumatera Utara
rata
Universitas Sumatera Utara
Dengan menggunakan persamaan 3.8, 3.9, 3.10 dan 3.11 diperoleh nilai 8913
, ˆ
1
=
β
, 1616
, 1
ˆ
2
=
β
dan 3174
. ˆ
3
− =
β
Maka persamaan multiple regresinya menjadi:
3 2
1 3
2 1
3 2
1
3174 .
1616 ,
1 8913
, 6814
, 33
1 ,
88 3174
. 7
, 23
1616 ,
1 1
, 66
8913 ,
8 ,
24 3174
. 1616
, 1
8913 ,
8 ,
24 ˆ
X X
X X
X X
x x
x Y
− +
+ −
= −
− −
+ −
+ =
− +
+ =
Universitas Sumatera Utara
3.2 Menentukan Persamaan Multiple Regresi dengan Matriks