BAB II LANDASAN TEORI
A. Variansi dan Kovariansi Variabel Acak
Pada Subbab ini akan dibahas konsep-konsep statistika yang akan digunakan untuk analisis regresi.
Definisi 2.1 Definisi Probabilitas Variabel Random Diskrit
Probabilitas Y bernilai y, PY = y didefinisikan sebagai jumlahan probabilitas dari semua titik sampel di S yang bernilai y, dapat ditulis
P Y = y sebagai py.
Definisi 2.2
Misal Y adalah variabel acak diskrit dengan fungsi probabilitas p
y. Maka nilai harapan dari Y, EY didefinisikan menjadi ∑
Teorema 2.3
Untuk setiap distribusi probabilitas diskrit: 1.
2. ∑
, dengan asumsi seluruh nilai y memiliki probabilitas tak nol.
Teorema 2.4
Misal Y adalah variabel acak diskrit dengan fungsi probabilitas py dan gY adalah fungsi bilangan real dari Y. Maka nilai harapan dari gY
adalah ∑
Bukti: Teorema ini akan dibuktikan dengan cara mengambil variabel acak
Y berhingga dengan nilai
. Karena gy mungkin bukanlah fungsi satu-satu, andaikan gY bernilai
dengan m
≤ n. Mengikuti Definisi 2.1 variabel acak gY untuk setiap
i =1,2, ... ,m dapat ditulis
∑
Maka, dengan menggunakan Definisi 2.2 persamaan dapat ditulis menjadi
∑
∑ ∑
∑ ∑
∑
Teorema 2.5
Misal Y adalah variabel acak diskrit dengan fungsi probabilitas py dan c adalah konstanta. Maka
. Bukti :
Mengikuti fungsi
karena Teorema 2.4
∑ ∑
Karena ∑
Teorema 2.3 maka . Teorema 2.6
Misal Y adalah variabel acak diskrit dengan fungsi probabilitas p
y, gY adalah fungsi dari Y, dan c adalah konstanta. Maka .
Bukti dengan menggunakan Teorema 2.4
∑
∑
Teorema 2.7
Misal Y adalah variabel acak diskrit dengan fungsi probabilitas py dan
adalah k fungsi dari Y. Maka
Bukti dengan menggunakan Teorema 2.4
∑
∑ ∑
∑
Definisi 2.8
Misal adalah fungsi variabel random diskrit ,
, memiliki fungsi probabilitas bersama maka
nilai harapan dari adalah
∑ ∑ ∑
Jika adalah variabel random kontinu dengan fungsi densitas
bersama , maka
∫ ∫ ∫
Teorema 2.9
Misal g adalah fungsi variabel acak
dan c adalah
bilangan konsta. maka
.
Bukti dengan menggunakan Definisi 2.8
∑ ∑
∑
Teorema 2.10
Misal adalah variabel acak dan
adalah fungsi dari . Maka
Bukti :
∑
∑ ∑
∑
Definisi 2.11
Jika adalah variabel random dengan rata-rata , maka
variansi dari variabel random adalah
Standar deviasi dari adalah akar kuadrat dari .
Definisi 2.12
Jika adalah variabel random dengan rata-rata
, maka covariansi dari
adalah = E
Teorema 2.13
Jika adalah variabel random dengan rata-rata
, maka
= Bukti:
= E = E
Dengan menggunakan Teorema 2.9 dan Teorema 2.10 didapat persamaan
= Karena
= dan
= maka
= =
=
Teorema 2.14
Misal dan
adalah variabel acak diskrit dengan
dan didefinisikan
∑ dan
∑ untuk setiap konstanta
dan . Maka:
a. ∑
b. ∑
∑ ∑ ,
Dimana ∑ ∑
adalah semua pasangan i,j dengan ij. c.
∑ ∑ Bukti:
Teorema terdiri atas tiga bagian, dimana a secara langsung
mengikuti Teorema 2.9 dan Teorema 2.10 . untuk membuktikan b, kita menggunakan Definisi 2.11
∑ ∑
∑ ∑
∑ ∑
Dengan menggunakan definisi variansi dan kovariansi didapat
persamaan ∑
∑ ∑
Karena =
, maka
∑ ∑ ∑
Bukti untuk c akan di tunjukkan dengan cara serupa. = E
{ }
= { ∑
∑ ∑
∑ }
= E { ∑
[∑ ]}
= E [∑
∑ ]
= ∑
∑ [
] =
∑ ∑
Dari bukti di atas dapat disimpulkan bahwa =
, ini berarti b adalah kasus khusus dari c.
B. Analisis Regresi