Definisi 2.11 Kovarian
Misalkan X dan Y adalah peubah acak diskret, dan misalkan pula
X
dan
Y
masing – masing menyatakan nilai harapan dari X dan Y. Kovarian dari X dan Y
didefinisikan sebagai
,
X Y
Cov X Y X
Y
. Casella dan Berger, 1990
Lema 2
Misalkan X dan Y adalah peubah acak diskret, dan misalkan pula c dan d adalah dua buah konstanta sebarang, maka VarcX + dY = c
2
Var X + d
2
Var Y +
2cdCovX,Y. Jika X dan Y peubah acak saling bebas, maka VarcX + dY = c
2
Var X + d
2
Var Y.
Casella dan Berger, 1990 Bukti :
2
Var cX dY
cX dY
cX dY
2
cX dY
c X
d Y
2
c X X
d Y Y
2 2
2 2
2 c
X X
d Y
Y cd X
X Y
Y
2 2
2 c Var X
d Var Y cd
X X
Y Y
2 2
2 ,
c Var X d Var Y
cdCov X Y
. Jadi Lema 2 terbukti.
2.4 Kekonvergenan Definisi 2.12 Kekonvergenan barisan bilangan nyata
Barisan
{ }
n
a
disebut mempunyai limit L dan ditulis :
lim
n n
a
= L atau
n
a
→ L jika n → ∞, apabila untuk setiap
ε 0 terdapat sebuah bilangan M sedemikian rupa sehingga jika n M maka
.
n
a L
. Jika
lim
n n
a
= L ada, maka dikatakan barisan tersebut
konvergen. Jika tidak, maka barisan tersebut divergen.
Stewart, 1999
Lema 3 Deret-p
Deret
1
1
p n
n
disebut juga deret-p konvergen jika p 1, dan divergen jika p ≤ 1.
Steawart, 1999
Definisi 2.13 Konvergen dalam peluang
Misalkan X
1
,X
2
,…X adalah peubah acak dalam ruang peluang Ω, , P.
Barisan peubah acak X
n
dikatakan konvergen dalam peluang ke X, dinotasikan
p n
X X
, jika untuk setiap
ε 0, berlaku
lim
n n
X X
.
Serfling, 1980
Definisi 2.14 Konvergen dalam rataan ke – r
Misalkan X
1
,X
2
,…X adalah peubah acak dalam ruang peluang Ω, , P.
Barisan peubah acak X
n
dikatakan konvergen dalam rataan ke-r ke peubah acak X, dengan r
≥ 1, ditulis
r n
X X
untuk
n
, jika
r n
X
untuk semua n dan
r n
X X
untuk
n
. Grimmett dan Stirzaker, 1992
Definisi 2.15 Konvergen hampir pasti
Misalkan X
1
,X
2
,…X adalah peubah acak dalam ruang peluang Ω, , P.
Barisan peubah acak X
n
dikatakan konvergen hampir pasti ke peubah acak X, ditulis
as n
X X
, untuk
n
, jika
untuk setiap
ε 0,
lim 1 .
n n
X X
Dengan kata lain konvergen hampir pasti adalah konvergen dengan peluang satu.
Grimmett dan Stirzaker, 1992
Definisi 2.16 Konvergen lengkap
Misalkan X
1
,X
2
,…X
n
adalah peubah acak dalam ruang peluang
Ω, , P.
Barisan peubah acak X
n
dikatakan konvergen lengkap ke peubah acak X, jika untuk setiap
, berlaku
1 n
n
X X
. Grimmett dan Stirzaker, 1992
Definisi 2.17 Konvergen dalam sebaran
Misalkan X
1
,X
2
,…X adalah peubah acak dalam ruang peluang Ω, , P.
Barisan peubah acak X
n
dikatakan konvergen dalam sebaran ke peubah acak X, ditulis
d n
X X
, jika PX
n
≤ x → PX ≤ x untuk
n
, untuk semua titik x dimana fungsi sebaran F
X
x adalah kontinu. Grimmett dan Stirzaker, 1992
2.5 Penduga Tak Bias dan Penduga Konsisten
Definisi 2.18 Statistik
Statistik merupakan suatu fungsi dari satu atau lebih peubah acak yang tidak tergantung pada parameter yang tidak diketahui.
Hogg et al, 2005
Definisi 2.19 Penduga
Misalkan X
1
, X
2
,…, X
n
adalah contoh acak. Suatu statistik U = UX
1
, X
2
,…, X
n
= U
X yang digunakan untuk menduga fungsi parameter g θ disebut penduga bagi
g θ . Nilai amatan UX
1
, X
2
,…, X
n
dari U dengan nilai amatan X
1
= x
1
, X
2
= x
2
, … X
n
= x
n
disebut sebagai dugaan bagi g θ.
Hogg et al, 2005
Definisi 2.20 Penduga tak – bias
U X disebut penduga tak bias bagi g
θ, bila [ ]
U X g
. Bila
[ ] U X
g b
, maka b
θ disebut bias dari penduga UX. Bila
lim [ ]
n
U X g
maka UX disebut sebagai penduga tak bias asimtotik bagi g
θ. Hogg et al, 2005
Definisi 2.21 Penduga konsisten
i Suatu statistik UX
1
, X
2
,…, X
n
yang konvergen dalam peluang ke parameter g
θ, yaitu
1 2
, ,...,
p n
U X X X
g
, untuk
n
, disebut penduga konsisten bagi g
θ. ii
Jika
1 2
, ,...,
as n
U X X X
g
untuk
n
, maka UX
1
, X
2
,…, X
n
disebut penduga konsisten kuat bagi g θ.
iii Jika
1 2
, ,...,
r n
U X X X
g
untuk
n
, maka UX
1
, X
2
,…, X
n
disebut penduga konsisten dalam rataan ke-r bagi g θ.
Grimmett dan Stirzaker, 1992
Definisi 2.22 Mean square error
Mean Square Error MSE dari penduga ˆ
n
untuk parameter θ adalah fungsi dari
θ yang didefinisikan oleh
2
ˆ
n
E
.
Casella dan Berger, 1990 Dengan kata lain MSE adalah nilai harapan kuadrat dari selisih antara penduga ˆ
n
dan parameter θ. Sehingga diperoleh
2 2
ˆ ˆ
ˆ
n n
n
E Var
E
2
ˆ ˆ
n n
Var Bias
. 2.6 Beberapa Definisi dan Lema Teknis
Definisi 2.23 O. dan o.
Simbol O. dan o. adalah cara untuk membandingkan besarnya dua fungsi ux dan vx dengan x menuju suatu limit L.
i Notasi ux = Ovx, x → L, menyatakan bahwa
u x v x
terbatas, untuk x → L.
ii Notasi ux = ovx, x → L, menyatakan bahwa
u x v x
→ 0 , untuk x → L. Serfling, 1980
Definisi 2.24 Momen kedua terbatas
Peubah acak X disebut mempunyai momen kedua terbatas jika EX
2
terbatas. Helms, 1996
Definisi 2.25 Fungsi indikator
Fungsi indikator dari suatu himpunan A, sering ditulis I
A
x, didefinisikan sebagai
1, {
} 0,
jika x A
I x A
selainnya
Casella dan Berger, 1990
Lema 4 Ketaksamaan Markov
Jika X adalah peubah acak, maka untuk suatu t 0, [
] .
X X
t t
Ghahramani, 2005
Lema 5 Ketaksamaan Chebyshev
Jika X adalah peubah acak dengan nilai harapan dan ragam terbatas σ
2
maka
2 2
X t
t
untuk setiap t
≥ 0. Ghahramani, 2005
Bukti :
Karena
2
X
, dengan ketaksamaan Markov
2 2
2 2
2 2
X X
t t
t
. Oleh karena
2 2
X t
adalah eqivalen
X t
, maka Lema 5 terbukti.
Lema 6 Ketaksamaan Cauchy-Schwarz
Jika X dan Y adalah peubah acak dengan momen kedua terbatas, maka
2 2
2
[ ]
[ ] [ ]
XY X
E Y
dan akan sama dengan jika dan hanya jika PX = 0 atau P
Y = aX = 1 untuk suatu konstanta a. Helms, 1996
Bukti
Untuk semua bilangan real a,
2
X aY
. Oleh karena itu untuk semua nilai dari a,
2 2
2
2 X
XYa a Y
.
Karena peubah acak nonnegatif, maka nilai harapannya juga nonnegatif, yaitu
2 2
2
2 X
XYa a Y
2 2
2
2 X
XY a a
Y
Dengan menuliskan dalam persamaan polinomial derajat 2, maka
2 2
2
2 a
Y XY a
X
. Misalkan
2
A Y
, 2
B XY
, dan
2
C X
. Perhatikan bahwa polinomial berderajat 2 yang memiliki paling banyak sebuah akar real, maka
dikriminannya tak positif. Sehingga
2
4 B
AC
2 2
2
4 4
XY X
Y
2 2
2
XY X
Y
. Jadi, Lema 6 terbukti.
Lema 7 Lema Borel-Contelli
i Misalkan {A
n
} adalah sebarang kejadian, jika
1
{ }
n n
P A
, maka PA
n
terjadi sebanyak tak hingga kali = 0. ii
Misalkan {A
n
} adalah sebarang kejadian yang saling bebas. Jika
1
{ }
n n
A
, maka A
n
terjadi sebanyak tak hingga kali = 1. Durret, 1996
Lema 8 Teorema Fubini
Jika f ≥ 0 atau
f d
maka
2 1
1 2
, ,
X Y XxY
Y X
f x y dy
dx fd
f x y dx
dy
.
Durret, 1996
Definisi 2.26 Terintegralkan lokal
Fungsi intensitas disebut terintegralkan lokal, jika untuk sebarang himpunan
Borel terbatas B kita peroleh .
B
B s ds
Dudley, 1989
Definisi 2.27 Titik Lebesgue
Suatu titik s disebut titik Lebesgue dari suatu fungsi , jika
1 lim
2
h h
h
u s s du
h
. Wheeden dan Zygmund, 1977
2.7 Proses Poisson Periodik Definisi 2.28 Proses stokastik
