Catatan Kuliah MA3081 STATISTIKA MATEMAT

Catatan Kuliah
MA3081 STATISTIKA MATEMATIKA
“Statistika Mengalahkan Matematika”

disusun oleh

Khreshna I.A. Syuhada, MSc. PhD.

Kelompok Keilmuan STATISTIKA - FMIPA
Institut Teknologi Bandung
2011

Daftar Isi
1 Peubah Acak dan Distribusi Kontinu
1.1 Fungsi distribusi . . . . . . . . . . .
1.2 Unsur Peluang . . . . . . . . . . . .
1.3 Ekspektasi . . . . . . . . . . . . . . .
1.4 Distribusi Bivariat . . . . . . . . . .
1.5 Distribusi Bersyarat . . . . . . . . .
1.6 Fungsi Pembangkit Momen . . . . .


.
.
.
.
.
.

1
1
4
7
9
11
14

.
.
.
.
.

.
.

1
1
1
5
6
6
7
7

3 Penaksiran dan Selang Kepercayaan
3.1 “Sifat-sifat” (Kesalahan) penaksiran . . . . . . . . . . . . . . . .
3.2 Konsistensi . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1
1
2


.
.
.
.
.
.

.
.
.
.
.
.

.
.
.
.
.
.


.
.
.
.
.
.

2 Distribusi Sampel, Likelihood dan Penaksir
2.1 Sampel Acak . . . . . . . . . . . . . . . . .
2.2 Likelihood . . . . . . . . . . . . . . . . . . .
2.3 Statistic Cukup . . . . . . . . . . . . . . . .
2.4 Distribusi Sampel . . . . . . . . . . . . . . .
2.5 Statistik Terurut . . . . . . . . . . . . . . .
2.6 Momen dari Mean dan Proporsi Sampel . .
2.7 Teorema Limit Pusat . . . . . . . . . . . . .

i

.

.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.

.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.


.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.

.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.

.
.

.
.
.
.
.
.
.
.
.
.
.
.
.

.
.
.

.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.

.
.
.
.

.
.
.
.
.
.
.
.
.
.
.
.
.

BAB 1
Peubah Acak dan Distribusi
Kontinu
1.1

Fungsi distribusi

Definisi:
Misalkan X peubah acak. Fungsi distribusi (kumulatif) dari X adalah
FX (x) = P (X ≤ x)
Contoh:
1. Misalkan X ∼ Bin(3, 0.5), maka fungsi distribusi F (x) adalah fungsi
tangga berikut


0,





1/8,
F (x) = 1/2,


7/8,



1,

x ∈ (−∞, 0);
x ∈ [0, 1);
x ∈ [1, 2);
x ∈ [2, 3);
x ∈ [3, ∞).

2. Misalkan X peubah acak dengan ‘support’ S = [a, b], b > 0. Misalkan
peluang X akan berada di selang S proporsional terhadap panjang selang. Dengan kata lain,
P (x1 ≤ X ≤ x2 ) = λ (x2 − x1 ),

1

untuk a ≤ x1 ≤ x2 ≤ b. Untuk menentukan λ, misalkan x1 = a dan
x2 = b. Maka,
P (a ≤ X ≤ b) = 1 = λ (b − a) ⇒ λ = 1/(b − a)
Fungsi distribusinya:

F (x) = P (X ≤ x) = P (a ≤ X ≤ x) =



0,

x−a
,
 b−a



1,

x < a;
x ∈ [a, b];
x > b.

Peubah acak X dikatakan berdistribusi Uniform, X ∼ U (a, b).
Sifat-sifat fungsi distribusi:
• F (−∞) = 0 dan F (∞) = 1
• F merupakan fungsi tidak turun; F (a) ≤ F (b) untuk a ≤ b
• F adalah fungsi kontinu kanan; limϵ→0+ F (x + ϵ) = F (x)
Misalkan X peubah acak dengan fungsi distribusi F (x).
• Jika b ≥ a, maka P (a < X ≤ b) = F (b) − F (a)
• Untuk setiap x, P (X = x) = limϵ→0+ P (x − ϵ < X ≤) = F (x) − F (x−)
(Perhatikan notasi F (x−) dan kasus apabila fungsi distribusi kontinu
kiri)
Definisi:
Distribusi dari peubah acak X dikatakan KONTINU jika fungsi distribusi disetiap x kontinu dan fungsi distribusi tersebut dapat diturunkan.
Misalkan X peubah acak kontinu dengan fungsi distribusi FX (x).
• Misalkan g(X) fungsi naik satu-satu kontinu. Untuk y yang berada di
daerah hasil dari g, fungsi invers x = g −1 (y) ada. Misalkan Y = g(X).
Fungsi distribusi dari Y adalah
P (Y ≤ y) = P (g(X) ≤ y) = P (X ≤ g −1 (y)) = FX (g −1 (y))
• Misalkan g(X) fungsi turun satu-satu kontinu. Untuk y yang berada di
daerah hasil dari g, fungsi invers x = g −1 (y) ada. Misalkan Y = g(X).
Fungsi distribusi dari Y adalah
P (Y ≤ y) = P (g(X) ≤ y) = P (X > g −1 (y)) = 1 − FX (g −1 (y))
MA3081 Stat.Mat.

2

K. Syuhada, PhD.

• Misalkan X ∼ U (0, 1) dan Y = g(X) = hX + k, h < 0. Maka
X = g −1 (Y ) = (Y − k)/h
FX (x) =
FY (y) =
Y ∼ U (h + k, k)
Latihan:
1. Misalkan X peubah acak kontinu yang memiliki fungsi distribusi FX (x)
yang naik murni. Misalkan Y = FX (X). Tentukan distribusi dari Y
2. Misalkan U peubah acak berdistribusi U (0, 1). Misalkan FX (x) fungsi
distribusi yang naik murni dari X. Tentukan fungsi distribusi dari peubah
acak FX−1 (U )
3. Misalkan U1 , U2 , . . . , Un sampel acak dari U (0, 1). Bangkitkan sampel
acak dari FX (x) (ambil contoh misalnya untuk FX (x) = 1 − e−λ x , x > 0)
Misalkan X peubah acak kontinu dengan fungsi distribusi FX (x). Misalkan
Y = g(X) fungsi kontinu tidak monoton. Kita ketahui bahwa pada fungsi
yang monoton,
FY (y) = P (Y ≤ y) = P (g(X) ≤ y)
dimana dalam hal ini setiap solusi inverse x = g −1 (y) digunakan untuk menentukan FY (y) dengan menggunakan FX (g −1 (y)). Untuk X ∼ U (−1, 2) dan
g(X) = Y = X 2 , kita dapatkan fungsi distribusi dari Y :
FY (y) =

MA3081 Stat.Mat.

3

K. Syuhada, PhD.

1.2

Unsur Peluang

Misalkan X peubah acak kontinu, △x bilangan positif kecil. Definisikan
h(a, b) =def P (a ≤ X ≤ a + b) = FX (a + b) − FX (a)
Untuk h(x, △x) = P (x ≤ X ≤ x + △x), maka deret Taylor-nya disekitar
△x = 0 adalah
h(x, △x) = F (x + △x) − F (x)

d
h(x, △x) △x=0 △x + o(△x)
= h(x, 0) +
d△x
=
=
dimana
lim

△x→0

o(△x)
=0
△x

Fungsi
]
d
F (x) △x
dF (x) =
dx
[

disebut DIFERENSIAL. Dalam statistika, diferensial dari fungsi distribusi
adalah UNSUR PELUANG (yang merupakan pendekatan terhadap h(x, △x)).
d
Unsur peluang adalah fungsi linier dari dx
F (x).
Contoh:
Misalkan F (x) = 1 − e−3x untuk x ≥ 0. Apakah F (x) suatu fungsi distribusi?
Hitung unsur peluang di x = 2. Cari pendekatan untuk P (2 ≤ X ≤ 2.01).
Densitas rata-rata pada selang (x, x + △x) didefinisikan:
Density rata-rata =def

P (x ≤ X ≤ x + △x)
△x

Sedangkan fungsi densitas peluang atau fungsi peluang (f.p) di x adalah limit

MA3081 Stat.Mat.

4

K. Syuhada, PhD.

densitas rata-rata saat △x → 0:
f.p = f (x) =def lim

△x→0

=
=
=

P (x ≤ X ≤ x + △x)
△x

d
F (x)
dx

Catatan: Unsur peluang dituliskan sebagai dF (x) = f (x)△x.
Sifat-sifat fungsi peluang:
• f (x) ≥ 0 untuk semua x
∫∞
• −∞ f (x) = 1
Hubungan antara fungsi peluang dan fungsi distribusi:
d
F (x)
dx
∫ x
F (x) =
f (u)du
f (x) =

−∞

P (a < X < b) = ... = ... = ... = F (b) − F (a) =



b

f (x)dx
a

Latihan:
1. Misalkan λ bilangan riil positif. Jika F (x) = 1 − e−λx , maka f (x) =
2. Jika X ∼ U (a, b) maka F (x) = dan f (x) =
3. *Misalkan f (x) = c/(1 + x2∫) untuk −∞ < x < ∞ dan c konstanta.

Fungsi f (x) tak negatif dan −∞ (1 + x2 )−1 dx = π. Berapa nilai c agar
f (x) menjadi fungsi peluag? Tentukan fungsi distribusinya.
4. *Pandang distribusi waktu tunggu. Misalkan T adalah waktu kedatangan kejadian ke-r dalam Proses Poisson dengan laju λ. Tentukan fungsi
peluang dari T

MA3081 Stat.Mat.

5

K. Syuhada, PhD.

Misalkan X peubah acak kontinu dengan fungsi peluang f (x) dan Y = g(X)
fungsi yang terdiferensial bernilai tunggal. Maka fungsi peluang dari Y :


d −1
−1
fY (y) = fX (g (y)) g (y)
dy

untuk ‘support’ Y = g(X). Komponen
J(y) =

d −1
g (y)
dy

adalah transformasi Jacobian.
BUKTI:
Misalkan g(x) memiliki lebih dari satu fungsi invers maka unsur peluang yang
terpisah harus dihitung untuk setiap fungsi invers. Contoh, misalkan X ∼
U (−1, 2) dan Y = g(X) = X 2 . Maka untuk y ∈ [0, 1], terdapat 2 fungsi invers
yaitu ?, dan satu fungsi invers untuk y ∈ (1, 4] yaitu ?. Fungsi peluang dari Y
adalah:
f (y) =

MA3081 Stat.Mat.

6

K. Syuhada, PhD.

1.3

Ekspektasi

Misalkan X peubah acak dengan fungsi peluang f (x). Nilai harapan dari X,
jika ada, adalah
∫ ∞
E(X) = µX =
f (x)dx
−∞

Catatan: nilai ekspektasi dikatakan ada jika nilai integral adalah hingga.
Misalkan X rv dengan pdf f (x). Maka nilai harapan dari g(X), jika ada,
adalah
∫ ∞
E[g(X)] =
g(x)f (x)dx
−∞

.

Operator integral bersifat linier. Jika g1 (X) dan g2 (X) fungsi-fungsi yang
memiliki ekspektasi dan a, b, c konstanta, maka
E[ag1 (X) + bg2 (X) + c] = aE[g1 (X)] + bE[g2 (X)] + c
Contoh/Latihan:
1. Jika distribusi X simetrik di sekitar c dan nilai harapanny ada maka
E(X) = c.
Bukti:
E(X − c) =
=





∫−∞
c

−∞



(x − c)f (x) dx
(x − c)f (x)dx +





c



(x − c)f (x)dx


=−
uf (c − u)du +
uf (c + u)du
0
0
∫ ∞
=
u(f (c + u) − f (c − u)) du = 0
0

2. Misalkan X ∼ U (a, b). Tunjukkan bahwa distribusi tersebut simetrik
disekitar (a + b)/2.

MA3081 Stat.Mat.

7

K. Syuhada, PhD.

Bukti:
(

)
(
)
a+b
a+b
1
f
−δ =f
+δ =
2
2
b−a
[
]
untuk δ ∈ − b−a
, b−a
2
2

3. Misalkan X berdistribusi Cauchy dengan fungsi peluang
f (x) =

1
[

σπ 1 +

(x−µ)2
σ2

],

dengan µ, σ konstanta yang memenuhi |µ| < ∞ dan σ ∈ (0, σ). Tunjukkan bahwa fungsi peluang simetrik di sekitar µ namun ekspektasinya
bukanlah µ.
4. Misalkan X ∼ Exp(λ). Nilai harapan dari X adalah...

MA3081 Stat.Mat.

8

K. Syuhada, PhD.

1.4

Distribusi Bivariat

Suatu fungsi fX,Y (x, y) dikatakan fungsi peluang bivariat jika
• fX,Y (x, y) ≥ 0, untuk semua x, y
∫∞ ∫∞
• −∞ −∞ fX,Y (x, y) dxdy = 1
Jika fX,Y (x, y) fungsi peluang bivariat maka
∫ x ∫
FX,Y (x, y) = P (X ≤ x, Y ≤ y) =
−∞

y

fX,Y (u, v) dvdu
−∞

Sifat-sifat fungsi distribusi bivariat:
1. FX,Y (x, ∞) = FX (x)
2. FX,Y (∞, y) = FY (y)
3. FX,Y (∞, ∞) = 1
4. FX,Y (−∞, y) = FX,Y (x, −∞) = FX,Y (−∞, −∞) = 0
5. fX,Y (x, y) =

∂2
∂x∂y

FX,Y (x, y)

fX,Y (x, y)△x△y adalah unsur peluang bersama,
P (x ≤ X ≤ x + △x, y ≤ Y ≤ y + △y) = fX,Y (x, y)△x△y + o(△x△y)
Contoh/Latihan:
1. Jika (X, Y ) ∼ U (a, b, c, d) maka
fX,Y (x, y) =

1
, x ∈ (a, b), y ∈ (c, d)
(b − a)(d − c)

2. Untuk soal no 1 di atas, misalkan a = c = 0, b = 4, d = 6 maka
P (2.5 ≤ X ≤ 3.5, 1 ≤ Y ≤ 4) = 3/24
P (X 2 + Y 2 > 16) = 1 − P (X 2 + Y 2 ≤ 16) = 1 − π/6

MA3081 Stat.Mat.

9

K. Syuhada, PhD.

3. Jika fX,Y (x, y) = (6/5) (x+y 2 ) untuk x ∈ (0, 1) dan y ∈ (0, 1). Tentukan
P (X + Y < 1).
∫ 1 ∫ 1−y
P (X + y < 1) = P (X < 1 − Y ) =
fX,Y (x, y) dx dy
0

0

= ···
= 3/10

Untuk menentukan fungsi peluang marginal, integralkan “peubah yang tidak
diinginkan”:
∫ ∞
fX (x) =
fX,Y (x, y) dy
−∞

fY (y) =





fX,Y (x, y) dx
−∞

fX,Y (x, y) =




−∞





fW,X,Y,Z (w, x, y, z) dwdz
−∞

Pada fungsi peluang fX,Y (x, y) = 6/5(x + y 2 ) diperoleh
fX (x) =

6x + 2
, x ∈ (0, 1)
5

6 y2 + 3
, y ∈ (0, 1)
5
dan nilai harapan
∫ ∞∫
E(g(X, Y )) = E(X) =
fY (y) =

−∞

MA3081 Stat.Mat.


−∞

g(x, y) fX,Y (x, y) dxdy = · · · = 3/5

10

K. Syuhada, PhD.

1.5

Distribusi Bersyarat

Misalkan fX,Y (x, y) adalah fungsi peluang bersama, maka fungsi peluang Y ,
diberikan X = x, adalah
fY |X (y|x) =def

fX,Y (x, y)
,
fX (x)

asalkan fX (x) > 0.
Contoh: Misalkan X dan Y memiliki distribusi bersama
fX,Y (x, y) = 8xy, 0 < x < y < 1,
maka
fX (x) = 4 x − 4 x3 , 0 < x < 1
E(X r ) =

8
(r + 2)(r + 4)

fY (y) = 4 y 3 , 0 < y < 1
4
r+4
2x
fX|Y (x|y) = 2 , 0 < x < y
y
2y
fY |X (y|x) =
,x