bernilai positif. Padahal jika ruas kanan tersebut ditulis dalam bentuk matriks diperoleh
Sedangkan
merupakan matriks Hessian dari . Jadi adalah matriks definit positif,
sehingga meminimumkan ketika matriks Hessian dari yang dievaluasi
pada definit positif.
■
B. Variabel Acak dan Proses Stokastik
Sub-bab ini akan membahas mengenai variabel acak dan proses stokastik. Namun sebelumnya akan dibahas terlebih dahulu beberapa teori dasar
peluang. Peluang kejadian didefinisikan dengan
dengan merupakan banyaknya anggota ruang sampel pada kejadian ,
dan merupakan banyaknya semua anggota ruang sampel, dengan
. Misalnya dalam pelemparan dadu,
, maka .
Peluang kejadian munculnya mata dadu 4 pada permukaan dadu adalah . Sedangkan dalam pelemparan 2 dadu berbeda secara bersamaan,
terdapat 36 anggota ruang sampel , yaitu , dan peluang kejadian
munculnya mata dadu 2 dan 3 dalam sekali pelemparan adalah , sebab
, dan .
Peluang suatu kejadian juga bisa berkaitan dengan peluang kejadian yang lainnya. Peluang terjadinya kejadian
setelah terjadi disebut peluang
bersyarat. Secara matematis, peluang bersyarat didefinisikan sebagai berikut.
Definisi 2.8
Peluang terjadinya kejadian terjadi setelah kejadian adalah
dengan adalah peluang kejadian dan keduanya terjadi.
Dua kejadian dikatakan saling bebas jika terjadinya suatu kejadian tidak mempengaruhi kejadian lainnya. Secara matematis, terdapat beberapa cara
untuk menyatakan kejadian dan saling bebas, yaitu
Variabel acak didefinisikan sebagai suatu pemetaan fungsional dari himpunan hasil percobaan ke himpunan bilangan real. Sebagai contoh, hasil
pelemparan dadu dapat dilihat sebagai variabel acak jika munculnya mata dadu 1 pada permukaan dadu dipetakan ke bilangan satu, mata dadu 2
dipetakan ke bilangan dua, dan seterusnya. PLAGIAT MERUPAKAN TINDAKAN TIDAK TERPUJI
Sebuah variabel acak bisa kontinu atau diskret. pelemparan dadu merupakan variabel acak diskret, sebab hasil realisasinya merupakan
himpunan nilai-nilai yang diskret. Pengukuran temperatur merupakan variabel acak kontinu karena hasil realisasinya merupakan himpunan nilai-
nilai yang kontinu. Baik variabel acak diskret maupun kontinu, keduanya memiliki fungsi densitas peluang dan fungsi distribusi kumulatif. Fungsi-
fungsi tersebut didefinisikan sebagai berikut.
Definisi 2.9
merupakan fungsi densitas peluang dari variabel acak diskret jika untuk setiap berlaku
Definisi 2.10
merupakan fungsi densitas peluang dari variabel acak kontinu jika berlaku
untuk semua PLAGIAT MERUPAKAN TINDAKAN TIDAK TERPUJI
Definisi 2.11
Fungsi distribusi kumulatif dari variabel acak diskret dengan fungsi densitas peluang
adalah , dimana
Definisi 2.12
Fungsi distribusi kumulatif dari variabel acak kontinu dengan fungsi densitas peluang
adalah , dimana
Masing-masing variabel acak mempunyai karakteristik, seperti rata-rata atau nilai harapan dan variansi. Definisi rata-rata atau nilai harapan dari
variabel acak didefinisikan sebagai berikut.
Definisi 2.13
Misalkan variabel acak dengan fungsi densitas peluang . Rata-
rata atau nilai harapan dari adalah PLAGIAT MERUPAKAN TINDAKAN TIDAK TERPUJI
Variansi dari variabel acak menunjukkan seberapa besar variabel acak akan bervariasi dari rata-ratanya. Dalam kasus-kasus tertentu, misalnya jika
variabel acak hanya memiliki satu nilai misalnya jika pada saat melempar dadu selalu muncul mata dadu 4, maka disebut bahwa variansi dari sama
dengan 0. Kasus lainnya adalah jika nilai dari berada di antara dengan
peluang yang sama, maka disebut bahwa variansi dari sama dengan .
Variansi dari variabel acak didefinisikan secara formal sebagai berikut.
Definisi 2.14
Misalkan variabel acak dengan fungsi densitas peluang dan rata-
rata . Variansi dari adalah
Standar deviasi dari variabel acak dinotasikan dengan , merupakan akar kuadrat dari variansi. Perhatikan bahwa variansi bisa ditulis
Notasi digunakan untuk menyatakan bahwa
merupakan variabel acak dengan rata-rata dan variansi
. PLAGIAT MERUPAKAN TINDAKAN TIDAK TERPUJI
Sebuah variabel acak kontinu disebut Gaussian atau normal jika fungsi densitas peluangnya yaitu
Selanjutnya misalkan terdapat dua variabel acak yaitu dan . Sama halnya dengan kejadian saling bebas, Variabel acak dan dikatakan saling
bebas jika memenuhi
Akibatnya,
Kovariansi dari variabel acak skalar dan adalah
Proses stokastik merupakan variabel random yang berubah-ubah
menurut waktu, sehingga fungsi distribusi dan fungsi densitasnya merupakan fungsi terhadap waktu. Fungsi distribusi kumulatif dari
adalah
Rata-rata dan kovariansi dari juga merupakan fungsi dari waktu,
yaitu PLAGIAT MERUPAKAN TINDAKAN TIDAK TERPUJI
Perhatikan bahwa pada waktu
dan merupakan dua variabel
acak yang berbeda, yaitu dan
. Jika kedua variabel acak dan
saling bebas, untuk semua , maka
disebut derau putih white noise. Jika tidak, maka
disebut derau berwarna.
C. Penduga Kuadrat Terkecil
