Multiple Regresi PEMBAHASAN DAN HASIL

BAB 3 PEMBAHASAN DAN HASIL

3.1 Multiple Regresi

Untuk memperkirakanmeramalkan nilai dari variabel Y, akan lebih baik apabila ikut memperhitungkan variabel-variabel lain yang ikut mempengaruhi Y. Dengan demikian ada hubungan antara satu variabel tidak bebas dependent variable Y dengan beberapa variabel lain yang bebas independent variable X 1 , X 2 , …, X k . Hubungan antara sebuah variabel tak bebas dependent variable dengan dua buah atau lebih variabel bebas independent variable dalam bentuk regresi disebut dengan Regresi Linear Ganda. Untuk meramalkan Y, apabila semua nilai variabel bebas diketahui, maka dapat digunakan persamaan regresi linear berganda. Hubungan antara Y dan X 1 , X 2 , …, X k yang sebenarnya adalah : Y i = i ki k i i X X X ε β β β β + + + + + ... 2 2 1 1 … 3.1 Anggapan yang diambil dalam model ini ialah bahwa n X X X ,..., , 2 1 tidak mempunyai distribusi sedangkan i ε berdistribusi , 2 σ N Apabila dinyatakan dalam bentuk persamaan matriks berikut. Y = XB + ε Dengan: Y, B, ε = vektor X = matriks Universitas Sumatera Utara dimana Y =                             n i Y Y Y Y . . . . . 2 1                             = k i β β β β β . . . . . 1                             = n i ε ε ε ε ε . . . . . 2 1 X =                             . . . . 1 . . . . . . . . . . . . 1 . . . . . . . . 1 . . . 1 2 1 2 1 2 22 12 21 11 kn n n ki i i k ki X X X X X X X X X X X X Koefisien β harus diestimasi berdasarkan data hasil penelitian sampel acak. Prosedur estimasi tergantung pada asumsi mngenai variabel X dan kesalahan pengganggu ε. Beberapa asumsi yang penting adalah sebagai berikut: 1. Nilai harapan setiap kesalahan pengganggu sama dengan nol = ⇒ i E ε , untuk semua i. . . . . . . . . . . . . 2 1 =                                 =                                 n i E E E E ε ε ε ε vektor nol 2. Kesalahan pengganggu yang satu i ε tidak berkorelasi bebas terhadap kesalahan pengganggu lainnya j ε , akan tetapi memiliki variasi yang sama. 2 2 , , σ ε ε ε = ≠ = i j i E j i E untuk semua i. Apabila dinyatakan dalam bentuk matriks, maka asumsi tersebut menjadi sebagai berikut: Universitas Sumatera Utara                                 = . . . . . . 2 2 1 2 1 2 2 2 1 2 1 2 1 2 1 n n n n i i i n n T E E E E E E E E E E E E E ε ε ε ε ε ε ε ε ε ε ε ε ε ε ε ε ε ε ε ε ε ε εε     = I 2 2 2 2 2 ... ... ... ... ... ... ... ... σ σ σ σ σ =                                 T ε = transpos dari vektor kolom ε, atau dengan kata lain, T ε merupakan vektor baris ... ... ... 2 1 n i T ε ε ε ε ε = . I = matriks identitas, karena setiap kesalahan pengganggu mempunyai varians yang sama. 3. X 1i, X 2i , …, X ki merupakan bilangan real, tanpa mengandung kesalahan. Dengan perkataan lain, matriks merupakan himpunan angka-angka konstan fixed numbers. 4. Matriks X mempunyai rank k n ada k kolom dari matriks X yang bebas linear. Jumlah observasi n harus lebih banyak dari jumlah variabel, atau lebih banyak dari koefisien regresi linear yang akan diestimasi. k k X X X Y β β β β ˆ ... ˆ ˆ ˆ ˆ 2 2 1 1 + + + + = … 3.2 Apabila k k β β β β β β β ,..., , parameter penduga sebagai dihitung sudah ˆ ,..., ˆ , ˆ , ˆ 2 1 2 1 , berdasarkan data dari sampel, maka Yˆ dapat digunakan untuk meramalkan Y, setelah X 1 , X 2 , …, X k diketahui nilainya. Universitas Sumatera Utara 3.1.1 Metode Kuadrat Terkecil dengan Matriks Misalkan β ˆ sebagai penduga β merupakan vektor kolom dengan k baris sebagai berikut:                     = k β β β β ˆ . . . ˆ ˆ ˆ 2 1 β β ˆ ˆ X Y e e X Y − = ⇒ + = ⇒              X kn n n ki i i k ki Y n i e n i X X X X X X X X X X X X Y Y Y Y e e e e                                 −                                 =                                 2 1 2 1 2 22 12 21 11 2 1 2 1 1 . . . . . . . . . . . . 1 . . . . . . . . . . . . 1 ... 1 . . . . . . . . . . . .  β β β β ˆ 1 ˆ . . . . . . . ˆ ˆ                                 k ki k i i i i X X X Y e β β β β ˆ ... ˆ ˆ ˆ 2 2 1 1 − − − − − = ∑ ∑ − − − − − = 2 2 2 1 1 2 ˆ ... ˆ ˆ ˆ ki k i i i i X X X Y e β β β β … 3.3 Estimasi vektor β dengan menggunakan metode kuadrat terkecil, ialah vektor β ˆ sedemikian rupa sehingga jumlah kuadrat kesalahan pengganggu, ∑ = 2 i T e e e minimum. Caranya ialah dengan melakukan penurunan parsial ∑ 2 i e terhadap setiap komponen vektor β ˆ dan menyamakan dengan 0. Universitas Sumatera Utara 1 ˆ ... ˆ ˆ ˆ 2 ˆ 2 2 1 1 2 = − − − − − − = ∂ ∂ ∑ ∑ ∑ ki k i i i i X X X Y e β β β β β ˆ ... ˆ ˆ ˆ 2 ˆ 1 2 2 1 1 1 2 = − − − − − − = ∂ ∂ ∑ ∑ ∑ i ki k i i i i X X X X Y e β β β β β ˆ ... ˆ ˆ ˆ 2 ˆ 2 2 2 1 1 2 2 = − − − − − − = ∂ ∂ ∑ ∑ ∑ i ki k i i i i X X X X Y e β β β β β     ˆ ... ˆ ˆ ˆ 2 ˆ 2 2 1 1 2 = − − − − − − = ∂ ∂ ∑ ∑ ∑ ki ki k i i i k i X X X X Y e β β β β β Persamaan diatas, setelah disederhanakan menjadi ki k i i X X X n ∑ + + ∑ + ∑ + β β β β ˆ ... ˆ ˆ ˆ 2 2 1 1 i Y ∑ = i i ki i k i i i i Y X X X X X X X 1 1 2 1 2 2 1 1 1 ˆ ... ˆ ˆ ˆ ∑ = ∑ + + ∑ + ∑ + ∑ β β β β i i ki i k i i i i Y X X X X X X X 2 2 2 2 2 2 1 1 2 ˆ ... ˆ ˆ ˆ ∑ = ∑ + + ∑ + ∑ + ∑ β β β β      i ki ki k ki i ki i ki Y X X X X X X X ∑ = ∑ + + ∑ + ∑ + ∑ 2 2 2 1 1 ˆ ... ˆ ˆ ˆ β β β β Persamaan diatas disebut persamaan normal. Jika dinyatakan dalam bentuk matriks persamaan normal diatas akan menjadi Y X X X T T = β ˆ . Dengan demikian diperoleh Y X X X T T 1 ˆ − = β .... 3.4 3.1.2 Analisis Ragam dalam Regresi Linear Berganda Pada umumnya hubungan antara k variabel yaitu antara Y dengan X 1 , X 2 , …, X k , k variabel bebas untuk suatu sampel dengan n observasi, dinyatakan dengan: Y i = i ki k ji j i i X X X X ε β β β β β + + + + + + + ... ... 2 2 1 1 , i = 1, 2,…, n j = 1, 2,…, k Universitas Sumatera Utara Apabila variabel X dan Y diukur dari titik asal, maka dapat diringkaskan hal-hal sebagai berikut: Y = ε β + X diestimasi dengan e X + β ˆ β ˆ = Y X X X T T 1 − E ˆ β = β Var ˆ β = 1 2 − X X T σ Apabila variabel X dan Y masing-masing diukur dari rata-rata, kemudian dinyatakan dengan huruf latin kecil Y Y y X X x i i j j − = − = dan maka hubungan tersebut menjadi i ki k ji j i i i x x x x y ε β β β β + + + + + + = ˆ ... ˆ ... ˆ ˆ 2 2 1 1 Dinyatakan dalam bentuk matriks akan diperoleh hubungan berikut. ε β + + = e X Y yang dapat diestimasi dengan e X + β ˆ                     =                     =                     = k j kn jn n n ki ji i i k j k j n i x x x x x x x x x x x x x x x x X y y y y Y β β β β β                     2 1 2 1 2 1 2 2 22 12 1 1 21 11 2 1 , ,                     =                     =                     =                     = n i n i k j e e e e e         2 1 n i 2 1 2 1 2 1 , , , ˆ ˆ ˆ ˆ ˆ ε ε ε ε ε ε ε ε ε ε β β β β β Universitas Sumatera Utara Misalkan βˆ = b. Semua rumus yang berhubungan dengan variabel yang dinyatakan dalam bentuk simpangan huruf kecil, mempunyai bentuk yang sama apabila dinyatakan dalam bentuk persamaan matriks, kecuali 2 2 ... 12 . r R k y = yang bentuknya akan berubah dari 2 2 2 1 1 i T i T T Y n Y Y Y n Y X b R ∑ − ∑ − = Menjadi Y Y Y X b R T T T = 2 Sesuai dengan uraian pada regresi linear sederhana untuk hubungan antara dua variabel maka: residu disebut , pengganggu kesalahan dari berasal yang Y variasi R - Y1 Y regresi dari berasal yang Y variasi YR Y Y ariasi mengukur v untuk y 1 1 2 T 2 T 2 i 2 2 2 2 2 2 ⇒ = ⇒ = ⇒ ∑ = ∑ = ∑ = ⇒ − + = + = − = = e e Y X b Y Y e e e y Y Y R Y Y R Y Y e e Y X b Y Y R Y Y e e R Y Y Y X b T T T T i T i T T T T T T T T T T T T Jadi variasi Y berasal dari dua sumber, yaitu dari regresi linear berganda tergantung pada variabel bebas X 1 , X 2 , …, X k dan dari residu. Pemecahan variasi Y menjadi dua sumber merupakan dasar Analisis Variansi yang dapat disajikan dalam bentuk tabel Analisis Variansi ANOVA sebagai berikut: Tabel 3.1 Tabel ANOVA untuk Sumber Variasi Y Sumber Variasi Jumlah kuadrat Derajat Kebebasan Rata-rata Kuadrat F Hitung X 1 , X 2 , …, X k regresi ResiduError Y X b Y Y Y X b T T T T T − k n-k-1 k Y X b s T T 2 1 = 1 2 − − − = k n Y X b Y Y s T T T s s 2 1 Total Y Y T n-1 Universitas Sumatera Utara

3.2 Pendekatan Multiple Regresi pada Analisis Ragam Klasifikasi Dua Arah