REGRESI LINEAR BERGANDA ( MULTIPLE LINEAR REGRESSION )

  • Pada sesi sebelumnya kita hanya menggunakan satu buah X, dengan model Y = a + bX
  • Dalam banyak hal, yang mempengaruhi (X) bisa lebih dari satu. Model umum regresi linear berganda adalah Y = a + b
    • b
    • … + b

  2 X

  #

  Ilustrasi

  #

  X n

  n

  2

  1

  1 X

  Pengantar

  #

  Banyak orang yang membuat kesalahan-kesalahan yang tidak perlu ketika terlalu tegang karena itu... “BE ABLE TO WORK UNDER PRESSURE !”

  Fakultas Teknik Jurusan Teknik Industri Universitas Kristen Maranatha Bandung

  REGRESI LINEAR BERGANDA ( MULTIPLE LINEAR REGRESSION ) Elty Sarvia, ST., MT.

  Keuntungan Analisa Regresi Berganda

  • Apabila kita ingin mengetahui hubungan antara jumlah rumah yang terjual dengan jumlah pengeluaran iklan, maka analisa ini disebut Regresi Sederhana.
  • Jika kita ingin meningkatkan akurasinya, maka kita dapat menambah variabel lain, misal jumlah agen penjualan, analisa ini disebut Regresi Berganda.
  • Kita dapat menggunakan informasi lebih banyak sebagai variabel guna menduga variabel dependen, dengan demikian hasil estimasi kita menjadi lebih akurat.
  • Jadi Regresi Berganda adalah regresi yang menggunakan lebih dari 1 variabel independen guna menduga variabel dependen.

REGRESI LINEAR BERGANDA

REGRESI LINEAR BERGANDA

  • Persamaan Regresi Linear Berganda (sampel) :
    • Untuk Populasi :
    • Untuk Sampel :

  Persamaan Regresi Linear Berganda :

  2 = peubah bebas / variabel independen ke-2 X n = peubah bebas / variabel independen ke-n a = konstanta b

  X b X b a Y ˆ     

  1 X b ........

  1

  2

  2

  = kemiringan ke-n / Koefisien regresi untuk Variabel Independen ke-n n n

  2 = kemiringan ke-2 / Koefisien regresi untuk Variabel Independen ke-2 b n

  1 = kemiringan ke-1 / Koefisien regresi untuk Variabel Independen ke-1 b

  X

  Dimana : i = 1,2,,……n a,b 1 ,b 2 ,…..b n adalah pendugaan atas B ,B 1 ,B 2 dan B n

  1 = peubah bebas/ variabel independen ke-1

  X

  Y = peubah tak bebas

  #

  X b X b a Y ˆ     

  2i ni n 2 1i 1 i X b ........

  X B A Y ˆ     

  X B

  #

  2i ni n 2 1i 1 i X B ........

  • Persamaan garis tersebut dapat digambarkan dalam gambar 3 dimensi sbb :
    • b
    • b
    • b
    • + bX
    • 2 <

      • Cara penyelesaian persamaan linear diatas (memperoleh nilai a , b

  12

  4 a +

  Jawab Berdasarkan data diatas, diketahui bahwa :

  8 #

  12

  20

  5

  9

  17

  2

  7

  1

  4

  7

  Penjualan (Y) Iklan Di Media Cetak (X 1 ) Iklan di TV (X 2 )

  • Rumus Koef. Determinasi Regresi Berganda :
  • Rumus Koef. Korelasi Regresi Berganda :

  X b a Y ˆ   

  α = 0,1 2 2 1 1 X b

  b. Hitung nilai koefisien korelasi berganda dan koefisien determinasi berganda untuk soal diatas ! Jelaskan ! c. Dugalah parameter B 1 dab B 2 dengan

  a. Dugalah persamaan regresi yang berbentuk :

  12. Diketahui, bahwa penjualan rumah diipengaruhi oleh iklan di Media Cetak (dalam 1 minggu) dan iklan di TV (dalam 1 minggu) .

  Contoh Soal :

  #

  32 b 1 +

  16 a + 159 b 1 + 94 b 2 = 276 …... (3)

  16 b 2 = 56 …… (1) 32 a + 290 b 1 + 159 b 2 = 505 …... (2)

  505 4 1 1 i y x

  (3) 16 a + 159 b 1 + 94 b 2 = 276 ( x 1 ) 16 a + 128 b 1 + 64 b 2 = 224 16 a + 159 b 1 + 94 b 2 = 276 -

  (1) 4 a + 32 b 1 + 16 b 2 = 56 ( x 4)

  = 505 ( x 1 ) 32 a + 256 b 1 + 128 b 2 = 448 32 a + 290 b 1 + 159 b 2 = 505 -

  (1) 4 a + 32 b 1 + 16 b 2 = 56 ( x 8) (2) 32 a + 290 b 1 + 159 b 2

  Cara I. Substitusi

  #

  S Y = 5,715

  Jawab :

  882 4 1 2   i y

  276 4 1 2   i y x

   i y

  32 4 1 1  

  56 4 1  

   i x

  94 4 1 2 2  

  290 4 1 2 1   i x

  n = 4

   i x x

   

   i x 159 4 1 2 1

  16 4 1 2  

   i x

    2 2 2 1 1 2 y b b R y x y x

        

  ) dapat dilakukan dengan sistem persamaan linear seperti SUBSTITUSI &amp;ELIMINASI, KAIDAH CRAMER, dll.

  1

  

  2 x

  1 

   y x

  =  y

  2

  1

  = a + b

  2

  = a + b

  2

  2

  1

  REGRESI LINEAR BERGANDA ( MULTIPLE LINEAR REGRESSION ) n a + b

  #

  Nilai observasi Nilai taksiran (Ŷ) Bidang yang dibentuk dari titik-titik sampel Ŷ = a +bX 1

  Penyimpangan

  Gambar 18. Persamaan Garis Regresi Berganda

  Garis Regresi Berganda

  #

  2

  1 x x

  

  2

  dan b

  1

  REGRESI LINEAR BERGANDA ( MULTIPLE LINEAR REGRESSION )

  #

  …..(2) …..(3)

  2 dan b n adalah : …..(1)

  1 ,b

  1 x x digunakan untuk menghitung konstanta a, b

  2

  

  1 x

  

  1 x

  2

  

  2 x

  

  1 x

  2 

   y x

  2 x

2 R R 

  • Persamaan 1 dan 2 menghasilkan persamaan 4
    • 34 b
    • 1 - 31 b 2 = -57 (4)

    a. Dugalah persamaan regresi yang berbentuk :

    • Persamaan 1 dan 3 menghasilkan persamaan 5
      • 31 b
      • 1 - 30 b 2 = -52 (5)

      • Persamaan 4 dan 5 akan diperoleh nilai b
      • 2<
      • Nilai b 1 dan b 2 disubsitusikan pada persamaan 1 : 56 = 4a + 32 b
        • 16 b 56 = 4a + 32 (1,66) + 16 (0,017) 56 = 4a + 53,12 + 0,272 4a = 2,608 a = 0,652
          • 1054 b
          • 1 - 961 b 2 =
          • 1054 b
          • 1 - 1020 b 2 = -1768 - 591 b 2 =

          • 0,017 X

        • Nilai b
        • 2 disubsitusikan pada persamaa

          • 57 = -34 b 1 – 31 b
          • 2<
          • 57 = -34 b 1 – 31 (0,017)
          • 57 = -34 b 1 – 0,527
          • 56,473 = -34 b
          • 1 b 1 = 1,66

          II. Kaidah Cramer

            Determinasi A 3 : A 3 = (4*290*276) + (32*505*16) + (56*32*159) – (56*290*16) – (4*505*159)-(32*32*276) A 3 = 4

            32

            4

            56

            32

            4

            A 3 =

            #

            Nilai Konstanta : 0,652 236 152

            A 2 = (4*505*94) + (56*159*16) + (16*32*276) – (16*505*16) – (4*159*276)-(56*32*94) A 2 = 392

            32 505 159 32 505 16 276 94 16 276

            56

            4

            16

            56

            32 290 505 32 290 16 159 276 16 159

            A A a 1   

            Determinasi A 2 : A 2 =

            R 2 2 2 2 2 1 1 2   

            Maka terdapat hubungan kuat antar variabel iklan d Media Cetak dan iklan di TV dengan variabel penjualan (dependennya). Makin besar R 2 makin tepat suatu garis regresi linier digunakan sebagai suatu pendekatan. Bila sama dengan 1, maka pendekatan itu benar2 tepat (sempurna)

            Rumus Koef. Korelasi Regresi Berganda : 0,978 0,9558 R R 2   

            Nilai peubah X 2 (Iklan di TV) melalui hubungan Linear. Sisanya 4,42% dijelaskan oleh hal lain.

            Interpretasinya adalah bahwa 95,58% proporsi keragaman nilai peubah Y (volume penjualan) dapat dijelaskan oleh nilai peubah X 1 (Iklan di Media Cetak) dan

            R y x y x

                

            9558 , 882 , 017 276 * 505 * 1,66 R y b b

            1,66 236 392 A

                   

            b. Hitung nilai koefisien korelasi berganda dan koefisien determinasi berganda untuk soal diatas ! Jelaskan ! Rumus Koef. Determinasi Regresi Berganda :

            Ŷ = 0,652 + 1,66X 1 + 0,017 X 2 #

            X b a Y ˆ   

            A 4 A b 3 2    Persamaan regresi linear bergandanya : 2 2 1 1 X b

            A b 2 1    0,017 236

            4

            505 290 159 505 290 276 159 94 276 159

            16

            #

            a= 0,652, artinya apabila X 1 =X 2 = 0 nilai Ŷ=0,652 (0;0,652) dan (0;0,652) b 1 = +1,66 artinya apabila X 2 konstan, kenaikan X 1 sebesar 1 satuan akan menyebabkan kenaikan (karena +)1,66 kali b 2 = +0,017 artinya apabila X 1 sebagai variabel bebas adalah konstan, maka kenaikan X 2 sebesar 1 satuan akan menyebabkan kenaikan (karena +)0.017 kali . bn disebut koefisien regresi parsial. (- berarti penurunan)

            Ŷ = 0,652 + 1,66X

            Matriks Awal :

            4

            32

            32

            56 32 290 159 505 16 159 94 276

            Determinasi A : A = (4*290*94) + (32*159*16) + (16*32*159) – (16*290*16) – (4*159*159)-(32*32*94) A = 236

            Sehingga Persamaan Regresi Berganda adalah :

            I. Substitusi (3)

            (4) -34 b 1 - 31 b 2 = -57 ( x 31) (5) -31 b 1 - 30 b 2 = -52 ( x 34 )

            1

            b 2 = 0,017

            1

            Cara I. Substitusi (2)

            #

            Determinasi A 1 : A 1 = (56*290*94) + (32*159*276) + (16*505*159)

            II. Kaidah Cramer (2) A 1 =

            56

            32

            16

            56

            2

          • – (16*290*276) – (56*159*159)-(32*505*94) A
          • 1 = 154

              #

              A =

              4

              32

              16

              4

              32

              32 290 159 32 290 16 159 94 16 159

              #

            II. Kaidah Cramer (3)

              

            Estimasi Interval Parameter Estimasi Interval Parameter

              dan B

            • Pendugaan Parameter Koefisien regresi berganda B
            • 1 2 • Masing-masing dengan derajat bebas n – k - 1 membutuhkan hasil ukuran kesalahan duga standar bagi penduga b 1<
            • k = banyaknya parameter dalam model (variabel bebas) dan b . Kesalahan duga standar demikian dapat diartikan sebagai :
            • 2<
            • Maka interval keyakinan bagi pendugaan parameter Bi :

              s s SSb 1 b 2 2 2 2 2 bt . SBbt . S i / 2 , nk  1 bi i i / 2 , nk  1 bi

                    x 1  1  r x 1 x 2  x 2  1  r x 1 x 2 

               

            • dimana
            • 2

                yb x yb x y 21 1   2 2    

                Sn k 1   2 ss

                Standar deviasi error untuk regresi berganda r = koefisien korelasi antara X dan X . x1x2 1 2

                2 x x

                 

                1

                2  rx x 1 2

                2

                2 x x

                1 2 #

                #

                 

                c. Dugalah parameter B 1 dab B 2 dengan α = 0,1

                Maka Interval keyakinan bagi penduga B adalah: 1  = 0.1  /2 = 0.05

                2

                t

                0,05, 1 = ± 6,314

                2

                v = n-k-1 = 4-2-1 = 1

                 x x  159

                1

                2 

                   r , 927 x x 1 2

                2

                2 bt . SBbt . S x x 290

                94 * 1   / 2 , nk 1  b 1 1 1   / 2 , nk 1  b 1

                1

                2   2

                1 , 66  * * ( 6 , 314 , 978 )  B 1  1 , 66  ( 6 , 314 , 978 ) yb x yb x y 21 1   2 2  882  ( 1 , 66 505 )  ( , 017 276 ) * *

                    4 , 515  B1 7 , 835 S   2 nk

                1 4  2 

                1 S  39 , 008

                Maka Interval keyakinan bagi penduga B adalah:

                S  6 , 246 2 s 6 , 246  = 0.1  /2 = 0.05 S    , 978 b 1

                t 0,05, 1 2 2 2 v = n-k-1 = 4-2-1 = 1 = ± 6,314

                x 1  x 1  r 290 1 x 2    1  , 927 

                    b 2 t / 2 , nk 1 . S b 2 B 2 b 2 t / 2 , nk 1 . S b 2 s

                6 , 246       S    b 2 2 2 2 1 , 718    

                , 017 ( 6 , 314 1 , * 718 ) B 2 , 017 ( 6 , 314 1 , 718 ) x 2  x 1  r 1 x 2   

                94 1  , 927 

              •    10 , 830 B
              • 2 10 , 864

                  # #

                  

                Istilah Penting Istilah Penting

                • Variabel dependent : suatu variabel dimana besarnya
                • Random error : simpangan vertikal dari garis regresi tergantung pada variabel lain (peubah tak bebas).

                  populasinya, atau error yang terjadi karena sifat

                • Variabel independent :suatu variabel dimana keacakan/random dan tidak dapat dihindarkan.

                  besarnya tidak tergantung pada variabel lain (peubah

                • Sampling error : simpangan yang diambil dari bebas).

                  sampel, atau error yang timbul akibat penggunaan

                • Error : penyimpangan jarak vertikal titik-titik sampel yang kurang mewakili populasi.

                  pengamatan dengan titik pada regresi.

                • Standard error estimate: nilai ramalan penyimpangan
                • Measurement error : pengukuran penyimpangan data menurut gars regresi, atau kesalahan yang timbul.

                  yang ditimbulkan karena melakukan kesalahan dalam pengukuran (baik prosedur maupun alat)

                  # # Istilah Penting Regresi Non Linear

                • Koefisien Korelasi (r): koefisien yang mengukur kuat 1.

                  Parabola Kuadrat Ŷ = a+bX+cX tidaknya hubungan antara variabel X dan Y.

                  2

                  3 2. +dx Parabola Kubik Ŷ = a+bX+cX

                • Jika r=0 menunjukkan bahwa tidak ada hubungan

                  X linear antara variabel-variabel, namun mungkin 3.

                  Eksponen Ŷ = ab terdapat hubungan yang tidak linear. b 4.

                  ) : proporsi keragaman total

                • Koefisien Determinasi (r nilai peubah Y yang dapat dijelaskan oleh nilai 5.

                2 Geometrik Ŷ = aX

                  Hiperbola Ŷ = 1/(a+bX) peubah X melalui hubungan linier. 6. dll

                • Koefisien Korelasi Parsial : Koefisien korelasi antara dua variabel dalam regresi berganda yang bebas dari pengaruh variabel lain (variabel lain konstan).

                  # #

                  Do You Know ? * Soal Responsi:

                • Jumlah sel otak manusia : 200 5. Terdapat 10 rumah tangga yang merupakan sampel acak dari suatu penelitian.

                  Antara lain ditanyakan tentang banyaknya konsumsi atas komoditi tertentu

                  milyar

                  (dalam satuan), harga komoditi (dalam satuan), dan pendapatan (dalam • Otak dapat mengingat 100 satuan).

                  milyar bit informasi (= 500

                  Diketahui, bahwa permintaan terhadap komoditi tersebut untuk keperluan konsumsi (Y) akan dipengaruhi oleh harga ( X ) dan pendapatan ( X ). Hasil 1 2

                  ensiklopedia)

                  penelitian sbb :

                • Kecepatan berpikir &gt; 300

                  Harga ( X )

                  2

                  3

                  5

                  4

                  6

                  2

                  3

                  4

                  5

                  6

                  mil/jam &gt; kereta tercepat 1 Pendapatan ( X ) 2

                  3

                  4

                  6

                  5

                  7

                  6

                  4

                  5

                  4

                  3

                • Rata-rata jumlah pikiran

                  Keperluan konsumsi (Y)

                  5

                  8

                  8

                  9

                  9

                  13

                  6

                  9

                  4

                  3

                  manusia dalam 24 jam adalah 4000 a. Hitunglah a,b , dan b X +b

                  X

                  1 2 dari persamaan regresi Ŷ=a+b

                  1

                  1

                  2

                  2

                  b. Hitung nilai koefisien korelasi dan koefisien determinasi untuk

                • * Hasil penelitian Prof. Isaac Asimov dalam Kemampuan otak kita

                  soal diatas ! Jelaskan ! buku The Brain

                  c. Dugalah Parameter B dan B dengan luar biasa!

                  1 2 α=0,05

                  # #