Penggunaan Metode Backward Untuk Menentukan Persamaan Regresi Linear Berganda Pada Kasus Tingginya Jumlah Peredaran Narkoba Di Kota Medan
BAB II
LANDASAN TEORI
2.1. Uji Kecukupan Sampel
Dalam melakukan penelitian ini yang berhubungan dengan kecukupan sampel
maka langkah awal yang harus dilakukan adalah pengujian terhadap jumlah
sampel . Pengujian ini dimaksudkan untuk mengetahui apakah data yang
diperoleh dapat diterima sebagai sampel .
Hipotesis yang diuji adalah :
: Ukuran sampel telah memenuhi syarat
: Ukuran sampel belum memenuhi syarat
Rumus yang digunakan untuk menentukan jumlah sampel adalah :
[
√ ∑
Dengan :
∑
∑
]
= ukuran sampel yang dibutuhkan
N = ukuran sampel percobaan
= data aktual
t = 1, 2,3,...,n
Kriteria pengujian :
diterima jika
:
ditolak jika
:
Universitas Sumatera Utara
2.2. Model Regresi Dengan Pendekatan Matriks
Untuk mendapatkan taksiran parameter dari sampel dapat dilakukan dengan
taksiran OLS (ordinary least square), yaitu dengan cara meminimumkan nilai
sisaan (e).
Dan dalam bentuk matriksnya adalah:
[ ]
[
]
[
]
[ ]
Dimana b adalah suatu vektor kolom k-unsur dari penaksir OLS koefisien regresi
dan dimana e adalah suatu vektor kolom N x 1 dari N residual. Dengan k-variabel
panaksir OLS diperoleh dengan meminimumkan
∑
∑
∑
adalah jumlah kuadrat residual (RSS). Dalam notasi matriks, ini sama
dengan meminimumkan
karena
[
][ ]
Universitas Sumatera Utara
Dari persamaan diperoleh
Sehingga:
Untuk mendapatkan
terhadap
(
yang meminimumkan
dilakukan dengan menurunkan
sehingga:
)
Diperoleh persamaan normal:
Dengan menyelesaikan persamaan normal diperoleh:
Dalam bentuk matriks dapat dituliskan
∑
∑
∑
∑
∑
∑
∑
∑
∑
[∑
Koefisien regresi
[
]
∑
∑
[∑
∑
∑
∑
,
∑
∑
∑
∑
∑
,
, …,
∑
adalah
∑
][ ]
∑
∑
∑
∑
∑
∑
[
∑
∑
∑
∑
[∑
]
]
∑
∑
∑
[∑
]
]
Universitas Sumatera Utara
Apabila matriks
yang kuadrat dengan
baris dan
kolom, dan merupakan
matriks yang non-singular yaitu
dan
elemen
dirumuskan sebagai berikut:
, maka inverse matriks , yaitu
merupakan kofaktor dari
2.3. Pengertian Regresi Linier Sederhana dan Berganda
Regresi linier adalah regresi yang variabel bebasnya ( variabel X ) berpangkat
paling tinggi satu . Dalam regresi linier sederhana terdapat hanya satu variabel
bebas X yang dihubungkan dengan satu variabel. Sedangkan dalam regresi linier
ganda terdapat sejumlah k buah variabel bebas ( k
yang dihubungkan dengan
Y linier atau pangkat satu dalam semua variabel bebas sehingga terbentuk model :
Analisis regresi digunakan untuk mengetahui bagaimana pola variabel
dependent (kriteria) dapat diprediksikan melalui variabel independent (prediktor).
Analisi regresi linear sederhana yaitu regresi linear dengan satu variabel prediktor
(bebas).
Bentuk Persamaan Regresi Sederhana :
Keterangan:
variabel dependent/kriteria ( yang diprediksikan)
konstanta (harga Y untuk X =0)
angka arah (koefisien regresi), bila b positif(+), atah regresi naik dan
bila b negatif (-), arah regresi turun
variabel independent (prediktor)
e
= galat error
Bentuk umum persamaan regresi linear berganda :
Keterangan:
variabel dependen atau variabel terikat
Universitas Sumatera Utara
konstanta regresi
koefisien regresi
variabel independen atau variabel bebas
e
= galat error
Bentuk data yang akan diolah dari hasil pengamatan adalah sebagai berikut :
Tabel 1: Bentuk Pengolahan Data
No
Variabel Variabel Bebas
terikat
...
1
2
3
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
N
...
2.4. Prosedur regresi dengan Menggunakan Metode Backward
Metode Backward merupakan metode eliminasi langkah mundur (The
Backward Elimination). Metode backward merupakan metode yang mengeluarkan
satu per satu variabel independen yang memiliki nilai terbesar dan berhenti jika
semua nilai variabelnya kurang dari kriteria
.
Metode eliminasi langkah mundur dilakukan dengan langkah-langkah berikut :
1. Mulai dengan model terlengkap, yakni yang mengandung semua variabel
prediktor.
2. Menghapus variabel prediktor yang memeliki nilai p-value terbesar (untuk
uji signifikansi koefisien regresi
vs
dengan uji t
lebih besar dari nilai kriteria α.
Universitas Sumatera Utara
3. Ulangi proses penyuaian (fitting) model, kemudian kembali ke langkah 2.
4. Berhenti jika semua nilai p-value kurang dari kriteria α.
Nilai kriteria αsering di sebut “p- to remove” dan tidak harus selalu bernilai α =
5%. Jika asuransi dari prediksi yang menjadi ukuran kebaikan pemilihan variabel,
dapat digunakan nilai α yang lebih besar, seperti 15-20%.
2.5. Membentuk Persamaan Regresi Linear Berganda Pertama
Langkah 1 : Membentuk persamaan regresi linear berganda lengkap Variabel
Bebas
Langkah 2: membentuk koefisien korelasi ganda dan menguji keberarttian regresi
ganda
Langkah 3: Menentukan nilai
terkecil untuk yang pertama keluar dari
model regresi
Uji Hipotesa:
: Regresi antara Y dengan Xi tidak signifikan
: Regresi antara Y dengan Xi signifikan
Keputusan:
Bila
maka
di Terima
Bila
maka
di Tolak
Dengan :
Langkah 4 : Membentuk Persamaan Regresi Linier Berganda yang Kedua.
Bila pada langkah 3,
ditolak maka proses berakhir dan penduga yang
digunakan adalah persamaan regresi linier berganda lengkap. Sebaliknya jika
diterima maka langkah selanjutnya adalah membentuk persamaan regresi linier
berganda yang membuat semua variabel xi (untuk i ≠ 1). Untuk itu prosedur yang
digunakan adalah sama seperti pada langkah 1.
Langkah 5 : Pemilihan Variabel yang Kedua Keluar dari Model.
Untuk memilih variabel yang kedua keluar dari model didasarkan pada nilai
l dari variabel bebas yang termuat pada persamaan regresi linier berganda
yang kedua (pada langkah 4).
Universitas Sumatera Utara
Proses ini diulang secara berurutan sampai akhirnya nilai F parsial terkecil dari
variabel bebas akan lebih besar dari
.
2.6. Membentuk Model Penduga
Apabila proses pengeluaran variabel bebas dari persamaan regresi telah selesai,
maka dietapkan persamaan regresi yang menjadi penduga linier yang diinginkan.
2.6.1. Persamaan Penduga Pada Metode Backward
Bentuk penduga ditetapkan adalah : ̂
∑
variabel X yang tinggal di dalam persamaan dan
dimana
dalah sem ua
adalah koefisien regresi dari
.
2.6.2. Koefisien Korelasi determinasi (Indeks Determinasi).
Koefisien korelasi determinasi ditanyakan dengan
. Koefisien ini
menyatakan besar promosi atau sumbangan dari
sama terhadap variasi atau naik turunnya Y. Harga
Harga
secara bersamadiperoleh :
yang diperoleh akan sesuai dengan variasi yang dijelaskan masing-
masing variabel yg tinggal dalam regresi. Hal ini berakibat bahwa variasi yang
dijelaskan penduga hanya disebabkan oleh variabel ang berpengaruh saja (yang
bersifat nyata atau lebih). Sebagai penduga sering digunakan dalam satuan persen
dimana persentase variasi penduga tersebut adalah:
x 100%.
2.6.3. Pertimabangan Terhadap Penduga.
a. Pertimbangan Berdasarkan
.
Diterima atau tidaknya suatu penduga yang diperoleh atas besarnya
adalah
tergantung kepada yang menilainya atau yang membuat keputusan. Suatu penduga
sangat baik digunakan bila persentase variasi yang dijelaskan sangat besar
(mendekati satu).
b. Pertimbangan Berdasarkan Residu (Sisa)
Suatu regresi adalah berarti dan model regresinya cocok apabila ketiga asumsi
dipenuhi. Ketiga asumsi itu dibuktikan (ditunjukkan kebenarannya) dengan
Universitas Sumatera Utara
analisa residu dari penduga, yaitu selisih dari respon observasi terhadap hasil
keluaran oleh penduga berdasarkan predictor observasi.
2.6.4. Pembuktian Asumsi
Asumsi (i) : Rata-rata residu sama dengan nol (0).
Keberartian dari keadaan ini akan terlihat pada perhitungan seperti tabel dibawah
ini.
Asumsi (ii): Variansi (ej) = variansi (ek) = σ2.
Keadaan ini akan dibuktikan melalui uji statistika yaitu uji t, dengan terlebih
dahulu menghitung koefisien korelasi Rank Sperman (membandingkan harga
thitung dengan ttabel. Uji Spearman merupakan salah satu uji statistik non
parameteris . Digunakan apabila ingin mengetahui kesesuaian antara 2 subjek
dimana skala datanya adalah ordinal .
Karena uji kesesuaian , maka jelas sifat hubungan kedua variabel adalah
simetris , bukan resiprocal . Skala data jelas adalah nominal ( 2 subjek ) dengan
interval yang diubah menjadi peringkat .
Untuk uji ini, data yang diperlakukan dengan tabel sebagai berikut:
Tabel 2 : Koefisien Korelasi Rank Spearman dan residu
No
Penduga
Residu
Rank
Rank
Observasi
(
(e)
(Y)
(e)
)
d(
1
2
3
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Jumlah
Koefisien korelasi Rank Spearman (
∑
:
Universitas Sumatera Utara
∑
Keterangan :
= koefisien korelasi Rank Spearman
= perbedaan (selisih) dari pasangan rank ke- i
n = Jumlah Observasi atau banyaknya pasangan rank
√
kemudian di uji dengan uji t :
dan selanjutnya di cari harga
√
; dimana n – 2 adalah derajat kebebasan dan
adalah taraf
nyata hipotesa. Dengan membandingkan test terhadap tabel , bila
maka , varian
= varian
sehinggga variansi seluruh residu adalah sama
(homoscedasitisitas).
c. Asumsi (iii) : covarian
= 0,j ≠ k
Asumsi ini dibuktikan dengan plot residu (diagram pencar dari residu). Bila plot
residu menunjukkan pola tertentu yang beraturan maka asumsi dilanggar atau
covarian (ej,ek) ≠ 0. Sedangkan sebaliknya asumsi dipenuhi. Aabila asumsi ini
dipenuhi maka tidak terdapat antokorelasi antar residu.
Universitas Sumatera Utara
LANDASAN TEORI
2.1. Uji Kecukupan Sampel
Dalam melakukan penelitian ini yang berhubungan dengan kecukupan sampel
maka langkah awal yang harus dilakukan adalah pengujian terhadap jumlah
sampel . Pengujian ini dimaksudkan untuk mengetahui apakah data yang
diperoleh dapat diterima sebagai sampel .
Hipotesis yang diuji adalah :
: Ukuran sampel telah memenuhi syarat
: Ukuran sampel belum memenuhi syarat
Rumus yang digunakan untuk menentukan jumlah sampel adalah :
[
√ ∑
Dengan :
∑
∑
]
= ukuran sampel yang dibutuhkan
N = ukuran sampel percobaan
= data aktual
t = 1, 2,3,...,n
Kriteria pengujian :
diterima jika
:
ditolak jika
:
Universitas Sumatera Utara
2.2. Model Regresi Dengan Pendekatan Matriks
Untuk mendapatkan taksiran parameter dari sampel dapat dilakukan dengan
taksiran OLS (ordinary least square), yaitu dengan cara meminimumkan nilai
sisaan (e).
Dan dalam bentuk matriksnya adalah:
[ ]
[
]
[
]
[ ]
Dimana b adalah suatu vektor kolom k-unsur dari penaksir OLS koefisien regresi
dan dimana e adalah suatu vektor kolom N x 1 dari N residual. Dengan k-variabel
panaksir OLS diperoleh dengan meminimumkan
∑
∑
∑
adalah jumlah kuadrat residual (RSS). Dalam notasi matriks, ini sama
dengan meminimumkan
karena
[
][ ]
Universitas Sumatera Utara
Dari persamaan diperoleh
Sehingga:
Untuk mendapatkan
terhadap
(
yang meminimumkan
dilakukan dengan menurunkan
sehingga:
)
Diperoleh persamaan normal:
Dengan menyelesaikan persamaan normal diperoleh:
Dalam bentuk matriks dapat dituliskan
∑
∑
∑
∑
∑
∑
∑
∑
∑
[∑
Koefisien regresi
[
]
∑
∑
[∑
∑
∑
∑
,
∑
∑
∑
∑
∑
,
, …,
∑
adalah
∑
][ ]
∑
∑
∑
∑
∑
∑
[
∑
∑
∑
∑
[∑
]
]
∑
∑
∑
[∑
]
]
Universitas Sumatera Utara
Apabila matriks
yang kuadrat dengan
baris dan
kolom, dan merupakan
matriks yang non-singular yaitu
dan
elemen
dirumuskan sebagai berikut:
, maka inverse matriks , yaitu
merupakan kofaktor dari
2.3. Pengertian Regresi Linier Sederhana dan Berganda
Regresi linier adalah regresi yang variabel bebasnya ( variabel X ) berpangkat
paling tinggi satu . Dalam regresi linier sederhana terdapat hanya satu variabel
bebas X yang dihubungkan dengan satu variabel. Sedangkan dalam regresi linier
ganda terdapat sejumlah k buah variabel bebas ( k
yang dihubungkan dengan
Y linier atau pangkat satu dalam semua variabel bebas sehingga terbentuk model :
Analisis regresi digunakan untuk mengetahui bagaimana pola variabel
dependent (kriteria) dapat diprediksikan melalui variabel independent (prediktor).
Analisi regresi linear sederhana yaitu regresi linear dengan satu variabel prediktor
(bebas).
Bentuk Persamaan Regresi Sederhana :
Keterangan:
variabel dependent/kriteria ( yang diprediksikan)
konstanta (harga Y untuk X =0)
angka arah (koefisien regresi), bila b positif(+), atah regresi naik dan
bila b negatif (-), arah regresi turun
variabel independent (prediktor)
e
= galat error
Bentuk umum persamaan regresi linear berganda :
Keterangan:
variabel dependen atau variabel terikat
Universitas Sumatera Utara
konstanta regresi
koefisien regresi
variabel independen atau variabel bebas
e
= galat error
Bentuk data yang akan diolah dari hasil pengamatan adalah sebagai berikut :
Tabel 1: Bentuk Pengolahan Data
No
Variabel Variabel Bebas
terikat
...
1
2
3
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
N
...
2.4. Prosedur regresi dengan Menggunakan Metode Backward
Metode Backward merupakan metode eliminasi langkah mundur (The
Backward Elimination). Metode backward merupakan metode yang mengeluarkan
satu per satu variabel independen yang memiliki nilai terbesar dan berhenti jika
semua nilai variabelnya kurang dari kriteria
.
Metode eliminasi langkah mundur dilakukan dengan langkah-langkah berikut :
1. Mulai dengan model terlengkap, yakni yang mengandung semua variabel
prediktor.
2. Menghapus variabel prediktor yang memeliki nilai p-value terbesar (untuk
uji signifikansi koefisien regresi
vs
dengan uji t
lebih besar dari nilai kriteria α.
Universitas Sumatera Utara
3. Ulangi proses penyuaian (fitting) model, kemudian kembali ke langkah 2.
4. Berhenti jika semua nilai p-value kurang dari kriteria α.
Nilai kriteria αsering di sebut “p- to remove” dan tidak harus selalu bernilai α =
5%. Jika asuransi dari prediksi yang menjadi ukuran kebaikan pemilihan variabel,
dapat digunakan nilai α yang lebih besar, seperti 15-20%.
2.5. Membentuk Persamaan Regresi Linear Berganda Pertama
Langkah 1 : Membentuk persamaan regresi linear berganda lengkap Variabel
Bebas
Langkah 2: membentuk koefisien korelasi ganda dan menguji keberarttian regresi
ganda
Langkah 3: Menentukan nilai
terkecil untuk yang pertama keluar dari
model regresi
Uji Hipotesa:
: Regresi antara Y dengan Xi tidak signifikan
: Regresi antara Y dengan Xi signifikan
Keputusan:
Bila
maka
di Terima
Bila
maka
di Tolak
Dengan :
Langkah 4 : Membentuk Persamaan Regresi Linier Berganda yang Kedua.
Bila pada langkah 3,
ditolak maka proses berakhir dan penduga yang
digunakan adalah persamaan regresi linier berganda lengkap. Sebaliknya jika
diterima maka langkah selanjutnya adalah membentuk persamaan regresi linier
berganda yang membuat semua variabel xi (untuk i ≠ 1). Untuk itu prosedur yang
digunakan adalah sama seperti pada langkah 1.
Langkah 5 : Pemilihan Variabel yang Kedua Keluar dari Model.
Untuk memilih variabel yang kedua keluar dari model didasarkan pada nilai
l dari variabel bebas yang termuat pada persamaan regresi linier berganda
yang kedua (pada langkah 4).
Universitas Sumatera Utara
Proses ini diulang secara berurutan sampai akhirnya nilai F parsial terkecil dari
variabel bebas akan lebih besar dari
.
2.6. Membentuk Model Penduga
Apabila proses pengeluaran variabel bebas dari persamaan regresi telah selesai,
maka dietapkan persamaan regresi yang menjadi penduga linier yang diinginkan.
2.6.1. Persamaan Penduga Pada Metode Backward
Bentuk penduga ditetapkan adalah : ̂
∑
variabel X yang tinggal di dalam persamaan dan
dimana
dalah sem ua
adalah koefisien regresi dari
.
2.6.2. Koefisien Korelasi determinasi (Indeks Determinasi).
Koefisien korelasi determinasi ditanyakan dengan
. Koefisien ini
menyatakan besar promosi atau sumbangan dari
sama terhadap variasi atau naik turunnya Y. Harga
Harga
secara bersamadiperoleh :
yang diperoleh akan sesuai dengan variasi yang dijelaskan masing-
masing variabel yg tinggal dalam regresi. Hal ini berakibat bahwa variasi yang
dijelaskan penduga hanya disebabkan oleh variabel ang berpengaruh saja (yang
bersifat nyata atau lebih). Sebagai penduga sering digunakan dalam satuan persen
dimana persentase variasi penduga tersebut adalah:
x 100%.
2.6.3. Pertimabangan Terhadap Penduga.
a. Pertimbangan Berdasarkan
.
Diterima atau tidaknya suatu penduga yang diperoleh atas besarnya
adalah
tergantung kepada yang menilainya atau yang membuat keputusan. Suatu penduga
sangat baik digunakan bila persentase variasi yang dijelaskan sangat besar
(mendekati satu).
b. Pertimbangan Berdasarkan Residu (Sisa)
Suatu regresi adalah berarti dan model regresinya cocok apabila ketiga asumsi
dipenuhi. Ketiga asumsi itu dibuktikan (ditunjukkan kebenarannya) dengan
Universitas Sumatera Utara
analisa residu dari penduga, yaitu selisih dari respon observasi terhadap hasil
keluaran oleh penduga berdasarkan predictor observasi.
2.6.4. Pembuktian Asumsi
Asumsi (i) : Rata-rata residu sama dengan nol (0).
Keberartian dari keadaan ini akan terlihat pada perhitungan seperti tabel dibawah
ini.
Asumsi (ii): Variansi (ej) = variansi (ek) = σ2.
Keadaan ini akan dibuktikan melalui uji statistika yaitu uji t, dengan terlebih
dahulu menghitung koefisien korelasi Rank Sperman (membandingkan harga
thitung dengan ttabel. Uji Spearman merupakan salah satu uji statistik non
parameteris . Digunakan apabila ingin mengetahui kesesuaian antara 2 subjek
dimana skala datanya adalah ordinal .
Karena uji kesesuaian , maka jelas sifat hubungan kedua variabel adalah
simetris , bukan resiprocal . Skala data jelas adalah nominal ( 2 subjek ) dengan
interval yang diubah menjadi peringkat .
Untuk uji ini, data yang diperlakukan dengan tabel sebagai berikut:
Tabel 2 : Koefisien Korelasi Rank Spearman dan residu
No
Penduga
Residu
Rank
Rank
Observasi
(
(e)
(Y)
(e)
)
d(
1
2
3
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Jumlah
Koefisien korelasi Rank Spearman (
∑
:
Universitas Sumatera Utara
∑
Keterangan :
= koefisien korelasi Rank Spearman
= perbedaan (selisih) dari pasangan rank ke- i
n = Jumlah Observasi atau banyaknya pasangan rank
√
kemudian di uji dengan uji t :
dan selanjutnya di cari harga
√
; dimana n – 2 adalah derajat kebebasan dan
adalah taraf
nyata hipotesa. Dengan membandingkan test terhadap tabel , bila
maka , varian
= varian
sehinggga variansi seluruh residu adalah sama
(homoscedasitisitas).
c. Asumsi (iii) : covarian
= 0,j ≠ k
Asumsi ini dibuktikan dengan plot residu (diagram pencar dari residu). Bila plot
residu menunjukkan pola tertentu yang beraturan maka asumsi dilanggar atau
covarian (ej,ek) ≠ 0. Sedangkan sebaliknya asumsi dipenuhi. Aabila asumsi ini
dipenuhi maka tidak terdapat antokorelasi antar residu.
Universitas Sumatera Utara