Deep Neural Network LANDASAN TEORI

14 Gambar 2.4. Fungsi Aktivasi Neuron Negnevitsky, 2005 Step function dan sign function disebut sebagai fungsi pembatasan kasar yang digunakan secara umum pada permasalahan klasifikasi dan pengenalan pola. Sigmoid function digunakan pada jaringan propagasi balik dan dapat mengubah input yang memiliki jangkauan nilai [- ∞, ∞] menjadi output dengan jangkauan nilai [0,0, 1,0]. Linear activation function digunakan pada pendekatan linear dan dapat menghasilkan output yang sama dengan input yang diterima oleh neuron. Jaringan saraf tiruan dapat digunakan untuk dua jenis konsep pembelajaran, yakni: 1. Pembelajaran supervised, yaitu pembelajaran yang dilakukan dengan menerima sekumpulan contoh yang ditandai sebagai data pelatihan dan membuat prediksi untuk seluruh titik yang tidak diketahui. Pembelajaran ini sudah terlebih dahulu mengetahui output yang diharapkan berdasarkan input yang diberikan Mohri, et al., 2012. 2. Pembelajaran unsupervised, yaitu pembelajaran yang dilakukan dengan menerima sekumpulan data pelatihan yang tidak ditandai dan membuat prediksi untuk seluruh titik yang tidak diketahui. Pembelajaran ini tidak dapat terlebih dahulu mengetahui output dari input yang diberikan sehingga memerlukan metode lain untuk mengelompokkan input yang diberikan Mohri, et al., 2012.

2.6. Deep Neural Network

Deep Neural Network merupakan sebuah jaringan saraf tiruan Neural Network yang memiliki lebih dari satu hidden layer, sehingga DNN juga dikenal sebagai multilayer perceptron . Output pada sebuah multilayer perceptron dapat ditentukan menggunakan Universitas Sumatera Utara 15 rumus fungsi aktivasi sigmoid function. Arsitektur dari sebuah multilayer perceptron dengan dua hidden layer dapat dilihat pada Gambar 2.5 Negnetvisky, 2005. Gambar 2.5. Arsitektur Multilayer Perceptron dengan Dua Hidden Layer Negnevitsky, 2005 Deep Neural Network juga menggunakan arsitektur deep deep architectures. Arsitektur deep terdiri atas beberapa tingkat operasi non-linear, seperti jaringan saraf tiruan dengan banyak hidden layer atau dalam sebuah rumusan yang menggunakan banyak sub-rumusan Bengio, 2009. Deng Yu 2014 mendefenisikan DNN adalah generasi baru dari jaringan saraf tiruan yang menggunakan konsep deep learning. Deep learning adalah sebuah kumpulan teknik pembelajaran mesin yang memanfaatkan banyak lapisan pemrosesan informasi linear untuk ekstraksi fitur dan transformasi yang supervised dan unsupervised , serta untuk analisis pola dan klasifikasi. Deep learning terbagi menjadi tiga kategori, yakni: 1. Deep networks untuk pembelajaran unsupervised atau generatif, bertujuan untuk mendapatkan korelasi atau keterkaitan antara data yang dapat diobservasi untuk analisis pola pada saat informasi tentang hasil yang seharusnya didapatkan tidak ada. 2. Deep networks untuk pembelajaran supervised, bertujuan menyediakan kemampuan untuk membedakan klasifikasi pola secara langsung, dilakukan dengan mengkarakteristik distribusi kelas untuk data. Universitas Sumatera Utara 16 3. Hybrid deep networks, memiliki tujuan sebagai pembeda dimana secara signifikan dibantu dengan hasil yang didapatkan dari deep network untuk pembelajaran unsupervised . Heaton 2015 mendefinisikan deep learning adalah sebuah pengembangan baru dalam bidang pemrograman jaringan saraf tiruan yang memberikan cara untuk melatih DNN . Jaringan saraf tiruan dengan lebih dari dua lapisan layer disebut sebagai deep. Kemampuan untuk membuat DNN telah muncul sejak 1943 dimana Pitts mengenalkan multilayer perceptron . Jaringan saraf tiruan pada awalnya belum dapat dilatih secara efektif hingga Hinton berhasil menjadi peneliti pertama yang melatih jaringan saraf tiruan yang rumit pada tahun 1984.

2.7. Backpropagation