Penerapan Metode Rule-Based Dengan Unsupervised Learning Untuk Pelabelan Dokumen Berbahasa Indonesia
PENERAPAN METODE RULE-BASED DENGAN UNSUPERVISED
LEARNING UNTUK PELABELAN DOKUMEN BERBAHASA
INDONESIA
Oleh:
M Karibun H S
G64101053
DEPARTEMEN ILMU KOMPUTER
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM
INSTITUT PERTANIAN BOGOR
2005
ABSTRAK
M KARIBUN H S. Penerapan Metode Rule-based dengan Unsupervised Learning untuk Pelabelan
Dokumen Berbahasa Indonesia. Dibimbing oleh YENI HERDIYENI dan PANJI WASMANA.
Penelitian ini menerapkan metode Rule-based dengan Unsupervised Learning untuk pelabelan
dokumen teks berbahasa Indonesia. Metode Rule-based menggunakan pola kata untuk menentukan label
dari kata yang tidak diketahui. Pola diperoleh melalui proses pembelajaran otomatis dan diurutkan
berdasarkan frekuensi kemunculan. Pelabelan kata yang ambigu atau tidak diketahui labelnya dilakukan
dengan cara melihat pola kata sekitar dan mengambil pola kata dengan frekuensi kemunculan terbesar.
Penambahan metode pengujian jenis imbuhan pada sistem diharapkan dapat meningkatkan pengenalan
label pada dokumen.
Penelitian menggunakan 102 dokumen teks yang terdiri dari 305.989 token untuk proses pelatihan
dan menghasilkan 7.706 rule. Basis data rule yang diperoleh dari proses pembelajaran dan basis data
perubahan jenis kata berdasarkan imbuhan digunakan untuk proses pengujian sistem. Pengujian
menggunakan 52 dokumen teks yang terdiri dari 131.719 token. Pengujian menghasilkan 97,82 % token
yang berhasil dikenali . Pengujian manual terhadap 3 dokumen yang terdiri dari 431 token menghasilkan
tingkat kebenaran 85,85%.
Kata Kunci: Part of Speech Tagging, Natural Language, Information Retrieval, Algoritma Eric Brill, dan
Computational Linguistic.
PENERAPAN METODE UNSUPERVISED LEARNING RULE-BASED
PART OF SPEECH TAGGING UNTUK PELABELAN PADA
DOKUMEN BERBAHASA INDONESIA
M Karibun H S
Skripsi
sebagai salah satu syarat untuk memperoleh gelar
Sarjana Komputer pada
Departemen Ilmu Komputer
DEPARTEMEN ILMU KOMPUTER
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM
INSTITUT PERTANIAN BOG OR
2005
: Penerapan Metode Rule-based dengan Unsupervised Learning untuk Pelabelan Dokumen
Judul
Berbahasa Indonesia.
Nama
: M Karibun H S
NRP
: G64101053
Menyetujui,
Pembimbing I
Pembimbing II
Yeni Herdiyeni, S.Si., M.Kom
Panji Wasmana, S.Kom., M.Si
NIP. 132 282 665
NIP. 132 311 917
Mengetahui,
Dekan Fakultas Matematika dan Ilmu Pengetahuan Alam
Dr. Ir. Yonny Koesmaryono, M.Si
NIP. 131 473 999
Tanggal Lulus:…………..
RIWAYAT HIDUP
Penulis dilahirkan di RSCM, Jakarta pada tanggal 17 November 1981 sebagai anak pertama dari dua
bersaudara, anak dari pasangan Bapak Hamdan Eddy Yassin dan Ibu Pipiet Senja. Penulis menikah pada
tanggal 15 Februari 2000 dengan Seli Siti Sholihat.
Penulis menyelesaikan sekolah menengah umum di SMUN 3 Depok, lulus pada tahun 1999. Setelah
lulus melanjutkan pendidikannya di Jurusan Biologi Fakultas Matematika dan Ilmu Pengetahuan Alam
Universitas Indonesia selama dua tahun (1999-2001). Pada tahun 2001, penulis mengikuti Seleksi
Penerimaan Mahasiswa Baru (SPMB) ke Departemen Ilmu Komputer Fakultas Matematika dan Ilmu
Pengetahuan Alam Institut Pertanian Bogor.
Penulis sempat aktif di Badan Kerohanian Islam Mahasiswa (BKIM) pada tahun 2001-2002 dan
menjadi ketua angkatan 38 BKIM Baranangsiang. Selama kuliah, penulis pernah menjadi staf pengajar di
Pengabdian Pada Masyarakat (P2M) Fakultas Teknik Universitas Indonesia Salemba pada tahun 20012004. Penulis juga pernah menjadi Asisten Dosen Praktikum Departemen Ilmu Komputer pada tahun
2002-2004. Penulis pernah menjadi ketua Bareng Karib Silaturahmi Mahasiswa Ilkom (Bakar Singkong)
pada tahun 2002. Penulis juga menjadi anggota Divisi Riset dan Development di Himpunan Mahasiswa
Ilmu Komputer (HIMALKOM) pada tahun 2003-2004. Pada tahun 2004 penulis menjadi pengajar pada
pelatihan Microsoft Visual C++ 6.0 di P2M FTUI. Pada tahun 2005 penulis melakukan Praktik Kerja
Lapang (PKL) di Divisi Hukum Bank Indonesia Thamrin Jakarta.
Bidang yang diminati penulis berkaitan dengan kecerdasan buatan, yaitu Computational Linguistic,
Image Processing, dan Speech Recognition.
PRAKATA
Alhamdulillahirobbil’alamin penulis ucapkan atas segala limpahan rahmat dan hidayah-Nya
sehingga penulis dapat menyelesaikan karya ilmiah ini.
Melalui lembar ini, penulis ingin menyampaikan penghargaan dan terima kasih kepada semua fihak
atas bantuan, dorongan, saran, kritik, serta koreksi yang ditujukan selama penulisan karya ilmiah ini.
Ucapan terima kasih penulis ucapkan kepada:
1. Istri tercinta, Seli Siti Sholihat, atas semua kasih sayang, cinta, bimbingan, dan segala hal yang tak
mungkin tersebut satu persatu disini. Semoga cinta kita tetap abadi dan semoga keluarga kita termasuk
keluarga yang dirahmati Allah, keluarga sakinah.
2. Mama tercinta dan tersayang, Pipiet Senja, atas semua doa dan kesempatan mengenal kasih sayang ibu
di dunia ini. Serta papa, Hamdan Eddy Yassin, atas semua bantuan finansialnya.
3. Adik, Adzimattinur Siregar, yang telah mensuplai komik penghilang stress selama penulisan karya
ilmiah ini.
4. Mertua, Sri Mulyati dan khususnya Engkos Kosasih atas semua nasihat, bimbingan, dan kesempatan
untuk mengenal semua warna kehidupan.
5. Ibu Yeni Herdiyeni, S.Si, M.Kom. dan bapak Panji Wasmana, S.Kom, M.Si. sebagai pembimbing
skripsi I dan II atas segala bimbingan, saran, kritik, dan kesabarannya atas penelitian ini.
6. Seluruh staf pengajar Departemen Ilmu Komputer atas semua ilmu dan contoh kepribadiannya selama
penulis kuliah di Departemen Ilmu Komputer.
7. Usep Aris Sutandi, S.Kom. atas segala bentuk persahabatan, saran, kritik, dan contekan format
penulisan karya ilmiahnya.
8. Semua penghuni DC-7 pada tahun 2002-2004 atas semua bentuk persahabatan, kesenangan, dan
pendidikan kepribadiannya.
9. Ibu Yayuk dan seluruh staf administrasi Departemen Ilmu Komputer atas segala pengabdian dan
kesabarannya.
Akhir kata, semoga karya ilmiah ini dapat dipergunakan untuk kemashlahatan kita bersama.
Depok, Oktober 2005
Penulis
DAFTAR ISI
Halaman
DAFTAR TABEL………………………………………………………………….………………....……vii
DAFTAR LAMPIRAN…………………………………………………………….………………............vii
PENDAHULUAN
Latar Belakang………………………………………………………………..……………….……...1
Tujuan………………………………………………………………………...………………. ……...2
Ruang Lingkup Penelitian……………………………………………………………………….……2
TINJAUAN PUSTAKA
Pembagian Jenis Kata………………………………………………………..……………………….2
Grammar…………………………………………………………………….. ……………… ….……3
Token………………………………………………………………………………………………….4
Part of Speech……………………………………………………………….. ……………… ……….4
Stemming…………………………………………………………………….. ……………………….4
N th Order Tagging…………………………………………………………………………… ……….4
Polisemi……………………………………………………………………………………………….4
Kinerja sistem………………………………………………………………...……………………….5
METODOLOGI
Transformation Based Learning……………………………………………...……………….………5
Proses Pelabelan Kata………………………………………………………...……………………….5
Pemberian Label berdasarkan Imbuhan……………………………………………………… ……….6
HASIL DAN PEMBAHASAN
Implementasi sistem…………………………………………………………………………..............8
Basis data sistem……………………………………………………………...……………….………9
Proses pembelajaran…………………………………………………………. ………………………..9
Ukuran pengujian…………………………………………………………..………………………….9
Hasil pengujian……………………………………………………………..…………………………9
Persentase pengujian tagset dan imbuhan………………………………….………………………...10
Persentase token yang ambigu………………………………………………..……………………...10
Persentase pengujian pola…………………………………………………..………………………..10
Persentase token yang berhasil dikenali……………………………………...……………… ………10
Persentase token yang tidak berhasil diidentifikasi…………………………..……………… ……...10
Persentase token yang berhasil diidentifikasi secara benar…………………………………… …….11
KESIMPULAN DAN SARAN
Kesimpulan…………………………………………………………………...………………. …….11
Saran………………………………………………………………………….………………. …….11
DAFTAR PUSTAKA……………………………………………………………………………… ………11
LAMPIRAN………………………………………………………………………... ………………………13
DAFTAR TABEL
Halaman
1. Spesifikasi implementasi sistem…………………………………………..………………………………9
2. Data hasil pembelajaran…………………………………………………………………………………..9
3. Data hasil pengujian sistem…………………………………………………...………………………….9
DAFTAR GAMBAR
Halaman
1. Proses tokenizing teks…………………………………………………………………………… ……….5
2. Proses pelabelan kata.…………………………………………………...……………………… ………..6
3. Proses pengujian imbuhan……………………………………………………..…………………………6
DAFTAR LAMPIRAN
Halaman
1. Tahapan ekstraksi jawaban pada Question Answering System (QAS)………… ………………………14
2. Klasifikasi pendekatan algoritma Part of Speech Tagging……………………... ……………… ……….15
3. Proses rule-based tagging……………………………………………………….……………………….16
PENDAHULUAN
Latar Belakang
Part-of-Speech Tagging adalah proses
pemberian label klasifikasi pada setiap bagian
dari dokumen teks berbasis bahasa natural.
Part-of-Speech Tagging yang akurat
merupakan langkah awal yang kritis bagi
pemrosesan bahasa natural (Vasilakopoulos,
2003). Part-o f-Speech Tagging juga merupakan
suatu tahapan penting dalam Question
Answering System (QAS).
Posisi Part-ofSpeech Tagging dalam QAS dapat dilihat pada
Lampiran 1. Pada lampiran terlihat bahwa
keluaran dari proses Part-of-Speech Tagging
merupakan dasar dari pengubahan suatu
dokumen teks menjadi bentuk logik. QAS
menggunakan keluaran dari Part-of-Speech
Tagging untuk mencari jawaban terhadap
pertanyaan yang diajukan pada sistem
mengenai suatu dokumen teks.
Beberapa penelitian mengenai Part-ofSpeech Tagging yang telah dilakukan
sebelumnya, dapat dikelompokkan seperti pada
Lampiran 2 (James, 1995).
Pengelompokan pertama adalah sistem
supervised dan unsupervised. Pada sistem
supervised, dokumen yang sudah dilabeli
secara manual dimasukkan ke dalam sistem
untuk dipelajari. Selanjutnya sistem akan
membentuk basis data pola berdasarkan
dokumen yang dimasukkan. Sementara pada
sistem unsupervised, tidak dilakukan pelabelan
secara manual pada dokumen yang dimasukkan
untuk dipelajari oleh sistem. Sehingga sistem
diharuskan untuk melabeli setiap kata dan
mempelajari sendiri pola-pola yang ada.
Masing-masing pendekatan memiliki
kelebihan dan kekurangan.
Pendekatan
supervised
memudahkan
sistem
untuk
mengenali kata atau pola yang baru.
Kekurangan dari pendekatan ini adalah
lamanya waktu pembelajaran yang dibutuhkan
dan besarnya kemungkinan keputusan yang
ambigu. Sementara pada sistem unsupervised,
dapat diharapkan terbentuknya sebuah sistem
yang mengerti semua bahasa yang ada.
Kekurangan dari sistem ini adalah lamanya atau
sulitnya proses pelabelan ketika sistem
diperkenalkan pada sesuatu yang baru dan
belum memiliki referensi sebelumnya.
Pembagian selanjutnya adalah Part-ofSpeech Tagging berbasis rule, stochastic dan
neural network . Pada Part-of-Speech Tagging
berbasis
rule,
sistem
mengandalkan
ketersediaan basis data pola yang akan
digunakan untuk memutuskan klasifikasi
sebuah kata. Sementara pada stochastic, sistem
akan menggunakan prinsip-prinsip statistik
dalam pengklasifikasian kata.
Dan pada
pendekatan dengan teknik neural network ,
sistem akan menggunakan teknik jaringan saraf
tiruan untuk menggolongkan kata-kata yang
dimasukkan ke dalam sistem (James, 1995).
Beberapa penelitian yang telah dilakukan
di antaranya:
-
Penelitian Part-of-Speech Tagging dengan
menggunakan algoritma Baum-Welch
menghasilkan tingkat akurasi 86,6%
(Cutting et al, 1992).
Penelitian
menggunakan Penn Treebank Corpus yang
terdiri dari 120.000 kata.
-
Penelitian Eric Brill (1995), Unsupervised
Learning
Rule-based
Part-of-Speech
Tagging dapat mengidentifikasi secara
benar lebih dari 90% token ambigu.
Penelitian menggunakan data pelatihan
120.000 kata dan data tes 200.000 kata.
-
Penelitian Rabiner (1989), Hidden Markov
Models Part-of-Speech Tagging memiliki
tingkat akurasi 96,5%. Penelitian ini juga
menggunakan Penn Treebank yang terdiri
dari 120.000 kata. Penelitian ini juga
menggunakan Brown Corpus sebagai
perbandingan yang tersusun dari 350.000
kata.
-
Penelitian Weischedel (1993), Maximum
Entropy Model Part-of-Speech Tagging,
memiliki tingkat akurasi 85%. Penelitian
ini menggunakan Penn Treebank yang
terdiri dari 120.000 kata dan Wall Street
Journal Corpus sebagai perbandingan yang
tersusun dari 133.805 kata.
Penelitian mengenai Part-of-Speech
Tagging yang ada sebelumnya dibangun
dengan
menggunakan
bahasa
Inggris.
Sehingga dibutuhkan beberapa penyesuaian
untuk penggunaan pada bahasa Indonesia.
1
Yang termasuk dalam jenis kata ini adalah
segala
kata
yang
dipakai
untuk
menggantikan kata benda atau yang
dibendakan.
Pembagian tradisional
menggolongkan kata-kata ini ke dalam
suatu jenis kata yang tersendiri.
Tujuan
Penelitian
ini
bertujuan
untuk
mengimplementasikan
metode Rule-based
dengan Unsupervised Learning untuk pelabelan
kata dalam bahasa Indonesia.
Ruang Lingkup Penelitian
Kata ganti menurut sifat dan fungsinya
dapat dibedakan atas:
Ruang lingkup penelitian ini meliputi:
1.
Pembelajaran dan pembentukan basis data
pola kata dalam kalimat
a. Kata ganti
Personalia
2.
Pembentukan basis data referensi kata
3.
Pembuatan metode penentuan label kata
berdasarkan imbuhan
b. Kata ganti kepemilikan atau Pronomina
Possessiva
4.
Perhitungan dan pengukuran kinerja sistem
e. Kata ganti penanya atau Pronomina
Interrogativa
Secara sederhana, terdapat 10 jenis kata
dalam bahasa Indonesia (Keraf, 1980):
f. Kata ganti tak tentu atau Pronomina
Indeterminativa
5.
Kata benda adalah nama dari semua benda
dan segala yang dibendakan. Selanjutnya
kata-kata benda, menurut wujudnya, dibagi
atas:
b. Kata benda abstrak
3.
Kata sifat atau Adjektif (Adj)
Kata yang menyatakan sifat atau hal
keadaan dari suatu benda: tinggi, rendah,
lama, baru, dan sebagainya digolongkan
sebagai kata sifat.
4.
- Kata bilangan utama (Nume ralia
Cardinalia): satu, dua, tiga, seratus, dan
sebagainya.
Kata kerja atau Verba (Vb)
Semua kata yang menyatakan perbuatan
atau laku digolongkan ke dalam kata kerja.
Bila suatu kata kerja menghendaki adanya
suatu pelengkap maka disebut kata kerja
transitif, misalnya: memukul, menangkap,
melihat, mendapat, dan sebagainya.
Sebaliknya bila kata kerja tersebut tidak
membutuhkan suatu pelengkap maka
disebut kata kerja intransitif, misalnya:
menangis, meninggal, berjalan, berdiri,
dan sebagainya.
Kata ganti atau Pronomina (Pro)
Kata bilangan atau Numeralia (Num)
Kata
bilangan
adalah
kata
yang
menyatakan jumlah benda atau jumlah
kumpulan atau urutan tempat dari namanama benda.
Menurut sifatnya, kata
bilangan dapat dibagi atas:
a. Kata benda konkrit
2.
Pronomina
d. Kata ganti penghubung atau Pronomina
Relativa
Pembagian Jenis Kata
Kata benda atau Nomina (N)
atau
c. Kata ganti petunjuk atau Pronomina
Demonstrative
TINJAUAN PUSTAKA
1.
orang
- Kata bilangan tingkat (Numeralia
Ordinalia):
pertama, kedua, ketiga,
kelima, kesepuluh, dan sebagainya.
- Kata bilangan tak tentu:
beberapa,
segala, semua, tiap-tiap, dan sebagainya.
- Kata bilangan kumpulan:
berdua,
bertiga, bertujuh, dan sebagainya.
6.
Kata keterangan atau Adverbia (Adv)
Kata-kata keterangan atau adverbia adalah
kata-kata yang memberi keterangan
tentang:
a. Kata kerja
b. Kata sifat
c. Kata keterangan
d. Kata bilangan
2
PENERAPAN METODE RULE-BASED DENGAN UNSUPERVISED
LEARNING UNTUK PELABELAN DOKUMEN BERBAHASA
INDONESIA
Oleh:
M Karibun H S
G64101053
DEPARTEMEN ILMU KOMPUTER
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM
INSTITUT PERTANIAN BOGOR
2005
ABSTRAK
M KARIBUN H S. Penerapan Metode Rule-based dengan Unsupervised Learning untuk Pelabelan
Dokumen Berbahasa Indonesia. Dibimbing oleh YENI HERDIYENI dan PANJI WASMANA.
Penelitian ini menerapkan metode Rule-based dengan Unsupervised Learning untuk pelabelan
dokumen teks berbahasa Indonesia. Metode Rule-based menggunakan pola kata untuk menentukan label
dari kata yang tidak diketahui. Pola diperoleh melalui proses pembelajaran otomatis dan diurutkan
berdasarkan frekuensi kemunculan. Pelabelan kata yang ambigu atau tidak diketahui labelnya dilakukan
dengan cara melihat pola kata sekitar dan mengambil pola kata dengan frekuensi kemunculan terbesar.
Penambahan metode pengujian jenis imbuhan pada sistem diharapkan dapat meningkatkan pengenalan
label pada dokumen.
Penelitian menggunakan 102 dokumen teks yang terdiri dari 305.989 token untuk proses pelatihan
dan menghasilkan 7.706 rule. Basis data rule yang diperoleh dari proses pembelajaran dan basis data
perubahan jenis kata berdasarkan imbuhan digunakan untuk proses pengujian sistem. Pengujian
menggunakan 52 dokumen teks yang terdiri dari 131.719 token. Pengujian menghasilkan 97,82 % token
yang berhasil dikenali . Pengujian manual terhadap 3 dokumen yang terdiri dari 431 token menghasilkan
tingkat kebenaran 85,85%.
Kata Kunci: Part of Speech Tagging, Natural Language, Information Retrieval, Algoritma Eric Brill, dan
Computational Linguistic.
PENERAPAN METODE UNSUPERVISED LEARNING RULE-BASED
PART OF SPEECH TAGGING UNTUK PELABELAN PADA
DOKUMEN BERBAHASA INDONESIA
M Karibun H S
Skripsi
sebagai salah satu syarat untuk memperoleh gelar
Sarjana Komputer pada
Departemen Ilmu Komputer
DEPARTEMEN ILMU KOMPUTER
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM
INSTITUT PERTANIAN BOG OR
2005
: Penerapan Metode Rule-based dengan Unsupervised Learning untuk Pelabelan Dokumen
Judul
Berbahasa Indonesia.
Nama
: M Karibun H S
NRP
: G64101053
Menyetujui,
Pembimbing I
Pembimbing II
Yeni Herdiyeni, S.Si., M.Kom
Panji Wasmana, S.Kom., M.Si
NIP. 132 282 665
NIP. 132 311 917
Mengetahui,
Dekan Fakultas Matematika dan Ilmu Pengetahuan Alam
Dr. Ir. Yonny Koesmaryono, M.Si
NIP. 131 473 999
Tanggal Lulus:…………..
RIWAYAT HIDUP
Penulis dilahirkan di RSCM, Jakarta pada tanggal 17 November 1981 sebagai anak pertama dari dua
bersaudara, anak dari pasangan Bapak Hamdan Eddy Yassin dan Ibu Pipiet Senja. Penulis menikah pada
tanggal 15 Februari 2000 dengan Seli Siti Sholihat.
Penulis menyelesaikan sekolah menengah umum di SMUN 3 Depok, lulus pada tahun 1999. Setelah
lulus melanjutkan pendidikannya di Jurusan Biologi Fakultas Matematika dan Ilmu Pengetahuan Alam
Universitas Indonesia selama dua tahun (1999-2001). Pada tahun 2001, penulis mengikuti Seleksi
Penerimaan Mahasiswa Baru (SPMB) ke Departemen Ilmu Komputer Fakultas Matematika dan Ilmu
Pengetahuan Alam Institut Pertanian Bogor.
Penulis sempat aktif di Badan Kerohanian Islam Mahasiswa (BKIM) pada tahun 2001-2002 dan
menjadi ketua angkatan 38 BKIM Baranangsiang. Selama kuliah, penulis pernah menjadi staf pengajar di
Pengabdian Pada Masyarakat (P2M) Fakultas Teknik Universitas Indonesia Salemba pada tahun 20012004. Penulis juga pernah menjadi Asisten Dosen Praktikum Departemen Ilmu Komputer pada tahun
2002-2004. Penulis pernah menjadi ketua Bareng Karib Silaturahmi Mahasiswa Ilkom (Bakar Singkong)
pada tahun 2002. Penulis juga menjadi anggota Divisi Riset dan Development di Himpunan Mahasiswa
Ilmu Komputer (HIMALKOM) pada tahun 2003-2004. Pada tahun 2004 penulis menjadi pengajar pada
pelatihan Microsoft Visual C++ 6.0 di P2M FTUI. Pada tahun 2005 penulis melakukan Praktik Kerja
Lapang (PKL) di Divisi Hukum Bank Indonesia Thamrin Jakarta.
Bidang yang diminati penulis berkaitan dengan kecerdasan buatan, yaitu Computational Linguistic,
Image Processing, dan Speech Recognition.
PRAKATA
Alhamdulillahirobbil’alamin penulis ucapkan atas segala limpahan rahmat dan hidayah-Nya
sehingga penulis dapat menyelesaikan karya ilmiah ini.
Melalui lembar ini, penulis ingin menyampaikan penghargaan dan terima kasih kepada semua fihak
atas bantuan, dorongan, saran, kritik, serta koreksi yang ditujukan selama penulisan karya ilmiah ini.
Ucapan terima kasih penulis ucapkan kepada:
1. Istri tercinta, Seli Siti Sholihat, atas semua kasih sayang, cinta, bimbingan, dan segala hal yang tak
mungkin tersebut satu persatu disini. Semoga cinta kita tetap abadi dan semoga keluarga kita termasuk
keluarga yang dirahmati Allah, keluarga sakinah.
2. Mama tercinta dan tersayang, Pipiet Senja, atas semua doa dan kesempatan mengenal kasih sayang ibu
di dunia ini. Serta papa, Hamdan Eddy Yassin, atas semua bantuan finansialnya.
3. Adik, Adzimattinur Siregar, yang telah mensuplai komik penghilang stress selama penulisan karya
ilmiah ini.
4. Mertua, Sri Mulyati dan khususnya Engkos Kosasih atas semua nasihat, bimbingan, dan kesempatan
untuk mengenal semua warna kehidupan.
5. Ibu Yeni Herdiyeni, S.Si, M.Kom. dan bapak Panji Wasmana, S.Kom, M.Si. sebagai pembimbing
skripsi I dan II atas segala bimbingan, saran, kritik, dan kesabarannya atas penelitian ini.
6. Seluruh staf pengajar Departemen Ilmu Komputer atas semua ilmu dan contoh kepribadiannya selama
penulis kuliah di Departemen Ilmu Komputer.
7. Usep Aris Sutandi, S.Kom. atas segala bentuk persahabatan, saran, kritik, dan contekan format
penulisan karya ilmiahnya.
8. Semua penghuni DC-7 pada tahun 2002-2004 atas semua bentuk persahabatan, kesenangan, dan
pendidikan kepribadiannya.
9. Ibu Yayuk dan seluruh staf administrasi Departemen Ilmu Komputer atas segala pengabdian dan
kesabarannya.
Akhir kata, semoga karya ilmiah ini dapat dipergunakan untuk kemashlahatan kita bersama.
Depok, Oktober 2005
Penulis
DAFTAR ISI
Halaman
DAFTAR TABEL………………………………………………………………….………………....……vii
DAFTAR LAMPIRAN…………………………………………………………….………………............vii
PENDAHULUAN
Latar Belakang………………………………………………………………..……………….……...1
Tujuan………………………………………………………………………...………………. ……...2
Ruang Lingkup Penelitian……………………………………………………………………….……2
TINJAUAN PUSTAKA
Pembagian Jenis Kata………………………………………………………..……………………….2
Grammar…………………………………………………………………….. ……………… ….……3
Token………………………………………………………………………………………………….4
Part of Speech……………………………………………………………….. ……………… ……….4
Stemming…………………………………………………………………….. ……………………….4
N th Order Tagging…………………………………………………………………………… ……….4
Polisemi……………………………………………………………………………………………….4
Kinerja sistem………………………………………………………………...……………………….5
METODOLOGI
Transformation Based Learning……………………………………………...……………….………5
Proses Pelabelan Kata………………………………………………………...……………………….5
Pemberian Label berdasarkan Imbuhan……………………………………………………… ……….6
HASIL DAN PEMBAHASAN
Implementasi sistem…………………………………………………………………………..............8
Basis data sistem……………………………………………………………...……………….………9
Proses pembelajaran…………………………………………………………. ………………………..9
Ukuran pengujian…………………………………………………………..………………………….9
Hasil pengujian……………………………………………………………..…………………………9
Persentase pengujian tagset dan imbuhan………………………………….………………………...10
Persentase token yang ambigu………………………………………………..……………………...10
Persentase pengujian pola…………………………………………………..………………………..10
Persentase token yang berhasil dikenali……………………………………...……………… ………10
Persentase token yang tidak berhasil diidentifikasi…………………………..……………… ……...10
Persentase token yang berhasil diidentifikasi secara benar…………………………………… …….11
KESIMPULAN DAN SARAN
Kesimpulan…………………………………………………………………...………………. …….11
Saran………………………………………………………………………….………………. …….11
DAFTAR PUSTAKA……………………………………………………………………………… ………11
LAMPIRAN………………………………………………………………………... ………………………13
DAFTAR TABEL
Halaman
1. Spesifikasi implementasi sistem…………………………………………..………………………………9
2. Data hasil pembelajaran…………………………………………………………………………………..9
3. Data hasil pengujian sistem…………………………………………………...………………………….9
DAFTAR GAMBAR
Halaman
1. Proses tokenizing teks…………………………………………………………………………… ……….5
2. Proses pelabelan kata.…………………………………………………...……………………… ………..6
3. Proses pengujian imbuhan……………………………………………………..…………………………6
DAFTAR LAMPIRAN
Halaman
1. Tahapan ekstraksi jawaban pada Question Answering System (QAS)………… ………………………14
2. Klasifikasi pendekatan algoritma Part of Speech Tagging……………………... ……………… ……….15
3. Proses rule-based tagging……………………………………………………….……………………….16
PENDAHULUAN
Latar Belakang
Part-of-Speech Tagging adalah proses
pemberian label klasifikasi pada setiap bagian
dari dokumen teks berbasis bahasa natural.
Part-of-Speech Tagging yang akurat
merupakan langkah awal yang kritis bagi
pemrosesan bahasa natural (Vasilakopoulos,
2003). Part-o f-Speech Tagging juga merupakan
suatu tahapan penting dalam Question
Answering System (QAS).
Posisi Part-ofSpeech Tagging dalam QAS dapat dilihat pada
Lampiran 1. Pada lampiran terlihat bahwa
keluaran dari proses Part-of-Speech Tagging
merupakan dasar dari pengubahan suatu
dokumen teks menjadi bentuk logik. QAS
menggunakan keluaran dari Part-of-Speech
Tagging untuk mencari jawaban terhadap
pertanyaan yang diajukan pada sistem
mengenai suatu dokumen teks.
Beberapa penelitian mengenai Part-ofSpeech Tagging yang telah dilakukan
sebelumnya, dapat dikelompokkan seperti pada
Lampiran 2 (James, 1995).
Pengelompokan pertama adalah sistem
supervised dan unsupervised. Pada sistem
supervised, dokumen yang sudah dilabeli
secara manual dimasukkan ke dalam sistem
untuk dipelajari. Selanjutnya sistem akan
membentuk basis data pola berdasarkan
dokumen yang dimasukkan. Sementara pada
sistem unsupervised, tidak dilakukan pelabelan
secara manual pada dokumen yang dimasukkan
untuk dipelajari oleh sistem. Sehingga sistem
diharuskan untuk melabeli setiap kata dan
mempelajari sendiri pola-pola yang ada.
Masing-masing pendekatan memiliki
kelebihan dan kekurangan.
Pendekatan
supervised
memudahkan
sistem
untuk
mengenali kata atau pola yang baru.
Kekurangan dari pendekatan ini adalah
lamanya waktu pembelajaran yang dibutuhkan
dan besarnya kemungkinan keputusan yang
ambigu. Sementara pada sistem unsupervised,
dapat diharapkan terbentuknya sebuah sistem
yang mengerti semua bahasa yang ada.
Kekurangan dari sistem ini adalah lamanya atau
sulitnya proses pelabelan ketika sistem
diperkenalkan pada sesuatu yang baru dan
belum memiliki referensi sebelumnya.
Pembagian selanjutnya adalah Part-ofSpeech Tagging berbasis rule, stochastic dan
neural network . Pada Part-of-Speech Tagging
berbasis
rule,
sistem
mengandalkan
ketersediaan basis data pola yang akan
digunakan untuk memutuskan klasifikasi
sebuah kata. Sementara pada stochastic, sistem
akan menggunakan prinsip-prinsip statistik
dalam pengklasifikasian kata.
Dan pada
pendekatan dengan teknik neural network ,
sistem akan menggunakan teknik jaringan saraf
tiruan untuk menggolongkan kata-kata yang
dimasukkan ke dalam sistem (James, 1995).
Beberapa penelitian yang telah dilakukan
di antaranya:
-
Penelitian Part-of-Speech Tagging dengan
menggunakan algoritma Baum-Welch
menghasilkan tingkat akurasi 86,6%
(Cutting et al, 1992).
Penelitian
menggunakan Penn Treebank Corpus yang
terdiri dari 120.000 kata.
-
Penelitian Eric Brill (1995), Unsupervised
Learning
Rule-based
Part-of-Speech
Tagging dapat mengidentifikasi secara
benar lebih dari 90% token ambigu.
Penelitian menggunakan data pelatihan
120.000 kata dan data tes 200.000 kata.
-
Penelitian Rabiner (1989), Hidden Markov
Models Part-of-Speech Tagging memiliki
tingkat akurasi 96,5%. Penelitian ini juga
menggunakan Penn Treebank yang terdiri
dari 120.000 kata. Penelitian ini juga
menggunakan Brown Corpus sebagai
perbandingan yang tersusun dari 350.000
kata.
-
Penelitian Weischedel (1993), Maximum
Entropy Model Part-of-Speech Tagging,
memiliki tingkat akurasi 85%. Penelitian
ini menggunakan Penn Treebank yang
terdiri dari 120.000 kata dan Wall Street
Journal Corpus sebagai perbandingan yang
tersusun dari 133.805 kata.
Penelitian mengenai Part-of-Speech
Tagging yang ada sebelumnya dibangun
dengan
menggunakan
bahasa
Inggris.
Sehingga dibutuhkan beberapa penyesuaian
untuk penggunaan pada bahasa Indonesia.
1
Yang termasuk dalam jenis kata ini adalah
segala
kata
yang
dipakai
untuk
menggantikan kata benda atau yang
dibendakan.
Pembagian tradisional
menggolongkan kata-kata ini ke dalam
suatu jenis kata yang tersendiri.
Tujuan
Penelitian
ini
bertujuan
untuk
mengimplementasikan
metode Rule-based
dengan Unsupervised Learning untuk pelabelan
kata dalam bahasa Indonesia.
Ruang Lingkup Penelitian
Kata ganti menurut sifat dan fungsinya
dapat dibedakan atas:
Ruang lingkup penelitian ini meliputi:
1.
Pembelajaran dan pembentukan basis data
pola kata dalam kalimat
a. Kata ganti
Personalia
2.
Pembentukan basis data referensi kata
3.
Pembuatan metode penentuan label kata
berdasarkan imbuhan
b. Kata ganti kepemilikan atau Pronomina
Possessiva
4.
Perhitungan dan pengukuran kinerja sistem
e. Kata ganti penanya atau Pronomina
Interrogativa
Secara sederhana, terdapat 10 jenis kata
dalam bahasa Indonesia (Keraf, 1980):
f. Kata ganti tak tentu atau Pronomina
Indeterminativa
5.
Kata benda adalah nama dari semua benda
dan segala yang dibendakan. Selanjutnya
kata-kata benda, menurut wujudnya, dibagi
atas:
b. Kata benda abstrak
3.
Kata sifat atau Adjektif (Adj)
Kata yang menyatakan sifat atau hal
keadaan dari suatu benda: tinggi, rendah,
lama, baru, dan sebagainya digolongkan
sebagai kata sifat.
4.
- Kata bilangan utama (Nume ralia
Cardinalia): satu, dua, tiga, seratus, dan
sebagainya.
Kata kerja atau Verba (Vb)
Semua kata yang menyatakan perbuatan
atau laku digolongkan ke dalam kata kerja.
Bila suatu kata kerja menghendaki adanya
suatu pelengkap maka disebut kata kerja
transitif, misalnya: memukul, menangkap,
melihat, mendapat, dan sebagainya.
Sebaliknya bila kata kerja tersebut tidak
membutuhkan suatu pelengkap maka
disebut kata kerja intransitif, misalnya:
menangis, meninggal, berjalan, berdiri,
dan sebagainya.
Kata ganti atau Pronomina (Pro)
Kata bilangan atau Numeralia (Num)
Kata
bilangan
adalah
kata
yang
menyatakan jumlah benda atau jumlah
kumpulan atau urutan tempat dari namanama benda.
Menurut sifatnya, kata
bilangan dapat dibagi atas:
a. Kata benda konkrit
2.
Pronomina
d. Kata ganti penghubung atau Pronomina
Relativa
Pembagian Jenis Kata
Kata benda atau Nomina (N)
atau
c. Kata ganti petunjuk atau Pronomina
Demonstrative
TINJAUAN PUSTAKA
1.
orang
- Kata bilangan tingkat (Numeralia
Ordinalia):
pertama, kedua, ketiga,
kelima, kesepuluh, dan sebagainya.
- Kata bilangan tak tentu:
beberapa,
segala, semua, tiap-tiap, dan sebagainya.
- Kata bilangan kumpulan:
berdua,
bertiga, bertujuh, dan sebagainya.
6.
Kata keterangan atau Adverbia (Adv)
Kata-kata keterangan atau adverbia adalah
kata-kata yang memberi keterangan
tentang:
a. Kata kerja
b. Kata sifat
c. Kata keterangan
d. Kata bilangan
2
e. Seluruh kalimat
Kata keterangan sendiri
menjadi beberapa macam:
8.
dibagi
lagi
- Kata keterangan kualitatif (Adverbium
kualitatif). Adalah kata keterangan yang
menerangkan atau menjelaskan suasana
atau situasi dari suatu perbuatan.
Contohnya: ia berjalan perlahan-lahan.
Biasanya kata keterangan ini dinyatakan
dengan mempergunakan kata depan
dengan + kata sifat.
- Kata keterangan waktu (Adverbium
temporal).
Adalah keterangan yang
menunjukkan
atau
menjelaskan
berlangsungnya suatu peristiwa dalam
suatu bidang waktu: sekarang, nanti,
kemarin, kemudian, sesudah itu, lusa,
sebelum, minggu depan, bulan depan,
dan lain-lain.
- Kata keterangan tempat (Adverbium
lokatif). Adalah kata yang memberi
penjelasan atas berlangsungnya suatu
peristiwa atau perbuatan dalam suatu
ruang. Contohnya: di sini, di situ, di
sana, dan sebagainya.
- Kata keterangan kecaraan (Adverbium
modalitas).
Adalah kata-kata yang
menjelaskan suatu peristiwa karena
tanggapan
si
pembicara
atas
berlangsungnya
peristiwa
tersebut.
Dalam hal ini subjektivitas lebih
ditonjolkan.
Contohnya:
memang,
niscaya, pasti, sungguh, tentu, tidak,
bukannya, bukan, dan sebagainya.
- Kata keterangan aspek. Menjelaskan
berlangsungnya suatu peristiwa secara
objektif, bahwa suatu peristiwa terjadi
dengan sendirinya tanpa suatu pengaruh
atau pandangan dari pembicara. Contoh:
pun, lah, sedang, sementara, dan
sebagainya.
- Dan masih banyak lagi pembedaan kata
keterangan.
7.
Kata sambung atau Conjunctiva (Conj)
Kata sambung adalah kata yang
menghubungkan kata-kata, bagian-bagian
kalimat, atau menghubungkan kalimatkalimat. Contoh: apabila, ketika, bia, jika,
atau, dan sebagainya.
Kata depan atau Prepositio (Prep)
Kata depan adalah kata yang merangkaikan
kata-kata atau bagian-bagian kalimat.
Contoh: di, ke, dari, dan sebagainya.
9.
Kata sandang atau Articula (Art)
kata sandang tidak mengandung suatu arti,
tetapi memiliki fungsi. Contoh: yang, itu,
nya, si, sang, hang, dang.
10. Kata seru atau Interjectio (Int)
Kata seru adalah kata yang paling tua
dalam bahasa.
Kata ini merupakan
ungkapan perasaan seseorang. Contoh:
wah, yah, ah, dan sebagainya.
Grammar
Grammar dari suatu bahasa adalah
skema untuk menspesifikasikan kalimat dalam
bahasa tersebut. Grammar mengindikasikan
hubungan sintaksis untuk mengkombinasikan
kata ke dalam bentuk frase dan klausa.
Grammar G didefinisikan sebagai
sebuah bentuk yang terdiri dari 4 elemen yang
terbatas (Krulee, 1991).
Sebuah grammar G = (N, Σ, P, So ) dimana
1.
N adalah sebuah set dari non terminal.
2.
Σ adalah sebuah set dari simbol terminal
yang digunakan untuk mendefinisikan ka ta
aktual.
3.
P adalah sebuah set dari aturan grammar.
4.
So adalah sebuah non terminal yang
berfungsi sebagai simbol inisiasi untuk
setiap deretan penurunan.
Sebuah grammar dikatakan linier ke
kanan jika dan hanya jika setiap produksi pada
grammar tersebut memiliki bentuk:
X à αY atau X à α
Dimana X dan Y adalah non terminal
yang terdapat dalam N dan α adalah sebuah
simbol terminal yang terdapat dalam Σ.
Untuk lebih umumnya, sebuah grammar
dikatakan bersifat context-sensitive jika setiap
produksi pada gramar G = (N, Σ, P, So )
memiliki bentuk γ1 χγ2 = γ1 αγ2 dimana χ berada
dalam N dan γ1 , α, γ2 berada di dalam (N ∪ Σ)-.
3
Token
Token adalah sederetan karakter yang
membentuk satu kesatuan informasi dalam
sebuah dokumen teks.
Kemungkinan dari jumlah token yang
dipertimbangkan antara lain:
-
0th order. Disebut juga sebagai unigram
tagger. Pada metode ini, penentuan label
dari token yang tidak diketahui dilakukan
berdasarkan frekuensi label yang paling
tinggi tanpa mempertimbangkan label dari
token sekitarnya.
-
1st order. Disebut juga sebagai bigram
tagger. Pada metode ini, penentuan label
dari token yang tidak diketahui dilakukan
berdasarkan frekuensi label yang paling
tinggi dengan mempertimbangkan label
dari token lain yang terletak di n-1 dan n+1
di sekitar token yang tidak diketahui.
Contoh:
Proses pemisahan token pada dokumen
disebut sebagai tokenize. Sementara program
yang melakukan proses tersebut disebut sebagai
tokenizer (Jones, 1994).
Part of Speech
Part of Speech adalah pengklasifikasian
kata secara grammar. Klasifikasi kata dapat
terdiri dari kata benda, kata kerja, kata
penghubung, dan sebagainya.
Ada 3 pendekatan pengklasifikasian kata
yang dapat digunakan. Pendekatan pertama
adalah pendekatan formal. Pada pendekatan
ini, anatomi dari kata digunakan sebagai
penentu klasifikasi dari kata. Sebagai contoh,
kata yang berawalan me- dapat digolongkan
langsung sebagai kata kerja.
Pendekatan kedua adalah pendekatan
sintaktik.
Pendekatan ini menggunakan
klasifikasi dari kata lain di dekat kata yang
tidak teridentifikasi. Sebagai contoh, kata Adj
dalam bahasa Indonesia biasanya muncul tepat
setelah kata benda: Jendela kotor, Meja baru,
dan sebagainya.
Pendekatan terakhir adalah pendekatan
notional atau konteks . Pada pendekatan ini,
sebuah klasifikasi dipahami maknanya dan
digunakan sebagai penentu penggolongan kata.
Sebagai contoh, kata benda adalah kata yang
merepresentasikan suatu objek. Pendekatan ini
sangat sulit diformulasikan. Dan karenanya
kurang begitu dipakai dalam pengklasifikasian
kata (Jones , 1994).
Stemming
Stemming adalah proses pemotongan
imbuhan pada kata untuk mendapatkan kata
dasarnya (Porter, 1980).
Dengan proses
stemming, kata mencadangkan akan dipisahkan
menjadi bentuk me-cadang-kan . Dengan kata
dasar cadang yang berhasil diekstraksi.
Nth Order Tagging
Menurut Brill (1992), dalam menentukan
label dari sebuah token, pertimbangan konteks
dapat menggunakan label dari token lain di
sekitar token yang bermasalah.
N – X – V à X/?
Dari data pelatihan:
N – N – V = A frekuensi
N – V – V = B frekuensi
Jika A>B, maka X à N
-
2nd order. Disebut juga sebagai trigram
tagger. Pada metode ini, penentuan label
dari token yang tidak diketahui dilakukan
berdasarkan frekuensi label yang paling
tinggi dengan mempertimbangkan label
dari token lain yang terletak di n -2, n-1,
n+1, dan n+2 di sekitar token yang tidak
diketahui.
Contoh:
N – N – X – V – Prep à X/?
Dari data pelatihan
N – N – N – V – Prep = A frekuensi
N – N – Prep – V – Prep = B frekuensi
Jika A>B, maka X à Prep
Polisemi
Khasanah bahas a Indonesia mengenal
beberapa kata yang memiliki lebih dari satu
jenis kata yang dikenal dengan istilah polisemi
(Depdiknas, 2003). Pelabelan kata yang tepat
untuk jenis kata seperti ini akan sangat
tergantung pada konteks kalimat yang
menyertai penggunaa n kata tersebut.
4
Kinerja sistem
Pengukuran kinerja sistem menggunakan
rumus:
Secara garis besar, sistem yang
dibangun akan berjalan seperti pada Lampiran
3.
Proses Pelabelan Kata
Σid
P=
x100%
Σ tkn
Penjelasan mengenai proses pelabelan
untuk setiap kata dapat dirinci sebagai berikut:
dimana
P=Persentase token
diidentifikasi.
yang
berhasil
Σid=Jumlah
token
diidentifikasi.
yang
berhasil
- Langkah pertama adalah pemisahan setiap
token dalam dokumen dengan cara
pengecekan setiap karakter dalam dokumen.
Proses detailnya bisa dilihat pada gambar 1.
Σtkn=Jumlah token yang dicek.
METODOLOGI
Penetapan label jenis untuk setiap kata
dilakukan dengan mempertimbangkan 4 hal:
kamus, ciri kata, jenis imbuhan yang menyertai
kata, dan pola kata pada kalimat.
Transformation Based Learning
Salah satu metode yang banyak
digunakan dalam proses tagging adalah
Transformation Based Learning (TBL), sebuah
metode machine learning yang diperkenalkan
oleh Eric Brill (1995).
Ide utama dari metode TBL adalah
pengekstraksian rule secara otomatis selama
proses pelatihan dan pengurutan rule yang
diperoleh
berdasarkan
frekuensi
kemunculannya.
Rule digunakan untuk
memperbaiki pelabelan awal dan disebut
sebagai transformation rule.
Sehingga
dibutuhkan sebuah proses pembelajaran dengan
cara memasukkan rule-rule yang biasa terdapat
dalam sebuah kalimat serta membangun
sema cam kamus yang menyediakan data awal
klasifikasi dari setiap kata.
Sistem terlebih dahulu akan mencari
label dari setiap kata pada kamus yang
disediakan. Seandainya kata tersebut terdapat
dalam kamus, maka tugas sistem selesai.
Sementara seandainya sis tem tidak menemukan
kata yang dicari pada kamus, atau menemukan
kata yang ambigu, maka sistem akan
mengandalkan dan melihat pola pada kalimat
yang paling sesuai sehingga kata yang dicari
dapat ditentukan klasifikasinya.
Gambar 1 Proses tokenizing teks.
Setiap karakter dicek oleh sistem. Selama
karakter tersebut berupa karakter A-Z, a-z,
atau 0-9 (fungsi isAlpha), maka karakter
tersebut dimasukkan ke dalam token aktif.
Ketika sistem menemukan karakter khusus
(fungsi isSpesialChar), maka sistem akan
mulai mencari token selanjutnya. Proses
terus berulang selama belum ditemukan
karakter penanda akhir dokumen (fungsi
notEOF). Ketika karakter akhir dokumen
ditemukan (fungsi isEOF), maka proses
pemisahan selesai dengan hasil rangkaian
token yang telah berhasil diidentifikasi.
Token khusus seperti alamat email, angka,
dan tanggal langsung diidentifikasi dan diberi
label pada proses ini (fungsi isSpecialToken).
- Kemudian, setelah setiap kata dapat
diidentifikasi, satu persatu kata tersebut dicek
keberadaannya dalam tagset yang sudah ada
pada database. Proses dapat dilihat pada
gambar 2.
Gambar 2 Proses pelabelan kata.
Bila kata yang dicari terdapat dalam tagset,
maka kata tersebut akan diberi label
berdasarkan data pada tagset.
5
- Kata yang masih belum teridentifikasi akan
dicek bentuk imbuhannya. Proses dapat
dilihat pada gambar 3.
kemudian dilanjutkan dengan pemeriksaan
awalan secara berulang sampai ditemukan kata
dasar yang valid pada tagset.
Rincian proses pengecekan imbuhan
dapat dilihat pada Gambar 3 dengan penjelasan
sebagai berikut:
Kata yang dicek: abCd
Gambar 3 Proses pengecekan imbuhan
Pengecekan imbuhan dilakukan dengan cara
mencari bentuk perubahan imbuhan yang
sesuai dengan kata tersebut untuk
mendapatkan kata dasar dari kata. Kemudian
diadakan pengecekan untuk kata dasar yang
didapatkan pada tagset. Bila ada, sistem
akan mencari bentuk perubahan label dari
kata dasar dengan mempertimbangkan jenis
imbuhan yang didapatkan.
- Bila label yang didapatkan dari rumus frase
belum fix atau merujuk pada satu label, atau
bahkan belum ditemukan la bel yang sesuai
untuk kata yang ditanyakan, langkah terakhir
adalah melakukan pengecekan pada pola
bigram dan trigram yang didapatkan pada
pembelajaran (Gambar 2).
Langkah-langkah yang dilakukan pada
proses pembelajaran pola kalimat adalah:
- Pengidentifikasian setiap ka limat pada
dokumen berdasarkan karakter pemisah
kalimat.
- Pemotongan setiap kata berdasarkan karakter
pemisah kata.
- Pelabelan setiap kata.
Di mana a dan b adalah awalan, C adalah kata
dasar yang ingin diekstrak, dan d adalah
akhiran. Proses yang terjadi:
abCd à abC-d, yang berarti akhiran d sudah
dapat diidentifikasi.
abC à a-bC, pada proses ini, awalan a telah
berhasil diidentifikasi.
bC à b-C, pada akhirnya, awalan b berhasil
diidentifikasi dan kata dasar C berhasil
diekstrak.
Proses di atas menghasilkan:
Imbuhan: a-b dan d
Kata dasar: C
Kemudian dilakukan pengecekan jenis kata
pada tagset:
Cà L
dimana L adalah jenis kata. Jenis kata yang
dicek akan ditentukan dengan proses:
Kata dasar: C à L
Proses
pengecekan
jenis
kata
berdasarkan imbuhan berjalan sebagai berikut:
L-d à M , dimana M adalah jenis kata yang
terbentuk jika jenis kata L diberi akhiran d.
Kombinasi kata yang labelnya diketahui
akan dicek keberadaannya pada database pola
kata.
Bila tidak ada, pola baru akan
ditambahkan pada database pola, sementara
bila sudah ada, frekuensi pola akan ditambah.
a-N à O, O adalah jenis kata yang terbentuk
bila jenis kata N diberi awalan a.
Pemberian Label berdasarkan Imbuhan
Sehingga diperoleh jenis kata yang dicek:
Bahasa
Indonesia
mengenal
penggabungan berbagai jenis imbuhan untuk
membentuk satu kata.
abCd à O
Untuk mengekstrak kata dasar dari kata
yang berimbuhan seperti ini, diperlukan sebuah
proses tersendiri. Dimulai dengan pemeriksaan
akhiran terlebih dahulu, karena sifat akhiran
pada bahasa Indonesia yang tidak bertumpuk,
b-M à N, N adalah jenis kata yang terbentuk
bila jenis kata M diberi awalan b.
Contoh pemrosesan kata berimbuhan
memperbarui akan berjalan sebagai berikut:
Pada database rule akhiran diperoleh rule:
*ui à *u
6
Sehingga kata dasar yang diperoleh:
Me-V à V
Memperbaru
Yang akan mengubah susunan morfologi kata
menjadi:
Karena pada pengecekan tagset tidak
ditemukan kata tersebut, dilakukan pengecekan
awalan.
Pada database rule awalan, diperoleh rule:
Memp* à p*
V-i
Terakhir, dari database diperoleh rule:
V-i à V
Sehingga kata dasar yang diperoleh:
Sehingga pada akhirnya,
menyimpulkan bahwa:
Perbaru
Me-per-Adj –I à V
Pengecekan pada tagset masih tidak akan
menemukan kata di atas. Sehingga diadakan
pengecekan awalan sekali lagi dengan hasil
rule:
Proses di atas akan berulang pada
pengecekan untuk baru à Adv yang akan
menghasilkan:
Perb* à b*
Yang akan menghasilkan kata dasar:
Baru à Adj/Adv
Yang berarti bahwa kata baru memiliki dua
kemungkinan label, Adj atau Adv.
Dari proses di atas, ditemukan bahwa kata
memperbarui adalah kata berimbuhan dengan
morfologi:
Me-per-baru-i
Karena sistem bertujuan untuk menentukan
label dari kata memperbarui, maka sistem akan
mengubah susunan di atas menjadi:
Me-per-Adj/Adv-i
Dari susunan tersebut, sistem mengetahui
bahwa ada dua kemungkinan label kata dasar.
Sistem kemudian akan melakukan pengecekan
untuk setiap kemungkinan label tersebut dalam
penentuan label kata keseluruhan.
Proses untuk baru à Adj:
Me-per-Adj-i
Dari database pembentukan label berdasarkan
imbuhan, diperoleh rule :
Per-Adj à V
Sehingga susunan morfologi kata akan diubah
menjadi:
Me-V-i
Selanjutnya,
berdasarkan
database
pembentukan label juga, diperoleh rule:
sistem
akan
Me-per-Adv-I à V
Karena kedua kemungkinan label tersebut
menghasilkan label yang sama, V, maka sistem
akan memberikan label pada kata memperbarui
à V.
Pada kasus jenis kata polisemi seperti
pada kata beruang, setiap kata akan mengalami
proses pengecekan pada tagset dan pengecekan
imbuhan. Contoh:
Beruang itu mandi di sungai.
Orang yang beruang banyak itu seorang lakilaki.
Melalui pengecekan pada tagset, diperoleh:
Beruang/N itu/Pron mandi/V di/Prep sungai/N.
Orang/N yang/P beruang/N banyak/Adv
itu/Pron seorang/Num laki-laki/N.
Pengecekan berlanjut ke pengecekan imbuhan
yang menghasilkan:
Beruang/N,V
sungai/N.
itu/Pron
mandi/V
di/Prep
Orang/N yang/P beruang/N,V banyak/Adv
itu/Pron seorang/Num laki-laki/N.
Yang menunjukkan bahwa kata beruang dapat
memiliki label N dan V. Label V pada kata
beruang diperoleh dari:
ber-uang à V
ber-ruang à V
Sehingga label kata beruang berdasarkan jenis
imbuhan yang dimilikinya adalah V.
7
Tabel 3 PC Specification implementasi sistem
Untuk menghilangkan ambiguitas label pada
kata beruang tersebut, dilakukan pengecekan
pola yang menghasilkan:
N – Pron – V – Prep – N = A frekuensi
V – Pron – V – Prep – N = B frekuens i
Operating System
Windows XP tanpa
Service Pack
RAM
512 MB
Prosesor
Athlon XP 2400+ 1.8
GHz
Hard Disk
Seagate 120 GB 7200
RPM
Graphic Card
NVIDIA GeForce 4
440 MMX
Bahasa
Pemrograman
Microsoft Visual
Basic 6.0
Sistem Database
Microsoft Access
2000
Jika A>B maka kata beruang pada kalimat
Beruang itu mandi di sungai.
Akan diberi label N
pelabelan:
LEARNING UNTUK PELABELAN DOKUMEN BERBAHASA
INDONESIA
Oleh:
M Karibun H S
G64101053
DEPARTEMEN ILMU KOMPUTER
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM
INSTITUT PERTANIAN BOGOR
2005
ABSTRAK
M KARIBUN H S. Penerapan Metode Rule-based dengan Unsupervised Learning untuk Pelabelan
Dokumen Berbahasa Indonesia. Dibimbing oleh YENI HERDIYENI dan PANJI WASMANA.
Penelitian ini menerapkan metode Rule-based dengan Unsupervised Learning untuk pelabelan
dokumen teks berbahasa Indonesia. Metode Rule-based menggunakan pola kata untuk menentukan label
dari kata yang tidak diketahui. Pola diperoleh melalui proses pembelajaran otomatis dan diurutkan
berdasarkan frekuensi kemunculan. Pelabelan kata yang ambigu atau tidak diketahui labelnya dilakukan
dengan cara melihat pola kata sekitar dan mengambil pola kata dengan frekuensi kemunculan terbesar.
Penambahan metode pengujian jenis imbuhan pada sistem diharapkan dapat meningkatkan pengenalan
label pada dokumen.
Penelitian menggunakan 102 dokumen teks yang terdiri dari 305.989 token untuk proses pelatihan
dan menghasilkan 7.706 rule. Basis data rule yang diperoleh dari proses pembelajaran dan basis data
perubahan jenis kata berdasarkan imbuhan digunakan untuk proses pengujian sistem. Pengujian
menggunakan 52 dokumen teks yang terdiri dari 131.719 token. Pengujian menghasilkan 97,82 % token
yang berhasil dikenali . Pengujian manual terhadap 3 dokumen yang terdiri dari 431 token menghasilkan
tingkat kebenaran 85,85%.
Kata Kunci: Part of Speech Tagging, Natural Language, Information Retrieval, Algoritma Eric Brill, dan
Computational Linguistic.
PENERAPAN METODE UNSUPERVISED LEARNING RULE-BASED
PART OF SPEECH TAGGING UNTUK PELABELAN PADA
DOKUMEN BERBAHASA INDONESIA
M Karibun H S
Skripsi
sebagai salah satu syarat untuk memperoleh gelar
Sarjana Komputer pada
Departemen Ilmu Komputer
DEPARTEMEN ILMU KOMPUTER
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM
INSTITUT PERTANIAN BOG OR
2005
: Penerapan Metode Rule-based dengan Unsupervised Learning untuk Pelabelan Dokumen
Judul
Berbahasa Indonesia.
Nama
: M Karibun H S
NRP
: G64101053
Menyetujui,
Pembimbing I
Pembimbing II
Yeni Herdiyeni, S.Si., M.Kom
Panji Wasmana, S.Kom., M.Si
NIP. 132 282 665
NIP. 132 311 917
Mengetahui,
Dekan Fakultas Matematika dan Ilmu Pengetahuan Alam
Dr. Ir. Yonny Koesmaryono, M.Si
NIP. 131 473 999
Tanggal Lulus:…………..
RIWAYAT HIDUP
Penulis dilahirkan di RSCM, Jakarta pada tanggal 17 November 1981 sebagai anak pertama dari dua
bersaudara, anak dari pasangan Bapak Hamdan Eddy Yassin dan Ibu Pipiet Senja. Penulis menikah pada
tanggal 15 Februari 2000 dengan Seli Siti Sholihat.
Penulis menyelesaikan sekolah menengah umum di SMUN 3 Depok, lulus pada tahun 1999. Setelah
lulus melanjutkan pendidikannya di Jurusan Biologi Fakultas Matematika dan Ilmu Pengetahuan Alam
Universitas Indonesia selama dua tahun (1999-2001). Pada tahun 2001, penulis mengikuti Seleksi
Penerimaan Mahasiswa Baru (SPMB) ke Departemen Ilmu Komputer Fakultas Matematika dan Ilmu
Pengetahuan Alam Institut Pertanian Bogor.
Penulis sempat aktif di Badan Kerohanian Islam Mahasiswa (BKIM) pada tahun 2001-2002 dan
menjadi ketua angkatan 38 BKIM Baranangsiang. Selama kuliah, penulis pernah menjadi staf pengajar di
Pengabdian Pada Masyarakat (P2M) Fakultas Teknik Universitas Indonesia Salemba pada tahun 20012004. Penulis juga pernah menjadi Asisten Dosen Praktikum Departemen Ilmu Komputer pada tahun
2002-2004. Penulis pernah menjadi ketua Bareng Karib Silaturahmi Mahasiswa Ilkom (Bakar Singkong)
pada tahun 2002. Penulis juga menjadi anggota Divisi Riset dan Development di Himpunan Mahasiswa
Ilmu Komputer (HIMALKOM) pada tahun 2003-2004. Pada tahun 2004 penulis menjadi pengajar pada
pelatihan Microsoft Visual C++ 6.0 di P2M FTUI. Pada tahun 2005 penulis melakukan Praktik Kerja
Lapang (PKL) di Divisi Hukum Bank Indonesia Thamrin Jakarta.
Bidang yang diminati penulis berkaitan dengan kecerdasan buatan, yaitu Computational Linguistic,
Image Processing, dan Speech Recognition.
PRAKATA
Alhamdulillahirobbil’alamin penulis ucapkan atas segala limpahan rahmat dan hidayah-Nya
sehingga penulis dapat menyelesaikan karya ilmiah ini.
Melalui lembar ini, penulis ingin menyampaikan penghargaan dan terima kasih kepada semua fihak
atas bantuan, dorongan, saran, kritik, serta koreksi yang ditujukan selama penulisan karya ilmiah ini.
Ucapan terima kasih penulis ucapkan kepada:
1. Istri tercinta, Seli Siti Sholihat, atas semua kasih sayang, cinta, bimbingan, dan segala hal yang tak
mungkin tersebut satu persatu disini. Semoga cinta kita tetap abadi dan semoga keluarga kita termasuk
keluarga yang dirahmati Allah, keluarga sakinah.
2. Mama tercinta dan tersayang, Pipiet Senja, atas semua doa dan kesempatan mengenal kasih sayang ibu
di dunia ini. Serta papa, Hamdan Eddy Yassin, atas semua bantuan finansialnya.
3. Adik, Adzimattinur Siregar, yang telah mensuplai komik penghilang stress selama penulisan karya
ilmiah ini.
4. Mertua, Sri Mulyati dan khususnya Engkos Kosasih atas semua nasihat, bimbingan, dan kesempatan
untuk mengenal semua warna kehidupan.
5. Ibu Yeni Herdiyeni, S.Si, M.Kom. dan bapak Panji Wasmana, S.Kom, M.Si. sebagai pembimbing
skripsi I dan II atas segala bimbingan, saran, kritik, dan kesabarannya atas penelitian ini.
6. Seluruh staf pengajar Departemen Ilmu Komputer atas semua ilmu dan contoh kepribadiannya selama
penulis kuliah di Departemen Ilmu Komputer.
7. Usep Aris Sutandi, S.Kom. atas segala bentuk persahabatan, saran, kritik, dan contekan format
penulisan karya ilmiahnya.
8. Semua penghuni DC-7 pada tahun 2002-2004 atas semua bentuk persahabatan, kesenangan, dan
pendidikan kepribadiannya.
9. Ibu Yayuk dan seluruh staf administrasi Departemen Ilmu Komputer atas segala pengabdian dan
kesabarannya.
Akhir kata, semoga karya ilmiah ini dapat dipergunakan untuk kemashlahatan kita bersama.
Depok, Oktober 2005
Penulis
DAFTAR ISI
Halaman
DAFTAR TABEL………………………………………………………………….………………....……vii
DAFTAR LAMPIRAN…………………………………………………………….………………............vii
PENDAHULUAN
Latar Belakang………………………………………………………………..……………….……...1
Tujuan………………………………………………………………………...………………. ……...2
Ruang Lingkup Penelitian……………………………………………………………………….……2
TINJAUAN PUSTAKA
Pembagian Jenis Kata………………………………………………………..……………………….2
Grammar…………………………………………………………………….. ……………… ….……3
Token………………………………………………………………………………………………….4
Part of Speech……………………………………………………………….. ……………… ……….4
Stemming…………………………………………………………………….. ……………………….4
N th Order Tagging…………………………………………………………………………… ……….4
Polisemi……………………………………………………………………………………………….4
Kinerja sistem………………………………………………………………...……………………….5
METODOLOGI
Transformation Based Learning……………………………………………...……………….………5
Proses Pelabelan Kata………………………………………………………...……………………….5
Pemberian Label berdasarkan Imbuhan……………………………………………………… ……….6
HASIL DAN PEMBAHASAN
Implementasi sistem…………………………………………………………………………..............8
Basis data sistem……………………………………………………………...……………….………9
Proses pembelajaran…………………………………………………………. ………………………..9
Ukuran pengujian…………………………………………………………..………………………….9
Hasil pengujian……………………………………………………………..…………………………9
Persentase pengujian tagset dan imbuhan………………………………….………………………...10
Persentase token yang ambigu………………………………………………..……………………...10
Persentase pengujian pola…………………………………………………..………………………..10
Persentase token yang berhasil dikenali……………………………………...……………… ………10
Persentase token yang tidak berhasil diidentifikasi…………………………..……………… ……...10
Persentase token yang berhasil diidentifikasi secara benar…………………………………… …….11
KESIMPULAN DAN SARAN
Kesimpulan…………………………………………………………………...………………. …….11
Saran………………………………………………………………………….………………. …….11
DAFTAR PUSTAKA……………………………………………………………………………… ………11
LAMPIRAN………………………………………………………………………... ………………………13
DAFTAR TABEL
Halaman
1. Spesifikasi implementasi sistem…………………………………………..………………………………9
2. Data hasil pembelajaran…………………………………………………………………………………..9
3. Data hasil pengujian sistem…………………………………………………...………………………….9
DAFTAR GAMBAR
Halaman
1. Proses tokenizing teks…………………………………………………………………………… ……….5
2. Proses pelabelan kata.…………………………………………………...……………………… ………..6
3. Proses pengujian imbuhan……………………………………………………..…………………………6
DAFTAR LAMPIRAN
Halaman
1. Tahapan ekstraksi jawaban pada Question Answering System (QAS)………… ………………………14
2. Klasifikasi pendekatan algoritma Part of Speech Tagging……………………... ……………… ……….15
3. Proses rule-based tagging……………………………………………………….……………………….16
PENDAHULUAN
Latar Belakang
Part-of-Speech Tagging adalah proses
pemberian label klasifikasi pada setiap bagian
dari dokumen teks berbasis bahasa natural.
Part-of-Speech Tagging yang akurat
merupakan langkah awal yang kritis bagi
pemrosesan bahasa natural (Vasilakopoulos,
2003). Part-o f-Speech Tagging juga merupakan
suatu tahapan penting dalam Question
Answering System (QAS).
Posisi Part-ofSpeech Tagging dalam QAS dapat dilihat pada
Lampiran 1. Pada lampiran terlihat bahwa
keluaran dari proses Part-of-Speech Tagging
merupakan dasar dari pengubahan suatu
dokumen teks menjadi bentuk logik. QAS
menggunakan keluaran dari Part-of-Speech
Tagging untuk mencari jawaban terhadap
pertanyaan yang diajukan pada sistem
mengenai suatu dokumen teks.
Beberapa penelitian mengenai Part-ofSpeech Tagging yang telah dilakukan
sebelumnya, dapat dikelompokkan seperti pada
Lampiran 2 (James, 1995).
Pengelompokan pertama adalah sistem
supervised dan unsupervised. Pada sistem
supervised, dokumen yang sudah dilabeli
secara manual dimasukkan ke dalam sistem
untuk dipelajari. Selanjutnya sistem akan
membentuk basis data pola berdasarkan
dokumen yang dimasukkan. Sementara pada
sistem unsupervised, tidak dilakukan pelabelan
secara manual pada dokumen yang dimasukkan
untuk dipelajari oleh sistem. Sehingga sistem
diharuskan untuk melabeli setiap kata dan
mempelajari sendiri pola-pola yang ada.
Masing-masing pendekatan memiliki
kelebihan dan kekurangan.
Pendekatan
supervised
memudahkan
sistem
untuk
mengenali kata atau pola yang baru.
Kekurangan dari pendekatan ini adalah
lamanya waktu pembelajaran yang dibutuhkan
dan besarnya kemungkinan keputusan yang
ambigu. Sementara pada sistem unsupervised,
dapat diharapkan terbentuknya sebuah sistem
yang mengerti semua bahasa yang ada.
Kekurangan dari sistem ini adalah lamanya atau
sulitnya proses pelabelan ketika sistem
diperkenalkan pada sesuatu yang baru dan
belum memiliki referensi sebelumnya.
Pembagian selanjutnya adalah Part-ofSpeech Tagging berbasis rule, stochastic dan
neural network . Pada Part-of-Speech Tagging
berbasis
rule,
sistem
mengandalkan
ketersediaan basis data pola yang akan
digunakan untuk memutuskan klasifikasi
sebuah kata. Sementara pada stochastic, sistem
akan menggunakan prinsip-prinsip statistik
dalam pengklasifikasian kata.
Dan pada
pendekatan dengan teknik neural network ,
sistem akan menggunakan teknik jaringan saraf
tiruan untuk menggolongkan kata-kata yang
dimasukkan ke dalam sistem (James, 1995).
Beberapa penelitian yang telah dilakukan
di antaranya:
-
Penelitian Part-of-Speech Tagging dengan
menggunakan algoritma Baum-Welch
menghasilkan tingkat akurasi 86,6%
(Cutting et al, 1992).
Penelitian
menggunakan Penn Treebank Corpus yang
terdiri dari 120.000 kata.
-
Penelitian Eric Brill (1995), Unsupervised
Learning
Rule-based
Part-of-Speech
Tagging dapat mengidentifikasi secara
benar lebih dari 90% token ambigu.
Penelitian menggunakan data pelatihan
120.000 kata dan data tes 200.000 kata.
-
Penelitian Rabiner (1989), Hidden Markov
Models Part-of-Speech Tagging memiliki
tingkat akurasi 96,5%. Penelitian ini juga
menggunakan Penn Treebank yang terdiri
dari 120.000 kata. Penelitian ini juga
menggunakan Brown Corpus sebagai
perbandingan yang tersusun dari 350.000
kata.
-
Penelitian Weischedel (1993), Maximum
Entropy Model Part-of-Speech Tagging,
memiliki tingkat akurasi 85%. Penelitian
ini menggunakan Penn Treebank yang
terdiri dari 120.000 kata dan Wall Street
Journal Corpus sebagai perbandingan yang
tersusun dari 133.805 kata.
Penelitian mengenai Part-of-Speech
Tagging yang ada sebelumnya dibangun
dengan
menggunakan
bahasa
Inggris.
Sehingga dibutuhkan beberapa penyesuaian
untuk penggunaan pada bahasa Indonesia.
1
Yang termasuk dalam jenis kata ini adalah
segala
kata
yang
dipakai
untuk
menggantikan kata benda atau yang
dibendakan.
Pembagian tradisional
menggolongkan kata-kata ini ke dalam
suatu jenis kata yang tersendiri.
Tujuan
Penelitian
ini
bertujuan
untuk
mengimplementasikan
metode Rule-based
dengan Unsupervised Learning untuk pelabelan
kata dalam bahasa Indonesia.
Ruang Lingkup Penelitian
Kata ganti menurut sifat dan fungsinya
dapat dibedakan atas:
Ruang lingkup penelitian ini meliputi:
1.
Pembelajaran dan pembentukan basis data
pola kata dalam kalimat
a. Kata ganti
Personalia
2.
Pembentukan basis data referensi kata
3.
Pembuatan metode penentuan label kata
berdasarkan imbuhan
b. Kata ganti kepemilikan atau Pronomina
Possessiva
4.
Perhitungan dan pengukuran kinerja sistem
e. Kata ganti penanya atau Pronomina
Interrogativa
Secara sederhana, terdapat 10 jenis kata
dalam bahasa Indonesia (Keraf, 1980):
f. Kata ganti tak tentu atau Pronomina
Indeterminativa
5.
Kata benda adalah nama dari semua benda
dan segala yang dibendakan. Selanjutnya
kata-kata benda, menurut wujudnya, dibagi
atas:
b. Kata benda abstrak
3.
Kata sifat atau Adjektif (Adj)
Kata yang menyatakan sifat atau hal
keadaan dari suatu benda: tinggi, rendah,
lama, baru, dan sebagainya digolongkan
sebagai kata sifat.
4.
- Kata bilangan utama (Nume ralia
Cardinalia): satu, dua, tiga, seratus, dan
sebagainya.
Kata kerja atau Verba (Vb)
Semua kata yang menyatakan perbuatan
atau laku digolongkan ke dalam kata kerja.
Bila suatu kata kerja menghendaki adanya
suatu pelengkap maka disebut kata kerja
transitif, misalnya: memukul, menangkap,
melihat, mendapat, dan sebagainya.
Sebaliknya bila kata kerja tersebut tidak
membutuhkan suatu pelengkap maka
disebut kata kerja intransitif, misalnya:
menangis, meninggal, berjalan, berdiri,
dan sebagainya.
Kata ganti atau Pronomina (Pro)
Kata bilangan atau Numeralia (Num)
Kata
bilangan
adalah
kata
yang
menyatakan jumlah benda atau jumlah
kumpulan atau urutan tempat dari namanama benda.
Menurut sifatnya, kata
bilangan dapat dibagi atas:
a. Kata benda konkrit
2.
Pronomina
d. Kata ganti penghubung atau Pronomina
Relativa
Pembagian Jenis Kata
Kata benda atau Nomina (N)
atau
c. Kata ganti petunjuk atau Pronomina
Demonstrative
TINJAUAN PUSTAKA
1.
orang
- Kata bilangan tingkat (Numeralia
Ordinalia):
pertama, kedua, ketiga,
kelima, kesepuluh, dan sebagainya.
- Kata bilangan tak tentu:
beberapa,
segala, semua, tiap-tiap, dan sebagainya.
- Kata bilangan kumpulan:
berdua,
bertiga, bertujuh, dan sebagainya.
6.
Kata keterangan atau Adverbia (Adv)
Kata-kata keterangan atau adverbia adalah
kata-kata yang memberi keterangan
tentang:
a. Kata kerja
b. Kata sifat
c. Kata keterangan
d. Kata bilangan
2
PENERAPAN METODE RULE-BASED DENGAN UNSUPERVISED
LEARNING UNTUK PELABELAN DOKUMEN BERBAHASA
INDONESIA
Oleh:
M Karibun H S
G64101053
DEPARTEMEN ILMU KOMPUTER
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM
INSTITUT PERTANIAN BOGOR
2005
ABSTRAK
M KARIBUN H S. Penerapan Metode Rule-based dengan Unsupervised Learning untuk Pelabelan
Dokumen Berbahasa Indonesia. Dibimbing oleh YENI HERDIYENI dan PANJI WASMANA.
Penelitian ini menerapkan metode Rule-based dengan Unsupervised Learning untuk pelabelan
dokumen teks berbahasa Indonesia. Metode Rule-based menggunakan pola kata untuk menentukan label
dari kata yang tidak diketahui. Pola diperoleh melalui proses pembelajaran otomatis dan diurutkan
berdasarkan frekuensi kemunculan. Pelabelan kata yang ambigu atau tidak diketahui labelnya dilakukan
dengan cara melihat pola kata sekitar dan mengambil pola kata dengan frekuensi kemunculan terbesar.
Penambahan metode pengujian jenis imbuhan pada sistem diharapkan dapat meningkatkan pengenalan
label pada dokumen.
Penelitian menggunakan 102 dokumen teks yang terdiri dari 305.989 token untuk proses pelatihan
dan menghasilkan 7.706 rule. Basis data rule yang diperoleh dari proses pembelajaran dan basis data
perubahan jenis kata berdasarkan imbuhan digunakan untuk proses pengujian sistem. Pengujian
menggunakan 52 dokumen teks yang terdiri dari 131.719 token. Pengujian menghasilkan 97,82 % token
yang berhasil dikenali . Pengujian manual terhadap 3 dokumen yang terdiri dari 431 token menghasilkan
tingkat kebenaran 85,85%.
Kata Kunci: Part of Speech Tagging, Natural Language, Information Retrieval, Algoritma Eric Brill, dan
Computational Linguistic.
PENERAPAN METODE UNSUPERVISED LEARNING RULE-BASED
PART OF SPEECH TAGGING UNTUK PELABELAN PADA
DOKUMEN BERBAHASA INDONESIA
M Karibun H S
Skripsi
sebagai salah satu syarat untuk memperoleh gelar
Sarjana Komputer pada
Departemen Ilmu Komputer
DEPARTEMEN ILMU KOMPUTER
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM
INSTITUT PERTANIAN BOG OR
2005
: Penerapan Metode Rule-based dengan Unsupervised Learning untuk Pelabelan Dokumen
Judul
Berbahasa Indonesia.
Nama
: M Karibun H S
NRP
: G64101053
Menyetujui,
Pembimbing I
Pembimbing II
Yeni Herdiyeni, S.Si., M.Kom
Panji Wasmana, S.Kom., M.Si
NIP. 132 282 665
NIP. 132 311 917
Mengetahui,
Dekan Fakultas Matematika dan Ilmu Pengetahuan Alam
Dr. Ir. Yonny Koesmaryono, M.Si
NIP. 131 473 999
Tanggal Lulus:…………..
RIWAYAT HIDUP
Penulis dilahirkan di RSCM, Jakarta pada tanggal 17 November 1981 sebagai anak pertama dari dua
bersaudara, anak dari pasangan Bapak Hamdan Eddy Yassin dan Ibu Pipiet Senja. Penulis menikah pada
tanggal 15 Februari 2000 dengan Seli Siti Sholihat.
Penulis menyelesaikan sekolah menengah umum di SMUN 3 Depok, lulus pada tahun 1999. Setelah
lulus melanjutkan pendidikannya di Jurusan Biologi Fakultas Matematika dan Ilmu Pengetahuan Alam
Universitas Indonesia selama dua tahun (1999-2001). Pada tahun 2001, penulis mengikuti Seleksi
Penerimaan Mahasiswa Baru (SPMB) ke Departemen Ilmu Komputer Fakultas Matematika dan Ilmu
Pengetahuan Alam Institut Pertanian Bogor.
Penulis sempat aktif di Badan Kerohanian Islam Mahasiswa (BKIM) pada tahun 2001-2002 dan
menjadi ketua angkatan 38 BKIM Baranangsiang. Selama kuliah, penulis pernah menjadi staf pengajar di
Pengabdian Pada Masyarakat (P2M) Fakultas Teknik Universitas Indonesia Salemba pada tahun 20012004. Penulis juga pernah menjadi Asisten Dosen Praktikum Departemen Ilmu Komputer pada tahun
2002-2004. Penulis pernah menjadi ketua Bareng Karib Silaturahmi Mahasiswa Ilkom (Bakar Singkong)
pada tahun 2002. Penulis juga menjadi anggota Divisi Riset dan Development di Himpunan Mahasiswa
Ilmu Komputer (HIMALKOM) pada tahun 2003-2004. Pada tahun 2004 penulis menjadi pengajar pada
pelatihan Microsoft Visual C++ 6.0 di P2M FTUI. Pada tahun 2005 penulis melakukan Praktik Kerja
Lapang (PKL) di Divisi Hukum Bank Indonesia Thamrin Jakarta.
Bidang yang diminati penulis berkaitan dengan kecerdasan buatan, yaitu Computational Linguistic,
Image Processing, dan Speech Recognition.
PRAKATA
Alhamdulillahirobbil’alamin penulis ucapkan atas segala limpahan rahmat dan hidayah-Nya
sehingga penulis dapat menyelesaikan karya ilmiah ini.
Melalui lembar ini, penulis ingin menyampaikan penghargaan dan terima kasih kepada semua fihak
atas bantuan, dorongan, saran, kritik, serta koreksi yang ditujukan selama penulisan karya ilmiah ini.
Ucapan terima kasih penulis ucapkan kepada:
1. Istri tercinta, Seli Siti Sholihat, atas semua kasih sayang, cinta, bimbingan, dan segala hal yang tak
mungkin tersebut satu persatu disini. Semoga cinta kita tetap abadi dan semoga keluarga kita termasuk
keluarga yang dirahmati Allah, keluarga sakinah.
2. Mama tercinta dan tersayang, Pipiet Senja, atas semua doa dan kesempatan mengenal kasih sayang ibu
di dunia ini. Serta papa, Hamdan Eddy Yassin, atas semua bantuan finansialnya.
3. Adik, Adzimattinur Siregar, yang telah mensuplai komik penghilang stress selama penulisan karya
ilmiah ini.
4. Mertua, Sri Mulyati dan khususnya Engkos Kosasih atas semua nasihat, bimbingan, dan kesempatan
untuk mengenal semua warna kehidupan.
5. Ibu Yeni Herdiyeni, S.Si, M.Kom. dan bapak Panji Wasmana, S.Kom, M.Si. sebagai pembimbing
skripsi I dan II atas segala bimbingan, saran, kritik, dan kesabarannya atas penelitian ini.
6. Seluruh staf pengajar Departemen Ilmu Komputer atas semua ilmu dan contoh kepribadiannya selama
penulis kuliah di Departemen Ilmu Komputer.
7. Usep Aris Sutandi, S.Kom. atas segala bentuk persahabatan, saran, kritik, dan contekan format
penulisan karya ilmiahnya.
8. Semua penghuni DC-7 pada tahun 2002-2004 atas semua bentuk persahabatan, kesenangan, dan
pendidikan kepribadiannya.
9. Ibu Yayuk dan seluruh staf administrasi Departemen Ilmu Komputer atas segala pengabdian dan
kesabarannya.
Akhir kata, semoga karya ilmiah ini dapat dipergunakan untuk kemashlahatan kita bersama.
Depok, Oktober 2005
Penulis
DAFTAR ISI
Halaman
DAFTAR TABEL………………………………………………………………….………………....……vii
DAFTAR LAMPIRAN…………………………………………………………….………………............vii
PENDAHULUAN
Latar Belakang………………………………………………………………..……………….……...1
Tujuan………………………………………………………………………...………………. ……...2
Ruang Lingkup Penelitian……………………………………………………………………….……2
TINJAUAN PUSTAKA
Pembagian Jenis Kata………………………………………………………..……………………….2
Grammar…………………………………………………………………….. ……………… ….……3
Token………………………………………………………………………………………………….4
Part of Speech……………………………………………………………….. ……………… ……….4
Stemming…………………………………………………………………….. ……………………….4
N th Order Tagging…………………………………………………………………………… ……….4
Polisemi……………………………………………………………………………………………….4
Kinerja sistem………………………………………………………………...……………………….5
METODOLOGI
Transformation Based Learning……………………………………………...……………….………5
Proses Pelabelan Kata………………………………………………………...……………………….5
Pemberian Label berdasarkan Imbuhan……………………………………………………… ……….6
HASIL DAN PEMBAHASAN
Implementasi sistem…………………………………………………………………………..............8
Basis data sistem……………………………………………………………...……………….………9
Proses pembelajaran…………………………………………………………. ………………………..9
Ukuran pengujian…………………………………………………………..………………………….9
Hasil pengujian……………………………………………………………..…………………………9
Persentase pengujian tagset dan imbuhan………………………………….………………………...10
Persentase token yang ambigu………………………………………………..……………………...10
Persentase pengujian pola…………………………………………………..………………………..10
Persentase token yang berhasil dikenali……………………………………...……………… ………10
Persentase token yang tidak berhasil diidentifikasi…………………………..……………… ……...10
Persentase token yang berhasil diidentifikasi secara benar…………………………………… …….11
KESIMPULAN DAN SARAN
Kesimpulan…………………………………………………………………...………………. …….11
Saran………………………………………………………………………….………………. …….11
DAFTAR PUSTAKA……………………………………………………………………………… ………11
LAMPIRAN………………………………………………………………………... ………………………13
DAFTAR TABEL
Halaman
1. Spesifikasi implementasi sistem…………………………………………..………………………………9
2. Data hasil pembelajaran…………………………………………………………………………………..9
3. Data hasil pengujian sistem…………………………………………………...………………………….9
DAFTAR GAMBAR
Halaman
1. Proses tokenizing teks…………………………………………………………………………… ……….5
2. Proses pelabelan kata.…………………………………………………...……………………… ………..6
3. Proses pengujian imbuhan……………………………………………………..…………………………6
DAFTAR LAMPIRAN
Halaman
1. Tahapan ekstraksi jawaban pada Question Answering System (QAS)………… ………………………14
2. Klasifikasi pendekatan algoritma Part of Speech Tagging……………………... ……………… ……….15
3. Proses rule-based tagging……………………………………………………….……………………….16
PENDAHULUAN
Latar Belakang
Part-of-Speech Tagging adalah proses
pemberian label klasifikasi pada setiap bagian
dari dokumen teks berbasis bahasa natural.
Part-of-Speech Tagging yang akurat
merupakan langkah awal yang kritis bagi
pemrosesan bahasa natural (Vasilakopoulos,
2003). Part-o f-Speech Tagging juga merupakan
suatu tahapan penting dalam Question
Answering System (QAS).
Posisi Part-ofSpeech Tagging dalam QAS dapat dilihat pada
Lampiran 1. Pada lampiran terlihat bahwa
keluaran dari proses Part-of-Speech Tagging
merupakan dasar dari pengubahan suatu
dokumen teks menjadi bentuk logik. QAS
menggunakan keluaran dari Part-of-Speech
Tagging untuk mencari jawaban terhadap
pertanyaan yang diajukan pada sistem
mengenai suatu dokumen teks.
Beberapa penelitian mengenai Part-ofSpeech Tagging yang telah dilakukan
sebelumnya, dapat dikelompokkan seperti pada
Lampiran 2 (James, 1995).
Pengelompokan pertama adalah sistem
supervised dan unsupervised. Pada sistem
supervised, dokumen yang sudah dilabeli
secara manual dimasukkan ke dalam sistem
untuk dipelajari. Selanjutnya sistem akan
membentuk basis data pola berdasarkan
dokumen yang dimasukkan. Sementara pada
sistem unsupervised, tidak dilakukan pelabelan
secara manual pada dokumen yang dimasukkan
untuk dipelajari oleh sistem. Sehingga sistem
diharuskan untuk melabeli setiap kata dan
mempelajari sendiri pola-pola yang ada.
Masing-masing pendekatan memiliki
kelebihan dan kekurangan.
Pendekatan
supervised
memudahkan
sistem
untuk
mengenali kata atau pola yang baru.
Kekurangan dari pendekatan ini adalah
lamanya waktu pembelajaran yang dibutuhkan
dan besarnya kemungkinan keputusan yang
ambigu. Sementara pada sistem unsupervised,
dapat diharapkan terbentuknya sebuah sistem
yang mengerti semua bahasa yang ada.
Kekurangan dari sistem ini adalah lamanya atau
sulitnya proses pelabelan ketika sistem
diperkenalkan pada sesuatu yang baru dan
belum memiliki referensi sebelumnya.
Pembagian selanjutnya adalah Part-ofSpeech Tagging berbasis rule, stochastic dan
neural network . Pada Part-of-Speech Tagging
berbasis
rule,
sistem
mengandalkan
ketersediaan basis data pola yang akan
digunakan untuk memutuskan klasifikasi
sebuah kata. Sementara pada stochastic, sistem
akan menggunakan prinsip-prinsip statistik
dalam pengklasifikasian kata.
Dan pada
pendekatan dengan teknik neural network ,
sistem akan menggunakan teknik jaringan saraf
tiruan untuk menggolongkan kata-kata yang
dimasukkan ke dalam sistem (James, 1995).
Beberapa penelitian yang telah dilakukan
di antaranya:
-
Penelitian Part-of-Speech Tagging dengan
menggunakan algoritma Baum-Welch
menghasilkan tingkat akurasi 86,6%
(Cutting et al, 1992).
Penelitian
menggunakan Penn Treebank Corpus yang
terdiri dari 120.000 kata.
-
Penelitian Eric Brill (1995), Unsupervised
Learning
Rule-based
Part-of-Speech
Tagging dapat mengidentifikasi secara
benar lebih dari 90% token ambigu.
Penelitian menggunakan data pelatihan
120.000 kata dan data tes 200.000 kata.
-
Penelitian Rabiner (1989), Hidden Markov
Models Part-of-Speech Tagging memiliki
tingkat akurasi 96,5%. Penelitian ini juga
menggunakan Penn Treebank yang terdiri
dari 120.000 kata. Penelitian ini juga
menggunakan Brown Corpus sebagai
perbandingan yang tersusun dari 350.000
kata.
-
Penelitian Weischedel (1993), Maximum
Entropy Model Part-of-Speech Tagging,
memiliki tingkat akurasi 85%. Penelitian
ini menggunakan Penn Treebank yang
terdiri dari 120.000 kata dan Wall Street
Journal Corpus sebagai perbandingan yang
tersusun dari 133.805 kata.
Penelitian mengenai Part-of-Speech
Tagging yang ada sebelumnya dibangun
dengan
menggunakan
bahasa
Inggris.
Sehingga dibutuhkan beberapa penyesuaian
untuk penggunaan pada bahasa Indonesia.
1
Yang termasuk dalam jenis kata ini adalah
segala
kata
yang
dipakai
untuk
menggantikan kata benda atau yang
dibendakan.
Pembagian tradisional
menggolongkan kata-kata ini ke dalam
suatu jenis kata yang tersendiri.
Tujuan
Penelitian
ini
bertujuan
untuk
mengimplementasikan
metode Rule-based
dengan Unsupervised Learning untuk pelabelan
kata dalam bahasa Indonesia.
Ruang Lingkup Penelitian
Kata ganti menurut sifat dan fungsinya
dapat dibedakan atas:
Ruang lingkup penelitian ini meliputi:
1.
Pembelajaran dan pembentukan basis data
pola kata dalam kalimat
a. Kata ganti
Personalia
2.
Pembentukan basis data referensi kata
3.
Pembuatan metode penentuan label kata
berdasarkan imbuhan
b. Kata ganti kepemilikan atau Pronomina
Possessiva
4.
Perhitungan dan pengukuran kinerja sistem
e. Kata ganti penanya atau Pronomina
Interrogativa
Secara sederhana, terdapat 10 jenis kata
dalam bahasa Indonesia (Keraf, 1980):
f. Kata ganti tak tentu atau Pronomina
Indeterminativa
5.
Kata benda adalah nama dari semua benda
dan segala yang dibendakan. Selanjutnya
kata-kata benda, menurut wujudnya, dibagi
atas:
b. Kata benda abstrak
3.
Kata sifat atau Adjektif (Adj)
Kata yang menyatakan sifat atau hal
keadaan dari suatu benda: tinggi, rendah,
lama, baru, dan sebagainya digolongkan
sebagai kata sifat.
4.
- Kata bilangan utama (Nume ralia
Cardinalia): satu, dua, tiga, seratus, dan
sebagainya.
Kata kerja atau Verba (Vb)
Semua kata yang menyatakan perbuatan
atau laku digolongkan ke dalam kata kerja.
Bila suatu kata kerja menghendaki adanya
suatu pelengkap maka disebut kata kerja
transitif, misalnya: memukul, menangkap,
melihat, mendapat, dan sebagainya.
Sebaliknya bila kata kerja tersebut tidak
membutuhkan suatu pelengkap maka
disebut kata kerja intransitif, misalnya:
menangis, meninggal, berjalan, berdiri,
dan sebagainya.
Kata ganti atau Pronomina (Pro)
Kata bilangan atau Numeralia (Num)
Kata
bilangan
adalah
kata
yang
menyatakan jumlah benda atau jumlah
kumpulan atau urutan tempat dari namanama benda.
Menurut sifatnya, kata
bilangan dapat dibagi atas:
a. Kata benda konkrit
2.
Pronomina
d. Kata ganti penghubung atau Pronomina
Relativa
Pembagian Jenis Kata
Kata benda atau Nomina (N)
atau
c. Kata ganti petunjuk atau Pronomina
Demonstrative
TINJAUAN PUSTAKA
1.
orang
- Kata bilangan tingkat (Numeralia
Ordinalia):
pertama, kedua, ketiga,
kelima, kesepuluh, dan sebagainya.
- Kata bilangan tak tentu:
beberapa,
segala, semua, tiap-tiap, dan sebagainya.
- Kata bilangan kumpulan:
berdua,
bertiga, bertujuh, dan sebagainya.
6.
Kata keterangan atau Adverbia (Adv)
Kata-kata keterangan atau adverbia adalah
kata-kata yang memberi keterangan
tentang:
a. Kata kerja
b. Kata sifat
c. Kata keterangan
d. Kata bilangan
2
e. Seluruh kalimat
Kata keterangan sendiri
menjadi beberapa macam:
8.
dibagi
lagi
- Kata keterangan kualitatif (Adverbium
kualitatif). Adalah kata keterangan yang
menerangkan atau menjelaskan suasana
atau situasi dari suatu perbuatan.
Contohnya: ia berjalan perlahan-lahan.
Biasanya kata keterangan ini dinyatakan
dengan mempergunakan kata depan
dengan + kata sifat.
- Kata keterangan waktu (Adverbium
temporal).
Adalah keterangan yang
menunjukkan
atau
menjelaskan
berlangsungnya suatu peristiwa dalam
suatu bidang waktu: sekarang, nanti,
kemarin, kemudian, sesudah itu, lusa,
sebelum, minggu depan, bulan depan,
dan lain-lain.
- Kata keterangan tempat (Adverbium
lokatif). Adalah kata yang memberi
penjelasan atas berlangsungnya suatu
peristiwa atau perbuatan dalam suatu
ruang. Contohnya: di sini, di situ, di
sana, dan sebagainya.
- Kata keterangan kecaraan (Adverbium
modalitas).
Adalah kata-kata yang
menjelaskan suatu peristiwa karena
tanggapan
si
pembicara
atas
berlangsungnya
peristiwa
tersebut.
Dalam hal ini subjektivitas lebih
ditonjolkan.
Contohnya:
memang,
niscaya, pasti, sungguh, tentu, tidak,
bukannya, bukan, dan sebagainya.
- Kata keterangan aspek. Menjelaskan
berlangsungnya suatu peristiwa secara
objektif, bahwa suatu peristiwa terjadi
dengan sendirinya tanpa suatu pengaruh
atau pandangan dari pembicara. Contoh:
pun, lah, sedang, sementara, dan
sebagainya.
- Dan masih banyak lagi pembedaan kata
keterangan.
7.
Kata sambung atau Conjunctiva (Conj)
Kata sambung adalah kata yang
menghubungkan kata-kata, bagian-bagian
kalimat, atau menghubungkan kalimatkalimat. Contoh: apabila, ketika, bia, jika,
atau, dan sebagainya.
Kata depan atau Prepositio (Prep)
Kata depan adalah kata yang merangkaikan
kata-kata atau bagian-bagian kalimat.
Contoh: di, ke, dari, dan sebagainya.
9.
Kata sandang atau Articula (Art)
kata sandang tidak mengandung suatu arti,
tetapi memiliki fungsi. Contoh: yang, itu,
nya, si, sang, hang, dang.
10. Kata seru atau Interjectio (Int)
Kata seru adalah kata yang paling tua
dalam bahasa.
Kata ini merupakan
ungkapan perasaan seseorang. Contoh:
wah, yah, ah, dan sebagainya.
Grammar
Grammar dari suatu bahasa adalah
skema untuk menspesifikasikan kalimat dalam
bahasa tersebut. Grammar mengindikasikan
hubungan sintaksis untuk mengkombinasikan
kata ke dalam bentuk frase dan klausa.
Grammar G didefinisikan sebagai
sebuah bentuk yang terdiri dari 4 elemen yang
terbatas (Krulee, 1991).
Sebuah grammar G = (N, Σ, P, So ) dimana
1.
N adalah sebuah set dari non terminal.
2.
Σ adalah sebuah set dari simbol terminal
yang digunakan untuk mendefinisikan ka ta
aktual.
3.
P adalah sebuah set dari aturan grammar.
4.
So adalah sebuah non terminal yang
berfungsi sebagai simbol inisiasi untuk
setiap deretan penurunan.
Sebuah grammar dikatakan linier ke
kanan jika dan hanya jika setiap produksi pada
grammar tersebut memiliki bentuk:
X à αY atau X à α
Dimana X dan Y adalah non terminal
yang terdapat dalam N dan α adalah sebuah
simbol terminal yang terdapat dalam Σ.
Untuk lebih umumnya, sebuah grammar
dikatakan bersifat context-sensitive jika setiap
produksi pada gramar G = (N, Σ, P, So )
memiliki bentuk γ1 χγ2 = γ1 αγ2 dimana χ berada
dalam N dan γ1 , α, γ2 berada di dalam (N ∪ Σ)-.
3
Token
Token adalah sederetan karakter yang
membentuk satu kesatuan informasi dalam
sebuah dokumen teks.
Kemungkinan dari jumlah token yang
dipertimbangkan antara lain:
-
0th order. Disebut juga sebagai unigram
tagger. Pada metode ini, penentuan label
dari token yang tidak diketahui dilakukan
berdasarkan frekuensi label yang paling
tinggi tanpa mempertimbangkan label dari
token sekitarnya.
-
1st order. Disebut juga sebagai bigram
tagger. Pada metode ini, penentuan label
dari token yang tidak diketahui dilakukan
berdasarkan frekuensi label yang paling
tinggi dengan mempertimbangkan label
dari token lain yang terletak di n-1 dan n+1
di sekitar token yang tidak diketahui.
Contoh:
Proses pemisahan token pada dokumen
disebut sebagai tokenize. Sementara program
yang melakukan proses tersebut disebut sebagai
tokenizer (Jones, 1994).
Part of Speech
Part of Speech adalah pengklasifikasian
kata secara grammar. Klasifikasi kata dapat
terdiri dari kata benda, kata kerja, kata
penghubung, dan sebagainya.
Ada 3 pendekatan pengklasifikasian kata
yang dapat digunakan. Pendekatan pertama
adalah pendekatan formal. Pada pendekatan
ini, anatomi dari kata digunakan sebagai
penentu klasifikasi dari kata. Sebagai contoh,
kata yang berawalan me- dapat digolongkan
langsung sebagai kata kerja.
Pendekatan kedua adalah pendekatan
sintaktik.
Pendekatan ini menggunakan
klasifikasi dari kata lain di dekat kata yang
tidak teridentifikasi. Sebagai contoh, kata Adj
dalam bahasa Indonesia biasanya muncul tepat
setelah kata benda: Jendela kotor, Meja baru,
dan sebagainya.
Pendekatan terakhir adalah pendekatan
notional atau konteks . Pada pendekatan ini,
sebuah klasifikasi dipahami maknanya dan
digunakan sebagai penentu penggolongan kata.
Sebagai contoh, kata benda adalah kata yang
merepresentasikan suatu objek. Pendekatan ini
sangat sulit diformulasikan. Dan karenanya
kurang begitu dipakai dalam pengklasifikasian
kata (Jones , 1994).
Stemming
Stemming adalah proses pemotongan
imbuhan pada kata untuk mendapatkan kata
dasarnya (Porter, 1980).
Dengan proses
stemming, kata mencadangkan akan dipisahkan
menjadi bentuk me-cadang-kan . Dengan kata
dasar cadang yang berhasil diekstraksi.
Nth Order Tagging
Menurut Brill (1992), dalam menentukan
label dari sebuah token, pertimbangan konteks
dapat menggunakan label dari token lain di
sekitar token yang bermasalah.
N – X – V à X/?
Dari data pelatihan:
N – N – V = A frekuensi
N – V – V = B frekuensi
Jika A>B, maka X à N
-
2nd order. Disebut juga sebagai trigram
tagger. Pada metode ini, penentuan label
dari token yang tidak diketahui dilakukan
berdasarkan frekuensi label yang paling
tinggi dengan mempertimbangkan label
dari token lain yang terletak di n -2, n-1,
n+1, dan n+2 di sekitar token yang tidak
diketahui.
Contoh:
N – N – X – V – Prep à X/?
Dari data pelatihan
N – N – N – V – Prep = A frekuensi
N – N – Prep – V – Prep = B frekuensi
Jika A>B, maka X à Prep
Polisemi
Khasanah bahas a Indonesia mengenal
beberapa kata yang memiliki lebih dari satu
jenis kata yang dikenal dengan istilah polisemi
(Depdiknas, 2003). Pelabelan kata yang tepat
untuk jenis kata seperti ini akan sangat
tergantung pada konteks kalimat yang
menyertai penggunaa n kata tersebut.
4
Kinerja sistem
Pengukuran kinerja sistem menggunakan
rumus:
Secara garis besar, sistem yang
dibangun akan berjalan seperti pada Lampiran
3.
Proses Pelabelan Kata
Σid
P=
x100%
Σ tkn
Penjelasan mengenai proses pelabelan
untuk setiap kata dapat dirinci sebagai berikut:
dimana
P=Persentase token
diidentifikasi.
yang
berhasil
Σid=Jumlah
token
diidentifikasi.
yang
berhasil
- Langkah pertama adalah pemisahan setiap
token dalam dokumen dengan cara
pengecekan setiap karakter dalam dokumen.
Proses detailnya bisa dilihat pada gambar 1.
Σtkn=Jumlah token yang dicek.
METODOLOGI
Penetapan label jenis untuk setiap kata
dilakukan dengan mempertimbangkan 4 hal:
kamus, ciri kata, jenis imbuhan yang menyertai
kata, dan pola kata pada kalimat.
Transformation Based Learning
Salah satu metode yang banyak
digunakan dalam proses tagging adalah
Transformation Based Learning (TBL), sebuah
metode machine learning yang diperkenalkan
oleh Eric Brill (1995).
Ide utama dari metode TBL adalah
pengekstraksian rule secara otomatis selama
proses pelatihan dan pengurutan rule yang
diperoleh
berdasarkan
frekuensi
kemunculannya.
Rule digunakan untuk
memperbaiki pelabelan awal dan disebut
sebagai transformation rule.
Sehingga
dibutuhkan sebuah proses pembelajaran dengan
cara memasukkan rule-rule yang biasa terdapat
dalam sebuah kalimat serta membangun
sema cam kamus yang menyediakan data awal
klasifikasi dari setiap kata.
Sistem terlebih dahulu akan mencari
label dari setiap kata pada kamus yang
disediakan. Seandainya kata tersebut terdapat
dalam kamus, maka tugas sistem selesai.
Sementara seandainya sis tem tidak menemukan
kata yang dicari pada kamus, atau menemukan
kata yang ambigu, maka sistem akan
mengandalkan dan melihat pola pada kalimat
yang paling sesuai sehingga kata yang dicari
dapat ditentukan klasifikasinya.
Gambar 1 Proses tokenizing teks.
Setiap karakter dicek oleh sistem. Selama
karakter tersebut berupa karakter A-Z, a-z,
atau 0-9 (fungsi isAlpha), maka karakter
tersebut dimasukkan ke dalam token aktif.
Ketika sistem menemukan karakter khusus
(fungsi isSpesialChar), maka sistem akan
mulai mencari token selanjutnya. Proses
terus berulang selama belum ditemukan
karakter penanda akhir dokumen (fungsi
notEOF). Ketika karakter akhir dokumen
ditemukan (fungsi isEOF), maka proses
pemisahan selesai dengan hasil rangkaian
token yang telah berhasil diidentifikasi.
Token khusus seperti alamat email, angka,
dan tanggal langsung diidentifikasi dan diberi
label pada proses ini (fungsi isSpecialToken).
- Kemudian, setelah setiap kata dapat
diidentifikasi, satu persatu kata tersebut dicek
keberadaannya dalam tagset yang sudah ada
pada database. Proses dapat dilihat pada
gambar 2.
Gambar 2 Proses pelabelan kata.
Bila kata yang dicari terdapat dalam tagset,
maka kata tersebut akan diberi label
berdasarkan data pada tagset.
5
- Kata yang masih belum teridentifikasi akan
dicek bentuk imbuhannya. Proses dapat
dilihat pada gambar 3.
kemudian dilanjutkan dengan pemeriksaan
awalan secara berulang sampai ditemukan kata
dasar yang valid pada tagset.
Rincian proses pengecekan imbuhan
dapat dilihat pada Gambar 3 dengan penjelasan
sebagai berikut:
Kata yang dicek: abCd
Gambar 3 Proses pengecekan imbuhan
Pengecekan imbuhan dilakukan dengan cara
mencari bentuk perubahan imbuhan yang
sesuai dengan kata tersebut untuk
mendapatkan kata dasar dari kata. Kemudian
diadakan pengecekan untuk kata dasar yang
didapatkan pada tagset. Bila ada, sistem
akan mencari bentuk perubahan label dari
kata dasar dengan mempertimbangkan jenis
imbuhan yang didapatkan.
- Bila label yang didapatkan dari rumus frase
belum fix atau merujuk pada satu label, atau
bahkan belum ditemukan la bel yang sesuai
untuk kata yang ditanyakan, langkah terakhir
adalah melakukan pengecekan pada pola
bigram dan trigram yang didapatkan pada
pembelajaran (Gambar 2).
Langkah-langkah yang dilakukan pada
proses pembelajaran pola kalimat adalah:
- Pengidentifikasian setiap ka limat pada
dokumen berdasarkan karakter pemisah
kalimat.
- Pemotongan setiap kata berdasarkan karakter
pemisah kata.
- Pelabelan setiap kata.
Di mana a dan b adalah awalan, C adalah kata
dasar yang ingin diekstrak, dan d adalah
akhiran. Proses yang terjadi:
abCd à abC-d, yang berarti akhiran d sudah
dapat diidentifikasi.
abC à a-bC, pada proses ini, awalan a telah
berhasil diidentifikasi.
bC à b-C, pada akhirnya, awalan b berhasil
diidentifikasi dan kata dasar C berhasil
diekstrak.
Proses di atas menghasilkan:
Imbuhan: a-b dan d
Kata dasar: C
Kemudian dilakukan pengecekan jenis kata
pada tagset:
Cà L
dimana L adalah jenis kata. Jenis kata yang
dicek akan ditentukan dengan proses:
Kata dasar: C à L
Proses
pengecekan
jenis
kata
berdasarkan imbuhan berjalan sebagai berikut:
L-d à M , dimana M adalah jenis kata yang
terbentuk jika jenis kata L diberi akhiran d.
Kombinasi kata yang labelnya diketahui
akan dicek keberadaannya pada database pola
kata.
Bila tidak ada, pola baru akan
ditambahkan pada database pola, sementara
bila sudah ada, frekuensi pola akan ditambah.
a-N à O, O adalah jenis kata yang terbentuk
bila jenis kata N diberi awalan a.
Pemberian Label berdasarkan Imbuhan
Sehingga diperoleh jenis kata yang dicek:
Bahasa
Indonesia
mengenal
penggabungan berbagai jenis imbuhan untuk
membentuk satu kata.
abCd à O
Untuk mengekstrak kata dasar dari kata
yang berimbuhan seperti ini, diperlukan sebuah
proses tersendiri. Dimulai dengan pemeriksaan
akhiran terlebih dahulu, karena sifat akhiran
pada bahasa Indonesia yang tidak bertumpuk,
b-M à N, N adalah jenis kata yang terbentuk
bila jenis kata M diberi awalan b.
Contoh pemrosesan kata berimbuhan
memperbarui akan berjalan sebagai berikut:
Pada database rule akhiran diperoleh rule:
*ui à *u
6
Sehingga kata dasar yang diperoleh:
Me-V à V
Memperbaru
Yang akan mengubah susunan morfologi kata
menjadi:
Karena pada pengecekan tagset tidak
ditemukan kata tersebut, dilakukan pengecekan
awalan.
Pada database rule awalan, diperoleh rule:
Memp* à p*
V-i
Terakhir, dari database diperoleh rule:
V-i à V
Sehingga kata dasar yang diperoleh:
Sehingga pada akhirnya,
menyimpulkan bahwa:
Perbaru
Me-per-Adj –I à V
Pengecekan pada tagset masih tidak akan
menemukan kata di atas. Sehingga diadakan
pengecekan awalan sekali lagi dengan hasil
rule:
Proses di atas akan berulang pada
pengecekan untuk baru à Adv yang akan
menghasilkan:
Perb* à b*
Yang akan menghasilkan kata dasar:
Baru à Adj/Adv
Yang berarti bahwa kata baru memiliki dua
kemungkinan label, Adj atau Adv.
Dari proses di atas, ditemukan bahwa kata
memperbarui adalah kata berimbuhan dengan
morfologi:
Me-per-baru-i
Karena sistem bertujuan untuk menentukan
label dari kata memperbarui, maka sistem akan
mengubah susunan di atas menjadi:
Me-per-Adj/Adv-i
Dari susunan tersebut, sistem mengetahui
bahwa ada dua kemungkinan label kata dasar.
Sistem kemudian akan melakukan pengecekan
untuk setiap kemungkinan label tersebut dalam
penentuan label kata keseluruhan.
Proses untuk baru à Adj:
Me-per-Adj-i
Dari database pembentukan label berdasarkan
imbuhan, diperoleh rule :
Per-Adj à V
Sehingga susunan morfologi kata akan diubah
menjadi:
Me-V-i
Selanjutnya,
berdasarkan
database
pembentukan label juga, diperoleh rule:
sistem
akan
Me-per-Adv-I à V
Karena kedua kemungkinan label tersebut
menghasilkan label yang sama, V, maka sistem
akan memberikan label pada kata memperbarui
à V.
Pada kasus jenis kata polisemi seperti
pada kata beruang, setiap kata akan mengalami
proses pengecekan pada tagset dan pengecekan
imbuhan. Contoh:
Beruang itu mandi di sungai.
Orang yang beruang banyak itu seorang lakilaki.
Melalui pengecekan pada tagset, diperoleh:
Beruang/N itu/Pron mandi/V di/Prep sungai/N.
Orang/N yang/P beruang/N banyak/Adv
itu/Pron seorang/Num laki-laki/N.
Pengecekan berlanjut ke pengecekan imbuhan
yang menghasilkan:
Beruang/N,V
sungai/N.
itu/Pron
mandi/V
di/Prep
Orang/N yang/P beruang/N,V banyak/Adv
itu/Pron seorang/Num laki-laki/N.
Yang menunjukkan bahwa kata beruang dapat
memiliki label N dan V. Label V pada kata
beruang diperoleh dari:
ber-uang à V
ber-ruang à V
Sehingga label kata beruang berdasarkan jenis
imbuhan yang dimilikinya adalah V.
7
Tabel 3 PC Specification implementasi sistem
Untuk menghilangkan ambiguitas label pada
kata beruang tersebut, dilakukan pengecekan
pola yang menghasilkan:
N – Pron – V – Prep – N = A frekuensi
V – Pron – V – Prep – N = B frekuens i
Operating System
Windows XP tanpa
Service Pack
RAM
512 MB
Prosesor
Athlon XP 2400+ 1.8
GHz
Hard Disk
Seagate 120 GB 7200
RPM
Graphic Card
NVIDIA GeForce 4
440 MMX
Bahasa
Pemrograman
Microsoft Visual
Basic 6.0
Sistem Database
Microsoft Access
2000
Jika A>B maka kata beruang pada kalimat
Beruang itu mandi di sungai.
Akan diberi label N
pelabelan: