12
pada pengkodean. Jika informasi tambahan itu bisa diambil, maka data yang diperlukan tersebut bisa direduksi.
Teori informasi memanfaatkan terminologi entropi sebagai tolak ukur seberapa besar informasi yang dikodekan pada sebuah data. Menurut Adriani 2009,
entropi merupakan suatu ukuran informasi yang dikandung oleh suatu citra dan
digunakan sebagai ukuran untuk mengukur kemampuan kompresi dari data. Entropi memiliki persamaan matematis sebagai berikut:
�� = − ∑ �
�
���
2 �
�=1
�
�
................................................................... 3 Dimana m merupakan jumlah simbol dan p
i
merupakan probabilitas simbol ke-i. Semakin kecil nilai entropi yang dihasilkan, maka kemampuan kompresi lebih baik.
Entropi juga didefinisikan sebagai limit kemampuan kompresi citra yang tidak dapat
dilampau oleh algoritma manapun.
2.10 Algoritma Shannon-Fano
Algoritma Shannon-Fano dinamai berdasarkan nama pengembangnya yaitu Claude Shannon dan Robert Fano. Metode ini dimulai dengan deretan dari simbol n dengan
kemunculan frekuensi yang diketahui. Mula-mula simbol disusun secara menaik ascending order berdasarkan frekuensi kemunculannya. Lalu set simbol tersebut
dibagi menjadi dua bagian yang berbobot sama atau hampir sama. Seluruh simbol yang berada pada subset I diberi biner 0, sedangkan simbol yang berada pada subset II
diberi biner 1. Setiap subset dibagi lagi menjadi dua subsubset dengan bobot kemunculan frekuensi yang kira-kira sama, dan biner kedua diberikan seperti subset I
dan subset II. Ketika subset hanya berisi dua simbol, biner diberikan pada setiap simbol. Proses akan berlanjut sampai tidak ada subset yang tersisa Salomon: 2010.
Algoritma Shannon-Fano merupakan kompresi yang bersifat lossless, dimana metode ini harus mendekompresi berkas agar dapat direkonstruksikan menjadi berkas
semula tanpa kehilangan informasi.
2.11 Algoritma Arithmetic Coding
Arithmetic Coding diperkenalkan pada tahun 1970-an, metode ini memiliki efisiensi yang baik dan implementasinya pada perangkat keras sangat fleksibel. Topik tentang
algoritma ini pertama kali diberikan oleh Abramson dan Peter Elias pada tahun 1960,
Universitas Sumatera Utara
13
namun pada saat itu metode ini belum memenuhi solusi yang pantas untuk masalah yang akan dihadapi, yaitu keakurasian Arithmetic Coding harus ditingkatkan dengan
panjang dari pesan yang dimasukkan. Untungnya, pada tahun 1976 Pasco dan Rissanen membuktikan bahwa panjang angka yang terbatas sebenarnya memadai
untuk encoding, tanpa mengurangi akurasinya. Pada tahun 1979 – 1980, Rubin, Guazzo, Rissanen, dan Langdon mempublikasikan algoritma dasar encoding yang
masih digunakan sampai sekarang. Algoritma ini berdasarkan ketelitian aritmatik yang terbatas Bodden et al, 2007
Arithmetic Coding menggantikan satu deretan simbol input dengan sebuah bilangan floating point. Semakin panjang dan semakin kompleks pesan yang
dikodekan, semakin banyak bit yang diperlukan untuk keperluan tersebut. Output dari metode ini adalah satu angka yang lebih kecil dari 1 dan lebih besar atau sama dengan
0. Angka ini secara unik dapat di-encode sehingga menghasilkan deretan simbol yang dipakai untuk menghasilkan angka tersebut Salomon, 2010.
2.12 Algoritma Huffman
