Analisis Kombinasi Message-Digest Algorithm 5 (MD5) dan Affine Block Cipherterhadap Serangan Dictionary Attack Untuk Keamanan Router Weblogin Hotspot

ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5)
DAN AFFINE BLOCK CIPHERTERHADAP SERANGAN
DICTIONARY ATTACK UNTUK KEAMANAN
ROUTER WEBLOGIN HOTSPOT

TESIS
AIDIL HALIM LUBIS
137038029

PROGRAM STUDI S2 TEKNIK INFORMATIKA
FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI
UNIVERSITAS SUMATERA UTARA
MEDAN
2016

Universitas Sumatera Utara

ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5)
DAN AFFINE BLOCK CIPHER TERHADAP SERANGAN
DICTIONARY ATTACK UNTUK KEAMANAN
ROUTER WEBLOGIN HOTSPOT

TESIS
Diajukan untuk melengkapi tugas dan memenuhi syarat memperoleh ijazah
Magister Teknik Informatika

AIDIL HALIM LUBIS
137038029

PROGRAM STUDI S2 TEKNIK INFORMATIKA
FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI
UNIVERSITAS SUMATERA UTARA
MEDAN
2016

Universitas Sumatera Utara

PERSETUJUAN

Judul

:

ANALISIS

KOMBINASI

MESSAGE-DIGEST

ALGORITHM 5 (MD5) DAN AFFINE BLOCK CIPHER
TERHADAP

SERANGAN

DICTIONARY

ATTACK

UNTUK KEAMANAN ROUTER WEBLOGIN HOTSPOT
Kategori

:

TESIS

Nama

:

AIDIL HALIM LUBIS

Nomor Induk Mahasiswa

:

137038029

Program Studi

:

S2 TEKNIK INFORMATIKA

Fakultas

:

ILMU KOMPUTER DAN TEKNOLOGI INFORMASI
UNIVERSITAS SUMATERA UTARA

Komisi Pembimbing

:

Pembimbing 2

Pembimbing 1

Dr. Poltak Sihombing, M.Kom

Prof. Dr. Opim Salim Sitompul, M.Sc

Diketahui / disetujui oleh
Program Studi S2 Teknik Informatika
Ketua,

Prof. Dr. Muhammad Zarlis
NIP. 19570701 198601 1 003

Universitas Sumatera Utara

PERNYATAAN

ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5) DAN AFFINE
BLOCK CIPHER TERHADAP SERANGAN DICTIONARY ATTACK UNTUK
KEAMANANROUTER
WEBLOGIN HOTSPOT

TESIS

Saya mengakui bahwa tesis ini adalah hasil karya saya sendiri, kecuali beberapa kutipan dan

ringkasan yang masing-masing telah disebutkan sumbernya.

Medan,

Agustus 2016

Aidil Halim Lubis
Nim. 137038029

Universitas Sumatera Utara

PERNYATAAN PERSETUJUAN PUBLIKASI
KARYA ILMIAH UNTUK KEPENTINGAN
AKADEMIS

Sebagai sivitas akademika Universitas Sumatera Utara, saya yang bertanda tangan

di

bawah ini :

Nama

: AIDIL HALIM LUBIS

NIM

: 137038029

Program Studi

: S2 TEKNIK INFORMATIKA

Jenis Karya Ilmiah

: TESIS

Demi pengembangan ilmu pengetahuan, menyetujui untuk memberikan kepada Universitas
Sumatera Utara Hak Bebas Royalti Non-Eksklusif (Non-Exclusive Royalty Free Right) atas
tesis saya yang berjudul :
ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5) DAN AFFINE

BLOCK CIPHER TERHADAP SERANGAN DICTIONARY
ATTACK UNTUK KEAMANANROUTER
WEBLOGIN HOTSPOT
Beserta perangkat yang ada (jika diperlukan). Dengan Hak Bebas Royalti Non-Eksklusif ini,
Universitas Sumatera Utara berhak menyimpan, mengalih media, memformat, mengelola
dalam bentuk database, merawat dan mempublikasikan tesis saya tanpa meminta izin dari
saya selama tetap mencantumkan nama saya sebagai penulis dan sebagai pemegang dan/atau
sebagai pemilik hak cipta.

Demikian pernyataan ini dibuat dengan sebenarnya.

Medan, 26 Agustus 2016

Aidil Halim Lubis
NIM. 137038029

Universitas Sumatera Utara

Telah diuji pada
Tanggal : 26 Agustus 2016

PANITIA PENGUJI TESIS
Ketua

: 1. Prof. Dr. Opim Salim Sitompu, M.Sc
2. Dr. Poltak Sihombing, M.Kom
3. Prof. Dr. Muhammad Zarlis
4. Dr. Erna Budhiarti Nababan, M.IT

Universitas Sumatera Utara

RIWAYAT HIDUP

DATA PRIBADI
Nama Lengkap

: Aidil Halim Lubis, S.Kom

Tempat dan Tanggal Lahir

: Binjai, 27 Mei 1988

Alamat Rumah

: Jl. Hah. Hasan No.82 A Binjai

Telepon

: 081397214108

E-mail

: halimlubis.aidil@gmail.com

Instansi Tempat Bekerja

: SMK Negeri 2 Binjai

Alamat Kantor

: Jl. Bejomuna

DATA PENDIDIKAN
SD

: SDN 023907 Binjai

Tamat : 2000

SLTP

: SMPN 5 Binjai

Tamat : 2003

SLTA

: SMKS Tunas Pelita Binjai

Tamat : 2006

DIPLOMA

: D-III Politeknik Negeri Medan

Tamat : 2010

S1

: Universitas Pembangunan Panca Budi

Tamat : 2013

S2

: Teknik Informatika USU

Tamat : 2016

Universitas Sumatera Utara

i

KATA PENGANTAR

Assalamu’alaikum Wr.Wb
Puji dan syukur penulis panjatkan Kehadirat Allah SWT karena atas berkah
dan rahmat serta karunia-Nya sehingga tesis ini dapat diselesaikan tepat pada
waktunya.
Pada kesempatan ini pula penulis ingin mengucapkan terima kasih yang
sebesar-besarnya kepada berbagai pihak yang telah banyak membantu peneliti baik
secara moril maupun materil, langsung maupun tidak langsung. Untuk itu penulis
ingin mengucapkan terimakasih kepada :
1. Rektor Universitas Sumatera Utara, Prof. Dr. Runtung, S.H., M.Hum atas
kesempatan yang diberikan kami untuk mengikuti dan menyelesaikan
pendidikan Program Magister.
2. Bapak Prof. Dr. Opim Salim Sitompu, M.Sc, selaku Pembimbing Utama,
Dekan Fakultas Ilmu Komputer dan Teknologi Informasi yang penuh
perhatian telah memberikan dorongan, bimbingan dan arahan.
3. Bapak Prof. Dr. Muhammad Zarlis, selaku ketua komisi pembanding, Ketua
Program Studi Magister Teknik Informatika Universitas Sumatera Utara atas
kesempatan yang diberikan kepada saya menjadi mahasiswa Program
Magister.
4. Bapak M. Andri Budiman, M.Comp.Sc., M.E.M selaku sekretaris Program
Studi Magister Teknik Informatika.
5. Bapak Dr. Poltak Sihombing, M.Kom selaku Pembimbing Anggota yang telah
membimbing penulis hingga selesainya penelitian ini.
6. Ibu Dr. Erna Budhiarti Nababan selaku anggota komisi pembanding
7. Seluruh Dosen Pengajar Pascasarjana Program Studi Magister Teknik
Informatika yang telah memberikan banyak ilmu pengetahuan selama penulis
mengikuti pendidikan.
8. Teristimewa kepada Orang tua penulis, ayahanda Ahmad Rifai Lubis dan
Ibunda Mislah, serta Istri Tercinta Wahyuni Adha Purba, S.Pd yang senantiasa

Universitas Sumatera Utara

ii

memberikan semangat dan dukungan baik berupa moril maupun materil
hingga selesai proses pendidikan ini.
9. Rekan-rekan seperjuangan pada Program Studi Magister Teknik Informatika
yang tergabung dalam Kom A 2013, serta teman-teman yang tidak bisa penulis
sebutkan namanya satu-persatu yang senantiasa memberikan dukungan.

Akhirnya, penulis menyadari didalam penulisan tesis ini masih terdapat
banyak kekurangan, oleh karena itu untuk kesempurnaan penulisan tesis ini penulis
mengharapkan kritik dan saran yang bersifat membangun. Semoga Allah SWT selalu
mengabulkan doa-doa kita dalam meraih cita-cita dan harapan kita semua, serta
dengan S2 ini mampu mencerdaskan kehidupan bangsa.
Akhir kata penulis berharap semoga tesis ini dapat bermanfaat bagi semua
pihak, khususnya dalam bidang pendidikan.

Wassalamu’alaikum Wr.Wb

Medan, 26 Agustus 2016

Aidil Halim Lubis
137038029

Universitas Sumatera Utara

iii

ANALISIS KOMBINASI MESSAGE-DIGEST ALGORITHM 5 (MD5)
DAN AFFINE BLOCK CIPHER TERHADAP SERANGAN
DICTIONARY ATTACK UNTUK KEAMANAN
ROUTER WEBLOGIN HOTSPOT

ABSTRAK
Kriptografi adalah ilmu yang digunakan untuk menyamarkan pesan yang akan dikirim
oleh pengirim ke penerima pesan. Salah satu algoritma yang cukup banyak digunakan
sampai saat ini yaitu algoritma message-digest 5 atau MD5. Output yang dihasilkan
oleh algoritma MD5 berupa hash. Namun algoritma ini telah banyak ditemui
kelemahannya karena panjang bit yang digunakan. Pada penelitian ini, penulis
menganalisa kinerja dari algoritma MD5serta mengkombinasikan dengan algoritma
affine block cipher untuk dapat mengurangi kelemahan yang ada pada algoritma MD5.
Hasil yang diperoleh dari penelitian ini adalahalgoritma affine block cipher memiliki
tingkat keamanan yang cukup baik karena memiliki panjang kunci yang bernilai n
sebesar 255255255255 dan memiliki bilangan relatif prima yang tersedia sebanyak
117710117810.

Kata kunci : message-digest, MD5, affine block cipher,hash,

Universitas Sumatera Utara

iv

ANALYSIS OF THE COMBINATION MESSAGE-DIGEST ALGORITHM 5
(MD5) AND AFFINE BLOCK CIPHER AGAINTS ATTACK OF
DICTIONARY ATTACK TO ROUTER
SECURITY HOTSPOT
WEBLOGIN
ABSTRACT
Cryptography is the science of disguising the messages so that only well known by the
provider and the recipient. One of the algorithm that is quite a lot of used until this
time is algorithm message-digest 5 or MD5. The output produced by the algorithm
MD5 be hash. But this algorithm has many found weakness because the length of the
bit is used. In this research, the authors analyze the performance of the algorithm MD5
and combine with affine algorithm block cipher for can reduce the weakness that exist
on the algorithm MD5. The results obtained from this research is the affine algorithm
block cipher have a good security level because it has the key length of value n of
255255255255 and have numbers relatively prima available as much as
117710117810.

Keywords : message-digest, MD5, affine block cipher,hash,

Universitas Sumatera Utara

v

DAFTAR ISI

Hal
KATA PENGANTAR

i

ABSTRAK

iii

DAFTAR ISI

v

DAFTAR GAMBAR

viii

DAFTAR TABEL

ix

BAB I

PENDAHULUAN

1.1. Latar Belakang

1

1.2. Rumusan Masalah

3

1.3. Batasan Masalah

3

1.4. Tujuan Penelitian

3

1.5. Manfaat Penelitian

3

BAB II

TINJAUAN PUSTAKA

2.1. Keamanan

4

2.2. Mekanisme Kriptografi

5

2.3. Tujuan Kriptografi

8

2.4. Kriptografi Simentrik dan Asimentris

8

2.4.1.

Kriptografi Simetris

9

2.4.2.

Kriptografi Asimetris

10

2.5. Keamanan Sistem Kriptografi

11

2.6. Algoritma Message Digest 5

12

2.7. Serangan Pada Algoritma Message-Digest

13

2.8. Analisa Keamanan Algoritma MD5

14

2.9. Algoritma Affine Cipher

17

2.10. Analisa Keamanan Algoritma Affine Block Cipher

17

Universitas Sumatera Utara

vi

BAB III METODOLOGI PENELITIAN
3.1. Bahan-bahan

15

3.2. Analisis Algoritma

15

3.3. Analisis Algoritma Message Digest 5 (MD5)

15

3.4. Analisis Algoritma Affine Cipher

27

3.5. Analisis Algoritma Affine Block Cipher

30

3.6. Rancangan Penelitian

32

BAB IV HASIL DAN PEMBAHASAN
4.1. Hasil dan Implementasi

34

4.2. Fungsi Hash Menggunakan Algoritma MD5

34

4.2.1.

Percobaan Pertama Fungsi Hash Menggunakan Algoritma MD5 34

4.2.2.

Percobaan Kedua Fungsi Hash Menggunakan Algoritma MD5 37

4.2.3.

Percobaan Ketiga Fungsi Hash Menggunakan Algoritma MD5 40

4.3. Proses Enkripsi Menggunakan Algoritma Affine Block Cipher
4.3.1.

Percobaan Pertama Proses Enkripsi Menggunakan Algoritma
Affine Block Cipher

4.3.2.

43

Percobaan Kedua Proses Enkripsi Menggunakan Algoritma
Affine Block Cipher

4.3.3.

44

Percobaan Ketiga Proses Enkripsi Menggunakan Algoritma
Affine Block Cipher

45

4.4. Kombinasi Algoritma MD5 dengan Algoritma Affine Block Cipher
4.4.1.

46

Percobaan Kedua Kombinasi Algoritma MD5 dengan
Algoritma Affine Block Cipher

4.4.3.

46

Percobaan Pertama Kombinasi Algoritma MD5 dengan
Algoritma Affine Block Cipher

4.4.2.

43

48

Percobaan Ketiga Kombinasi Algoritma MD5 dengan
Algoritma Affine Block Cipher

51

4.5. Analisa Waktu

53

4.5.1.

Analisa Waktu Algoritma MD5

53

4.5.2.

Analisa Waktu Algoritma Affine Block Cipher

54

4.5.3.

Analisa Waktu Kombinasi Algoritma MD5 dengan Algoritma
Affine Block Cipher

57

Universitas Sumatera Utara

vii

4.6. Analisa Keamanan
4.6.1.

Analisa Keamanan Kombinasi Algoritma MD5 dan Algoritma
Affine Block Cipher

BAB V

59

59

KESIMPULAN DAN SARAN

5.1. Kesimpulan

61

5.2. Saran

61

DAFTAR PUSTAKA

62

Universitas Sumatera Utara

viii

DAFTAR GAMBAR

HAL
Gambar 2.1. Mekanisme Kriptografi

6

Gambar 2.2. Kriptografi Berbasis Kunci

7

Gambar 2.3. Diagram Proses Enkripsi dan Dekripsi

9

Gambar 2.4. Diagram Proses Enkripsi dan Dekripsi Algoritma Simetris

11

Gambar 3.1. Ilustrasi Pembuatan Message Digest Algoritma MD5

21

Gambar 3.2. Pengolahan Blok 512 bit

21

Gambar 3.3. Proses Operasi Dasar MD5

22

Gambar 3.4. Proses Hash Algoritma MD5

27

Gambar 3.5. Proses Enkripsi dan Dekripsi pada Algoritma Affine Cipher

28

Gambar 3.6. Proses Enkripsi dan Dekripsi pada Algoritma Affine Cipher

30

Gambar 3.7. Proses Enkripsi dan Dekripsi pada Algoritma Affine Block Cipher

32

Gambar 3.8. Rancangan Penelitian Kombinasi Algoritma MD5 dengan Algoritma
Affine Block Cipher

33

Gambar 4.1. Analisa Waktu Algoritma Affine Block Cipher

56

Gambar 4.2. Analisa Waktu Kombinasi Algoritma MD5 dan Algoritma
Affine Block Cipher

59

Universitas Sumatera Utara

ix

DAFTAR TABEL

HAL
3.1.

Fungsi-fungsi Dasar MD5

23

3.2.

Nilai T[i]

24

3.3.

Rincian Operasi pada fungsi F(b,c,d)

25

3.4.

Rincian Operasi pada fungsi G(b,c,d)

25

3.5.

Rincian Operasi pada fungsi H(b,c,d)

26

3.6.

Rincian Operasi pada fungsi I(b,c,d)

26

3.7.

Proses Enkripsi pada Algoritma Affine Cipher

29

3.8.

Proses Dekripsi pada Algoritma Affine Cipher

29

3.9.

Proses Enkripsi pada Algoritma Affine Block Cipher

31

4.1.

Hasil putaran 1 dan 2 Message-Digest dari Plainteks medan

35

4.2.

Hasil Putaran 3 dan 4 Message-Digest dari Plainteks medan

36

4.3.

Operasi Hasil Penambahan dan Konversi

37

4.4.

Hasil Putaran 1 dan 2 Message-Digest dari Plainteks Universitas

38

4.5.

Hasil Putaran 3 dan 4 Message-Digest dari Plainteks Universitas

39

4.6.

Operasi Hasil Penambahan dan Konversi

40

4.7.

Hasil Putaran 1 dan 2 Message-Digest dari Plainteks Informatika

41

4.8.

Hasil Putaran 3 dan 4 Message-Digest dari Plainteks Informatika

42

4.9.

Operasi Hasil Penambahan dan Konversi

43

4.10. Analisa Waktu pada Algoritma MD5

54

4.11. Analisa Waktu pada Algoritma Affine Block Cipher

55

4.12. Analisa Waktu pada Kombinasi Algoritma MD5 dan Algoritma
Affine Block Cipher

57

Universitas Sumatera Utara