Implementasi Network Monitoring dan Packet Capturing Pada Campus Network Menggunakan Metode Random Early Detection (RED)

IMPLEMENTASI NETWORK MONITORING DAN PACKET CAPTURING
PADA CAMPUS NETWORK MENGGUNAKAN METODE RANDOM
EARLY DETECTION (RED)

SKRIPSI

MUHAMMAD SURYANSYAH MANIK
111402052

PROGRAM STUDI TEKNOLOGI INFORMASI
FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI
UNIVERSITAS SUMATERA UTARA
MEDAN
2016

Universitas Sumatera Utara

IMPLEMENTASI NETWORK MONITORING DAN PACKET CAPTURING PADA
CAMPUS NETWORK MENGGUNAKAN METODE
RANDOM EARLY DETECTION (RED)


SKRIPSI

Diajukan untuk melengkapi tugas dan memenuhi syarat memperoleh ijazah
Sarjana Teknologi Informasi

MUHAMMAD SURYANSYAH MANIK
111402052

PROGRAM STUDI S1 TEKNOLOGI INFORMASI
FAKULTAS ILMU KOMPUTER DAN TEKNOLOGI INFORMASI
UNIVERSITAS SUMATERA UTARA
MEDAN
2016

Universitas Sumatera Utara

iii

PERSETUJUAN


Judul

: IMPLEMENTASI NETWORK MONITORING DAN
PACKET CAPTURING PADA CAMPUS NETWORK
DENGAN METODE RANDOM EARLY DETECTION
(RED)

Kategori

: SKRIPSI

Nama

: MUHAMMAD SURYANSYAH MANIK

Nomor Induk Mahasiswa

: 111402052

Program Studi


: S1 TEKNOLOGI INFORMASI

Fakultas

: ILMU KOMPUTER DAN TEKNOLOGI INFORMASI
UNIVERSITAS SUMATERA UTARA

Komisi Pembimbing

:

Pembimbing 2

Pembimbing 1

Romi Fadillah Rahmat B.Comp,Sc,M.Sc

Baihaqi Siregar, S.Si., M.T


NIP. 19820609 200912 1 01

NIP. 19790108 201212 1 002

Diketahui/ disetujui oleh
Program Studi S1 Teknologi Informasi
Ketua,

Muhammad Anggia Muchtar, ST., MM.IT
NIP. 19800110 200801 1 010

Universitas Sumatera Utara

iv

PERNYATAAN

IMPLEMENTASI NETWORK MONITORING DAN PACKET CAPTURING
PADA CAMPUS NETWORK MENGGUNAKAN METODE
RANDOM EARLY DETECTION (RED)


SKRIPSI

Saya mengakui bahwa skripsi ini adalah hasil karya saya sendiri, kecuali beberapa
kutipan dan ringkasan yang masing-masing telah disebutkan sumbernya.

Medan, Juni 2016

Muhammad Suryansyah Manik
111402052

Universitas Sumatera Utara

v

UCAPAN TERIMA KASIH

Segala puji dan syukur penulis sampaikan kepada Tuhan Yang Maha Esa yang telah
memberikan berkat-Nya yang melimpah sehingga penulis dapat menyelesaikan skripsi ini
dengan baik untuk memperoleh gelar Sarjana Komputer, Program Studi S1 Teknologi

Informasi Universitas Sumatera Utara.
Skripsi ini penulis persembahkan kepada orangtua penulis, Bapak Sahnan Manik dan
Ibu Wati Suriyani yang selalu memberikan doa, semangat, dukungan, perhatian, kasih
sayang, dan pengorbanan. Semoga Allah SWT memberikan kebahagiaan kepada kedua
orangtua penulis. Terima kasih penulis ucapkan kepada adik dan sepupu penulis, Nur
Ellysah Manik, Afif Ramadhansah Manik dan Ichsyan Suwandiyang selalu memberikan
semangat dan dukungan dalam pengerjaan skripsi ini.
Penulis menyadari bahwa penelitian ini tidak akan terwujud tanpa bantuan banyak
pihak. Dengan kerendahan hati, penulis ucapkan terima kasih kepada :
1. Bapak Baihaqi Siregar, S.Si.,M.T sebagai dosen pembimbing I dan BapakLukman
Adlin Harahap, S.TP., M.Si sebagai dosen pembimbing II yang telah meluangkan
waktu, pikiran, saran, dan kritiknya untuk penulis dalam menyelesaikan skripsi
ini.
2. Ketua dan Sekretaris Program Studi S1 Teknologi Informasi, Bapak M. Anggia
Muchtar, S.T., MM.IT. dan bapak Mohammad Fadly Syahputra, B.Sc.,M.Sc.IT.
3. Bapak M. Anggia Muchtar, S.T., MM.IT selaku dosen pembimbing akademik
yang selalu memberi saran dalam proses akademik penulis.
4. Seluruh dosen yang mengajar serta staf Tata Usaha Program Studi Teknologi
Informasi Universitas Sumatera Utara.
5. Teman-teman seperjuangan, Bang Bro, Ilham Leboy, Trian Saputra, Dani Tikto,

Deno Sumarta,Bang Fran ,Azmi,Faisal Fadli, Indera Surya Satria, Irzal Sofyan ,
Indi Andiradan seluruh anggota Ruang Delapan yang tidak penulis sebutkan satu
persatuyang telah bersedia menjadi teman diskusi dan memberikan dukungan

Universitas Sumatera Utara

vi

kepada penulis.Kepada teman – teman Simpel Adventure dan KPG-TI USU juga
penulis ucapkan banyak terima kasih.
6. Teman - teman angkatan 2011 Teknologi Informasi, semoga kita meraih
kesuksesan.
7. Teman-teman seperjuangan di Information Technology Competition based Group
(ITCG).
8. Semua pihak yang terlibat langsung ataupun tidak langsung yang tidak dapat
penulis ucapankan satu persatu yang telah membantu menyelesaikan skripsi ini.
Penulis menyadari bahwa masih banyak kekurangan dalam skripsi ini, untuk
itu penulis mengharapkan saran dan kritik yang bersifat membangun dari semua
pihak demi kesempurnaan skripsi ini. Akhir kata penulis ucapkan terima kasih.


Universitas Sumatera Utara

vii

ABSTRAK

Pertumbuhan jumlah pengguna dan perkembangan dari aplikasi-aplikasi yang
memanfaatkan jaringan atau internet berdampak pada peningkatan jumlah data yang
di transfer melalui jaringan. Semakin meningkatnya transfer data di dalam jaringan,
maka traffic (arus) data juga mengalami peningkatan. Sehingga diperlukan sebuah
sistem monitoring dan analysis terhadap sebuah sistem atau jaringan komputer dengan
melakukan capturing pada aliran paket-paket data jaringan. Pengolahan paket data
jaringan sangat penting buat para sys admin . Sistem monitoring dan packet capturing
menganalisa dan mengidentifikasi adanya jenis flooding dan packet loss dengan
menggunakan algoritma random early detection (RED) yang membandingkan nilai
counter paket berdasarkan jenisnya dengan nilai ambang batas (threshold value) yang
bersifat user defined. Sistem monitoring dan packet capturing diimplementasikan
pada jaringan wireless LAN kampus Teknologi Informasi Universitas Sumatera Utara
pada saat jam aktif. Hasil dari implementasi sistem yang dilakukan selama beberapa
hari berturut diperoleh paket yang aktif jenis TCP , UDP dan Ethernet. Untuk jenis

intrusi yang sering terjadi adalah TCP/SYN flooding dan packet loss pada TCP
packet.
Kata Kunci: sistem monitoring , packet capturing , RED, intrusi, jpcap, wireless
LAN.

Universitas Sumatera Utara

viii

ABSTRACT

The Growth in the number of users and the development of applications that utilize
the network or the Internet, impact on increasing the amount of data transferred over
the network. The increasing transfer of data in the network, then traffic (flow) data is
also increased. So, we need a monitoring and analysis system to a computer system or
network by capturing the flow of network data packets. Processing network data
packets are very important for system administrators. System monitoring and packet
capturing analyze and identify the types of flooding and packet loss algorithms using
random early detection (RED) comparing the packet counter value by type with the
threshold value (threshold value) that are user-defined. System monitoring and packet

capturing implemented onwireless LAN of the campus of Information Technology
University of North Sumatra during active hours.Results of the implementation of the
system is done for several consecutive days obtained active packet type of TCP, UDP
and Ethernet. For this type of intrusion that often occurs is the TCP / SYN flooding
and TCP packet loss.
Keywords: monitoring system, packet capturing, RED, intrusion, jpcap, wireless
LAN.

Universitas Sumatera Utara

ix

DAFTAR ISI

Halaman
Persetujuan

iii

Pernyataan


iv

Ucapan Terima Kasih

v

Abstrak

vii

Abstract

viii

Daftar Isi

ix

Daftar Tabel

xi

Daftar Gambar

xii

BAB 1 PENDAHULUAN

1

1.1 Latar Belakang

1

1.2 Rumusan Masalah

3

1.3 Batasan Masalah

3

1.4 Tujuan Penelitian

3

1.5 Manfaat Penelitian

4

1.6 Sistematika Penulisan

4

BAB 2 TINJAUAN PUSTAKA

6

2.1 Network Communication

6

2.1.1 Enkapsulasi Data

8

2.2 Java Packet Capture (Jpcap)
2.2.1 Windows Packet Capture (Winpcap)
2.3 Campus Wireless LAN

11
13
15

2.3.1 Campus Network

17

2.3.2 IEEE 802.3 Ethernet

17

2.4 Ethernet Frame

18

2.5 TCP Segment

19

2.6 Penelitian Terdahulu

20

BAB 3 ANALISIS DAN PERANCANGAN

23

Universitas Sumatera Utara

x

3.1 Analisis Permasalahan

23

3.2 Arsitektur Jaringan Kampus

24

3.3 Arsitektur Umum

25

3.4 Alur Kerja Sistem

27

3.5 Proses Algoritma Random Early Detection (RED)

28

3.5.1 Pseudocode

30

3.6 Perancangan Sistem

33

3.6.1 Use Case Diagram

33

3.6.2 Perancangan Database

36

3.6.3 Rancangan antarmuka sistem

37

BAB 4 IMPLEMENTASI DAN PENGUJIAN

42

4.1 Implementasi Sistem

42

4.1.1 Spesifikasi perangkat keras dan perangkat lunak

42

4.1.2 Implementasi Perancangan Antarmuka

43

Menu Login

43

Menu Utama

43

Menu Capture Net Packet

44

Tampilan MSS Live Traffic

44

Menu Log Packet Data History

45

Menu Log Alert

46

4.2 Pengujian Sistem Network Monitoring dan Packet Capturing
BAB 5 KESIMPULAN DAN SARAN

46
53

5.1 Kesimpulan

53

5.2 Saran

54

DAFTAR PUSTAKA

55

Universitas Sumatera Utara

xi

DAFTAR TABEL

Halaman
Tabel 2.1 Daftar Penelitian Terdahulu

22

Tabel 3.1 Deskripsi Use Case Sistem

34

Tabel 4.1 Daftar Network Devices

47

Tabel 4.2 Daftar Data Log Alert

50

Tabel 4.3 Tipe Alert System

52

Universitas Sumatera Utara

xii

DAFTAR GAMBAR

Halaman
Gambar 2.1 Ilustrasi Pengiriman Paket Data

6

Gambar 2.2 Ilustrasi Protokol Komunikasi Data

7

Gambar 2.3 Proses Enkapsulasi Data

9

Gambar 2.4 Contoh Enkapsulasi Data Pada Pengiriman Email

10

Gambar 2.5 Logical Structure Of Winpcap

13

Gambar 2.6 Access Point Pada Arsitektur Wireless

16

Gambar 2.7 Struktur Ethernet Frame

18

Gambar 2.8 TCP Segment

19

Gambar 3.1 Arsitektur Jaringan Kampus Universitas Sumatera Utara

24

Gambar 3.2 Arsitektur Umum

26

Gambar 3.3 Alur Kinerja Sistem

27

Gambar 3.4 Tahapan Capturing

28

Gambar 3.5 Gambar Alur Proses RED

29

Gambar 3.6 Use Case Sistem Monitoring Dan Packet Capturing

34

Gambar 3.7 Database Design

37

Gambar 3.8 Rancangan Menu Login

38

Gambar 3.9 Rancangan Menu Utama

38

Gambar 3.10 Rancangan Menu Capture Net Packet

39

Gambar 3.11 Rancangan Menu Log Packet Data History

40

Gambar 3.12 Rancangan Menu Log Alert

41

Gambar 4.1 Tampilan Menu Login

43

Gambar 4.2 Tampilan Menu Utama

44

Gambar 4.3 Tampilan Menu Capture Net Packet

44

Gambar 4.4 Tampilan MSS Live Traffic

45

Gambar 4.5 Tampilan Menu Log Packet Data History

45

Universitas Sumatera Utara

xiii

Gambar 4.6 Tampilan Menu Log Alert

46

Gambar 4.7 Tampilan Report Statistik Paket

48

Gambar 4.8 Daftar UDP Packet Data

48

Gambar 4.9 Daftar TCP Packet Data

49

Gambar 4.10 Tampilan Pesan Log Alert System

49

Gambar 4.11 Tampilan Report Log Alert System

50

Gambar 4.12 Grafik MSS TCP Packet

52

Universitas Sumatera Utara