T0__BAB IV Institutional Repository | Satya Wacana Christian University: Perancangan Sistem Keamanan Jaringan Mail Server Berbasis Fail2ban di Ubuntu 14.04 T0 BAB IV
BAB IV
HASIL DAN ANALISIS
4.1
Hasil Karya/Implementasi
Proses implementasi sistem keamanan Ubuntu
server berbasis fail2ban. Sistem operasi yang diinstall
pada server adalah Linux Ubuntu 14.04 dengan repository
lokal untuk penginstalan paket-paket yang mendukung
pembuatan sistem keamanan server ubuntu berbasis
fail2ban.
4.2.1
Fail2ban
Pada penelitian ini Fail2ban melindungi FTP
Server, SSH Server, dan Web Server
4.2.2
Instalasi Server
a. Instalasi Ubuntu Server
Gambar 4.1 Instalasi Server 14.04
22
Pada gambar 4.1 menunjukkan penginstalan
Ubuntu Server dengan arsitektur i386.
b. Setting interface
Gambar 4.2 Setting Interface
Pada
gambar
4.2
menunjukkan
konfigurasi
interface server dengan iface eth0 inet static.
c. Setting Resolv.conf
Gambar 4.3 Setting Resolv.conf
Pada
Gambar
4.3
resolv.conf.
23
menunjukkan
konfigurasi
d. Test Ping
Gambar 4.4 Test ping
Pada Gambar 4.4 menunjukkan bahwa Server
sudah terkoneksi dengan internet, dengan di jalankanya
pengujian ping ke google.com.
4.2.3
Instalasi Paket-Paket
Gambar 4.5 Instalasi ehcp
Pada gambar 4.5 menunjukan penginstalan Easy
Hosting Control Panel (EHCP). EHCP itu sendiri adalah
web hosting kontrol panel yang di buat untuk sistem
operasi Linux dan keturunan Debian.
Fitur yang digunakan pada perancangan :
24
a. Domains
Domains merupakan nama unik yang di berikan
untuk dapat mengidentifikasi nama server komputer
seperti web server atau email server di jaringan
komputer.
b. Email Accounts
Email Accounts merupakan Accounts yang dapat
dibuat dan digunakan untuk mengirim dan menerima
email, protokol yang digunakan POP, SMTP dan IMAP.
c. MySQL Databases
mySQL Databases merupakan sistem manajemen
database SQL yang bersifat open source. Sistem
Database mySQL mendukung fitur multithreaded, multi
user dan SQL database managemen sistem (DBMS).
d. Apache
Apache merupakan nama web server
yang
bertanggung jawab pada request response HTTP dan
login informasi secara detail. Apache juga sebagai web
server yang modular.
e. BIND
25
Berkeley Internet Name Domain merupakan server
DNS yang sering digunakan di internet dan khususnya
digunakan pada sistem operasi bertipe UNIX.
f. Email (IMAP, SMTP dan POP3)
Internet
Message
Access
Protocol
(IMAP)
merupakan protokol standar untuk mengakses email dari
server.
Simple
Mail
Transfer
Protocol
(SMTP)
merupakan salah satu protokol email yang digunakan
untuk pengiriman email di internet. Protokol ini
dipergunakan untuk mengirim data dari komputer
pengirim le server email penerima. Post Office Protocol
v3 (POP3) protokol ini digunakan untuk mengambil
email dari server.
g. SquirrelMail Integration
SquirrelMail merupakan webmail, aplikasi client
berbasis web dengan menggunakan squirrelMail maka
dapat mengakses email melalui web browser.
4.2.4
Instalasi Fail2ban
26
Gambar 4.6 Instalasi Fail2ban
Pada gambar tersebut menunjukkan proses instalasi
fail2ban.
4.2.5
Konfigurasi Fail2ban
b.1. Destemail dan sendername
Lakukan konfigurasi file dengan perintah
nano
/etc/fail2ban/jail.conf.
Gambar 4.7 Destemail dan Sendername
b.2. Source code SSH
Lakukan konfigurasi file dengan perintah nano
/etc/fail2ban/jail.conf.
27
Gambar 4.8 Setting code SSH
Pada gambar 4.8 menunjukkan pembuatan source
code di SSH. SSH berfungsi untuk mencegah serangan
brute force.
b.3. Source code postfix
Lakukan konfigurasi file dengan perintah nano
/etc/fail2ban/jail.conf.
Gambar 4.9 Setting Postfix
Pada gambar 4.9 menunjukkan pembuatan source
code postfix. Postfix merupakan mail transfer agent
default. Kemampuan postfix dapat menahan “buffer
overflow”. Postfix juga memproses surat elektronik
dalam jumlah besar.
4.2.6
Interface web server
28
Gambar 4.10 Interface web server
Pada
gambar
4.10
menunjukkan
pembuatan
domain, ftp user dan panel user.
4.2
Hasil Pengujian
Hasil pengujian dari fail2ban di ubuntu server
adalah sebagai berikut :
Pengujian menjalankan fail2ban dengan perintah
tail –f –n 100 /var/log/fail2ban.log
Gambar 4.11 tail –f –n 100 /var/log/fail2ban.log
menghasilkan output pada gambar
maka
fail2ban berhasil memblokir IP client dan mengirim
informasi ke email.
29
Gambar 4.12 Fail2ban actions
Pada gambar 4.12 menunjukan proses fail2ban
memblokir ip klien yang di diagnosis mencoba
melakukan brute force ke server.
Gambar 4.13 Pesan
Pada gambar 4.13 menunjukkan bahwa proses
baned berhasil dan informasi tersebut dikirimkan menuju
mail server.
30
4.3
Analisiss
Berdasarkan pengujian yang telah dilakukan maka
pembangunan Fail2ban pada Server sangat bermanfaat
untuk keamanan server . Adanya fail2ban membantu
memblok/menolak serangan dalam berbagai macam dan
spam yang bervariasi mulai dari upaya akses SMTP relay ,
brute-force attack password user
hingga serangan
phising/spoofing. Fail2ban sendiri lebih powerfull di
bandingkan dengan snort, karena di fail2ban memiliki
sistem
Intrusion
Prevention
System
(IPS)
dengan
mengkombinasikan Firewall, Policy, Qos, dan Intrusion
Detection System (IDS). Dan IPS sendiri memang dibuat
untuk dapat mentrigger alarm dan melakukan Allow,
Block, dan Log.
Fail2ban bekerja dalam IPTables, IPTables sendiri
merupakan salah satu firewall populer dan powerfull yang
tersedia di sistem operasi Linux. Dasar dari IPTables
adalah harus memiliki pengetahuan dasar mengenai
TCP/IP. IPTables memiliki tiga macam daftar aturan,
daftar tersebut dinamakan rantai firewall (firewall chain),
ketiga chain tersebut adalah INPUT, OUTPUT dan
FORWARD. Jadi Fail2ban memudahkan
Seorang
administrator server untuk memantau dan meningkatkan
keamanan pada server dan dengan penambahan mail
notification.
31
HASIL DAN ANALISIS
4.1
Hasil Karya/Implementasi
Proses implementasi sistem keamanan Ubuntu
server berbasis fail2ban. Sistem operasi yang diinstall
pada server adalah Linux Ubuntu 14.04 dengan repository
lokal untuk penginstalan paket-paket yang mendukung
pembuatan sistem keamanan server ubuntu berbasis
fail2ban.
4.2.1
Fail2ban
Pada penelitian ini Fail2ban melindungi FTP
Server, SSH Server, dan Web Server
4.2.2
Instalasi Server
a. Instalasi Ubuntu Server
Gambar 4.1 Instalasi Server 14.04
22
Pada gambar 4.1 menunjukkan penginstalan
Ubuntu Server dengan arsitektur i386.
b. Setting interface
Gambar 4.2 Setting Interface
Pada
gambar
4.2
menunjukkan
konfigurasi
interface server dengan iface eth0 inet static.
c. Setting Resolv.conf
Gambar 4.3 Setting Resolv.conf
Pada
Gambar
4.3
resolv.conf.
23
menunjukkan
konfigurasi
d. Test Ping
Gambar 4.4 Test ping
Pada Gambar 4.4 menunjukkan bahwa Server
sudah terkoneksi dengan internet, dengan di jalankanya
pengujian ping ke google.com.
4.2.3
Instalasi Paket-Paket
Gambar 4.5 Instalasi ehcp
Pada gambar 4.5 menunjukan penginstalan Easy
Hosting Control Panel (EHCP). EHCP itu sendiri adalah
web hosting kontrol panel yang di buat untuk sistem
operasi Linux dan keturunan Debian.
Fitur yang digunakan pada perancangan :
24
a. Domains
Domains merupakan nama unik yang di berikan
untuk dapat mengidentifikasi nama server komputer
seperti web server atau email server di jaringan
komputer.
b. Email Accounts
Email Accounts merupakan Accounts yang dapat
dibuat dan digunakan untuk mengirim dan menerima
email, protokol yang digunakan POP, SMTP dan IMAP.
c. MySQL Databases
mySQL Databases merupakan sistem manajemen
database SQL yang bersifat open source. Sistem
Database mySQL mendukung fitur multithreaded, multi
user dan SQL database managemen sistem (DBMS).
d. Apache
Apache merupakan nama web server
yang
bertanggung jawab pada request response HTTP dan
login informasi secara detail. Apache juga sebagai web
server yang modular.
e. BIND
25
Berkeley Internet Name Domain merupakan server
DNS yang sering digunakan di internet dan khususnya
digunakan pada sistem operasi bertipe UNIX.
f. Email (IMAP, SMTP dan POP3)
Internet
Message
Access
Protocol
(IMAP)
merupakan protokol standar untuk mengakses email dari
server.
Simple
Transfer
Protocol
(SMTP)
merupakan salah satu protokol email yang digunakan
untuk pengiriman email di internet. Protokol ini
dipergunakan untuk mengirim data dari komputer
pengirim le server email penerima. Post Office Protocol
v3 (POP3) protokol ini digunakan untuk mengambil
email dari server.
g. SquirrelMail Integration
SquirrelMail merupakan webmail, aplikasi client
berbasis web dengan menggunakan squirrelMail maka
dapat mengakses email melalui web browser.
4.2.4
Instalasi Fail2ban
26
Gambar 4.6 Instalasi Fail2ban
Pada gambar tersebut menunjukkan proses instalasi
fail2ban.
4.2.5
Konfigurasi Fail2ban
b.1. Destemail dan sendername
Lakukan konfigurasi file dengan perintah
nano
/etc/fail2ban/jail.conf.
Gambar 4.7 Destemail dan Sendername
b.2. Source code SSH
Lakukan konfigurasi file dengan perintah nano
/etc/fail2ban/jail.conf.
27
Gambar 4.8 Setting code SSH
Pada gambar 4.8 menunjukkan pembuatan source
code di SSH. SSH berfungsi untuk mencegah serangan
brute force.
b.3. Source code postfix
Lakukan konfigurasi file dengan perintah nano
/etc/fail2ban/jail.conf.
Gambar 4.9 Setting Postfix
Pada gambar 4.9 menunjukkan pembuatan source
code postfix. Postfix merupakan mail transfer agent
default. Kemampuan postfix dapat menahan “buffer
overflow”. Postfix juga memproses surat elektronik
dalam jumlah besar.
4.2.6
Interface web server
28
Gambar 4.10 Interface web server
Pada
gambar
4.10
menunjukkan
pembuatan
domain, ftp user dan panel user.
4.2
Hasil Pengujian
Hasil pengujian dari fail2ban di ubuntu server
adalah sebagai berikut :
Pengujian menjalankan fail2ban dengan perintah
tail –f –n 100 /var/log/fail2ban.log
Gambar 4.11 tail –f –n 100 /var/log/fail2ban.log
menghasilkan output pada gambar
maka
fail2ban berhasil memblokir IP client dan mengirim
informasi ke email.
29
Gambar 4.12 Fail2ban actions
Pada gambar 4.12 menunjukan proses fail2ban
memblokir ip klien yang di diagnosis mencoba
melakukan brute force ke server.
Gambar 4.13 Pesan
Pada gambar 4.13 menunjukkan bahwa proses
baned berhasil dan informasi tersebut dikirimkan menuju
mail server.
30
4.3
Analisiss
Berdasarkan pengujian yang telah dilakukan maka
pembangunan Fail2ban pada Server sangat bermanfaat
untuk keamanan server . Adanya fail2ban membantu
memblok/menolak serangan dalam berbagai macam dan
spam yang bervariasi mulai dari upaya akses SMTP relay ,
brute-force attack password user
hingga serangan
phising/spoofing. Fail2ban sendiri lebih powerfull di
bandingkan dengan snort, karena di fail2ban memiliki
sistem
Intrusion
Prevention
System
(IPS)
dengan
mengkombinasikan Firewall, Policy, Qos, dan Intrusion
Detection System (IDS). Dan IPS sendiri memang dibuat
untuk dapat mentrigger alarm dan melakukan Allow,
Block, dan Log.
Fail2ban bekerja dalam IPTables, IPTables sendiri
merupakan salah satu firewall populer dan powerfull yang
tersedia di sistem operasi Linux. Dasar dari IPTables
adalah harus memiliki pengetahuan dasar mengenai
TCP/IP. IPTables memiliki tiga macam daftar aturan,
daftar tersebut dinamakan rantai firewall (firewall chain),
ketiga chain tersebut adalah INPUT, OUTPUT dan
FORWARD. Jadi Fail2ban memudahkan
Seorang
administrator server untuk memantau dan meningkatkan
keamanan pada server dan dengan penambahan mail
notification.
31