Sedangkan sebagai nabi dan rasul Muhammad saw tidak bisa digantikan karena beliau adalah Nabi dan Rasul yang terakhir. Ada empat orang khalifah pengganti
beliau, dan keempat khalifah tersebut di sebut Khulafa Al- Rasyidin. Keempat khalifah tersebut sebagai berikut :
1. Khalifah Abu Bakar Shiddiq
a. Kondisi Masyarakat pada Masa Abu Bakar Shiddiq
Masa awal kekhalifahan Abu Bakar di guncang pemberontakan oleh orang-orang murtad, orang yang menaku sebagai nabi, dan orang yang enggan
membayar zakat. Berdasarkan hal ini Abu Bakar memusatkan perhatianya untuk memerangi para pemberontak yang dapat mengacaukan keamanan dan
mempengaruhi orang-orang islam yang masih lemah imannya untuk menyimpang dari ajaran islam. Abu Bakar bermusyawarah dengan para sahabat dan kaum
muslimin dan memutuskan bahwa semua golongan yang telah menyeleweng dari kebenaran harus diperangi, sehingga mereka semua kembali pada kebenaran.
Keputusan ini didukung sepenuhnya oleh kaum muslimin. Kemudian Abu Bakar mengirim pasukan untuk menimpas para
pembrontak di Yamamah. Dalam penumpasan ini banyak umat islam yang gugur yang terdiri dari sahabat dekat Rasulullah dan para hafiz Alqur’an sehinnga
mengurangi sahabat yang hafal Alqur’an oleh karena itu umar menyarankan kepada Abu Bakar untuk mengumpulkan ayat-ayat Alqur’an, kemudian untuk
merealisasikan saran tersebut, diputuskan Zaid bin Tsabit untuk mengumpulkan semua tulisan Alqu’an yang berserakkan.
b. Perkembangan pendidikan Islam pada Masa Abu Bakar Shiddiq
1 Lembaga pendidikan Masih sama dengan lembaga pendidikan pada masa Nabi, namun dari segi
kuantitas maupun kualitas sudah banyak mengalami perkembangan.
a Kutab Pada masa Abu Bakar mencapai kemajuan yang bearti. Kemajuan
lembga ini terjadi ketika masyarakat muslim telah menaklukkan beberpa daerah dan menjalin kontak dengan bangsa yang telah maju.
b Masjid Merupakan lembaga pendidikan lanjutan setelah anak-anak tamat
belajar kutab. Di mesjid iini ada dua tingkat pendidikan, yaitu tingkat menengah dan tingkat tinggi, di tingkat menengah gurunya belum
mencapai status ulama besar, sedangkan di tingkat tingi para pengajarnya adalah ulama yang memiliki pengetahuan mendalam dan integritas serta
kealiman yang diakui oleh masyarakat. c Materi pendidikan
Yang dianjarkan pada kutab adalah: 1 Membaca dan menulis
2 Membaca Alqur’an dan menghafalnya 3 Pokok agama islam seperti keimanan, ibadah, akhlak dan muamalat.
Yang diajarkan ditingkat menengah dan tinggi adalah: 1 Al-Qur’an dan tafsirnya
2 Hadist dan syarahnya 3 Fiqh tasyri’
2. Khalifah Umar bin Khattab 634-644 M
a. Kondisi Masyarakat Masa Umar Ibn Khattab