Мұхаммед, салла аллаһу алайһи уә сәллам, өлгеннен кейін мұсылман қауымы алдында халифатты басқару ісін шешу мәселесі тұрды. Жаңа басшы кім болмақ? Мұсылмандар қауымының басшылығынан үміткер төрт адам бар еді: Әбу Бәкір әс-Сыдық, осыдан он жыл бұрын Пайғамбардың Мәдинаға қарай жолбастаушысы болған, әрі Пайғамбар, салла аллаһу алайһи уә сәллам, ең соңғы ретауырған тұста оның орнын ауыстырып, имамдыққа тағайындалған; Омар бин әл-Хаттаб, Пайғамбардың адал да қабілетті сахабасы; Осман бин Аффан – Исламға бет бұрғандардың бұрыннан қадірменді адамы; Али ибн Әбу Талиб, Расулдың, салла аллаһу алайһи уә сәллам, әрі туысы, әрі күйеу баласы. Әр түрлі топтар арасында алауыздық шығып кетпесін деп Омар алқалы жиында көпшілік күтпеген жерден Әбу Бәкірдің қолын қысты, мұның өзі сол тұста жаңа әміршіні мойындаудың дәстүрлі белгісі болатын. Оның үлгісін басқалар да қайталады, сөйтіп күн батқанша Әбу Бәкірді барлығы Мұхаммедтің халифасы деп таныды. Арабша «халиф» сөзі мұрагер деген мағына береді.

Әбу Бәкірдің халифалығы көпке созылмаса да, Ислам тарихында алатын орны зор. Үлгілі басшы ретінде ол қарапайым тірлік кешті, өзінің діни парыздарын мүлтіксіз орындады, адамдарға есігі ашық болды және әрқашан да оларға қайырымдылық танытты. Ол қатал да болды, бұл Пайғамбар, салла аллаһу алайһи уә сәллам, о дүниелік болғаннан кейін бірқатар тайпалардың Исламнан бас тартуы кезінде көрінді, Әбу Бәкір оларды тез сабасына түсірді. Содан соң ол Арабстандағы әрқилы тайпалардың басын біріктіріп, шығыстағы құдіретті империялар – Парсының сасанидтеріне, Сириядағы византиялықтарға, Палестина және Мысыр елдеріне қарсы күресті күшейтуге назар аударды. Ол бүкіл әлемге мұсылман мемлекетінің өміршеңдігін тағы да дәлелдеп берді.

Одан соң халифатты – Омар ибн әл-Хаттаб басқарды. Ол Әбу Бәкірдің жазып қалдырған өсиеті бойынша тағайындалды. Мұсылмандар әміршісі деген атқа ие болған Омар мұсылман әскерлерін жеңісті жорықтарға бастап, Исламды Сирияға, Мысырға, Иракқа және Парсы елдеріне таратты. Пайғамбар, салла аллаһу алайһи уә сәллам, қайтыс болғаннан кейінгі төрт жыл ішінде мұсылман мемлекеті өзінің иелігін Сирияға дейін кеңейтті.

Омар он жыл халифалық етті, бұл уақыт ертедегі Ислам тарихының шоқтығы биік кезеңдерінің бірінен боп саналады. Ол өзінің әділдігімен, үлгілі қоғамдық әдебімен және мемлекет басқару ісін жетік білуімен даңққа бөленді.

Омар өлгеннен кейін Пайғамбардың, салла аллаһу алайһи уә сәллам, сахабаларынан құралған құрылтай кеңесі үшінші халифаны сайлады: ол – Осман ибн Аффан болды. Оның билік құрған уақытында Ислам бірлігіне жік түскен күрбелі мәселелердің орын алғандығына қарамастан, бұл кезең көптеген жетістіктерімен ерекшеленді. Осман өзінен бұрынғы халифалардың ісін дамытып, Парсы патшалығын одан әрі бағындыру ісін жүргізді, византиялықтардан мұсылман мемлекетінің қорғанысын күшейтті, қазіргі Ливияны мұсылман империясының иелігіне алды және Арменияның көп жерін өзіне бағындырды. Ол өзінің немере туысы Сирияның билеушісі Мағауия ибн Әбу Суфиянмен бірлесе отырып ара флотының негізін салды.

Сол тұстағы қиындықтарға қарамастан Әбу Бәкір кезінде-ақ басталған Пайғамбарға, салла аллаһу алайһи уә сәллам, түсірілген аяттарды толық Құран етіп құрастыру ісінің аяқталуы – Ислам үшін аса маңызды нәрсе еді. Аллаһтан түскен уахилардың әртүрлі нұсқаларда бастапқы мәнінен абайсыз бұрмаланып кетуі мүмкін екенін жете ұғынған Осман Құранды жинап, құрастырумен айналысатын кеңес құрды. Нәтижесінде осы күнге дейін бүкіл Ислам дүниесінде қолданылып келе жатқан Аллаһтың Кітабы құрастырылды.

Осман қастандықпен өлтірілгеннен кейін мұсылмандар қауымына жүк түсті.

Бұл жікке бөліну Пайғамбардың немере інісі әрі күйеу баласы Али төртінші халифа боп сайланғаннан кейін тіпті өрши түсті. Алидің билік басына келуін Османның туыстары, әсіресе Сирияның құдіретті әміршісі Мағауия мойындаған жоқ. Олар Алидің халифа боп сайлануын заңсыз деп есептеді. Екі арадағы кикілжің 657 жылы ең жоғарғы шегіне жетіп, ол Евфрат жанындағы Сиффин соғысына ұласты. Оның ақыры мұсылмандардың екі топқа жарылуына, сунниттер мен шиғалардың (Алидің жақтастары) бөлінуіне алып келді.

Сиффиндегі соғыстан кейін басты күшін Иракқа шоғырландырған, ал астанасын Куфаға орнықтырған Алиді қолдаушылардың қатары күрт кеми бастады. Али ибн Әбу Талиб 661 жылы өзінің бұрынғы жақтасының қолынан қаза тапты.