हज़रत उमर 12 साल हुकूमत करने के बाद 23वीं हिजरी क़मरी में अपने एक विरोधी के हाथों मारे गए।

जिस समय वह घायल थे उन्होंने मरने से पहले अपने उत्तराधिकारी के चयन के बारे में फ़ैसला किया। वह कहते थे कि अगर मआज़ बिन जबल, अबू उबैदा जर्राह और सालिम मौला हुज़ैफ़ा ज़िन्दा होते तो ख़िलाफ़त उनके हवाले कर देता लेकिन चूंकि ये लोग इस दुनिया से जा चुके थे इसलिए उन्होंने अपने बाद ख़लीफ़ा के चयन के लिए एक नई शैली पेश की। उन्होंने पैग़म्बरे इस्लाम के साथियों में से 6 लोगों को अपने उत्तराधिकारी बनने के योग्य समझा और कहा कि उनके मरने के बाद वे आपस में तीन दिन परामर्श करने के बाद अपने बीच में से किसी एक को ख़लीफ़ा चुन लें।

इससे पहले और पैग़म्बरे इस्लाम के स्वर्गवाद के बाद पैग़म्बरे इस्लाम के कुछ साथियों ने उनकी वसीयत और ग़दीर में घटी घटना की अनदेखी करते हुए हज़रत अबू बकर को ख़लीफ़ा चुना। लेकिन हज़रत अबू बक्र ने अपने जीवन के अंतिम दिनों में इस शैली को बदला और इस मामले में जनता के किसी प्रकार के हस्तक्षेप के बिना हज़रत उमर को अपना उत्तराधिकारी नियुक्त किया। हज़रत उमर ने पिछली दो शैलियों को छोड़कर एक नई शैली अपनायी और यह मानते हुए कि हज़रत अबू बकर का चयन जनता की राय से नहीं हुआ था और इसके बाद जनता की राय ली जाए, 6 सदस्यीय एक परिषद का गठन किया और उसे अपने में से किसी एक को ख़लीफ़ा चुनने का अधिकार दिया। इस परिषद के सदस्य हज़रत अली अलैहिस्सलाम, हज़रत उस्मान, ज़ुबैर बिन अवाम, तलहा बिन उबैदुल्लाह, सअद बिन अबी वक़ास और अब्दुर्रहमान बिन औफ़ थे।

हज़रत उमर चाहते थे कि ख़लीफ़ा का चयन परिषद के अधिकांश सदस्यों की सहमति से हो लेकिन इसके साथ ही उन्होंने यह भी कहा था कि अगर इस परिषद के तीन तीन सदस्य दो गुटों में बंट जाएं तो उस गुट की बात मानी जाए जिसमें अब्दुर्रहमान बिन औफ़ हों। इसी तरह हज़रत उमर ने कहा था कि इस परिषद के किसी सदस्य ने बहुमत की बात नहीं मानी तो उसकी गर्दन मार दी जाए। इसी तरह उन्होंने यह भी कहा कि अगर इस परिषद के तीन तीन सदस्य दो गुटों में बंट जांए और अब्दुर्रहमान के मुक़ाबले वाला गुट उनकी बात न माने तो तीनों विरोधियों की गर्दन मार दी जाए, अगर इस परिषद के सदस्य तीन दिन में किसी व्यक्ति को न चुन सकें तो सभी की गर्दन मार दी जाए। मदीना के मूल निवासियों में से 50 लोगों को, जिन्हें अंसार कहा जाता है यह ज़िम्मेदारी दी गयी थी कि वे हज़रत उमर की इस वसीयत को लागू कराएं।                     

कुछ विद्वानों का मानना है कि इस परिषद के गठन के साथ जो शर्तें रखी गयी थीं, उसके नतीजे में ख़िलाफ़त हज़रत उस्मान को मिलती। जैसा कि हज़रत अली अलैहिस्सलाम इस बात को समझ चुके थे कि सअद अपने चचेरे भाई अब्दुर्रहमान का विरोध नहीं करेंगे और अब्दुर्रहमान हज़रत उस्मान के बहनोई हैं इसलिए वे हज़रत उस्मान को ही अपना मत देंगे। इस स्थिति में अगर तलहा और ज़ुबैर मिल कर भी हज़रत अली अलैहिस्सलाम का साथ देते तब  भी कोई फ़ायदा न होता क्योंकि अब्दुर्रहमान हज़रत उस्मान के समर्थक गुट में थे। हक़ीक़त भी यही थी। सअद बिन अली वक़ास ख़लीफ़ा को नियुक्त करने वाली परिषद की कार्यवाही शुरु होते ही अब्दुर्रहमान के हित में पीछे हट गए। ज़ुबैर हज़रत अली के समर्थन में ख़िलाफ़त की उम्मीदवारी से हट गए। अब्दुर्रहमान ने कहा कि वह भी ख़िलाफ़त नहीं चाहते। तलहा जो हज़रत अबू बकर के भतीजे और हज़रत अली के विरोधी थे, हज़रत उस्मान के समर्थन में ख़िलाफ़त की दौड़ से हट गए। इस आधार पर सिर्फ़ हज़रत अली अलैहिस्सलाम और हज़रत उस्मान ख़िलाफ़त के उम्मीदवार बचे। इसलिए अब्दुर्रहमान का मत बहुत अहम हो गया। अब्दुर्रहमान बिन औफ़ ने पहले हज़रत से अली से कहा कि आप इस बात का वचन दें कि अपनी ख़िलाफ़त में पवित्र क़ुरआन, पैग़म्बरे इस्लाम के आचरण और पहले  और दूसरे ख़लीफ़ा के पदचिन्हों पर चलेंगे। हज़रत अली अलैहिस्सलाम ने जवाब में कहा कि पवित्र क़ुरआन, पैग़म्बरे इस्लाम के आचरण और अपने ज्ञान व क्षमता पर अमल करुंगा। उसके बाद अब्दुर्रहमान ने यह शर्त हज़रत उस्मान के सामने पेश की जिसे उन्होंने तुरंत क़ुबूल कर लिया। इसलिए अब्दुर्रहमान बिन औफ़ ने हज़रत उस्मान के आज्ञापालन का प्रण लिया।

कुछ ऐतिहासिक स्रोतों में मिलता है कि हज़रत अली अलैहिस्सलाम ने अब्दुर्रहमान बिन औफ़ की शर्त को एक तरह की चाल बताते हुए कहा कि तुमने उस्मान को इसलिए चुना है कि वह ख़िलाफ़त को तुम्हें लौटाए। यह पहली बार नहीं है जब तुम लोग पैग़म्बरे इस्लाम के पवित्र परिजनों के ख़िलाफ़ एकजुट हो गए और हमें अपने अधिकार को हासिल करने से रोक रहे हो।              

हज़रत उस्मान ख़लीफ़ा बन गए और सत्ता अपने हाथ में ले ली। उन्होंने जिस चीज़ का वादा किया था उस पर अमल न किया। उन्होंने न तो पैग़म्बरे इस्लाम के आचरण का अनुसरण किया और न ही जो इस शर्त को क़ुबूल किया था कि वह हज़रत अबू बकर और हज़रत उमर के पदचिन्हों पर चलेंगे, इस पर भी अमल न किया। उन्होंने बहुत से इस्लामी मूल्यों की अनदेखी की और बहुत से फ़ैसलों में उनकी कमज़ोरी सामने आयी। अपने रिश्तेदारों में मरवान और उसके बाप को जिन्हें पैग़म्बरे इस्लाम ने मदीना शहर से बाहर निकाल दिया था, अपनी ख़िलाफ़त के दौर में मदीना वापस बुला लिया। हालांकि हज़रत उस्मान ने हज़रत अबू बकर और हज़रत उमर से भी मर्वान और उसके बाप को मदीना वापस बुलाने का निवेदन किया था जिसे इन दोनों ख़लिफ़ाओं ने रद्द कर दिया था। हज़रत उस्मान ने न सिर्फ़ यह कि मर्वान को मदीना वापस बुलाया प्रशासनिक व सामाजिक मामलों में फ़ैसला लेने के लिए भी उसका हाथ खुला छोड़ दिया। मर्वान धीरे धीरे हज़रत उस्मान के वज़ीर के समान हो गया और फिर अपनी मनमानी करने लगे। एक और मिसाल वलीद बिन अक़बा की है जो हज़रत उस्मान के रिश्तेदारों में था। वलीद बिन अक़बा को हज़रत उस्मान ने कूफ़े का राज्यपाल नियुक्त किया। वह इस्लाम के ज़ाहरी उसूलों पर भी अमल नहीं करता था। उसने एक बार शराब के नशे में धुत होकर सुबह की नमाज़ दो रकअत के बजाए चार रकअत पढ़ा दी और जो लोग मस्जिद में मौजूद थे उनसे कहा कि अगर कहो तो और पढ़ा दूं। वलीद के शराब पीने की ख़बर आम हो गयी लेकिन हज़रत उस्मान ने वलीद को शराब पीने की सज़ा न दी। वलीद वह व्यक्ति था जिसे पैग़म्बरे इस्लाम के दौर में उतरी एक आयत में फ़ासिक़ अर्थात खुल्लम खुला पाप करने और ईश्वर के आदेशों की अवज्ञा करने वाला कहा गया है।

हज़रत उस्मान ने अपने शासन काल में एक बार हज़रत अली अलैहिस्सलाम से कहा कि आप मदीना से बाहर चले जाइये लेकिन जब उनकी अनुपस्थिति से उत्पन्न शून्य को महसूस किया तो उनसे मदीना लौटने के लिए कहा। लेकिन थोड़े समय बाद इब्ने अब्बास से कहलवा भेजा कि वे मदीना से बाहर चले जाएं। हज़रत अली अलैहिस्सलाम हज़रत उस्मान के इस रवैये से बहुत दुखी हुए और कहा, “हे इब्ने अब्बास! उस्मान चाहते हैं कि मैं पानी खैंचने वाली ऊंट की तरह हो जाऊं जो एक ही रास्ते पर चलता है और उसी पर लौटता है। उन्होंने संदेश भिजवाया कि मैं मदीना से बाहर चला जाऊं, उसके बाद अनुरोध किया कि वापस लौट आऊं और अब दुबारा तुमसे कहलवाया है कि मदीने से बाहर चला जाऊं। ईश्वर की क़सम मैंने उस्मान का इतना साथ दिया है कि अब मुझे डर लगता है कि कहीं पाप न हो जाए।”

राजकोष की लूटमार, पैग़म्बरे इस्लाम के आचरण का विरोध, पिछले ख़लीफ़ाओं के फ़ैसलों की अनदेखी, अच्छे व योग्य अधिकारियों को पद से हटाना और उनके स्थान पर अपने अयोग्य रिश्तेदारों की नियुक्ति, पैग़म्बरे इस्लाम के हज़रत अबूज़र जैसे महान साथी को संपत्ति इकट्ठा करने के ख़िलाफ़ आवाज़ उठाने के अपराध में मदीना से शहर निकाला देकर रबज़ा भिजवाना, पैग़म्बरे इस्लाम के एक और निष्ठावान साथी अम्मार यासिर को मार पीट कर अधमरा करना और भी दूसरी करतूतों की वजह से मुसलमानों ने व्यापक स्तर पर हज़रत उस्मान के ख़िलाफ़ विद्रोह किया और हज़रत अली अलैहिस्सलाम के स्पष्ट विरोध के बावजूद चालीस दिन तक हज़रत उस्मान के घर की नाकाबंदी के बाद उन्हें क़त्ल कर दिया गया। आख़िरकार लोगों को जो अत्याचार, वादाख़िलाफ़ी व पथभ्रष्टता से थक चुके थे, सिर्फ़ हज़रत अली नज़र आये जो उन्हें इन हालात से मुक्ति दिला सकते हैं। लोग हज़रत अली अलैहिस्सलाम की ओर लपक पड़े। इस स्थिति को हज़रत अली अलैहिस्सलाम ने जिन्होंने पच्चीस साल धैर्य व ख़ामोशी के गुज़ारे थे, इस शब्दों में बयान किया है, “मैं बड़ी हैरत में था जब मैंने देखा कि लोग हर ओर से मेरी ओर बढ़ रहे हैं। मुझे डर लगा कि कहीं हसन और हुसैन कुचल न जाएं, मेरी अबा दोनों ओर से फट गयी और मेरे चारों ओर लोगों की भीड़ थी।”

अलबत्ता लोगों की इस भीड़ में कुछ ऐसे भी थे जो अपने हितों की प्राप्ति और सत्ता हासिल करने के चक्कर में थे। हज़रत अली अलैहिस्सलाम ने इस बात को अच्छी तरह समझते हुए फ़रमाया, “लोगों की ओर से मेरे आज्ञापालन का वचन दिए जाने जाने के बाद मैं जब मामलों में सुधार के लिए उठ खड़ा हुआ तो एक गुट ने अपना वचन तोड़ दिया, एक गुट धर्म से निकल गया और दूसरे गुट ने अत्याचार किया। मानो उन्होंने ईश्वर का यह कथन नहीं सुना था, परलोक का घर हमने उन्हीं लोगों के लिए विशेष किया है जो धरती पर न तो उद्दंडता करते हैं और न ही भ्रष्टाचार। अच्छा अंजाम तो ईश्वर से डरने वालों का है।”

उसके बाद हज़रत अली अलैहिस्सलाम ने कहा, ईश्वर की सौगंद लोगों ने इस कथन को सुना और समझा था लेकिन दुनिया उनकी नज़र में खप गयी और इसके आकर्षण से उनकी नज़रें चकाचौंध हो गयीं। अगर आज्ञापालन करने वाली भीड़ और मदद करने वालों के गुट की मौजूदगी से मुझ पर ईश्वर की हुज्जत पूरी न होती जो उसने विद्वानों से प्रण लिया है कि वे पीड़ितों की भूख और अत्याचारियों के पेट भरे होने की स्थिति में ख़ामोश नहीं बैठेंगे तो मैं तुम्हारी इस ख़िलाफ़त को क़बूल न करता और तुम्हारी इस ख़िलाफ़त की मेरी नज़र में बकरी की छींक से निकलने वाली गंदगी जितनी भी अहमियत नहीं रखती।