Sebelum itu Rasulullah saw berdoa dengan bersabda :
Ya Allah, kukuhkanlah Islam dengan salah seorang yang paling engkau cintai iaitu Umar bin al-Khattab atau Abu jahal bin Hisyam.(al-Tirmizi dan al-Tabaraniy)
Umar yang terkenal dengan sifat tegas dan bengis keluar pada satu hari dengan membawa pedang untuk menamatkan riwayat Nabi saw. Dalam perjalanan beliau bertemu dengan Nuaim bin Abdullah iaitu lelaki dari keturunan Bani Zuhrah.
Nuaim bertanya : Engkau nak ke mana wahai Umar?
Aku hendak menghapuskan Muhammad. Jawab Umar.
Apa yang dapat menjamin keamanan dirimu dari pembalasan Bani Hasyim dan Bani Zuhrah jika engkau membunuh Muhammad.
Pada fikiranku engkau juga telah meninggalkan agama nenek moyangmu, Kata Umar.
Nuaim berkata : Bagaimana kalau aku tunjukkan sesuatu yang lebih mengejutkanmu wahai Umar.
Sesungguhnya adik perempuanmu dan iparmu sendiri telah keluar dari agama yang engkau anuti selama ini.
Mendengar kata-kata itu, Umar terus ke menuju ke rumah adik perempuannya yang ketika itu Khabbab bin al-Art sedang membaca sahifah yang mengandungi Surah Taha untuk mereka berdua. Setelah mendengar suara Umar, Khabbab meluru ke belakang sementara Fatimah menyembunyikan sahifah al-Quran.
Umar bertanya : Apa bisikan yang aku dengar dari kamu tadi?
Kami hanya berbual antara kami, Jawab keduanya.
Aku fikir kamu berdua telah keluar dari agama kita, kata Umar.
Wahai Umar, apa pendapatmu sekiranya terdapat kebenaran pada agama selain agama engkau?
Ketika itu juga umar melompat ke arah adik iparnya lalu memijaknya dengan ganas. Fatimah cuba untuk menolong suaminya. Namun Umar menolaknya sehingga terjatuh menyebabkannya muka berdarah.
Fatimah berkata : wahai Umar, jika sememangnya kebenaran itu ada dalam agama selain agamamu maka bersaksikanlah bahawa tiada ilah selain Allah dan bersaksikanlah Muhammad itu Rasul Allah.
Umar mula berputus asa. Dia melihat darah yang keluar dari wajah adiknya dan timbul belas kasihan dan kesal di atas apa yang telah dia lakukan.
Berikanlah kitab yang kamu baca tadi, kata Umar.
Adiknya menjawab: Engkau adalah kotor, al-kitab ini tidak boleh disentuh kecuali orang-orang yang suci. Bangun dan mandilah jika mahu.
Maka Umar segera mandi dan dibenarkan membaca al-kitab itu. Dia membaca isinya : Bismillahirrahmanirrahim. Kemudia dia membaca Surah Taha dari awal sehingga ayat yang bermaksud :
Sesungguhnya aku ini adalah Allah, tidak ada Tuhan (yang hak) selain Aku, Maka sembahlah aku dan dirikanlah shalat untuk mengingat aku.
Umar berkata : Alangkah indah dan mulianya kalam ini!. Tunjukkan padaku di mana Muhammad berada ketika ini.
Khabbab yang bersembunyi meluru keluar lalu berkata : terimalah khabar gembira wahai Umar kerana aku benar-benar berharap agar doa Nabi saw malam kkhamis itu terkena padamu. Rasulullah saw berada di rumah di kaki bukit Safa.
Umar mengambil pedang lalu menuju ke tempat Nabi saw. Seseorang yang mengintip dari celah pintu mendapati Umar sedang berdiri dengan menghunus pedang.
Bila dimaklumkan kepada Saidina Hamzah kedatangan Umar, Hamzah berkata : bukakan pintu. Jika kedatangannya bertujuan baik kami akan mengizinkannya. Tetapi jika dia datang dengan niat jahat maka dia akan dibunuh dengan pedangnya sendiri.
Rasulullah saw campur tangan dengan memberi isyarat agar benarkan Umar masuk. Setelah Umar berada di depan nabi saw, baginda memegang baju Umar dan berkata : tidakkah kamu mahu berhenti tindakanmu wahai Umar sehingga Allah menurunkan kehinaan dan bencana seperti yang menimpa al-Walid bin al-Mughirah?. Ya Allah, inilah Umar. Kukuhkanlah Islam dengan Umar bin al-Khattab.
Umar berkata : Aku bersaksi bahawa tiada Ilah melainkan Allah dan sesungguhnya engkau adalah Rasul Allah.
Semua hadirin yang berada di situ bergembira dan bertakbir dengan serentak sehingga takbir mereka dapat didengari oleh mereka yang berada di Masjidil Haram.
Setelah Umar memeluk Islam, dakwah dapat disebarkan secara terang-terangan. Ibn Mas’ud berkata : Hampir-hampir kami tidak dapat solat di ka’bah sehinggalah Umar memeluk Islam.
Suhaib bin Sinan berkata : Setelah Umar memeluk Islam, maka Islam menjadi kuat dan dakwah dapat dijalankan secara terang-terangan. Kami boleh duduk buat bulatan di sekitar Baitul Haram, tawaf di sekeliling Ka’bah, berani mengambil tindakan terhadap orang yang berlaku kasar kepada kami.
