Saiyidina Othman bin Affan diangkat menjadi Khalifah selepas Saiyidina Umar bin Khatab dibunuh oleh musuh dalam selimut dari golongan kaum munafik. Ketika itu keadaan masih lagi dilanda pergolakan dan keresahan. Dengan ketegasan sikap dan kebijaksanaan Saiyidina Othman suasana pemerintahan dapat dikendalikan secara aman oleh Khalifah yang berjiwa lembut itu. Ramai penganut agama lain datang berduyun-duyun masuk Islam. Salah seorang daripadanya adalah seorang pemuda Yahudi dari Yaman yang bernama Abdullah bin Saba'.

    Namun ternyata Abdullah bin Saba' mempunyai tujuan lain disebalik memeluk Islam. Ia mengharapkan Khalifah selaku penguasa negara akan memberikan kehormatan kepadanya. Maka berangkatlah Abdullah bin Saba' ke Madinah. Ia meminta izin mengadap Khalifah. Setelah diperkenankan ia menyampaikan keinginannya agar diberi kedudukan tinggi di salah satu jabatan terpinting dalam bidang apa saja. Tetapi Saiyidina Othman menolak dan berkata "Aku hanya seorang pelayan umat. Aku diangkat menjadi Khalifah bukanlah atas keinginanku bahkan atas kesepakatan para sahabat yang lain."

    Saiyidina Othman berkata lagi "Tidakkah tuan tahu bahawa jawatan bukanlah satu kehormatan tetapi merupakan satu amanah." sambung Khalifah lagi "Apakah tuan sudah sanggup memikul amanah itu sedangkan tuan baru sahaja memeluk Islam dan lebih daripada itu tidak layak sesuatu kedudukan diminta atau diminati, kerana Allah jualah yang memberi atau mencabut kedudukan seseorang."

    Abdullah bin Saba' keluar dengan perasaan gelap. Ia telah bersusah memeluk Islam dan kemudian menempuh perjalanan yang jauh dengan harapan untuk memperolehi sanjungan dan mendapat jawatan tinggi, tetapi ternyata hanya memperolehi nasihat dan teguran. Semenjak dari itu Abdullah bin Saba' menyimpan dendam kepada Khalifah, umat Islam dan agama Islam. Ia bertekad untuk membinasakan umat Islam dan mengacaukan ajarannya.

    Maka Abdullah bin Saba' berkeliling kemana-mana dan berbisik-bisik sambil menabur fitnah kepada orang ramai dengan berkata bahawa pewaris dan Khalifah yang sah adalah Saiyidina Ali bin Abi Thalib. Sebahagian daripada mesyarakat telah terpengaruh dengan hasutan tersebut sehingga mereka menubuhkan kumpulan yang dipanggil Syiah Saba'iyah yakni kaum Syiah sekarang.

Bagitu busuknya fitnah yang disebarkan oleh Abdullah bin Saba' sehingga ia berani berkata "Sesungguhnya yang menjadi Nabi pilihan Allah adalah Ali bin Abi Thalib. Hanya kebetulan pada ketika itu malaikat Jibrail sedang mengantuk sehingga wahyu Allah diberikan kepada Muhammad iaitu orang yang tidak berhak."

    Mendengar khabar beracun seperti itu Saiyidina Ali bin Abi Thalib sangat marah dan tatkala beliau diangkat menjadi Khalifah keempat menggantikan Khalifah Saiyidina Othman bin Affan atas perintahnya Abdullah bin Saba' diusir dari Madinah.