Pascatragedi Karbala, Abdullah bin Zubair atau Ibnu Zubair menyatakan dirinya sebagai khalifah yang sebenarnya. Pemerintahannya berpusat di Hejaz. Cucu Abu Bakar Ash-Shiddiq ini sempat berkuasa beberapa tahun namun berakhir tragis.
Baca juga: Kisah Muawiyah bin Yazid Menolak Menjadi Khalifah karena Trauma
Pada awalnya, Ibnu Zubair adalah pendukung kekhalifahan Muawiyah namun menolak penunjukan Yazid sebagai khalifah. Menurut pandangannya, Yazid bin Mu’awiyah bin Abi Sufyan itu adalah laki-laki yang terakhir kali dapat menjadi khalifah Muslimin, seandainya memang dapat.
Pandangannya ini memang beralasan, karena dalam soal apa pun juga, Yazid tidak becus! Tidak satu pun kebaikan dapat menghapus dosa-dosanya yang diceritakan sejarah kepada kita, maka Ibnu Zubair pun menolak membai’at Yazid.
Kata-kata penolakannya terhadap Mu’awiyah amat keras dan tegas. Dan apa pula katanya kepada Yazid yang telah naik menjadi khalifah dan mengirim utusannya kepada Ibnu Zubair mengancamnya dengan nasib jelek apabila ia tidak membai’at pada Yazid. Ketika itu Ibnu Zubair memberikan jawabannya: “Kapan pun, aku tidak akan bai’at kepada si pemabok”.
Kemudian katanya berpantun: “Terhadap hal bathil tiada tempat berlunak lembut kecuali bila geraham dapat mengunyah batu menjadi lembut ”
O Hashem dalam “Muhammad Sang Nabi: Penelusuran Sejarah Nabi Muhammad Secara Detail” memaparkan selain Hijaz, Ibnu Zubair juga memantapkan keuasaannya di Iraq, Selatan Arabia dan bagian terbesar Syam, serta sebagian Mesir.
Ibnu Zubair memperoleh keberuntungan yang besar karena ketidakpuasan rakyat terhadap kekuasaan Bani Umayyah. Salah seorang pendukungnya adalah Muslim bin Syihab, ayah dari Ibnu Syihab al-Zuhri yang kemudian menjadi cendekiawan muslim terkenal.
Yazid bin Muawiyah mencoba menghentikan pemberontakan Ibnu Zubair dengan mengirim pasukan ke Mekkah. Muslim bin Uqbah, pasca-menumpas pemberontakan warga Madinah, berencana menyerang Abdullah bin Zubair di Mekkah. Namun di tengah perjalanan wafat, sehingga kepemimpinan pasukan diambil alih oleh Al-Hushain bin Numair As-Sakuni.
Pada 26 Muharram 64 H (24 September 683 M), pasukan Al-Hushain bin Numair As-Sakun mengepung Abdullah bin Az-Zubair selama 64 hari. Terjadi saling serang dengan menggunakan Manjaniq ke Kakbah dari Gunung Qubais, sampai-sampai menimbulkan kebakaran di Masjidil Haram.