لما هلك يزيد مكث الحصين بن نمير وأهل الشام يقاتلون ابن الزبير ولا يعلمون بموت يزيد أربعين يوماً وقد حصروهم حصاراً شديداً، وضيقوا عليهم، فبلغ موته ابن الزبير قبل أن يبلغ حصين، فصاح بهم ابن الزبير: إن طاغيتكم قد هلك، فمن شاء منكم أن يدخل فيما دخل فيه الناس فليفعل، ومن كره فليلحق بشآمه، فما صدقوا، حتى قدم ثابت بن قيس بن المنقع النخعي، فأخبر الحصين بذلك، فبعث الحصين بن نمير إلى ابن الزبير: موعد ما بيننا وبينك الليلة الأبطح. فالتقيا، فقال له الحصين: إن يك هذا الرجل قد هلك فأنت أحق بهذا الأمر، هلم فلنبايعك، ثم اخرج معي إلى الشام، فإن هذا الجند الذين معي هم وجوه أهل الشام وفرسانهم، فوالله لا يختلف عليك اثنان، وتؤمن الناس، وتهدر هذه الدماء التي كانت بيننا وبينك. فقال: لا افعل، ولأقتلن بكل رجل عشرة. فقال الحصين: قد كنت أظن أن لك رأياً، أنا أدعوك إلى الخلافة وأنت تعدني بالقتل.

ثم خرج وصاح في الناس فأقبل بهم نحو المدينة، وندم ابن الزبير على ما صنع، فأرسل إليه: أما أن أسير إلى الشام فلست فاعلاً لأني أكره الخروج من مكة، ولكن بايعوا لي هناك فإني مؤمنكم. فقال الحصين: أرأيت إن لم تقدم بنفسك، ووجدت هناك أناساً كثيراً من أهل هذا البيت يطلبونها يجيبهم الناس، فما أنا صانع؟ فأقبل بأصحابه ومن معه نحو المدينة، فاستقبله علي بن الحسين بن علي بن أبي طالب[عليه السلام] واجترأ أهل المدينة وأهل الحجاز على أهل الشام فذلوا حتى كان لا ينفرد منهم رجل إلا أخذ بلجام دابته فنكس عنها. فقالت لهم بنو أمية: لا تبرحوا حتى تحملونا معكم إلى الشام، ففعلوا ومضى ذلك الجيش حتى دخلوا الشام وقد أوصى يزيد بالبيعة لابنه معاوية.

 وقد بايع أهل البصرة عبيد الله بن زياد على أن يقوم لهم بأمرهم حتى يصطلح الناس على إمام يرتضونه لأنفسهم، ثم أرسل عبيد الله رسولاً إلى أهل الكوفة يدعوهم إلى مثل ذلك فأبوا عليه، وحصبوا الوالي الذي كان عليهم.

وذلك أنه لما بلغت عبيد الله وفاة يزيد، قام خطيباً، فحمد الله وأثنى عليه وقال: يا أهل البصرة، لقد وليتكم وما أحصى ديوان مقاتلتكم إلا سبعين ألف مقاتل، ولقد أحصى اليوم ثمانين ألف مقاتل، وما أحصى ديوان عمالكم إلا تسعين ألفاً، ولقد أحصى اليوم مائة ألف وأربعين ألفاً، وما تركت لكم ذا ظنة أخافه عليكم إلا وهو في سجنكم، وإن أمير المؤمنين يزيد قد توفي، وقد اختلف أهل الشام وأنتم اليوم اكثر الناس عدداً، وأوسعهم بلاداً، وأغنى عن الناس، فاختاروا لأنفسكم رجلاً ترضونه لدينكم وجماعتكم، فأنا أول راض من رضيتموه، فإن اجتمع أهل الشام على رجل ترضونه دخلتم فيما دخل فيه المسلمون، وإن كرهتم ذلك كنتم على جديلتكم حتى تعطوا حاجتكم، فما لكم إلى أحد من أهل البلدان حاجة.

فقامت خطباء أهل البصرة فقالوا: والله ما نعلم أحداً أقوى منك عليها، فهلم نبايعك، فقال، لا حاجة لي في ذلك، فاختاروا لأنفسكم، فأبوا غيره وأبى عليهم حتى كرروا ذلك ثلاث مرات. فلما أبوا بسط يده فبايعوه. ثم خرجوا يمسحون أكفهم بباب الدار وحيطانه، وجعلوا يقولون: أظن ابن مرجانة أنا نوليه أمرنا في الفرقة. فكان يامر بالأمر فلا ينفذ، ويرى الرأي فيرد عليه رأيه.

فأقام كذلك ثلاثة أشهر، وقدم مسلمة بن ذؤيب فدعا الناس إلى بيعة ابن الزبير، فمالوا إليه وتركوا ابن زياد، فكان في بيت المال تسعة عشر ألف ألف، ففرق ابن زياد بعضها في بني أمية وحمل الباقي معه، وخرج في الليل يتخفى، فعرفه رجل فضربه بسهم فوقع في عمامته وأفلت، فطلبوه فمات وانتهبوا ما وجدوا له فطلب الناس من ثار عليهم، فبايعوا عبد الله بن الحارث بن نوفل بن الحارث بن عبد المطلب بن هاشم، فولي أمرهم أربعة أشهر، ثم ولي عبيد الله بن معمر على البصرة.