لما بايعه الناس عبد الملك بن مروان ودخل الكوفة قال له الحجاج إني رأيت في المنام كأني أسلخ ابن الزبير فقال له عبد الملك أخرج إليه قال فخرج الحجاج في ألف وخمسمائة رجل حتى نزل الطائف وجعل عبد الملك يرسل إليه الجيوش رسلا حتى تتام من الناس إليه قدر ما يظن أنه يقوى على قتل ابن الزبير وكان ذلك في ذي القعدة سنة اثنين وسبعين فسار الحجاج من الطائف حتى نزل منى فحج بالناس سنة اثنين وسبعين وابن الزبير محصور ثم نصب الحجاج المنجنيق على أبي قبيس ونواحي مكة كلها فرمى أهل مكة بالحجارة فلما كانت الليلة التي قتل ابن الزبير في صبيحتها جمع ابن الزبير القرشيين فقال ما ترون فقال رجل من بني مخزوم من آل ربيعة والله لقد قاتلنا معك حتى ما نجد مقاتلا والله لئن شتونا معك ما تريد على أن نموت معك وإنما هو أحد خصلتين أما أن تأذن لنا فنأخذ الأمان لأنفسنا ولك وإما أن تأذن لنا فنخرج قال فقال ابن الزبير قد كنت عاهدت الله أن لا يباعني أحد فأقيله بيعته إلا ابن صفوان فقال له ابن صفوان أنا لنقاتل معك وما وفيت بما قلت ولكن الحفيظة تمنعني أن أنزع عنك في مثل هذه الحالة حتى أموت معك قال فقال له رجل اكتب إلى أمير المؤمنين عبد الملك فقال كيف أكتب من عبد الله أمير المؤمنين إلى عبد الملك بن مروان والله لا يقبل هذا أبدا أو أكتب لعبد الله عبد الملك أمير المؤمنين من عبد الله بن الزبير فوالله لأن تقع الخضراء على الغبراء أحب إلي من ذلك فقال له عروة بن الزبير وهو جالس معه على السرير يا أمير المؤمنين قد جعل الله لك أسوة قال من هو قال الحسن بن علي[عليه السلام] خلع نفسه وبايع معاوية قال فرفع ابن الزبير رجله فضرب عروة حتى ألقاه عن السرير ثم قال يا عروة قلبي إذا مثل قلبك والله لو فعلت ما تقول ما عشت إلا قليلا وما ضربة سيف إلا مثل ما ضربة سوط لا أقبل شيئا مما تقولون قال فلما أصبح دخل عليه بعض نسائه وهي أم هاشم بنت مظنون بن يسار الفزارية فقال لها اصنعي لنا طعاما قال فصنعت له كبدا وسناما قال فأخذ منها لقمة فلاكها ساعة فلم يسغها فرمى بها وقال اسقوني لبنا فأتي بلبن فشرب ثم قال صبوا لي غسلا قال فاغتسل ثم تحنط ثم تقلد سيفه ثم خرج فدخل على أمه وهي عمياء قد بلغت مائة سنة فقال يا أماه ما ترين قد خذلني الناس وخذلني بني أبي فقالت لا يتلاعبن بك صبيان مكة وبني أمية عش كريما ومت كريما فخرج فأسند ظهره إلى الكعبة ومعه نفر يسير فجعل يقاتلهم فيهزمهم ويقول ويل أمه قبحا لهم لو كان له رجال قال فجعل الحجاج يناديه من فوق قد كان لك رجال ولكن ضيعتهم قال ثم جعل ينظر إلى الأبواب ويقول من هؤلاء ويحمل عليهم حتى يخرجهم من المسجد ثم أن رجلا أسود من أهل الشام يقال له خلبوب قال لأصحابه ألا تستطيعون أن تأخذوا ابن الزبير إذا ولى بأيديكم قال فحمل ابن الزبير وهو يرتجز ويقول

  ولسنا على الأعقاب تدمى كلومنا ** ولكن على أقدامنا تقطر الدما

 قال فأتاه خلبوب ليأخذ بيده يريد أن يحتضنه قال فضرب ابن الزبير يديه كلتيهما فقطعهما قال فقال خلبوب حس قال ابن الزبير إصبر خلبوب قال فجاء حجر من حجارة المنجنيق وهو يمشي فأصاب قفاه فسقط فما درى أهل الشام أنه هو حتى سمعوا جارية تبكي وا أمير المؤمنيناه فحزوا رأسه فذهبوا به إلى الحجاج وقتل معه عبد الله بن صفوان وعمارة بن عمرو بن حزم

 قال أبو معشر فحدثني رجل أن الحجاج بعث برؤوسهم إلى المدينة فنصبوها للناس وجعلوا يقربون رأس ابن صفوان إلى رأس ابن الزبير كأنه يسارره ويلعبون بذلك ثم بعثوا برؤوسهم إلى عبد الملك بن مروان وقتل يوم الثلاثاء لسبع عشرة ليلة مضت من جمادي الأولى سنة ثلاث وسبعين فمضى به الحجاج على ثنية أهل المدينة عند المقابر فخرجت أسماء إلى الحجاج فقالت أتأذن لي أن أدفنه فقد قضيت شأنك منه قال لا ثم قال لها ما ظنك برجل قتل عبد الله بن الزبير قالت حسيبه الله قال فلما منعها أن تدفنه قالت سمعت رسول الله صلى الله عليه و[آله و]سلم يقول يخرج من ثقيف رجلان الكذاب والمبير فأما الكذاب فهو المختار وأما المبير فأنت.