لما دخل ابن العاص القصر تشتّت الروم ثم اجتمعوا في كوم شريك، فسار إليهم وهزمهم واقتفى أثرهم حتى اجتمعوا بالإسكندرية، فحاصرها حتى ملكها 21 ديسمبر سنة 641 ميلادية الموافقة 21 هجرية، بعد أربعة عشر شهرًا من حصارها، وفر حزب من الروم إلى السفن وبقي داخل المدينة حزب آخر أرادوا الفتك بالمسلمين؛ فأخرجهم ابن العاص وتَبِعُهم حتى شتت شملهم وعاد إلى الإسكندرية، فوجد مَن فَرُّوا إلى السفن عادوا إليها، وقتلوا محافظًا عليها من رؤساء المسلمين، فأخرجهم وتردَّدَ في أن يغنم ما في الإسكندرية ويهدمها أولاً ، وكتب بذلك كتابًا إلى ابن الخطاب – فلامه على ذلك فوضع الجزية والخراج، ورتب لتحصيل ذلك رجالًا من القبط لمعرفتهم درجات الناس ولغتهم، فتحصلت أموال كثيرة صرف معظمها في مصالح الديار المصرية، كتجديد بحر القلزم العتيق الذي كان يصل النيل بالبحر الأحمر، وهَمَّ بحفر برزخ السويس ليصل بحر دمياط بالبحر الأحمر، فمنعه ابن الخطاب لئلا يفتح للروم طريقًا إلى مكة والمدينة، وبني الفسطاط بدل منف التي انهدمت. وكان المصريون يضطربون إذا لم يبلغ النيل الارتفاع المعلوم زمن الفيضان فنقص ابن العاص أذرع المقياس. ونقل عن بعض المؤرخين أن ابن العاص شاور ابن الخطاب – رضي الله عنه – فيما يفعل بكتبخانة سرابيون الشهيرة التي بالإسكندرية فأمره بإحراقها قائلًا إن كانت مخالفة للقرآن فمضرة أو موافقة فغير نافعة. وهو بعيد عن الصدق؛ فإنه فعل وحشي يصدر حال الهدوء والسكون على أن دعوى عدم نفعها إذا كانت موافقة ضعيفة أو باطلة لا يصح نسبتها إلى هذا الخليفة المشهود له بوفور العقل لدى سائر الأمة؛ ولذا لم يذكرها أحد من المؤرخين المعاصرين له – رضي الله عنه – ولو فرض صدور أمره بإحراقها فما كان إلا لمقدار قليل؛ فإن معظمها أُحْرقَ في عهد الملك تيودوس سنة ثلاثين وتسعمائة بعد الميلاد. وأتلف ابن العاص سور الإسكندرية عند قيام سكانها على المسلمين؛ فإن عثمان بن عفان – عزله عن مصر حين ولي الخلافة، فعز ذلك على المصريين لحسن تدبيره، ثم هجم الروم على الإسكندرية وأخذوها فخاف القبط أن ينتقم الروم منهم على ما كان من جبنهم وخيانتهم، فبعثوا إلى عثمان– سفراء يرجونه إعادة ابن العاص إلى ولاية الديار المصرية، فعاد وحاصر الإسكندرية، وأُريقَتْ دماء كثيرين من المسلمين حال هجومهم على السور، فحلف ليهدمنه، فهدمه وبني الموضع الذي أوقف فيه عساكره جامعًا سماه جامع الرحمة.