انتفض على مروان أهل حمص، وسائر أهل الشام فحاربهم, وذلك أنه أقام بحران بعد أن بويع له أربعة أشهر، وقيل: ثلاثة أشهر وهو الأصح - ثم خالفه أهل الشام، وكان الذي دعاهم إلى ذلك ثابت بن نعيم، راسلهم وكاتبهم، فبلغ مروان خبرهم، فسار إليهم بنفسه ومعه إبراهيم بن يزيد المخلوع، وسليمان بن هشام يكرمهما ويجلسان معه على غدائه وعشائه، فانتهى إلى حمص، فأحدقت بها خيله فأشرفوا عليه، فناداهم مناديه: ما الذي دعاكم إلى النكث؟ فقالوا: لم ننكث، فاقتحم عمرو بن الوضاح في ثلاثة آلاف، فقاتلوهم داخل المدينة، فلما كثرت خيل مروان انتهوا إلى باب من أبواب المدينة يقال له: باب تدمر، فخرجوا منه والروابط عليهم، فقاتلوهم، فقتل عامتهم وأسر منهم قوم، فأتى بهم مروان فقتلهم، وأمر بالقتلى وهم ستمائة، فصلبوا حول المدينة، وهُدم من حائط المدينة نحو من غلوة، وثار أهل الغوطة إلى دمشق فحاصروا أميرهم زامل بن عمرو، وولوا عليهم يزيد بن خالد القسري، وقتل مروان خلقاً كثيراً، وأقام بدير أيوب حتى بايع لابنيه: عبيد الله، وعبد الله، وزوجهما ابنتي هشام بن عبد الملك، وهما: أم هشام، وعائشة. وقطع على جند أهل الشام بعثاً، وأمرهم باللحاق بيزيد بن عمر بن هبيرة، وكان قبل مسيره إلى الشام قد وجهه في عشرة آلاف من أهل قنسرين والجزيرة، وصيره مقدمه له وانصرف مروان إلى قرقيسياء وابن هبيرة بها ليقدمه إلى العراق لمحاربة الضحاك بن قيس الشيباني الحروري.

وأقبل نحو من عشرة آلاف ممن كان مروان قطع عليه البعث بدير أيوب لغزو العراق مع قوادهم، فزادهم حتى جاءوا الرصافة سليمان إلى خلع مروان ومحاربته.