在蔣介石嚴令整肅共黨分子，而共黨分子又難以分辨的情形下，這場聲勢兇猛的清黨運動勢不可避免地被擴大，白色恐怖籠罩全國各地。歷史學家唐德剛的岳丈吳開先，親歷了上海清黨時的紛亂情形。他事後向陳立夫言及「無辜人民之遭害者不計其數，言之至為痛心，對本黨之失去學界同情及一般人民之失望，均屬無可補償之損失也。」【註5】
4月17日，武漢國民政府撤銷蔣介石的國民革命軍總司令職務，並開除黨籍。蔣和部分黨的右派元老則宣布在南京另組國民政府，推選黨內資歷勝過汪精衛的胡漢民擔任國民政府主席，史稱「寧漢分裂」。僅僅還不到兩年前，代理孫中山大元帥職務的胡被蔣、汪兩人聯手鬥爭下台。此時的中國同時存在三個中央政府－－武漢國民政府、南京國民政府和列強承認的北京政府。
雖然武漢國民政府控制區域內的北伐軍陣營大都是反蔣的，但他們部隊中多數軍官來自地主和仕紳家庭，共產黨人在他們家鄉推動血腥的土地改革，沒收他們的家產，甚至處決他們的家人，連第三十五軍軍長何鍵的父親也在長沙被抄家、逮捕後遊街示眾。5月21日，憤怒的何鍵命令所轄駐長沙的第三十三團團長許克祥，搗毀「湖南總工會」、「農民協會」、「農民講習所」等中共控制的組織，解除「工人糾察隊」和「農民自衛隊」武裝，逮捕和處決共產黨人。第二十軍軍長楊森，和第十四獨立師師長夏斗寅等，亦相繼通電清共擁蔣。
5月30日，共產國際向中共發出《五月緊急指示》：「全面推展土地革命，發動農民沒收地主的土地；改組國民黨，由工農代表取而代之，接管國民黨及其軍隊的領導權；動員兩萬共產黨員及兩湖的五萬革命工農，編成十個師團的紅軍；組織革命法庭懲辦反動軍官。」了解中國國情的鮑羅廷和陳獨秀擔心欲速則不達，同時也認為兩湖的工農運動太過分了點，因此致電莫斯科：「命令收到，一旦可行，立即照辦。」但新來的代表羅易卻將《五月緊急指示》密電示知汪精衛，悲情的汪精衛終於了解到他只是一個傀儡，共產黨的最終目標是要從內部顛覆瓦解國民黨。
7月15日，汪精衛召開國民黨中央常務委員會，在會上公布共產國際《五月緊急指示》的內容，並通過了將所有共產黨員逐出國民黨的決議，汪採取和平的方式「分共」，禮送鮑羅廷等返回蘇聯。然而8月1日，賀龍、葉挺和朱德等中共潛伏在國民革命軍內的將領突率所部兵變，佔領了南昌，並發表《八一起義宣言》。汪精衛隨即派兵鎮壓，並宣布中國共產黨為非法組織，也開始大肆逮捕處死共產黨人，從「和平分共」轉變為「武力分共」。
