蔣介石更於3月8、9日連續兩天召見第二十一師師長劉雨卿，親自指導如何鎮壓台灣人。［22］3月9日下午劉雨卿由南京乘專機飛抵台灣，旋即晉見陳儀，轉達蔣介石必須「面詳一切」的交代，很可能是鎮壓台灣人的秘密指令。［23］
既然知道援軍即將由中國抵達，高雄要塞司令彭孟緝先在高雄展開屠殺。3月6日下午2時軍隊開向高雄火車站及高雄中學，另外的部隊向高雄市政府及憲兵隊部攻擊前進。軍隊到達高雄火車站，民眾趕緊跑到月台的地下道躲藏，地下道內擠得滿滿約三、四百人， 一下子槍聲大作，未躲進地下道者都被打死。士兵並將地下道兩端堵住，對地下道射擊，打死很多人。為了要殺高雄中學的學生，在下午6點左右用六零迫擊炮射向雄中建築物，隔天上午更調來兩門美式八一迫擊砲來支援，要塞司令部也調來一門要塞炮。3月21日就來台灣調查的監察委員何漢文指出：「據高雄要塞司令彭孟緝對我說：『從3月2日到13日， 高雄市在武裝暴動中被擊斃的暴民，大約在2,500人以上 。』彭孟緝因為殺人如麻，濫殺無辜，在民間得到『高雄屠夫』的惡名 。」［24］
為了在整編第二十一師抵達前掌握狀況，陳儀在3月8日發動了全台之鎮壓。當天下午2時基隆就開始殺人，此時由中國來的黨軍尚未上岸。據外國人見證的基隆鎮壓為 ： 「 3月8日下午基隆外國商人被碼頭傳來機關槍聲嚇到了， 槍聲越來越響，很快沿著道路進入市區。」英國領事館人員也指出 ：「3月8日下午2時起，國民黨軍以來福槍與自動武器盲目掃射，持續了兩個小時 。」〔25〕
台北的恐怖鎮壓是在8日晚間開始。陳儀為了在3月9日展開的報復性屠殺找藉口，製造了「圓山事件」。位在圓山現場的海軍台北辦事處報告：「8日奉警總部令，為重整台北警備部署，大直明治橋、圓山各據點為第一警備區。明治橋由海軍辦事處派兵佔領封鎖，如遇暴徒襲擊，需匐力死守待援。」柯遠芬在 3月7日的日記稱：他原打算在9日晚進行戒嚴 ，卻提前在8日晚實施， 「而且 一切準備均要在明（8）日完畢，命令一定要先下達，只要信號一到，即照計劃實施。」〔26〕柯遠芬竟然預先計劃，把圓山設為第一警備區，只要接到信號，就可依計行事。湊巧的是當晚果真發生「圓山事件」。3月8日晚上10時30分陳儀也下令攻擊二二八事件處理委員會，一時之間槍聲大作，與會者或遭捕殺或開槍反擊，場面混亂不已。〔27〕
3月9日警備總部參謀長柯遠芬就廣播稱：「昨夜有奸匪暴徒數千名武裝進攻圓山倉庫…雖經國軍趕到擊退，但從9日起，台北基隆一律宣佈戒嚴。」中央社也發布新聞稿表示「亦有暴徒分組發動攻勢，昨夜10時半圓山海軍辦事處首被襲擊，其他暴徒則分別攻擊供應局倉庫、警備總司令部、陸軍、警察及公署，頓時步槍、機關槍及手榴彈聲大作，約歷一小時。柯遠芬根本在說謊，哪裡有數千名武裝暴徒？他的廣播是用來製造戒嚴及屠殺台灣人民的藉囗， 因為在他所提到的連串地方，並沒有留下戰鬥的痕跡，國民黨軍隊也沒有人受傷或死亡。
