此外還有張學良的東北軍和馮玉祥的西北軍存在，這些軍事力量都無法為蔣中正控制。直到對日抗戰爆發後，各軍事強人才放下彼此偏見，接受蔣中正領導走上抗日戰場。經過八年全面抗戰的消耗，地方部隊到1945年基本上只剩下閻錫山的晉綏軍和李宗仁、白崇禧的桂軍還稱得上獨當一面。西北軍、東北軍、粵軍與滇軍不是被中央軍消化，就是倒戈加入了中國人民解放軍。
到1948年11月的徐蚌會戰，黃埔系主力部隊除52軍以外幾乎已經被消滅殆盡，反而是晉綏軍與桂軍頑強抵抗解放軍鋪天蓋地的攻勢。晉綏軍最英勇的表現，毫無疑問是發生在1949年4月25日太原淪陷時，有500餘名不願意被解放軍俘虜的山西軍政幹部選擇集體自盡。500名自盡的晉綏軍幹部中，甚至還包括與閻錫山最親近的妹妹閻慧卿。
近年來有許多對岸或者獨派的學者質疑「太原五百完人」故事的真實性，認為沒有那麼多人在太原淪陷時自殺，還是有不少晉綏軍將士為共軍所俘虜。對此原馥庭提出反駁，指出整個太原保衛戰打了九個月，死掉的晉綏軍將士又何止500人而已。晉綏軍並不是唯一如此頑強反共的地方部隊，李宗仁、白崇禧的桂軍是另外一個典範。
最近台北金剛出版社，就出版了一本《義烈孤雄：臨危授命、殿後抗共、寧死不降的最後國軍將領盧英龍》的書，介紹桂系出身的梧州警察局長盧英龍將軍如何與解放軍力戰到死的故事。雖然是個反共到底的忠貞國民黨員，但盧英龍本身卻並非是蔣中正的信徒，甚至還在戰死前指控蔣中正是「霸佔著國民黨的獨裁者」。
然而大陸的淪陷，讓廣大反共的晉綏軍、西北軍、東北軍、川軍、滇軍、粵軍與桂軍將士失去了過往賴以維生的地盤。除了改編為共軍外，擺在他們眼前的兩個選擇是負隅頑抗到全軍覆沒為止，以及想辦法經由緬甸、越南或者香港調景嶺來到台灣。無論他們是否有組織的進入台灣，只要他們重新回歸到國軍的體系內，他們就自然變成黃埔系人馬。
因為所有撤退到台灣的部隊，都在孫立人、陳誠與蔣經國等人的整頓下徹底走上「黃埔化」的道路。閻錫山的引退與白崇禧的失事，再加上李宗仁流亡海外都讓晉綏軍與桂軍的勢力徹底瓦解。除了上述幾支比較龐大的地方部隊外，來台灣的外省軍人還包括各省、縣、鄉、鎮的民團武裝，甚至於滿洲國軍、華北治安軍、蒙古軍以及和平建國軍等「偽軍」老兵。
許多1947年報名參加第二期青年軍的知識青年，則來自於各鄉鎮地區的「黑五類」家庭，因為在老家待不下去才出來從軍。如此多來自不同派系，擁有不同經歷的軍人聚到台灣這塊土地上，並不是來自於他們對蔣中正或者中華民國的忠誠，而是對毛澤東式清算鬥爭的仇恨與恐懼。總之到了復興基地以後，所有的地方派系都與黃埔系融合，統一成了真正的中華民國國軍。
