似乎與共軍取得默契一般，日軍於1943年5月出動大軍掃蕩國軍在太行山上據點，逼使孫殿英的新5軍和龐炳勳的第40軍投降並納入和平建國軍的編制之中。唯一在太行山上的中央軍部隊，恰好是胡宗南系統的第27軍預備第8師，師長是黃埔軍校第2期畢業的陳孝強。陳孝強在日軍與孫殿英、龐炳勳部隊的聯合進攻下遭擊潰，被迫投降並加入汪精衛政權，擔任警衛第3師師長。
到了7月，胡宗南則準備率領第34集團軍進攻延安，結果此一消息卻被擔任胡宗南機要秘書的中共地下黨員熊向暉給暗自洩漏給了國際媒體。蘇聯以此大肆攻堅重慶國民政府消極抗日，沒有資格被列入世界四強的地位，美英也只能跟著一起向蔣中正施加外交壓力。李仙洲在山東摔了一跤，然後胡宗南在太行山又有一位手下愛將叛變，都使得胡宗南難以把進攻延安的命令貫徹到底。
與此同時，于學忠命令東北軍第51軍撤出山東，還故意將防區直接交給8路軍駐防，導致第28集團軍的戰線全面崩盤。時任第92軍21師63團第3營營長的張儒和將軍，晚年就作了以下詩詞來描述他當年被日軍還有共軍兩面夾擊的處境：「少壯不識苦滋味，欲去青州，欲去青州，為打日本報國仇；而今識得奸黨謀，欲說從頭，欲說從頭，祇道家國無限憂。」
蔣中正誤判局勢，以為可以利用日軍全力應付美軍的機會撲滅共產黨，然後再藉由美軍之手消滅日軍，同時解除日蘇兩國瓜分中國的威脅。可實際上英美盟軍已確立了以與蘇聯合作擊敗納粹為優先的大戰略，不容蔣中正挑戰此一規矩。外加與蘇聯尚未開戰的日軍仍把蔣中正的中央軍，而非毛澤東的8路軍視為首要敵人，拒絕配合重慶剿共，導致整個計劃功敗垂成。
支援「一號作戰」
到了1944年4月17日，在太平洋戰場上不斷失利的日軍見難以誘使蔣中正脫離盟國陣營，又動員了50餘萬兵力發動「一號作戰」，將湯恩伯將軍的第31集團軍打得潰不成軍。蔣中正見中原戰場吃緊，曾向駐華美軍司令史迪威（Joseph Stilwell）將軍申請將遠征軍調回國內參戰，但史迪威建議蔣中正抽調胡宗南部隊上戰場。
顯見此刻胡宗南部隊的存在，已淪為英美反蔣人士質疑蔣中正不抗日的鐵證。如果蔣中正再不抽調胡宗南部隊增援抗日戰場，美國極有可能以此為國民政府不抗日的理由，轉而開始援助中共，甚至讓毛澤東成為中國戰區最高統帥。為了保住自己的地位，蔣中正只能快馬加鞭，抽調胡宗南部隊開赴抗日前線。
胡宗南立即從手下的第34集團軍、第37集團軍以及第38集團軍抽調部隊支援河南前線，從1944年6月1日到6月15日打了一場還算漂亮的靈寶保衛戰。日軍在出動戰車第3師團支援下，於6月10日一度攻陷靈寶，再度證明胡宗南軍隊對現代化戰爭的不熟悉。所幸由馬法五率領的第40軍緊急從太行山上趕來支援，才在函谷關擋住了日軍攻勢。
