在抗戰勝利日演講中，蔣介石提出「以德報怨」的戰後對日政策，同時指示陸軍總司令何應欽，向日軍中國派遣軍總司令岡村寧次下達命令：「凡非蔣委員長或本總司令所指定之部隊指揮官，日本陸海空軍不得向其投降繳械，及接洽交出地區與任何物資。如對非指定之部隊擅自投降，得由陸軍總司令下令以武力制裁之。」蔣介石給日軍兩項選擇，「享以德報怨政策，或被武力制裁」。岡村寧次的選擇不言可喻，立即表示服從。1949年1月，戰犯岡村寧次被國民政府國防部軍事法庭無罪釋放。
國民黨內的雜牌軍對蔣介石的統治威脅不亞於中共，抗戰後期，史迪威與蔣關係惡化，美國曾考慮以龍雲或李濟深取代蔣的地位。蔣意識到雜牌軍在一場外國力量支持的政變，便可以輕易推翻他，而中共要推翻他，非血戰數年不可，且成敗尚是未知之數。因此，中共固然要解決，雜牌軍亦需要消滅；日本戰敗後，蔣介石用調虎離山之計，先將滇軍的主力部隊調往越南受降*，再密令杜聿明圍攻昆明，將統治雲南十八年的龍雲帶往重慶軟禁。之後，被派入越南受降的滇軍，則悉數被運往東北剿匪，拒絕當蔣介石砲灰的滇軍，後來於遼西會戰中紛紛陣前倒戈，是東北迅速淪陷的原因之一。（*盟軍統帥麥克阿瑟命令北緯16度以北所有日軍向中國戰區投降）
國共內戰初期，蔣介石似乎不在乎雜牌軍陣前倒戈，參謀總長陳誠曾誇口說：「三個月至五個月內解決共產黨解放區問題」，及「他們（雜牌部隊）要到共產黨那裡去，我求之不得，正可一鍋煮熟」。
1946年初起，陳誠秉承蔣意主持國軍整編復原方案，整編是對蔣的嫡系部隊而言，把部隊整編合併，汰弱留強，補足實額，配備美式裝備，加強戰鬥力；復員是對雜牌部隊而言，先將總兵力硬裁三分之一，再以「混編」方式將各集團軍中的軍、師、團等單位互調，將「雜牌軍」化整為零之後，送往前線剿匪。結果是軍中指揮系統紊亂，士氣消沉，戰鬥力也跟著喪失，以致與共軍接戰時，不是一戰即潰，就是投降倒戈。而被編遣裁撤的官兵成為失業的難兵，也紛紛投效共軍。蔣本想一箭雙鵰解決雜牌軍和共軍的問題，沒想到反而為共軍添柴火，讓火回燒到自己。
即使是蔣的嫡系部隊內部也是矛盾重重，因兵敗被俘的宋希濂在其晚年的回憶錄《鷹犬將軍》中提到：自北伐到抗戰初期，以黃埔軍校學生為骨幹的蔣介石嫡系部隊，人事上的升遷調補，一般上都是基於戰功和帶兵經驗，但到抗戰中期，蔣介石害怕這些日益擴張起來的嫡系力量，有些人兵力雄厚後會對他不忠誠，於是就開始把兵權寄託在他認為對他絕無貳心的幾個浙江人身上，這就是陳誠和胡宗南，其次是湯恩伯。
