可馮玉祥的兵力龐大，他下轄的第2集團軍擁有四個方面軍的兵力，而蔣中正第1集團軍下面僅有兩個是真正願意追隨他反共的，即何應欽的第1方面軍和李宗仁的第3方面軍。即便是他與李宗仁、白崇禧的關係也只是所謂「脆弱的同盟」，所以說服馮玉祥加入反共陣營是蔣中正確保國共分家成功的不二法門。如果馮玉祥堅決擁護汪精衛，聯俄容共政策只會延續下去。
沒想到「清黨」發動前的1927年4月6日，做為蔣中正、汪精衛以及馮玉祥共同敵人，俗稱「東北王」的北洋政府大元帥張作霖襲擊了蘇聯駐北京大使館。張作霖逮捕了曾任馮玉祥顧問的中共創黨元老李大釗，並以「和蘇俄通謀，裡通外國」的罪名在4月28日下令將其處死。蔣中正與張作霖一南一北的對共產黨痛下殺手，仿佛南京國民政府與北洋政府之間已暗中形成了反共抗俄的默契。
張作霖不只殺掉李大釗，還公開了大量中國共產黨、武漢國民政府以及馮玉祥串通蘇聯的密件。此舉讓高打民族主義旗號的馮玉祥站不住腳，畢竟此刻蘇聯在北洋政府和南京國民政府的宣傳中，已經被塑造成對中國威脅性比歐洲各國還有日本更強烈的帝國主義侵略者。與蘇聯太過於緊密，可能會讓馮玉祥被中國輿論視為賣國賊看待。
獅子大開口的馮玉祥
不過光是賣國賊的帽子，還不至於讓馮玉祥做出背叛汪精衛的決定，他在1927年6月10日前往河南鄭州與汪精衛會面商談聯合反蔣的條件。汪精衛表示只要馮玉祥效忠武漢國民政府，就將河南省、陝西省以及甘肅省的防務通通交給他的西北邊防軍管轄。可馮玉祥要的不只是河南省、陝西省以及甘肅省，他要的是控制整個華北。
綜觀當時整個華北，張作霖的勢力已經退回東北，唯一真正能跟馮玉祥抗衡的為「山西王」閻錫山。可閻錫山是個很有自知之明的軍閥，只對控制山西省一個省有興趣，這意味著北伐勝利後除了山西省外，黃河以北的地區都可以落入馮玉祥的手中。汪精衛要求他把權力限制在三個省內，實在是沒有辦法滿足「西北王」的野心。
恰巧就在這個時候，蔣中正也派人攏絡馮玉祥，願意每個月提供他250萬元的軍費，還讓他到南京擔任國民政府軍政部長。既然連中央都可以加入了，當個「西北王」或者「華北王」又有何困難之有？於是他毫無保留的向武漢國民政府表達投效南京的決心，強調：「寧漢合流，一致北伐，武漢和共產黨分家，誰不贊成誰就出國考察。」
在那個有軍權就等於擁有一切的時代，「出國考察」是除了囚禁與死刑之外對政治人物和軍人最為嚴厲的懲罰。凡是掌握軍權的人，對待沒掌握軍權卻有政治影響力的人，通常都是請對方「出國考察」。在給對方留面子的情況下，迫使對方出國進而失去政治影響力，不再對有軍權的人產生挑戰。蔣中正在北伐勝利後，也以類似的手段對付過胡漢民、汪精衛以及楊虎城等政敵。
