1950年初,播遷台北的中華民國政府還面臨一項挑戰,即該如何妥善處置於國共內戰失利的殘兵敗將。當時胡宗南部隊所轄兩個師,共3萬餘兵力,仍據守川康邊界的一小片領土,艱困地抵禦著不斷進逼的28萬共軍部隊。同時,在滇緬交界,仍有一批國民黨游擊部隊,正奮力守護著一塊反共基地。蔣介石倉促離開成都之後,胡宗南在西昌設立行營,欲將川康地區打造為一個可持久作戰的反共游擊地。為了強化西昌的防禦,蔣介石打算利用滇南國民黨游擊隊所控制的蒙自地區,作為後勤補給的轉運站,具體行動也如火如荼地展開,包括第1批5萬加侖的燃料與其他物資裝備,從海南島經由蒙自轉運到西昌,台北同時也利用陳納德所運作的民航空運大隊,自蒙自運出當地所出產的錫礦砂並外銷牟利,作為支應國軍部隊在大陸西南地區的軍事開銷。蔣介石為了表明捍衛西昌到底的決心,還派蔣經國與其他高階將領冒險前往視察,同時擬具各種可行的防禦策略,設法持久守住川、康、滇交界處的國民黨控制區。
在中國大陸偏遠的西南一隅維持國民黨駐軍,本非易事,而這最後的反共努力終歸於徒勞。儘管補給和後勤支援極為困難,西昌據點仍奇蹟似地堅守了3個月之久,西昌胡宗南殘部的表現,可圈可點,只不過到了1950年3月底,該部已精疲力竭。當胡部在遭受共軍包圍而不得不棄守西昌行營時,胡宗南指示下屬往南撤入滇西境內,與李彌將軍所統領的當地游擊部隊會合。李彌這位忠貞的國軍將領,於盧漢起義後拒絕加入中共,率部一路南撤,奮力抵抗變節投共的雲南省政府。大多數胡宗南部隊於穿過康滇邊界途中遭解放軍殲滅,最後僅剩約4百名倖存者,順利撤入緬甸北部,後來與李彌來自雲南的2000殘部會師。李彌在緬甸的非正規軍,日後逐步演變成為一股台北無法完全掌控的流亡武裝勢力,並在數年後成為東亞冷戰戰場上的一個熱點。
除了緬甸之外,另有部分國軍部隊逃入越南1949年11月間,白崇禧部隊大部分在兩廣境內遭到殲滅,僅有黃杰將軍所統領總數約3萬人的兵團倖免於難,撤到廣西、越南交界,與法越殖民當局一番交涉之後,這支國軍被允許在繳械之後進入越南境內,不久後由越北邊境轉移至海防附近的下龍灣沿岸留置。李彌麾下另一批4千5百名國軍部隊,於1950年1月底、經歷共軍追擊後也進入越南境內,同樣遭到法國殖民當局繳械與拘留的命運。
在得知國軍部隊即將跨越國境進入中南半島時,毛澤東非常火大。11月29日,周恩來警告法越殖民政府,若膽敢向國軍部隊提供庇護,後果將由其自行承擔。法國人對於中國共產黨的警告,膽戰心驚,他們在中越邊界僅有一、兩個連的薄弱駐軍,而周恩來的強烈警告,則有廣西境內5萬餘解放軍作為支撐。北京的警告,讓法國人大為不安,甚至一度考慮將拘留的國軍殘部送回中國大陸。1950年夏天,國軍入越部隊被遷移到越南最南端外的富國島,等待遣返,而來自雲南近5千名士兵,則被遷置於金蘭灣。經過2年的艱困歲月,直到1953年夏天,這些遭到繳械的國軍部隊,才被送往台灣。