此後兩年內，中國大陸各地兵連禍結，國事如麻，處於邊陲一隅的台灣，並非蔣經國關注的焦點；到了一九四九年春，隨著國共內戰進入最後階段，國民黨統治瀕臨全面潰敗，已下野回到奉化故里的蔣介石，認真考慮將一水之隔的台灣作為最後權力的根據地，蔣經國也著手將妻小送往台北安置。四月二十日，國共和談破裂，翌日解放軍大舉渡長江，攻佔首都南京，鑒於故鄉安危已受威脅，三天後小蔣把妻子與四名子女送上一架專機，由浙江飛往台北「暫住」，他自記當天並未送行，「蓋有所不忍也」，此時蔣根本料想不到，此一「暫住」竟然就是四十年漫長歲月。送別妻小後的一個月時間裡，蔣隨侍父親往來奔波於上海與舟山群島之間，督導國軍滬杭甬保衛戰。五月十七日傍晚，兩蔣父子自舟山抵達澎湖，當晚小蔣迫不及待從澎湖飛台北與家人短暫團聚，這也是他生平二度踏上台灣本島。鑒於大陸局勢急遽惡化，台灣有可能成為小蔣一家人最後落腳處，在台北見到蔣方良後，夫妻都無限感慨，並有心理準備將在此島「長期流亡」了。
一九四九年春、夏之際，隨著兩蔣父子在台灣與澎湖停留時間益加頻繁，他們對於這塊二次戰後從日本人手中收復的陌生島嶼省份，也開始有較多近距離的觀察。五月二十五日小蔣陪同父親自馬公抵達高雄，下榻西子灣壽山上的高雄要塞司令部，此處背山面海，氣勢磅礡，四周林木茂益，百花盛開，他不禁讚嘆「如畫美景，思樂土也」，只不過一想到此刻解放軍可能已進逼故鄉奉化，祖先墓廬恐怕已被共產黨侵擾，如今他在海峽另一端的高雄目睹此美景，只覺「徒增感傷耳」。在壽山上，小蔣想到父子兩人這段時間居無定所，「來來去去，似無家可歸之人，心情不安定之甚矣。」六月中旬，父子倆前往台灣最南端的恆春半島一遊，當抵達屏東車城一帶的四重溪時，小蔣眼見此處四面環山，山中有溪流，景色與大陸江南山水甚為相似，因此心中有感而發，稱此美景「使流亡者無限故國河山之感」，在附近村落走動小坐時，他注意到恆春當地民眾「業農漁，簡樸勤勞，飲食與生活習慣與內地大不相同，有置身異域之感」。翌日清晨，他在村中散步，看見男女老少一起床就忙著工作，一股慚愧之心竟油然而生，「自問只是消費而不事生產，無異是寄生蟲。」
馬公海水浴場牆上五個大字：「中國人是豬」
初來台灣與澎湖，兩蔣父子簡直是一對來到異鄉的陌生人，在澎湖馬公逗留時，當地人聽不懂江浙口音，最後還得勞駕蔣介石開口講日語，才能與對方溝通。蔣經國陪同父親探訪各地民情之餘，不免也思考台灣的政治問題：二二八事件後，國民黨對台籍人士強力鎮壓，讓許多飽受驚嚇的本地菁英從此噤聲，不敢也不願再觸碰政治，遊歷南台灣各地時，小蔣內心焦慮：「本地人根本不願與問政治，對國事不關痛癢，大好山海，難道又將斷送吾人之手乎？」隨著國民黨在中國大陸江河日下，敏感的小蔣注意到本省人對外省人流露出鄙視的心態：佇留馬公時，看見當地海水浴場亭子裡的牆上被民眾寫下「中國人是豬」五個大字，令他既慚愧又難受。目睹日本殖民統治時的各項成就，小蔣自承為國民黨所不能及；從澎湖飛往台北與家人小聚時，座機曾短暫停留新竹機場，眼見此座日本人所建造的機場規模竟是如此龐大，他有感而發：「在台灣各地，處處可以看見日本人之用心，自問實在太慚愧了。」此類感受並非單一個案，數年後蔣經國視察嘉南大圳，面對這座當時東亞規模最大的水利工程時，他對總設計師八田與一（Hatta Yoichi）流露出欽佩之意，並把這位日本人的身世研究了一番，在日記裡寫道嘉南大圳「開始設計的時候，他是卅一歲，工程完成之時是四十一歲，此種毅力、決心和智慧，實足為青年之模範。」儘管情感上有濃厚的仇日情結，然而小蔣並不否認日治時期日人對台灣基礎建設的貢獻。
