虽然很难确定，蒋介石何时下定决心从大陆撤退台湾，但早在1948年6月蒋经国就已建议蒋介石作撤退至台湾的准备了。1948年6月26日，蒋经国写信给蒋介石，声称：
最近二星期以来，儿曾与沪、杭等地之负责官员深谈国事，并私访民间，接近商民、工人，以致乞丐难民，在各方面所得之感想殊深。经过日夜考虑，儿不得不忍痛直呈大人者。即多数人心皆惶惶然，而不知如何是好。我政府确已面临空前之危机，且有崩溃之可能，除设法挽回危局之外，似不可不作后退之准备。儿绝非因消极或悲观而出此言，即所谓退者亦即以退为进之意也。有广东，方有北伐之成功；有四川，才有抗日之胜利。而今后万一遭受失败，则非台湾似不得以立足。望大人能在无形中从速密筹有关南迁之计划与准备。儿对此考虑或有过分之处，但以目前局势之演变而论，军事与经济并非无崩溃之可能，实不可不作必要之防备也。
至1948年11月底，局势已进一步恶化。11月24日，蒋介石在日记中首次提到“另选环境”，他说：“若欲复兴民族，重振革命旗鼓，非舍弃现有基业，另选单纯环境，缩小范围，根本改造，另起炉灶不为功。”在此，蒋介石虽然没有明确指出“单纯环境”是指台湾，但从当时的准备工作来看，已是台湾无疑了。台湾与大陆，相隔了一个海峡，是中国第一大岛，四面环海，易守难攻，国民党海空军能够据此发挥优势；台湾处于西太平洋交通要道，很容易与美国、日本等国家联络，以获得外援。
但因“二二八”事件的影响，台湾民众对国民党并无好感，军民关系尚处于紧张时期。此时的台湾省主席是魏道明，他在台湾并不得人心。蒋经国曾写信给蒋介石，报告关于魏道明在台湾主政的情形。他在信中声称：“魏主席及其夫人生活豪华，每日家庭买菜均用卡车装运。过去台湾主持行政者均尚刻苦之风，故台方人民目睹此种情形殊为不满。陈长官在台湾时，虽处理错误，尚无显著之贪污情形，而魏主席夫人公开经营商业，垄断市场，台湾省政府之威信遂丧失无余矣。”
为了安抚台湾民众，将台湾控制在自己手中，蒋介石决心更换台湾省主席。陈诚一直被蒋视为嫡系与最忠诚的干部，由他掌管台湾政务无疑是最恰当的。1948年12月29日，在蒋介石主导下，行政院第32次政务会议决议，任命陈诚出任台湾省主席。
不料，蒋介石的这项任命却遭到了黄埔嫡系关麟征、胡宗南等人的反对。蒋介石对此非常生气，他在日记中说：“黄埔第一期关麟征、胡宗南等皆反对辞修任台湾主席，空军方面亦如此，此为意外之事。当此危局，彼等犹以个人恩怨惟念，绝无悔悟团结之心，黄埔不幸至此，诚死无葬身之地，不胜其悲伤之感。”接到蒋介石的任命，陈诚也深感意外，但在蒋的接连催促下，才正式接任台湾省主席一职。
30日，蒋介石又以总裁的名义召开国民党中央常务委员会，并通过决议任命蒋经国出任台湾省党部主任委员。董显光认为，此时蒋介石“已决意使台湾得免受亲共阴谋的威胁，俾中国大陆万一发生意外，该省可为政府最后坚守力图复兴之地”。
蒋介石虽然没有让蒋经国立即赴任台湾省党部主任委员，但却令陈诚着力经营台湾。他赋予陈诚极大的自主权力，驻台陆海空军及机关皆归陈诚指挥。并要求陈诚多利用台籍学识较优，资望素孚之人士，参加政府工作，培植台湾有为青年，以收人心，安定地方。
陈诚遵照蒋介石的指示，在台湾作了各种部署，为蒋介石迁台做了大量的准备工作。
为了嫡系部队能从大陆顺利撤退至台湾，蒋介石命令蒋经国监督修建舟山定海机场。在定海城郊青垒头东港浦，原有日本派遣舰队在太平洋战争期间所筑一机场，日军投降后废置。1948年底，蒋介石命令空军副总司令王叔铭督导施工，拓宽跑道长1200米，增设雷达导航仪器。
定海只是舟山岛上一个普通的小市镇，蒋经国开始不明了蒋介石的意图，到了使用时，才恍然大悟。蒋经国后来回忆说：
记得父亲引退之后，交我办理的第一件事情，是希望空军总部，迅把定海机场建筑起来。那时，我们不大明白父亲的用意，只能遵照命令去做。父亲对这件事显得非常关心，差不多每星期都要问问，机场的工程已完成到何种程度。后来催得更紧，几乎三天一催，两天一催，直到机场全部竣工为止。到了淞、沪弃守，才知道汤恩伯将军的部队，就是靠了定海基地起飞的空军掩护，才能安全地经过舟山撤退到台湾。
1950年5月，国民党军从舟山大撤退。刘玉章的第五十二军、刘云翰的第十九军、刘廉一的第六十七军、吴仲直的第七十五军、朱致一的第八十七军，以及第四十五师等三个师，共计12余万人，分别由克难、沈家门等码头登轮赴台。
除了上述准备外，蒋介石为撤退台湾进行的另一项重要准备，就是命令蒋经国、俞鸿钧负责督促将国库黄金运抵台湾。
