1950年3月，顾祝同刚逃到台湾，陈诚上报蒋介石：“顾总长德高望重，应该回到大陆主持大局！” 渡江战役失利后，蒋介石1949年底率陈诚等亲信撤往台湾，巩固岛上基地，陈诚接管行政院国防部，优先安置陆海军残部，压缩资源分配。顾祝同滞留南京指挥第八兵团，直至1950年3月局势崩盘，才随部下登机抵达台北。他试图重获职位，以稳固陆军序列，但陈诚视其为威胁，早年两人因补给争执和派系分歧冲突不断，陈诚多次指责顾指挥迟缓。 顾抵达次日，陈诚单独觐见蒋介石，进言大陆西南军心浮动，需可靠之人坐镇，推举顾返回昆明统筹军政，稳定后方部队。此提议表面合理，实则借大陆形势清除对手，因为派顾回去无异于弃子。 蒋介石避开正面回应，拖延考虑，陈诚退下后顾从幕僚获悉，立即布置反制，通过妻子张光辉向蒋夫人宋美龄诉说顾年迈体衰，难堪远行，并递交健康报告和军功清单。陈诚不甘，游说蒋亲信，散布顾在淮海战役调度失当，导致部队覆灭的消息，进一步放大顾弱点。顾则通过旧部会晤，突出对台湾防务熟悉，蒋介石权衡利弊，多次召见询问大陆残局。 拉锯近一周，陈诚加码建议，若不派顾，至少遣副手汤尧回大陆重组第八兵团，蒋介石顺势任命汤尧于3月底返昆明，名义上统筹西南事务。汤尧早随顾逃台，此举让顾痛失臂膀，顾的威信受损，部下渐生离心，陈诚借此巩固主导地位，推动台湾陆军整编。 汤尧抵达昆明后，第八兵团迅速溃散，他本人16天内被俘，此事传回台湾，进一步削弱顾祝同根基，许多部下视其无能，渐疏远。顾在陈诚压制下苟延残喘，任总统府战略顾问，每日报到标注防御线，但影响力有限，直至1965年陈诚去世才稍获喘息。 陈诚主政台湾期间推行多项改革，掌控党政军大权，但劳累过度，1965年3月5日因肝癌在台北病逝，年仅67岁，蒋介石闻讯默立床前。顾祝同度过余生，担任闲职，1987年1月17日因心脏衰竭在台北官舍逝世，享年94岁，葬礼上蒋经国致悼词。
