在国民党退守台湾之际，因台湾大学原校长庄长恭离职，国民政府决定由傅斯年接任台大校长。经朱家骅和傅斯年多次晤谈，傅勉强表示从命，欲“跳这一个火坑”。
傅斯年曾在“去留之间两徘徊”。据史语所研究人员陈槃回忆：自三十八年冬（实应为三十七年），首都告急，群情惶急，不知何以为计。一日，师（傅斯年）召集同人会议，惨然曰：“研究所生命，恐遂如此告终矣！余之精力遂消亡，且宿疾未愈，虽欲再将研究所迁入适当地区，使国家学术中心维持得以不坠，然余竟不克荷此繁剧矣。今当筹商遣散。虽然如此，诸先生之工作，斯年仍愿尽最大努力，妥为介绍安置。”同人此时，以学术自由之环境已受威胁，于多年生命所寄托之研究所，亦不胜其依恋可惜。一时满座情绪，至严肃悲哀，有热泪盈眶者。师于是不觉大感动，毅然曰：“诸先生之贞志乃尔，则斯年之残年何足惜，当力命以付诸先生之望耳。”本所迁移之议，于是遂决。
1949年元旦之夜，胡适与傅斯年在南京共度岁末。是夜，师徒二人置酒对饮，相视凄然，两位书生不禁潸然泪下。午夜的钟声响过，二人打起精神，一边喝酒，一边背诵陶渊明《拟古》第九：“种桑长江边，三年望当采。枝条始欲茂，忽值山河改。柯叶自摧折，根株浮沧海。春蚕既无食，寒衣欲谁待。本不植高原，今日复何悔！”待把此诗吟过数遍，二人酒劲上来，倒在桌旁昏睡过去。
随着陈布雷自杀身亡，傅斯年也产生了继之而去的念头。这个念头存在他的心中已有时日，早在1932年他就说过：“国民党曾为民国之明星者若干年，而以自身组织紊乱之故，致有今日拿不起，放不下之形势。于是一切残余的旧势力蠢蠢思动，以为‘彼可取而代之’。”又说：“平情而论，果然共产党能解决中国问题，我们为阶级的缘故，丧其性命，有何不可。我们虽不曾榨取劳苦大众，而只是尽心竭力忠其所职者，一旦‘火炎昆冈，玉石俱焚’自然当与坏东西们同归于尽，犹之乎宋朝亡国时，若干好的士人，比贪官污吏还死得快些一样子。一从大处设想，即知如此命运真正天公地道，毫无可惜之处。”
陈槃回忆：“当首都仓皇之日，时有陈布雷、段锡朋二氏之殁，师（傅斯年）因精神上大受刺激，悲观之极，顿萌自杀之念。而师未于此时殉国者，赖傅夫人爱护防范之力也。”当时傅斯年的夫人俞大綵正准备陪母亲去广州、香港就医，傅斯年的弟弟傅斯严（孟博）暗中劝俞不要离开。俞大綵说：“我略整行装，准备隔日启程，当夜孟博赶来痛哭流涕，责备我不该离开孟真。他说：‘你难道不知道哥哥随身带着一大瓶安眠药，一旦匪军攻入，他便服毒自尽么？那时，你将何以自处？’骨肉情深，感人肺腑，我们相对涕泣，我便放弃了广州之行。”幸得夫人看护，傅斯年未自杀赴死。
在傅斯年徘徊不定之时，台湾有关人士函电催促其迅速到台大上任。陈诚也致电傅斯年说：“弟已于今日先行接事，介公深意及先生等善意，恐仍须有识者之共同努力，方能有济。弟一时不能离台，希先生速驾来台，共负钜艰。”接到电报后，傅斯年将自己关在一个房间，三日三夜未出房门，绕室踱步，反复吟咏、书写陶渊明《种桑长江边》的诗句，考虑去留问题，最后决定暂且去台湾就职。他原想带全家去台湾，并且已买好了机票，临时决定，把部分亲属留下，退掉了机票，对他们说：共产党对文人还是要用的，我可能很快就回来。临行又把许多图书、家产留了下来。
1949年1月19日，傅斯年飞赴台湾。这天晚上，在惨淡的星光照耀下，傅斯年携夫人走出了史语所大院中的家门，胡适与傅氏夫妇在前，秘书那廉君殿后，一行人在漆黑寒冷的夜色中悄无声息地走着。沉沉的夜幕中，看门的老工友接过傅斯年手中的行李，在送向汽车的同时，呜咽着道：“傅先生，今日一别，还能相见吗？”傅听罢，悲不自胜，热泪夺眶而出：“好兄弟，等着我，我会回来的。”傅说着，握住老工友的手作了最后道别，然后登车仓皇离去。当夜，傅斯年飞抵台北。