晚年金岳霖曾担任哲学所的副所长，不多久，哲学所就开会，解除他的行政职务，评为一级研究员。金岳霖认为一级研究院当然是高级干部。一次，金岳霖生病住进了首都医院，医院将他安排在一间前后都是玻璃通透明亮的大病房。金岳霖怕光，所以他想要一个单间，首都医院不同意，因为他不是高级干部。后来金岳霖就转入了邮电医院。出院后，他向梁思成、林徽因的儿子梁从诫提及此事。林告诉金岳霖，他根本不是高级干部。金岳霖才恍然大悟。
晚年金岳霖和林徽因的儿子梁从诫一家住在一起。而梁从诫叫他“金爸”，梁家后人以尊父之礼相待。金岳霖很依赖梁从诫，他不时会提高嗓门喊保姆：“从诫几时回来啊？”隔一会儿又亲昵地问：“从诫回来没有？”难怪他不时显出一种欣慰的神情。