到台湾之后的15年间，于右任的监察院院长一职形同虚设，几乎无所事事。唯一值得一提的是1957年于右任弹劾“行政院”院长俞鸿钧一事。
1954年6月，俞鸿钧继陈诚之后担任“行政院”院长。于右任曾对俞鸿钧目无“监察院”的行径极其愤慨，于1957年12月10日亲自来院主持会议，提出弹劾俞鸿钧的动议。“监察委员”们也认为俞欺人太甚，群情激昂，通过了对俞鸿钧的弹劾案，并将弹劾内容向新闻界公布，俞处境颇为狼狈。
在台湾，蒋介石造访于右任公馆
这事终于惊动了蒋介石。1958年1月16日，蒋介石在台北中山堂召集中央委员、评议委员和国民党籍的监察委员近200人开会，会上公开袒护俞鸿钧，称弹劾中所列各点，许多事不能责备俞院长个人。蒋介石还在会上当面斥责于右任：“院与院之间发生争执时，可由‘总统’召集有关‘院长’会商解决之。我一直在等你们来报告我，让我召集‘两院院长’会商解决，你们大可向我作此请求。”蒋厉声斥责：“为何不走这条途径?”
俞鸿钧弹劾案对于右任打击甚大。从此以后，他更加置身事外，寄情于书法、诗词。不管怎样复杂纷纭的文牍，到他手里都只批一个字，如“是”“行”“商”“阅”等字眼，绝少用两个字以上，加上签名用的“右任”二字，批文总共不超过三个字。他最后15年的院长生涯就是这样在台湾度过的。
白头夫妇白头泪
1949年11月下旬，于右任得知发妻和女儿仍在重庆等他，于是从台北飞到了重庆。可是，妻子、女儿因等不着他，几日前去了成都。在重庆，于右任一直设法与妻子取得联系，但没有成功。11月29日，解放军攻城的炮声越来越紧，于右任在众人的劝说下，不得不乘飞机返回台湾。他于是更加伤感，常叹息道:“我好想念她们呀!”
他苦等时局的变化，希望有生之年可以返回故乡，希望能见到自己的结发妻子高仲林以及长女于芝秀等亲人。
1958年，正是于右任与他的发妻高仲林金婚之年，但本应在夕阳岁月中相偎相依的这一对夫妇，却被横亘的海峡所阻隔。人们都说少年夫妻老来伴，但当时，老伴在大陆的生活到底如何，他根本无处知晓。于是，他写下那首哀痛的诗:“两戒河山一日箫，凄风吹断咸阳桥，白头夫妇白头泪，留待金婚第一宵。”
1961年，是于右任的妻子高仲林女士80大寿，这样的重要时刻，于右任却不能陪在妻子身边，他在苦闷中给香港的朋友吴季玉写了封信，倾诉衷肠。在吴季玉、章士钊的奔走下，这个消息被周恩来得知。周恩来亲自安排，以高仲林的女婿屈武的名义，集合了于右任在大陆的其他亲属，以及老朋友孙蔚如、茹欲立等20余人，在西安为于夫人举行了寿宴。寿宴过后，高仲林欲写信告诉于右任这一消息，又恐消息如果传到台湾当局耳中，会给于右任带来不好的影响。高仲林的挚友邵力子给她出主意说，宋代《爱莲说》的作者周敦颐也姓周，有一号为“莲花”，便为周恩来取了一个雅号名“莲溪先生”，隐晦地告诉于右任，自己的寿宴，是在周恩来的关怀下，办得圆满热闹。
伊人隔岸，如何不应?于对此十分感动，思乡之情更甚。
1964年，于右任的好友吴季玉从香港赴台为于右任祝贺生日，谁知这次台湾之行竟成两位老友的永诀。吴季玉的行踪已遭国民党特务侦知，因此抵台后不久即遭暗杀了。于右任闻听噩耗，悲痛欲绝，身体每况愈下，1964年5月1日，也成为于右任在世的最后一个生日。
