杨在葆60岁从上海电影制片厂退休后，定居在北京。他给退休生活做了规划，每天健身、读书、练书法，还学会了用手机上网，刷微博玩微信，追赶时尚的劲并不比年轻人差。杨在葆的书法作品颇见功力，加入了中国书法家协会。他还是诗词爱好者，创作了大量诗词。杨在葆晚年与书画诗词作伴，精神上是丰沛充足的。他说：“老年人首先要有良好的心态、健康的体魄、豁达的思想。要有事可做，多做善事，力所能及的事情都要去试着做，大到家庭事业，小到修修补补。不刻意追求功名利禄，才会真的快乐。”

杨在葆一辈子尊重艺术，不忽悠观众，用几十年的艺术生命为中国男人树起了“硬汉”的形象。为了表彰他为中国电影界做出的巨大贡献，2019年第32届中国电影金鸡奖颁奖典礼上，杨在葆获得了“中国文联终身成就电影艺术家”的荣誉。

2021年2月13日下午2点，著名表演艺术家杨在葆在北京因病去世，享年85岁。消息传出后，引发了业内人士和观众的怀念和哀悼。刘晓庆发文哀悼：“原野上的仇虎走了！杨在葆大哥去世！电影《原野》合作，终生为师为友，大哥一路走好，花金子叩别，泪飞如雨。”与杨在葆合作过《从奴隶到将军》、《许茂和他的女儿们》的著名演员张金玲悲痛地说：“在葆走了，我就像天塌了一样。愿在葆老师一路走好！”