在他居富春江时，身上总是带着皮囊，内置画具，每见山中胜景，必取具展纸，摹写下来。富春江北有大岭山，公望晚年曾隐居于此，他以大岭山为师，曾画有《富春山居图》。纸本，水墨，纵33厘米，横636.9厘米，开始创稿于至正七年（1347年），时断时续，历经数年，至正十年，他83岁，为此图作题时，尚未最后竣稿。
《富春山居图》足以代表他一生绘画的最高成就。图为长卷，山峰起伏，林峦蜿蜒，平岗连绵，江水如镜，境界开阔辽远，雄秀苍莽，简洁清润。凡数十峰，一峰一状；数百树，一树一态；变化无穷。其山或浓或淡，都以干而枯的笔勾皴，疏朗简秀，清爽潇洒，远山及洲渚以淡墨抹出，略见笔痕。水纹用浓枯墨勾写，偶加淡墨复勾。树干或两笔写出，或没骨写出，树叶或横点，或竖点，或斜点，勾写松针，或干墨，或湿墨，或枯笔。山和水全以干枯的线条写出，无大笔的墨，惟树叶有浓墨、湿墨，显得山淡树浓。远处的树有以浓墨点后再点以淡墨，皆随意而柔和。
《富春山居图》是黄公望为郑樗（chū）（无用师，全真道士金志扬的弟子）所绘，以浙江富春江为背景，全图用墨淡雅，山和水的布置疏密得当，墨色浓淡干湿并用，极富于变化，是黄公望的代表作，被称为“中国十大传世名画”之一。
