根据文献及考古资料，大约从西周起，祭祖与祭上帝并列，确立了敬天尊祖的观念。《礼记·王制》记载：“丧从死者，祭从生者。支子不祭。天子七庙，三昭三穆，与太祖之庙而七。诸侯五庙，二昭二穆，与太祖之庙而五。大夫三庙，一昭一穆，与太祖之庙而三。士一庙。庶人祭于寝。”先秦时期，已经形成了规范的祭祖仪式。因秦灭学，礼学遭到极大破坏，汉儒虽然努力恢复传统礼仪，但重新缀辑的礼仪著述难与先秦古礼相媲美。
至宋代，被保留下来的汉儒礼仪著述更是寥寥无几。为解决宋代礼俗矛盾的社会危机，恢复传统礼仪文化，名儒朱熹先后编写了《祭仪》《古今家祭礼》《家礼》《仪礼经传通解》等多部礼仪著作。朱熹特别强调要重视祭礼，认为“盖人之生，无不本乎祖者，故报本返始之心，凡有血气者之所不能无也”。通过祭祖来“报本返始”是做人的基本要求。出于对祭礼普世化的期待，朱熹提出“庶人无庙，可立影堂”。其祠堂之制显然未违宗法旧制，但有关祠堂可祀四代神主的主张，实际是将“五世则迁”的“小宗”之祭落实到民间社会。尽管朱熹把始祖及先祖排除在祠祀之外，却又认同以墓祭的形式举行“百世不迁”的“大宗”之祭，以抒发慎终追远、尊敬孝穆的情操。
明嘉靖宗庙祭礼改制推动了明代社会祭祖礼仪的变革，始祖祭祀取得合法性。大宗祭祀逐渐转变为以始祖为重点，而小宗祭祀亦逐渐打破宗法和《家礼》的限制，蜕变为大宗祭祀。庶人虽不得立家庙，但可以通过联宗而加入兴祠祭祖的活动。
清代以“礼以义起”，肯定民间祭祀始祖，突破朝廷只祭高曾祖祢四代的限制。民间追祀高祖以上的始祖，亲尽不祧，祭祀远至十几代，甚至几十代，嘉道间学者李兆洛说：“今庶士家宗祠，动辄数十世，族之繁者，木主几无所容。”
