据史料记载，盛唐时歙砚已大盛。1976年合肥出土的唐开成五年箕形歙砚，石质细润，色泽清纯，是早期歙砚的珍贵遗存。在南唐时期，歙砚大受宠遇，中主李景精意翰墨，宝重歙石，专门在歙州设置了砚务，选砚工高手李少微为砚务官；后主李煜对歙砚极为推崇，把歙砚、澄心堂纸、李廷硅墨三者称为天下冠。
宋代，歙砚获得很大发展，歙石开采规模扩大，歙砚精品不断涌现，名色之多、质地之细、雕镂之工，为诸砚之冠。1953年歙县宋代窑藏出土17块歙砚，石质与造型各异，制作巧妙，展现了歙石精美绝伦的面貌。据砚谱记载，宋时歙石名目有眉子纹七种，外山罗纹13种，水玄金文厥状10种，各种纹色灿然烂漫，诚如宋代书法家蔡君漠所赞：“玉质纯苍理致精，锋芒都尽墨无声。相如闻道还持去，肯要秦人十五城。”诗中将歙砚与卞和玉相媲美，认为歙石价值连城。
元代以后，歙石开采时断时续，但成砚依然大量涌现，成为明清宫廷和士绅之家赏鉴流连的珍品。
