宋时，随着制墨业的繁荣，形成了“徽人家传户习”以及“新安人例工制墨”的盛况。黟县的张遇、黄山的沈桂、歙州的潘谷、新安的吴滋，等等，都是十到十一世纪制墨业的著名人物。张遇是油烟墨的创始人，以制“供御墨”闻名于世，其“龙香剂”为历代收藏家追来的瑰宝；沈以占松煤用脂、漆滓烧之，得烟极黑，名为漆烟，人称其墨“十年如石，一点如漆”；吴磁所造之墨的妙处在于“滓不留砚”，曾得宋孝宗犒赏缗线二万的奖励。风靡一时的制墨高手潘谷，被世人誉为“墨仙”。他制的“松丸”、“狻猊”等墨品，具有“香彻肌骨，磨研至尽，而香不衰”的优点，被称为“墨中神品”，他晚年不幸落水溺死后，苏东坡写下“一如入海寻李白，空看人间画墨仙”的诗句悼念他。宋善和三年（公元一一二一年）歙州更名为徽州，李墨及其他各家之墨，遂统一定称为徽墨。“徽墨”之 名逐渐形成并相沿至今。

到明代，经受万元朝贵族严重摧残的制墨业重新复苏；制墨工人激增，文人兼作制墨成为一时的风气。特别是明朝嘉靖到万历年间，由于资本主义萌芽的刺激，引起了制墨业的剧烈竞争；并随着徽州商业的繁荣，使徽墨传遍全国，乃至海外。据明末麻三衡的《墨志》记载明代徽州墨工竟达一百二十多家。嘉靖年间的方正、邵格之、罗小华以及万历中期的程君房、方于鲁、汪春元、叶立卿等，都是在激烈竞争中相继兴起、各树一帜的代表人物。这时期的制墨特点是“桐油烟”、“漆烟”被广泛采用，并加入麝香、冰片、金箔等十几种贵重原料，不仅质量精良，而巨墨谱的图式、墨模的雕刻，也各尽其美，达到历史上最高水平。如激派送君房制的“玄元灵气”墨，董其昌赞赏说：“百年之后，无君房而有君房之墨；千年之后，无君房之墨而有君房之名。”与程君房同时驰名墨坛的当推方于各。方氏精制了一种“九玄三极墨”，被誉为“前无古人”的佳品，声誉已经“传九士，达两都，列东壁，陈尚方”。在此期间，富有装饰性的成套丛墨——集锦里，也开始出现，就连装墨的漆盒也非常精致。制墨技艺也不断进步，墨的图案绘刻和漆匣的装潢制作，都达到了登峰造极的境界，名工与名品层出不穷。罗小华、程君房、方于鲁、邵格之被誉为“明墨四大家”。明代徽墨是继唐宋后的鼎盛时期。

清代，徽墨制作分为四大名家系统，即曹素功、汪节庵、汪近圣和胡开文，其中汪近圣和胡开文两位都是绩溪县人。他们对徽墨在原有的基础上进行了改进创新，终于制成了有如"金不换"的文苑珍品，其中龙香剂墨、天琛墨、仙桃核墨、紫薇恒星图墨、鱼戏莲墨、西湖十景墨、地球墨等均为绝世之作，使徽墨形成了"落纸如漆，色泽黑润，经久不褪，纸笔不胶，香味浓郁，奉肌腻理"的特点。这时期的徽墨按原料不同还可分为松烟、油烟、漆烟和超漆烟等品种，其中最名贵的是超漆烟等高级油烟墨，这类墨散发出紫玉光泽，用于书法色泽黝而能润；用于绘画浓而不滞，淡而不灰，层次分明，故受到历代书画家的推崇。相传康熙皇帝南巡时，曹素功献墨，颇得赏识，遂赐“紫玉光”三字，于是名声益震。汪近圣以制集锦墨著称，“其雕镂之工，装式之巧，无不备美”，他的砍子汪惟高曾应召人清内府教习制墨。咸丰年间，鸦片战争之后，整个制墨业陷入赖帐不振的境地，胡开文的墨店却由于徒孙众多，分布大江南北，故其墨行销国内外，

乾隆年间，绩溪县上庄人胡天注，在休宁承顶汪启茂墨店；并将店号改为“胡开文墨店”。天注晚年；将店业传于自少随其操持墨业的次子胡余德。胡氏选料考究，做工精湛；墨锭质量过硬，声誉日起，与绩溪人汪近圣、歇县人曹素功、汪节庵并称为“清代四大名墨家”。胡开文的“苍佩室墨”造型新颖，墨质精良，曾为贡品；蜚声文坛，其所制“地球墨”于1915年在美国举办的巴拿马万国博览会上荣膺金质奖章。咸丰、同治年间，经过鸦片战争风云，徽墨由盛转衰，唯有胡氏独呈一时之秀。到道光末年，胡开文制墨已称雄于诸家之上。

解放前夕，徽墨业已处于“风前残烛，瓦上晨霜” 的衰微阶段。新中国成立后，绩溪、屯溪、歙县等地的墨厂墨店重新恢复和发展；久负盛名的徽墨获得新生。广大制墨工人在继承传统技法的同时，不断加以革新，工艺精益求精，品种日新月异。徽墨按取料不同分超漆烟、桐油烟。松烟、全烟、净烟、减胶、加香等数种。其中以超漆、桐油两种烟墨尤为著称。目前，安徽的各家墨厂不仅大量生产书画用墨，还继承明清两代的优秀传统，制作了成套的集锦墨。