徽墨，作为“徽州所产之墨”的统称，起始于北宋宣和年间(1119—1125年)，而此前则誉为“新安香墨”。徽州制墨历史，不晚于唐朝末年，名声鹤起，则在南唐后主李煜执政之时。

唐中叶至唐末，由于藩镇之乱，奚超、奚廷一家由河北易水南迁至徽州。奚氏父子本是制墨能工，此时得皖南的古松为原料，所制的松烟墨明显优于当地墨工的产品，深得南唐后主李煜赏识，奚廷成为古今墨家的宗师，新安(徽州)之墨名声倍增。这样又招未了易水另一位名墨工张遇。张遇利用徽州的优质松烟、(桐)油烟制墨，将徽墨由单纯的松烟墨；推向了与油烟墨并举发展的新时期。到了北宋大观年间(1107—1110年)，墨工高庆和又以松枝蘸漆烧烟，于是在徽墨的家族中又增添了漆烟墨。在北宋诸多内外墨工的共同努力下，使徽州的墨业步入了大发展和鼎盛时期。北宋宣和三年(1121年)，朝廷改“新安”为“徽州”后，“徽墨”之名由是而生；相沿至今。

明嘉靖到万历年间，由于资本主义萌芽的刺激，引起了制墨业的剧烈竞争，并随着徽州商业的繁荣，使徽墨传遍全国，乃至海外。罗小华、程君房、方于鲁、邵格之被誉为“明墨四大家”。明代徽墨是继唐宋后的鼎盛时期。

清代徽墨，在明代的基础上又有了新的发展。清乾隆年间，绩溪县上庄人胡天注，在休宁承顶汪启茂墨店；并将店号改为“胡开文墨店”。天注晚年；将店业传于自少随其操持墨业的次子胡余德。胡氏选料考究，做工精湛；墨锭质量过硬，声誉日起，与绩溪人汪近圣、歇县人曹素功、汪节庵并称为“清代四大名墨家”。胡开文的“苍佩室墨”造型新颖，墨质精良，曾为贡品；蜚声文坛，其所制“地球墨”于1915年在美国举办的巴拿马万国博览会上荣膺金质奖章。咸丰、同治年间，经过鸦片战争风云，徽墨由盛转衰，唯有胡氏独呈一时之秀。到道光末年，胡开文制墨已称雄于诸家之上。

解放前夕，徽墨业已处于“风前残烛，瓦上晨霜”的衰微阶段。新中国成立后，绩溪、屯溪、歙县等地的墨厂墨店重新恢复和发展；久负盛名的徽墨获得新生。广大制墨工人在继承传统技法的同时，不断加以革新，工艺精益求精，品种日新月异。徽墨按取料不同分超漆烟、桐油烟。松烟、全烟、净烟、减胶、加香等数种。其中以超漆、桐油两种烟墨尤为著称。目前，安徽的各家墨厂不仅大量生产书画用墨，还继承明清两代的优秀传统，制作了成套的集锦墨。