秦置黟县，属鄣郡。据《水经注》：“浙江又北历黟山。县居山之阳，故县氏之。”据《清史稿》：“县以黟山名，即今黄山也。”
宋、元、明、清均属徽州管辖。1956年属芜湖专区。1959年并入祁门县。1961年属徽州专区。1987年为黄山市辖县。
1996年，黟县面积858平方千米，人口约9.8万人，辖3个镇、9个乡：碧阳镇、际联镇、渔亭镇、龙江乡、碧山乡、西武乡、柯村乡、美溪乡、宏潭乡、东源乡泗溪乡、洪星乡。县政府驻碧阳镇。
2000年第五次人口普查，黟县常住总人口93919人，其中（4个镇、8个乡），碧阳镇25550人，际联镇7731人，渔亭镇8524人，西递镇6104人，柯村乡6446人，美溪乡3974人，宏潭乡5383人，洪星乡4824人，泗溪乡2054人，龙江乡8703人，碧山乡6517人，西武乡8109人。
2004年，黟县将12个乡镇调整为4个镇、4个乡：碧阳镇、宏村镇、渔亭镇、西递镇、柯村乡、美溪乡、宏潭乡、洪星乡。
2010年第六次人口普查，黟县常住总人口80722人，其中，碧阳镇36905人，宏村镇15527人，渔亭镇8078人，西递镇4770人，柯村乡4719人，美溪乡2917人，宏潭乡4131人，洪星乡3675人。
2014年，撤销柯村乡，设立柯村镇（民地函[2014]506号）。调整后，全县辖5个镇、3个乡。
