东汉建安十三年（208）置休阳县。三国吴改名为海阳县，晋改为海宁县。隋开皇十八年（598）改休宁县。休宁，乃合休阳、海宁为名。
1949年属徽州专区，1956年属芜湖专区，1961年属徽州专区，1987年为黄山市辖县。
1996年，休宁县面积2151平方千米，人口约27.3万人，辖9个镇、24个乡：海阳镇、五城镇、万安镇、溪口镇、流口镇、兰田镇、汪村镇、齐云山镇、东临溪镇、龙田乡、璜尖乡、白际乡、岭南乡、山后乡、秀阳乡、渭桥乡、江潭乡、陈霞乡、榆村乡、汊口乡、洪里乡、商山乡、西田乡、板桥乡、冰潭乡、迥溪乡、渠口乡、郑湾乡、山斗乡、源芳乡、南塘乡、鹤城乡、兰渡乡。县政府驻海阳镇。
2004年底，休宁县辖9个镇、12个乡（乡镇行政区划于2005年正式调整）。
2005年，休宁县原有的33个（安徽民政厅网页为32个）乡镇正式调整为21个乡镇（注：批准时间为2004年）。对24个乡镇行政区划进行了调整，秀阳乡并入海阳镇，洪里乡与商山乡合并，设立新的商山乡，乡政府驻雁里。西田乡并入五城镇，汊口乡并入东临溪镇，渠口乡并入渭桥乡，南塘乡并入蓝田镇，蓝渡乡并入齐云山镇，冰潭、江潭两乡并入溪口镇，回溪乡并入陈霞乡，山后乡并入汪村镇，郑湾乡的藏溪村、酒店村、文田村、岭上村、岭下村划入榆村乡管辖，郑湾乡的万金台村划入源芳乡管辖，岭南乡、山斗乡、璜尖乡、白际乡、龙田乡、板桥乡、鹤城乡、流口镇、万安镇等9个乡镇原行政区划不动，全县乡镇区划调整后共设9个镇、12个乡。
2010年第六次人口普查，休宁县常住总人口250457人，其中，海阳镇48928人，齐云山镇12263人，万安镇21397人，五城镇22663人，东临溪镇17945人，兰田镇10964人，溪口镇22024人，流口镇4232人，汪村镇6744人，商山镇20965人，山斗乡4607人，岭南乡3113人，渭桥乡11662人，板桥乡4894人，陈霞乡8172人，鹤城乡7130人，源芳乡4987人，榆村乡9249人，龙田乡4760人，璜尖乡2322人，白际乡1436人。
2015年7月，将休宁县万安镇蕉充村、霞高村、陈坑村、瓯山村（4村总面积约20平方千米，总人口约0.6万人）划入屯溪区新潭镇。
