遂昌县地西周前属越,秦属会稽太末县。东汉建安二十三年(218年)分太末南部地置遂昌县。三国吴赤乌二年(239年)更名平昌,晋太康元年(280年)复称遂昌。建县后先后属会稽郡、东阳郡、缙云郡、处州、衢州专署、金华地区,1963年后属丽水地区(现属地级丽水市)。1958年11月至1982年5月,松阳县并入。
1993年末,全县辖9个镇、11个乡,21个居民区、390个行政村,总人口22.47万人。
。
2003年末,全县总面积2539平方千米,总人口22.55万人,辖9个镇、11个乡(其中1个民族乡),7个社区、5个居民区、389个行政村。2005年末,全县总人口22.74万人。
2011年,遂昌县调整部分行政区划:撤销妙高镇、云峰镇建制,其行政区域改由遂昌县政府直辖(浙政函[2011]367号)。在遂昌县政府直辖区域设立妙高、云峰2个街道办事处(丽政函[2011]177号)。