春秋时期，境域属晋，战国归赵，秦属上党郡。西汉置沾县，故治在今城关西南15千米，属上党郡。东汉建安中年于沾县置乐平郡，后废。西晋泰始中年别置乐平县，复置乐平郡，与沾县俱属之。北魏太平真君九年（448）乐平县废入沾县，乐平郡徙废，县改属太原郡。孝昌二年（526）复置乐平县。北齐沾县废入乐平县，乐平郡自和顺县境徙治故沾城，即今城关，县属之。
隋开皇初年废郡。十六年（596）于县置辽州，县属之；又析乐平县地别置东山县，故治在今城关东南40千米，属辽州。大业二年（606）废辽州，东山县废入乐平县，改属并州。唐武德三年（620）于乐平县复置辽州，县属之。六年辽州治徙今左权县境，乐平县改属受州。贞观八年（634）废受州，县改属并州。宋乾德元年（963）于县置平晋军，县属之。寻废平晋军，县改属平定军。
建国初为区、村建制，全县共分14区。1953年，改为7个区，80个乡；同年4月撤销区级建制，全县500个自然村划为46个乡。1958年8月，全县设7个公社，辖344个管区。1962年调整为20个公社，辖415个生产大队。1977年，寿阳县的广阳、水峪沟、瓦瑶足3个生产大队划归昔阳县。1978年，寿阳县的松曲、瑶会、台泉、苗家掌4个生产大队划归昔阳县。1984年，全县改为4个镇、16个乡，423个行政村。县政府驻城关镇。
1996年，全县调整为421个行政村：城关镇（25村）、东冶头镇（35村）、皋落镇（20村）、沾尚镇（35村）、界都乡（17村）、王寨乡（11村）、丁峪乡（15村）、洪水乡（28村）、杜庄乡（24村）、阎庄乡（18村）、三都乡（18村）、赵壁乡（11村）、凤居乡（16村）、瓦邱乡（10村）、李家庄乡（16村）、西寨乡（30村）、安坪乡（26村）、白羊峪乡（19村）、大寨乡（23村）、巴洲乡。
1999年末，全县总人口236113人，其中，非农人口29060人，乡村人口207053人。
2000年第五次人口普查，昔阳县常住总人口221361人，其中，城关镇48740人，皋落镇11664人，东冶头镇14038人，沾尚镇8614人，大寨乡13366人，洪水乡12161人，李家庄乡16459人，安坪乡9802人，巴洲乡7614人，杜庄乡7937人，三都乡9419人，白羊峪乡8965人，赵壁乡6546人，风居乡7871人，界都乡8470人，闫庄乡8757人，瓦邱乡4352人，丁峪乡6043人，王寨乡5928人，西寨乡4615人。
2001年初，撤销巴洲乡、安坪乡，并入城关镇，更名为乐平镇；撤销杜庄乡、洪水乡，并入大寨乡；撤销丁峪乡、王寨乡，设立孔氏乡；撤销瓦邱乡，并入界都乡；撤销白羊峪乡、凤居乡，并入赵壁乡；调整后，昔阳县辖4个镇、8个乡。县政府驻乐平镇。2003年，撤销大寨乡，设立大寨镇。
2010年第六次人口普查，昔阳县常住总人口227896人，其中，乐平镇88559人，皋落镇11045人，冶头镇12341人，沾尚镇7808人，大寨镇32104人，李家庄乡15016人，界都乡11675人，三都乡8810人，赵壁乡16859人，孔氏乡10615人，闫庄乡9145人，西寨乡3919人。
2014年末，全县常住人口230501人。2015年末，昔阳县辖5个镇、7个乡（合计12个），11个居委会、328个村委会（合计339个）。
