北魏建义元年（528）于今县城东北18千米古阳镇置安泽县，以“界安吉、泽泉间”得名。大业二年（606）改岳阳县。唐武德二年（619）徙治今县城东南17千米旧县镇。蒙古至元四年（1267）废，寻复置，属晋宁路。
明、清属平阳府。民国三年（1914）改安泽县，属河东道，道废后直属省。1971年，析安泽、浮山2县地置古县，因原古县镇为县治故名，属临汾地区。2000年属地级临汾市。
1996年，古县面积1222平方千米，人口约8万人。辖4个镇、6个乡：城关镇、北平镇、古阳镇、旧县镇、下冶乡、石必乡、永乐乡、郭店乡、店上乡、茶坊乡。县政府驻城关镇。
2000年第五次人口普查，古县常住总人口84696人，其中，城关镇23170人，北平镇12063人，古阳镇11182人，旧县镇10511人，下冶乡6956人，石壁乡5958人，永乐乡5506人，郭店乡2949人，店上乡2812人，茶坊乡3589人。
2001年，撤销城关镇、下冶乡，设立岳阳镇；撤销郭店乡、店上乡、茶坊乡，设立南垣乡。区划调整后，全县辖4个镇、3个乡：岳阳镇、北平镇、古阳镇、旧县镇、石壁乡、永乐乡、南垣乡。县政府驻岳阳镇。
2010年第六次人口普查，古县常住总人口91798人，其中，岳阳镇35259人，北平镇12394人，古阳镇12612人，旧县镇11098人，石壁乡5944人，永乐乡5487人，南垣乡9004人。
2015年末，古县辖4个镇、3个乡（合计7个），4个居委会、111个村委会（合计115个）。
