因县治所南端有沙源地，故名沙县，别称沙阳，又称虬城。相传古时沙溪流经沙县城关河段，水中有一条“虬”，即“无角龙”，故名。东晋太元四年（379年）延平县南乡沙源地（今沙县城东古县村）始设沙戍堡。义熙元年（405年）升沙戍堡为沙村县。隋开皇十六年（596年）废沙村县。
1970年，沙县辖城关镇、城关公社、夏茂公社、梨树公社、高桥公社、富口公社、西霞公社、青州公社、高砂公社、镇头公社、郑湖公社、南阳公社、大洛公社、洋溪公社、南坑仔公社、湖源公社，175个大队。
1984年，沙县辖凤岗镇、青州镇、夏茂镇、虬江乡、琅口乡、西霞乡、高砂乡、南阳乡、郑湖乡、大洛乡、湖源乡、高桥乡、梨树乡、富口乡、南霞乡，共有13个居委会、158个村委会。
1992年，沙县总面积1815.09平方千米。总户数59078户，227289人。辖凤岗、青州、夏茂、高砂、高桥5个镇和虬江、琅口、富口、西霞、南霞、南阳、郑湖、大洛、湖源、梨树10个乡。
1993年，琅口乡、富口乡撤乡设镇。1999年，省民政厅批复同意西霞乡政府驻地从西霞村迁移到际口村，西霞乡更名为际口乡。
2000年第五次人口普查，沙县常住总人口228548人，其中：风岗镇67320人，青州镇21630人，夏茂镇23746人，琅口镇9787人，高砂镇15251人，高桥镇13142人，富口镇14184人，大洛镇9398人，虬江乡12293人，南霞乡8635人，际口乡4775人，南阳乡8065人，郑湖乡9154人，湖源乡5320人，梨树乡5848人。
2000年，撤销大洛乡，设立大洛镇；撤销际口乡，将其行政区域并入凤岗镇；琅口镇古县村划归凤岗镇管辖。调整后，沙县辖8个镇、6个乡：凤岗镇、青州镇、夏茂镇、琅口镇、高砂镇、高桥镇、富口镇、大洛镇、虬江乡、南霞乡、南阳乡、郑湖乡、湖源乡、梨树乡。
2003年末，户籍人口24.01万人，其中非农业人口11.10万人。辖2个街道、6个镇、4个乡：凤岗街道、虬江街道、青州镇、夏茂镇、高砂镇、高桥镇、富口镇、大洛镇、南霞乡、南阳乡、郑湖乡、湖源乡。
2010年第六次人口普查，沙县常住总人口226669人，其中：凤岗街道78643人，虬江街道32231人，青州镇12441人，夏茂镇24735人，高砂镇12040人，高桥镇12640人，富口镇9679人，大洛镇7001人，南霞乡6600人，南阳乡6397人，郑湖乡6712人，湖源乡3955人，金沙园开发区4453人，金古园开发区2245人，青山纸业工业区6897人。
