古为新淦、石阳县地。三国吴宝鼎二年（267年）析新淦、石阳置巴邱县。隋开皇十年（590年）废石阳、巴邱县，县地分别并入庐陵、新淦县，以巴邱故冶地置峡江镇。明嘉靖五年（1526年）析新淦县原巴丘县故地置峡江县，县以镇名。峡江，别称玉峡。以峡江处于赣江要冲，地势险要，江面狭窄，流水急湍，故名峡江。
县治原设赣江西岸的巴邱镇，1994年月10月，经国务院批准东迁县治，1997年7月1日正式迁至水边镇。
1985年6月19日，水边乡改设镇建制（赣府厅字[1985]340号）。1993年，撤销马埠乡、砚溪乡、仁和乡，设立马埠镇、砚溪镇、仁和镇（赣民字[1993]53号批复）。至此，峡江共有5镇7乡，建制镇人口8.99万人，其中非农业人口2.55万人。
1997年，全县面积1287.4平方千米，人口15.1万，辖5个镇、7个乡：水边镇、巴邱镇、马埠镇、仁和镇、砚溪镇、桐林乡、福民乡、戈坪乡、金江乡、沙坊乡、罗田乡、巴邱乡。县政府驻水边镇。
1997年4月16日，金江乡政府驻地迁至董家庙（赣民字[1997]78号批复）。1999年7月15日，福民乡政府驻地迁至娄屋得（赣民字[1999]183号批复）。
2000年第五次人口普查，全县总人口155762人；其中：水边镇37938人、马埠镇13771人、巴邱镇19263人、仁和镇13078人、砚溪镇12156人、桐林乡7921人、福民乡8223人、巴邱乡9757人、戈坪乡7266人、金江乡9568人、罗田乡10819人、沙坊乡6002人。
2001年5月9日，撤销巴邱乡，划归巴邱镇（赣民字[2001]190号批复）。2001年12月3日，撤销沙坊乡、罗田乡，合并设立罗田镇（赣民字[2001]569号批复）。2002年底，峡江县辖6个镇、4个乡，6个居委会、100个行政村。
2003年底，全县总人口16.4万人。2004年底，全县辖6镇4乡，76个行政村、6个居委会。2005年年末全县总人口为166332人。2007年11月20日，设立金坪京族乡。
