秦为象郡地，汉为合浦郡合浦县地。唐武德五年（622）始设石城县，天宝元年（742）改濂江县，因县西有濂江，故名。宋复置石城县，民国三年（1914）改称廉江县。1993年12月10日，民政部批复（民行批[1993]241号）撤销廉江县，设立廉江市。
1996年，廉江市面积2835平方千米，人口134.2万人。辖23个镇：廉城镇、安铺镇、石城镇、河唇镇、吉水镇、石角镇、良垌镇、平坦镇、新华镇、横山镇、营仔镇、车板镇、青平镇、石岭镇、龙湾镇、雅塘镇、石颈镇、长山镇、塘蓬镇、和寮镇、高桥镇、新民镇、河堤镇。市政府驻廉城镇。
2000年第五次人口普查，廉江市（辖22个镇）总人口1205764人，其中：廉城镇85368人，石城镇104878人，新民镇40620人，吉水镇52813人，河唇镇77004人，石角镇41147人，良垌镇53187人，平坦镇24241人，新华镇21121人，横山镇93482人，安铺镇100753人，营仔镇70438人，青平镇83134人，车板镇35419人，高桥镇24572人，石岭镇62071人，龙湾镇22689人，雅塘镇35491人，石颈镇35390人，长山镇48480人，塘蓬镇62012人，和寮镇31454人。
2002年，廉江市辖廉城、石角、河唇、平坦、良垌、新华、石城、新民、横山、安埔、营仔、车板、龙湾、高桥、和寮、雅塘、青平、石岭、石颈、长山、吉水、塘蓬22个镇，334个村委会、44个居委会。
2005年末，廉江市辖罗州、城北、城南3个街道和石角、河唇、良垌、石城、新民、安埔、营仔、车板、横山、高桥、和寮、雅塘、青平、石岭、石颈、吉水、长山、塘蓬18个镇。
2009年末，廉江市面积2543平方千米，辖3个街道、18个镇，46个居委会、336个行政村。市政府驻罗州街道。
