民国至1953年为迁江县地，1953年4月属来宾县。1981年6月29日，国务院（国函[1981]73号）批准设立合山市（县级）。合山市治里兰，以来宾县北泗公社（合山煤矿和电厂所在地）为其行政区域，并委托柳州行署领导。
1984年，合山市划置1个镇、2个乡。1996年，合山市面积349平方千米，人口约14.2万人。辖1个镇、2个乡：岭南镇、北泗乡、河里乡。市政府驻岭南镇。
2000年第五次人口普查，合山市总人口131249人，其中：岭南镇38544人，北泗乡30059人，河里乡26088人，合山矿务局36558人。
2003年合山市行政区划（根据当年广西代码整理）
100岭南镇辖城中、城北2个社区；里兰、思光、岭南、石村、古城、古樟、溯河、里仰8个行政村。
200北泗乡辖北泗、屯山、六龙、东亭、文定、古邦、在勤、瀑泉、云堡、古楼、灵台11个行政村。
201河里乡辖甘林、羊樟、洛满、河里、长模、环山、仁义、怀集、五塘、马安10个行政村。
