原属繁昌县。1981年恢复三山、保定、中沟、小洲、峨桥、浮山、新淮公社管委会。1983年4月，撤销中沟公社，成立中沟乡，大队改为行政村，生产队改为村民小组。1984年4月，三山等6个公社改为乡，大队、小队同时更名。1985年7月，三山乡撤乡设镇。
1992年3月，小洲乡整建制并入保定乡。1994年10月，恢复小洲乡建制。1995年1月，峨桥乡撤乡设镇。1997年，三山镇政府自官矶山西麓南迁至芜繁公路北侧。2003年12月，三山镇、小洲乡、保定乡、中沟乡合并为三山镇（12月16日），峨桥镇、新淮乡、浮山乡合并为峨桥镇。
2005年9月13日，国务院（国函[2005]77号）批准同意调整芜湖市部分行政区划：设立芜湖市三山区，将马塘区的三山、保定2个街道和繁昌县的峨桥镇划归三山区管辖。三山区人民政府驻三华路。
2006年2月9日，芜湖市政府批复同意设立三山区，将繁昌县的原三山镇、峨桥镇划归三山区管辖（实际调整情况），区政府驻三山镇三华路。2006年4月，设立保定、龙湖及三山3个街道，保留峨桥镇，撤销三山镇。
2006年底，全区常住人口14.59万人。辖保定街道、龙湖街道、三山街道、峨桥镇，共有40个行政村、2个社区。区政府驻三山街道。
2009年12月14日，《安徽省民政厅关于同意芜湖市三山区与繁昌县行政区划调整的批复》（民地字[2009]183号）：经省政府同意，将繁昌县新港镇的高安、义合、矶山、草山、裕民、白象6个村委会和泥埠居委会，面积43.7平方公里，人口3.2万人，划归三山区三山街道办事处管辖。调整后，三山区辖3个街道办事处、1个镇，3个居委会、46个村委会，面积319.7平方公里，人口18.28万人；三山街道办事处辖三山、新庄、长坝、孙滩、天桥、上游、高安、义合、矶山、草山、裕民、白象12个村委会和三华、泥埠2个居委会，面积85.4平方公里，人口6.3万人，三山街道办事处驻地不变。
2010年1月27日，正式将繁昌县新港镇的高安、义合、矶山、草山、裕民、白象6个村委会和泥埠居委会划归三山区管辖，成立高安街道，并委托芜湖长江大桥综合经济开发区管理。
2010年第六次人口普查，三山区常住总人口144378人，其中：三山街道30439人，保定街道27612人，龙湖街道23072人，高安街道23734人，蛾桥镇39521人。
