据同治刊《湘乡县志》载：韶山“相传舜南巡时，奏韶乐于此，凤为之下”。光绪刊《湘潭县志》载：韶山因虞舜南巡得名。
秦至西汉属湘南县，东汉至晋未变。南齐废湘南县，遂属湘西县。隋开皇九年（589）入衡山县。唐天宝八年（749），改衡山县为湘潭县；自此至宋，属湘潭县。元湘潭县升湘潭州，韶山属相潭州。明代属湘潭县移风乡居义里；清代为湘潭县的第七部。民国时期先后属湘潭县的西二区，第九区、清溪乡和银田乡、清田乡。
1949年10月至1951年5月，韶山属湘潭县黄龙区第三区的一部分。1951年5月，湘潭县调整行政区划，韶山为湘潭县第四区（不含大坪乡）。1958年8月，改为银田区。1958年9月，建立政社合一的韶山公社。1961年，湘潭全县恢复区级体制，设立韶山区。
1963年8月，成立韶山管理局，隶属湘潭县韶山区委领导。1968年12月，撤销韶山管理局和湘潭县韶山区，升为地级区，属湖南省直辖，湘乡县大坪公社和白田公社的竹赞大队划入。
1981年1月12日，省委、省政府决定，撤销湖南省韶山区，成立湖南省韶山管理局和湘潭县韶山区，分别隶属湖南省委和湘潭县委领导。1984年湘潭县韶山区升为县级区，改为湘潭市辖。
1990年12月26日，经国务院批准，撤销湘潭市韶山区，建立县级韶山市，属湖南省辖，由湘潭市代管。时辖6乡2镇：清溪镇、银田镇、大坪乡、永义乡、如意乡、杨林乡、银田乡、韶山乡。
1997年10月经省政府批准，如意乡改为建制镇。调整后，韶山市辖3个镇、5个乡。
2000年第五次人口普查，韶山市常住总人口95299人，其中，清溪镇11792人，银田镇5951人，如意镇14028人，韶山乡14948人，永义乡9551人，银田乡10086人，杨林乡15168人，大坪乡13775人。
2001年末，银田乡与银田镇合并，建立银田镇。调整后，韶山市辖3个镇、4个乡：清溪镇、银田镇、如意镇、韶山乡、永义乡、杨林乡、大坪乡。
2004年韶山市行政区划（根据《湖南省县及县以下行政区划代码2004年》整理）清溪镇辖韶山火车站社区；竹鸡、韶山冲2个居委会；清溪村委会。银田镇辖第二、第一、第三3个居委会；青石、南村、茶园、鳌石、凤家、长田、南湖、三华、夕丰、北托、槐星11个村委会。如意镇辖如意居委会；如意、综合场、球山、石湖、厚罗、梅湖、恒心、杨云、杨佳、厚新10个村委会。韶山乡辖韶山、韶源、韶北、铁皮、韶光、竹鸡、石忠、石山、花园、朝阳10个村委会。永义乡辖白玉、枫木、长湖、韶南、永泉、狮山、东湖7个村委会。杨林乡辖石屏、纯和、良和、新溪、瓦坪、联邑、林业、杨林、善扶、磨石、白鸽、凤形、云源13个村委会。大坪乡辖湘韶、韶新、韶峰、黄田、梅花、林家湾、新联、大坪、竹赞9个村委会。
2010年第六次人口普查，韶山市常住总人口86036人，其中，清溪镇13491人，银田镇13535人，如意镇11475人，韶山乡15438人，永义乡8475人，杨林乡12515人，大坪乡11107人。
2012年7月20日，正式将韶山乡的石忠村、石山村、花园村、朝阳村划归清溪镇管辖。调整后，清溪镇新增人口6923人，面积扩大11.2平方千米。
2015年11月16日，省民政厅（湘民行发[2015]24号）批复同意：清溪镇、如意镇、永义乡成建制合并设立清溪镇。韶山乡、大坪乡成建制合并设立韶山乡。调整后，全市辖2个镇、2个乡：清溪镇、银田镇、韶山乡、杨林乡。
