冷江区的驻地有一条白锡矿山至资水的连溪，两岸多井，井水冰凉，汇入溪内，流入资水，冷水江由此得名。
三国吴为高坪县地，南北朝为邵阳辖地，宋为新化县地，1960年析置冷水江市。1961年更名冷江市，1962年撤市改冷江特区，1969年复置冷水江市。
1996年，冷水江市面积436平方千米，人口约34万人。辖4个街道、3个镇、9个乡：布溪街道、冷水江街道、沙塘湾街道、锡矿山街道、禾青镇、岩口镇、渣渡镇、三尖乡、中连乡、毛易乡、同兴乡、金竹山乡、矿山乡、铎山乡、梓龙乡、潘桥乡。市政府驻冷锡路。
2000年第五次人口普查，冷水江市常住总人口339701人，其中，冷水江街道81038人，锡矿山街道16370人，沙塘湾街道14607人，布溪街道15343人，禾青镇28222人，岩口镇17889人，渣渡镇18818人，铎山镇22041人，毛易镇18217人，潘桥乡14729人，三尖乡17918人，金竹山乡15421人，梓龙乡9164人，矿山乡14269人，中连乡23520人，同兴乡12135人。
2004年，冷水江市辖4个街道、6个镇、6个乡：冷水江街道、锡矿山街道、沙塘湾街道、布溪街道、禾青镇、岩口镇、渣渡镇、铎山镇、毛易镇、三尖镇、潘桥乡、金竹山乡、梓龙乡、矿山乡、中连乡、同兴乡。
2009年，将毛易镇的柳溪、长铺、新民3个建制村和王坪湾居委会，以及金竹山乡的太坪村划归沙塘湾街道办事处管辖；将沙塘湾街道办事处的太中、太主山、金山、金竹山、木杉坳5个居委会划归金竹山乡管辖。行政区划调整后，沙塘湾街道办事处辖4个居委会、4个建制村，总面积13.43平方千米，总人口1.29万人，办事处机关驻地不变；金竹山乡辖6个居委会、12个建制村，总面积27.3平方千米，总人口2.82万人，乡政府驻地不变；毛易镇辖2个居委会、8个建制村，总面积25.7平方千米，总人口2.48万人，镇政府驻地不变（湘民行发[2009]8号）。
2010年10月16日，金竹山乡正式撤乡建镇。调整后，全市辖4个街道、7个镇、5个乡：冷水江街道、锡矿山街道、沙塘湾街道、布溪街道、禾青镇、岩口镇、渣渡镇、铎山镇、毛易镇、三尖镇、金竹山镇、潘桥乡、梓龙乡、矿山乡、中连乡、同兴乡。
2010年第六次人口普查，冷水江市常住总人口327146人，其中，冷水江街道95569人，锡矿山街道9001人，沙塘湾街道11974人，布溪街道23968人，禾青镇23249人，岩口镇18120人，渣渡镇13533人，铎山镇20685人，毛易镇12020人，三尖镇14886人，潘桥乡12887人，金竹山乡17468人，梓龙乡8088人，矿山乡12151人，中连乡20981人，同兴乡12566人。
2015年11月23日，省民政厅（湘民行发[2015]66号）批复同意：岩口镇与铎山镇合并设立铎山镇；梓龙乡与渣渡镇合并设立渣渡镇；矿山乡与锡矿山街道合并设立锡矿山街道。撤销潘桥、同兴2个乡和毛易镇，调整禾青镇、中连乡的部分行政区域和布溪、冷水江、沙塘湾3个街道的部分管辖范围。全市辖4个街道、5个镇、1个乡：冷水江街道、锡矿山街道、沙塘湾街道、布溪街道、禾青镇、渣渡镇、铎山镇、三尖镇、金竹山镇、中连乡。总面积439平方千米，总人口37.03万人。
