晋太康三年(公元282年)拆侯官县温麻船屯地置温麻县,属晋安郡。隋开皇九年(589年)并入原丰县,开皇十二年(592年)改名闽县。唐武德六年(623年)析闽县温麻旧地复置温麻县,同年以城域大江前横,盈盈如束改名连江。历属丰州、泉州、建安郡、建州、福州、长乐郡、长乐府、福安府、福州路、福州府、闽海道。天宝元年(742)县治由伏沙(今白沙)移今址。
1949年8月16日解放后,仍设县。1950年属闽侯专区,1956年改属福安专区,1959年复属闽侯专区,1962年属福州市。1963年属闽侯专区,1970年属福安专区(1971年福安专区改称宁德地区),1983年划归福州市。
1997年,省民政厅批复同意撤销:长龙乡,设立长龙镇;从敖江镇划出江南、魁岐、己古、南塘、横槎、梅洋、镜路、连兴、文新、王庄、花坞、连登、澄岩、儒洋、连沙15个村委会,设立江南乡;敖江镇划出北岳、凤尾2个村委会归凤城镇管辖。2000年,撤销坑园乡,设立坑园镇。
2003年末,连江县户籍人口61.31万人,其中非农业人口10.63万人。2004年,全县辖22个乡镇(不含马祖乡),268个村(居),总人口62万人。
2007年末,连江县总面积1190.7平方千米(含马祖列岛23.5平方千米)。总人口为613354人(不含马祖列岛),其中城镇人口128298人。