汉武帝时期闽越王余善筑大潭城。东汉建安十年（205）置建平县，属会稽郡，晋太康三年（282）更名建阳县，属建安郡。隋开皇九年（589）并入建安县，属泉州（州治今福州）。唐武德四年（621）复置，属建州。宋景定元年（1260）改名嘉禾县，属建宁府。
元至元二十六年（1289）复名建阳县，历属建宁路、建宁府、建安道。1949年5月13日解放，历属建瓯专区、建阳专区、南平专区、建阳地区、南平地区。其中1971～1987年为建阳地区行署驻地。1994年撤销建阳县，设立建阳市。
2014年5月2日，《国务院关于同意福建省调整南平市部分行政区划的批复》（国函[2014]57号）：一、同意撤销县级建阳市，设立南平市建阳区，以原建阳市的行政区域为建阳区的行政区域，建阳区人民政府驻潭城街道人民路28号。二、南平市人民政府驻地由延平区八一路439号迁至建阳区南林大街36号。2015年3月18日，南平市建阳区正式挂牌成立（南平市政府尚未正式迁址）。
2002年11月，福建省政府（闽政文[2002]330号）批复同意撤销潭城镇、童游镇，设立潭城街道、童游街道：从原童游镇划出6个村归潭城街道管辖，从原潭城镇划出1个村、1个居委会归童游街道管辖。调整后，建阳市辖2个街道、8个镇、3个乡。
2010年第六次人口普查，建阳市常住总人口289362人，其中：潭城街道65349人，童游街道59850人，将口镇14047人，徐市镇15481人，莒口镇17738人，麻沙镇27092人，黄坑镇11818人，水吉镇24014人，漳墩镇17138人，小湖镇13268人，崇雒乡6855人，书坊乡7550人，回龙乡9162人。
