因处在颍河、泉河之间而得名，两河于城区而交汇，诚所谓“郡楼斜依夕阳开，合流汝颍抱城来。”
1996年1月1日，国务院（国函[1996]1号）批复同意设立阜阳市颍泉区，区人民政府驻人民东路，颍泉区辖中市、颍泉、周棚3个街道办事处和伍明、宁老庄、闻集、行流、苏屯、姜堂、邵营、苏集8个乡镇。
1996年末，全区面积643平方千米，总人口60万人，其中农业人口52.3万人，非农业人口7.7万人，辖3个街道、4个镇、4个乡：中市街道、泉颍街道、周棚街道、伍明镇、闻集镇、行流镇、宁老庄镇、邵营乡、姜堂乡、苏屯乡、苏集乡，共有243个行政村、13个居委会。区政府驻人民东路。
2000年第五次人口普查，颍泉区常住总人口589081人，其中（4个街道、5个镇、3个乡），中市街道55176人，泉北街道22692人，泉颍街道47118人，周棚街道69728人，伍明镇55798人，宁老庄镇40539人，闻集镇59664人，行流镇41563人，姜堂镇48499人，苏屯乡50422人，邵营乡49647人，苏集乡48235人。
2004年末，颍泉区辖4个街道、7个镇、1个乡。
2006年，颍泉区将原12个乡镇、街道撤并为6个：泉北街道、泉颍街道并入中市街道，苏集镇并入伍明镇，姜堂镇并入宁老庄镇，苏屯乡并入闻集镇，邵营镇并入行流镇。调整后，每个乡级行政区划人口在10万人左右，面积在100平方千米左右。其中新的闻集镇面积达143平方千米，人口12.07万人，为颍泉区第一大镇。3月19日，颍泉区召开农村综合改革暨乡镇区划调整动员大会。
2010年第六次人口普查，颍泉区常住总人口557687人，其中，中市街道140393人，周棚街道68357人，伍明镇95931人，宁老庄镇75456人，闻集镇88224人，行流镇89326人。
