绥芬河市，原为东宁县绥芬河镇，以其附近小绥芬河而得名。绥芬，又作“恤品”、“速频”、“苏滨”，均为“率宾”译音的演变，满语意为“锥子”。清代属宁古塔将军（吉林将军）宁古塔副都统辖区。清末，先后归绥芬厅、东宁厅管辖。中东铁路通车后，始称“五站”（由海参崴起到绥芬河为第五站）。1903年（清光绪二十九年），五站铁路交涉分局改为绥芬河铁路交涉分局。
中华民国成立后，1923年3月，归属东省特别区，并从4月1日起设立绥芬河市政分局。斯时，奉军绥宁镇守使张宗昌的帅府设于绥芬河镇。东北沦陷后，始属东宁县，1939年6月1日划归新设置的绥阳县管辖，改设绥芬河街。1945年“九三”抗日战争胜利后，1948年10月，将绥阳县并入东宁县，东宁县政府迁驻绥芬河镇，为第一区管辖。中华人民共和国建立后，1951年10月，建立绥芬河军政委员会，负责口岸运输。
1952年4月，东宁县政府迁回东宁镇，绥芬河为第一区政府驻地。1956年5月，设置绥芬河镇和北寒葱河乡。1958年9月，成立友好人民公社，后改为绥芬河人民公社。1968年设置绥芬河区，由牡丹江地区直辖。1973年6月，撤销绥芬河区，设置绥芬河镇，归东宁县管辖。1975年8月15日，国务院批准，以绥芬河镇改设绥芬河市（县级），归牡丹江地区管辖。1983年9月，撤销牡丹江地区，由牡丹江市代管。
1992年末，绥芬河市位于黑龙江省东南部，滨绥线铁路终点站，边境口岸城市。南、西、北三面与东宁县相连，东与俄罗斯接壤。全市总面积460平方千米。辖1个街道和3个乡。总人口3.26万人，其中非农业人口2.23万人；满、朝鲜等少数民族人口约占1.7%。（以上摘自《黑龙江省志・地名录》，有改动）
2000年第五次人口普查，绥芬河市常住总人口69052人，其中，绥芬河镇52340人、阜宁镇16712人。
2005年，绥芬河市辖2个镇：绥芬河镇、阜宁镇，以及互市贸易区和边境经济合作区。绥芬河镇辖友谊、新华、永安、山城、前进、北海、象山、光华、三合林、新兴、铁西、南绥12个社区和前进、绥东2个村委会；阜宁镇辖建西、建东、建华、建新、南寒、北寒、永胜、朝阳、宽沟9个行政村。（www.xzqh.org根据《牡丹江市2005年代码》整理）
2010年第六次人口普查，绥芬河市常住总人口132315人，其中，绥芬河镇98561人，阜宁镇33754人。
