“霍林郭勒”系蒙古语译音，意为“甘美的河”。因霍林河而得名，“郭勒”蒙古语意为河。
1975年建矿。1982年设霍林河办事处。1985年11月9日，国务院批准设立霍林浩特市，以扎鲁特旗的霍林河办事处为其行政区域，驻珠斯花镇。
1996年，霍林郭勒市面积585平方千米，人口约5.6万人，蒙族占总人口32%。辖3个街道、1个镇、1个苏木：莫斯台街道、包日呼吉尔街道、珠斯花街道、沙尔呼热镇、达来胡硕苏木。市政府驻莫斯台街道辖区内。
2000年第五次人口普查，霍林郭勒市总人口66945人，其中：珠斯花街道19797人，莫斯台街道13924人，宝日呼吉尔街道11633人，沙尔呼热镇9674人，达来胡硕苏木10290人，东蒙农牧业有限公司1627人。
2000年末，全市总面积585平方千米，总人口65452人，辖1个苏木、1个镇、3个街道。
2006年，撤销沙尔呼热镇，设立沙尔呼热街道；撤销达来胡硕苏木，设立达来胡硕街道。
2009年末，辖区总面积585平方千米，户籍总人口7.37万人，辖5个街道，14个城市社区和7个农村社区。（数据与2006年末均相同）
