1918年置县，县因河得名。《元史·西北地附录》称古塔巴。清《西域同文志》作“胡图克拜”，为准语“吉祥”之意。一说为古代突厥语，有“寻求幸福”的含意。呼图壁河上游地区有康家石门子生殖崇拜岩画等古代游牧民族文化遗迹，呼图壁地名的起源与此有关。一说系蒙古语“多鬼的地方”之意。
两汉时为乌贪訾离国，后并入车师后国。唐属庭州和北庭都护府。宋属高昌回鹘国，元属别失八里。明属瓦剌，明末清初为准噶尔部游牧地。清乾隆二十年（1755年）设乌鲁木齐西路军台，称呼图克拜台，后设营塘。乾隆二十二年（1757年）设洛克伦巡检，二十八年（1763年）改设呼图壁巡检。乾隆二十九年（1764年），筑景化城，为呼图壁巡检管理。乾隆三十八年（1773年）置昌吉县，呼图壁属昌吉县。
光绪二十八年（1902年）改巡检为县丞，设呼图壁分县。1913年撤销呼图壁分县，所辖区域悉归昌吉县管辖，1914年仍设呼图壁分县，置县佐，名为昌吉县分驻呼图壁县佐。1918年从昌吉县析置呼图壁县，属迪化道。1947年改名景化县，属迪化专区。1954年恢复原名，隶属乌鲁木齐专区。1958年后属昌吉回族自治州。
1996年，呼图壁县辖4个镇、3个乡：呼图壁镇、大丰镇、二十里店镇、雀尔沟镇、石梯子哈萨克族乡、园户村乡、五工台乡。境内有呼图壁种牛场，芳草湖总场，105、106、111等兵团团场。
2000年第五次人口普查，呼图壁县常住总人口210643人，其中：呼图壁镇34980人、大丰镇12242人、雀尔沟镇13502人、二十里店镇13888人、园户村乡21155人、五工台乡16771人、石梯子哈萨克民族乡6548人、兵团105团场10160人、兵团106团场7733人、兵团111团场5156人、兵团芳草湖总场61017人、种牛场7491人。
2001年，撤销园户村乡，设立园户村镇（新民区字[2001]160号文件批复；10月12日正式撤乡建镇；撤销五工台乡，设立五工台镇（新民区[2001]198号文件批复），政府机关迁至河西村。
2003年，呼图壁县总面积9518.45平方千米，总人口205560人。辖6镇、2乡：呼图壁镇、大丰镇、雀尔沟镇、二十里店镇、园户村镇、五工台镇、石梯子哈萨克族乡、独山子哈萨克族乡。县政府驻呼图壁镇。【注：独山子哈萨克族乡是1999年自治区政府批准设立，该乡可能没有正式设立，待查】
2010年第六次人口普查，呼图壁县常住总人口210201人，其中：呼图壁镇43127人，大丰镇11454人，雀尔沟镇11380人，二十里店镇14320人，园户村镇19650人，五工台镇17899人，石梯子哈萨克民族乡6934人，县良种繁育场916人，干河子林场830人，呼图壁种牛场7029人，兵团一零五团13902人，兵团一零六团5416人，兵团芳草湖总场57344人。
