沙雅是维吾尔语“沙雅尔”的转音。沙，“部落长”之谓；雅尔，“轸恤”之意，即“首领对其部下爱抚”之意。
汉为龟兹国地，隶西域都护府。隋唐间为沙雁州，唐属龟兹都督府。清乾隆二十四年（1759年）置沙雅尔回庄，属库车办事大臣，后属库车直隶厅。光绪二十八年（1902年）设沙雅县，隶库车直隶州，属阿克苏道。1949年后，隶属阿克苏专区、阿克苏地区。1945年在沙雅设新民镇，1955年建沙雅镇。
1996年，沙雅县辖1个镇、7个乡：沙雅镇、古勒巴格乡、托依堡勒迪乡、红旗乡、英买里乡、海楼乡、努尔巴格乡、塔里木乡。
2000年第五次人口普查，沙雅县常住总人口202992人，其中：沙雅镇34996人、古勒巴格乡20011人、托依堡勒迪乡38425人、红旗乡26498人、英买里乡37820人、海楼乡19961人、努尔巴格乡7862人、塔里木乡6133人、新垦农场4108人、第一牧场1621人、第二牧场1027人、沙雅监狱4530人。
2003年，沙雅县总面积31887.28平方千米，总人口207160人。辖4镇4乡：沙雅镇、红旗镇、托依堡勒迪镇、英买力镇、古勒巴格乡、海楼乡、塔里木乡、努尔巴格乡。县政府驻沙雅镇。
2008年6月，按照行政区域规划和地域布局要求，自治区政府下发《关于同意沙雅县设立盖孜库木乡的批复》（新政函[2008]109号），同意设立盖孜库木乡。该乡行政区域面积为2388平方千米，分别从托依堡勒迪镇塔里木河以南区域划出1694平方千米，从海楼乡塔里木河以南区域划出694平方千米。12月30日，盖孜库木乡政府正式挂牌成立。
2009年，全县辖4个镇、5个乡：沙雅镇、托依堡勒迪镇、红旗镇、英买里镇、古勒巴格乡、海楼乡、努尔巴格乡、塔里木乡、盖孜库木乡。
2010年第六次人口普查，沙雅县常住总人口257502人，其中：沙雅镇51806人，托依堡勒迪镇42227人，红旗镇31736人，英买力镇43151人，古勒巴格乡28795人，海楼乡23198人，努尔巴格乡10952人，塔里木乡6940人，盖孜库木乡8827人，新垦农场1684人，一牧场1849人，二牧场1528人，沙雅监狱4429人，沙雅县工业集中380人。
2011年，设立央塔克协海尔乡。2012年，设立哈德墩镇（镇政府于2013年2月25日正式挂牌成立）。2014年5月26日，自治区政府（新政函[2014]80号）批复同意撤销古勒巴格乡，设立古勒巴格镇。至此，全县辖6个镇、5个乡。
