伊吾曾是东汉与匈奴争夺西域的焦点。公元73年，汉将窦固击匈奴呼衍王，追至蒲类海，取伊吾卢地，置宜禾都尉管理屯田。76年汉朝放弃了伊吾卢屯田，匈奴立即遣兵占领。公元90年，汉军击败占领伊吾的北匈奴。公元92年使任尚屯驻伊吾。公元107年东汉弃西域，迎回伊吾、柳中屯田吏士。公元119年，敦煌太守曹宗派长史索班率千人屯伊吾，次年春即被匈奴攻没。班勇通西域后，131年东汉复在伊吾屯田，设伊吾司马。137年，敦煌太守裴岑率部与呼衍王交战巴里坤，率军诛杀北匈奴呼衍王，终于结束了汉朝和匈奴在西域长达300余年的争夺战。
“伊吾”是隋唐以前哈密的古地名，汉称伊吾卢，隋、唐设伊吾郡，但都不是指今日伊吾县，而是指以哈密为中心及周围的地区。今之伊吾，于1929年废哈密王设哈密、宜禾、伊吾三县后转借命名。
1935年7月建伊吾设治局，代行县政府职能，改设治局为县政府。
1943年月1月升格为三等县。
1949年9月26日，伊吾县与全疆同时和平解放。
1951年9月1日正式成立伊吾县人民政府。
