漢代為烏貪訾離國(guó)地。

隋時(shí)屬西突厥。

唐歸北庭都護(hù)府管轄。

宋屬高昌回鶻。

元屬別失八里行尚書(shū)省。

明代為衛(wèi)拉特蒙古諸部的游牧地。

1778年置綏來(lái)縣，沙灣在綏來(lái)縣西境。

1915年析綏來(lái)縣設(shè)沙灣縣，屬迪化道，縣治小拐（今克拉烏依市小拐鄉(xiāng)）。

1917年改隸塔城道。

1929年縣治遷沙灣莊（今老沙灣鎮(zhèn)駐地），隸塔城行政區(qū)。

1950年屬塔城專區(qū)，全縣設(shè)3區(qū)（沙灣區(qū)、三道河子區(qū)、石河子區(qū)），24鄉(xiāng)。

1954年劃分為4個(gè)區(qū)，1956年新建第五區(qū)。

1956年沙灣縣人民政府遷至今三道河子鎮(zhèn)。

1958年成立東風(fēng)、紅旗、星火、先鋒、勝旗、新先6個(gè)人民公社，有47個(gè)大隊(duì)，231個(gè)生產(chǎn)隊(duì)，同時(shí)成立天山牧場(chǎng)、火箭牧場(chǎng)。

1961年由星火公社分設(shè)烏拉烏蘇公社，1962年從紅旗公社分設(shè)安集海公社，1964年由東風(fēng)公社析設(shè)四道河子公社和柳毛灣公社。

1965年成立沙灣鎮(zhèn)，1970年更名為三道河子鎮(zhèn)，1975年由紅旗公社析設(shè)大泉公社，1979年柳毛灣公社分設(shè)商戶地公社。

至1983年底全縣下設(shè)1個(gè)鎮(zhèn)、11個(gè)人民公社、1個(gè)林場(chǎng)、2個(gè)牧場(chǎng)，共59個(gè)大隊(duì)，228個(gè)生產(chǎn)隊(duì)，4個(gè)居民委員會(huì)。

1975～1977年沙灣縣劃歸石河子地區(qū)。

1978年后仍隸屬塔城地區(qū)。

1985年縣轄1鎮(zhèn)，13鄉(xiāng)，3場(chǎng)。

2000年縣轄9鎮(zhèn)，3鄉(xiāng)，3場(chǎng)。

2021年1月，撤縣設(shè)市。