唐開元時(shí)屬富都鄉(xiāng)。

北宋熙寧六年（1073）屬富都鄉(xiāng)德行里。

元時(shí)稱小沙岙，屬金塘鄉(xiāng)。

清康熙年間屬定�？h富都鄉(xiāng)十圖；道光年間置小沙莊；宣統(tǒng)二年（1910）設(shè)三益鄉(xiāng)。

1934年設(shè)小沙、大沙2個(gè)鄉(xiāng)。

1947年屬小沙和大獅鄉(xiāng)。

1953～1954年分設(shè)小沙、樂家、毛峙、大沙、青岙、西岙6個(gè)小鄉(xiāng)。

1956～1957年，設(shè)小沙、大沙、毛峙3個(gè)鄉(xiāng)。

1958年1月毛峙鄉(xiāng)并入小沙鄉(xiāng)；9月與長(zhǎng)白鄉(xiāng)合并設(shè)立小沙人民公社；10月大沙鄉(xiāng)改設(shè)大沙人民公社。

1984年6月復(fù)設(shè)小沙、大沙2個(gè)鄉(xiāng)。

1995年12月撤銷小沙鄉(xiāng)建小沙鎮(zhèn)。

2001年7月小沙鎮(zhèn)與大沙鄉(xiāng)合并設(shè)立新的小沙鎮(zhèn)。

2013年8月小沙鎮(zhèn)與長(zhǎng)白鄉(xiāng)合并設(shè)立小沙街道。