江南街道明代全境皆屬義豐鄉(xiāng)，清代沿屬。

民國時(shí)期城中片先后曾屬下麗鎮(zhèn)、松石鎮(zhèn)、古麗鎮(zhèn)、城南片一直稱崇道鄉(xiāng)。

白云片曾屬三才鄉(xiāng)、崇道鄉(xiāng)、永祥片曾稱三祥鄉(xiāng)后稱歷山鄉(xiāng)。

解放初城中片歸屬解放鎮(zhèn)，城南片仍稱崇道鄉(xiāng)，白云片設(shè)云山鄉(xiāng)，永祥片改稱永祥鄉(xiāng)，統(tǒng)歸歷山區(qū)人民政府管轄；后邑南鄉(xiāng)、石溪鄉(xiāng)從崇道鄉(xiāng)劃出單列建制。

1956年3月崇道、云山、石溪、邑南四鄉(xiāng)合并稱為崇道鄉(xiāng)；永祥鄉(xiāng)與歷山鄉(xiāng)合稱富山鄉(xiāng)。

1958年，城中片歸屬城關(guān)鎮(zhèn)，崇道、白云合并改稱崇道公社。

同年劃分為崇道、云山兩個(gè)管理區(qū)。

永祥片改稱富山管理區(qū)。

1961年城中片歸屬城關(guān)鎮(zhèn)人民公社，崇道、白云片合稱崇道人民公社，永祥片改稱富山公社。

1963年劃出建立云山公社管委會(huì)，崇道公社為縣直屬公社。

1966年崇道公社改稱東方紅公社。

1973年復(fù)稱崇道公社。

1981年恢復(fù)鎮(zhèn)建制、城中片屬城關(guān)鎮(zhèn)管轄。

1983年5月，崇道、云山、永祥分別改稱鄉(xiāng)人民政府。

1992年4月撤區(qū)擴(kuò)鎮(zhèn)并鄉(xiāng)，將城關(guān)鎮(zhèn)和環(huán)城區(qū)所屬長城、崇道、云山、李店、蘇川5個(gè)鄉(xiāng)合并成立古麗鎮(zhèn)。

同年5月，建立城東、城南、城西、城北、城中5個(gè)街道辦事處。

1993年8月從城南街道劃出，設(shè)立白云街道辦事處；2001年7月行政區(qū)劃調(diào)整，撤銷古麗鎮(zhèn)。

成立東城、西城、江南三個(gè)街道辦事處，江南街道管轄原古麗鎮(zhèn)永康江以南部分、城中街道部分、城南街道、白云街道和原永祥鄉(xiāng)區(qū)域。

2009年4月部分行政區(qū)劃調(diào)整，將臨溪、翁埠2個(gè)行政村劃歸西城街道管轄，江南街道現(xiàn)共轄5個(gè)社區(qū)居委會(huì)，5個(gè)經(jīng)濟(jì)合作社、47個(gè)行政村，名稱沿用至今。

1956年3月崇道、云山、石溪、邑南四鄉(xiāng)合并為崇道鄉(xiāng)；永祥與歷山鄉(xiāng)合稱富山鄉(xiāng)。

1958年，城中片歸屬城關(guān)鎮(zhèn)，崇道、白云改稱崇道公社。

同年劃分為崇道、云山兩個(gè)管理區(qū)。

永祥片改稱富山管理區(qū)。

1961年城中片歸城關(guān)鎮(zhèn)人民公社。

崇道、白云片合稱崇道人民公社，永祥片改稱富山公社。

1963年白云片劃建為云山公社管委會(huì)，崇道公社為縣直屬公社。

1966年崇道公社改稱東方紅公社。

1973年復(fù)稱崇道公社。

1981年恢復(fù)鎮(zhèn)建制、城中片歸屬城關(guān)鎮(zhèn)人民政府管轄。

1983年5月，城南、云山、永祥分別改稱鄉(xiāng)人民政府、1992年4月撤區(qū)擴(kuò)鎮(zhèn)并鄉(xiāng)，城關(guān)鎮(zhèn)并入古麗鎮(zhèn)，改設(shè)城中街道辦事處，屬城中片；同時(shí)崇道、白云、永祥也并入古麗鎮(zhèn)改設(shè)城南、永祥街道辦事處。

1993年8月，白云片從城南街道劃出，設(shè)立白云街道辦事處。

2001年7月行政區(qū)劃調(diào)整，原古麗鎮(zhèn)永康江以南部分：城中街道一部分、城南街道、白云街道和原永祥鄉(xiāng)區(qū)域并成一大片，設(shè)立直屬的江南街道辦事處，沿用至今。