1949年5月，為山灣、西源、張?zhí)�、彭山鄉(xiāng)行政區(qū)域，隸屬二、三區(qū)管轄。

1951年，增設(shè)葛洪鄉(xiāng)。

1952年，增設(shè)賀山鄉(xiāng)。

1956年，合并為彭山、葛洪、山灣、賀山鄉(xiāng)，同年7月又合并為山灣、吳山二鄉(xiāng)，成立葛洪、五臺(tái)、紅橋、山灣等初級(jí)農(nóng)業(yè)社。

1957年，轉(zhuǎn)為葛洪、五臺(tái)、紅橋、林居、蔡河、張?zhí)痢⑸綖称邆�(gè)高級(jí)農(nóng)業(yè)社。

1958年，樟樹(shù)鄉(xiāng)（為1956年成立）并入，成立山灣人民公社，轄山灣、張?zhí)�、吳山、林居、紅橋、葛洪、五臺(tái)、竹蓬、楊柳、樟樹(shù)、大嶺、蔡河、河鋪13個(gè)大隊(duì)。

1962年，拆分為山灣、吳山、樟樹(shù)三個(gè)公社。

1968年，三社又合并為山灣公社。

1972年，樟樹(shù)公社析出。

1981年，山灣公社更名為吳山公社。

1984年機(jī)構(gòu)改革，撤公社更名為吳山鄉(xiāng)。

2002年，樟樹(shù)鄉(xiāng)撤銷(xiāo)并入?yún)巧洁l(xiāng)。

2012年，撤鄉(xiāng)設(shè)鎮(zhèn)，為吳山鎮(zhèn)。