合山鎮(zhèn)始建于北宋年間（960年—1127年）。

清末，屬陽(yáng)江縣長(zhǎng)樂(lè)鄉(xiāng)喬馬都喬馬一圖、平樂(lè)鄉(xiāng)北慣都北慣一、二圖。

民國(guó)初期，屬第三區(qū)。

民國(guó)二十六年（1937年），屬第二區(qū)。

1953年5月，改為第五區(qū)。

1957年2月，撤區(qū)并鄉(xiāng)，稱(chēng)合山鄉(xiāng)。

1958年11月，與北慣鄉(xiāng)合并成立幸福公社；同年12月，改稱(chēng)合山公社。

1959年10月，分出北慣公社。

1961年5月，改為合山區(qū)，轄合山、那龍、田畔、北慣、那石公社。

1963年，撤區(qū)分為合山、北慣公社。

1979年3月，分出田畔公社。

1983年11月，改公社為合山區(qū)。

1987年2月，改區(qū)為合山鎮(zhèn)。

1988年1月至1991年6月，合山鎮(zhèn)屬陽(yáng)江市陽(yáng)東區(qū)管轄，1991年7月，屬陽(yáng)東縣管轄。