明、清時，屬臨朐縣仁壽鄉(xiāng)。

1935年，分屬第七區(qū)和第八區(qū)。

1945年，分屬牛河區(qū)、峰山區(qū)和大關(guān)區(qū)。

1949年后，分屬第八區(qū)、第十區(qū)。

1958年，分屬蔣峪、大關(guān)公社。

1984年，蔣峪公社更名為蔣峪鎮(zhèn)，駐地東蔣峪村，大關(guān)公社分為大關(guān)鄉(xiāng)和蒲溝鄉(xiāng)。

1993年６月，大關(guān)鄉(xiāng)和蒲溝鄉(xiāng)合并為大關(guān)鎮(zhèn)，政府駐大關(guān)村。

2007年９月，蔣峪鎮(zhèn)和大關(guān)鎮(zhèn)合并，成立沂山鎮(zhèn)。

2013年12月，沂山鎮(zhèn)政府駐地由大關(guān)村遷至蔣峪村，沂山鎮(zhèn)更名為蔣峪鎮(zhèn)。