宋淳熙年間，盧氏從鄱陽遷此建村。

取名“鵬山”。

因諧音演變而成彭山。

中華人民共和國成立前屬嵩市鄉(xiāng)，中華人民共和國成立初屬二區(qū)嵩市鄉(xiāng)。

1952年改為第二區(qū)彭山鄉(xiāng)，1956年撤區(qū)并鄉(xiāng)，并入嵩市鄉(xiāng)。

合作化時由五個初級社合并成一個高級社。

1958年人民公社化，為彭山大隊，1972年大隊遷往外小源，大隊名稱沿用彭山大隊。

1984年體制改革，為彭山村民委員會。

1988年，撤銷村委會，組建村公所，為彭山村公所，作為嵩市鎮(zhèn)人民政府的派出機構。

1993年撤銷村公所，為彭山村民委員會，名村沿用至今。