民國(guó)時(shí)期，為金永鄉(xiāng)第6保。

1950年，為金山鄉(xiāng)第3村。

1958年，為金永人民公社第3大隊(duì)。

1961年，為金山公社第3大隊(duì)。

1966年，為建設(shè)人民公社第3大隊(duì)。

1972年，為金山公社第3大隊(duì)。

1981年，地名普查時(shí)為金山大隊(duì)。

1984年，人民公社改制為鄉(xiāng)時(shí)將該大隊(duì)更名為金山村。

2019年，撤銷扶君鄉(xiāng)和金山鄉(xiāng)，將其所屬行政區(qū)域劃歸多扶鎮(zhèn)管轄（南府函〔2019〕76號(hào)）。

2020年4月，金山村、河玉溝村合并設(shè)立金山社區(qū)（西府發(fā)〔2020〕7號(hào)）。