請同治元年(1862)當地人稱此地為“寶山”。
屬呼蘭副都統(tǒng),清光緒十一年(1885)后,劃歸綏化理事通判廳管轄。
中華民國時期,隸屬永安鎮(zhèn)。
1935年設寶山保,1941年改設寶山村。
1945年“九三”抗日戰(zhàn)爭勝利后,設置寶山區(qū)。
1951年11月改為第二區(qū)。
1956年4月,并村劃鄉(xiāng),設置寶山鄉(xiāng)。
1958年8月,將勝利鄉(xiāng)和新立鄉(xiāng)并入寶山鄉(xiāng),成立寶山人民公社。
1961年將寶山公社劃分為寶山、勝利兩個公社。
1984年3月,將寶山公社改為寶山鄉(xiāng)。
1985年4月,改為寶山鎮(zhèn),名稱沿用至今。