公元前2世紀(jì)初，第一代贊普聶墀贊普為早期雅礱部落的首領(lǐng)，確立了贊普的世襲制度。

約6世紀(jì)，雅礱流域進(jìn)入奴隸社會(huì)，雅礱部落遂成為西藏最強(qiáng)大的部落。

7世紀(jì)中葉，松贊干布起兵于雅礱河谷，統(tǒng)一青藏高原，建立了吐蕃政權(quán)，并將都城遷至拉薩。

宋寶祐元年（1253），山南地區(qū)屬十三萬(wàn)戶的領(lǐng)地。

元至正十四年（1354），帕竹萬(wàn)戶推翻薩迦地方政權(quán)，帕竹地方政權(quán)統(tǒng)治西藏262年。

西藏地方政府時(shí)期，噶廈下設(shè)“基巧”和“宗”二級(jí)行政機(jī)構(gòu)，此時(shí)為山南基巧。

1914年，英帝主義分子麥克馬洪、柏爾等人，背著中國(guó)中央政府，勾結(jié)西藏地方代表出席西姆拉會(huì)議的夏扎·邊覺(jué)多吉，秘密炮制了非法的“麥克馬洪線”，將錯(cuò)那縣門隅、珞瑜等地劃入英屬印度。

20世紀(jì)八十年代，印度在該區(qū)域又成立了所謂的“阿魯納爾邦”。

西藏和平解放后，設(shè)洛喀基巧，即山南總管。

1960年1月，經(jīng)國(guó)務(wù)院批準(zhǔn)，設(shè)立山南專區(qū)，1970年11月，經(jīng)國(guó)務(wù)院批準(zhǔn)，山南專區(qū)更名為山南地區(qū)。

2016年1月，國(guó)務(wù)院下達(dá)《關(guān)于同意西藏自治區(qū)撤銷山南地區(qū)設(shè)立地級(jí)山南市的批復(fù)》（國(guó)函〔2016〕8號(hào)）。