林芝歷史古老，可以追溯到西藏的史前時期。
據(jù)藏文史籍《弟吳宗教源流》記載，雅礱悉補野的先祖聶赤贊布（即第一個藏王）從波域（今林芝市波密縣境）經(jīng)工布來到雅礱河谷（今山南市乃東區(qū)）成為雅礱悉補野的創(chuàng)始人。
聶赤贊布出生于漢元朔二年（前127），他的王位傳至第7代國王止貢贊布時，悉補野內(nèi)部發(fā)生變亂，止貢贊布被洛昂殺害，三個王子夏赤、涅赤、恰赤分別逃亡到工布、波窩、娘布避難。
不久以后涅赤返回雅隆，繼位為雅礱悉補野第8代贊普，稱“布德貢杰”。
而夏赤、恰赤則在工布和娘布各自安邦稱王，分別成為工布王（又稱工噶布王）和娘布王。
今工布江達縣境屬于娘布王統(tǒng)轄區(qū)。
今巴宜、米林、朗縣一帶屬工布王轄區(qū)。
至6世紀末，林芝境內(nèi)出現(xiàn)多個大小不等的小邦，統(tǒng)治各自的領(lǐng)地。
小邦的分布情況如：工域赤那，王名貢杰噶布。
統(tǒng)治中心在雅魯藏布江和尼洋河交匯處，統(tǒng)治區(qū)域為今巴宜、米林一帶。
娘域那松，王名娘尊朗杰。
為止貢贊普后裔，與雅礱悉補野同脈，安邦于娘地方，即今工布江達縣娘蒲鄉(xiāng)一帶，統(tǒng)治地區(qū)在工布江達縣境內(nèi)。
欽域那布古蘇，王名欽杰尼古。
其中心在今朗縣金東鄉(xiāng)，統(tǒng)治今朗縣和山南地區(qū)加查一帶。
色域薩莫竹喜，王名俄杰茨吾魯暢。
統(tǒng)治地區(qū)在今林芝縣境內(nèi)。
波窩，王名波杰布，后來稱“波噶南木杰布”，“波杰布”為悉補野止貢贊普后裔，統(tǒng)治今波密、墨脫一帶。
7世紀中葉，松贊干布先后征服了工域赤那（今林芝市巴宜、米林）、娘域那松（今林芝市工布江達）。
將其劃入“約茹”轄區(qū)。
由于工布地區(qū)的工噶布王、娘布王等均屬吐蕃贊普的后裔，他們的轄區(qū)都具有相對獨立的特性，即各自為政，劃地稱王。
8世紀，應(yīng)工噶布王的請求，吐蕃贊普赤松德贊和赤德松贊分別兩次與工噶布王立誓結(jié)盟，把盟文勒石刻文。
明確允諾和確認工噶布王世代享有治理工布地區(qū)的特權(quán)。
唐咸通十年（869年，藏歷土牛年）以后，吐蕃各地連續(xù)發(fā)生奴隸平民起義，欽域那布古蘇（今林芝市朗縣一帶）的吉次、次旦等六人，在欽域上部發(fā)動了著名的“火把起義”。
占領(lǐng)欽域后直導(dǎo)工域赤那（今巴宜區(qū)林芝鎮(zhèn)），殺死工噶布王。
但起義軍并沒有建起自己的政權(quán)，沒有統(tǒng)一的政區(qū)建置，形成了諸多地方勢力。
11世紀，工噶布王的后裔阿杰在工布恰納（今米林縣羌納鄉(xiāng)）一帶崛起，重新成為工布地區(qū)的統(tǒng)治者：而波窩地區(qū)則由土王噶南木第巴統(tǒng)治。
13世紀中葉，林芝在地域上隸屬于“烏思藏納里速古魯孫等三路宣慰使司都元帥府”，但是境內(nèi)的波窩（波密）、門域（墨脫）、察隅等地由于所處地理位置偏僻，社會發(fā)展極其緩慢，仍處于部落社會形態(tài)。
自14世紀起，噶瑪噶舉派的首領(lǐng)噶瑪巴長期駐錫工布則拉崗，逐漸成為工布地區(qū)最具勢力的政教統(tǒng)治者。
帕木竹巴政權(quán)時期，曾大力推行宗谿制，但在塔工地區(qū)沒有建立宗谿一級地方行政機構(gòu)。
明洪武七年（1374年，藏歷第六饒迥木虎年），明朝把元代的吐蕃等處宣慰使司和吐蕃等路宣慰使司合并為朵甘衛(wèi)，烏思藏納里速古魯孫等三路宣慰司則改為烏思藏衛(wèi)和俄里思軍民元帥府。
林芝大部在地域上隸屬烏思藏都指揮使。
明崇禎十五年（1642年，藏歷第十一饒迥水馬年），固始汗幫助五世達賴喇嘛建立噶丹頗章政權(quán)，塔工地區(qū)的噶瑪噶舉派不承認噶丹頗章政權(quán)的統(tǒng)治，并組織軍隊實施對抗。
噶丹頗章政權(quán)沒有完全將其設(shè)于統(tǒng)治之下。
清康熙元年（1662年，藏歷第十一饒迥水虎年），工布盤德寺活佛發(fā)動暴亂，噶丹頗章攝政赤列嘉措派兵鎮(zhèn)壓，次年新建則拉崗宗，由噶丹頗章委派宗本進行管理。
清康熙十二年（1673年，藏歷第十一饒迥水牛年），清廷平西王吳三桂將紅帽教主噶瑪巴交于五世達賴，五世達賴以禮相待，妥善解決了塔工噶瑪噶舉派與噶丹頗章政權(quán)的對抗。
至18世紀末，在今林芝市設(shè)立波窩（今波密縣）、江達（今工布江達縣）、碩卡（今工布江達縣巴河鎮(zhèn)）、沃�。ń衩琢挚h臥龍鄉(xiāng)）、角木（今巴宜區(qū)八一鎮(zhèn)）、桑昂曲宗（今察隅縣）、工布則拉崗（轄境大部分在米林縣境內(nèi)）、朗（今朗縣）、金東（今朗縣金東鄉(xiāng)）等多個宗谿。
其中江達宗、碩卡宗、角木宗、則拉崗宗被稱之為“工布4宗”。
“工布4宗”中則拉崗宗是大宗，被賦予代管其他3個宗的職權(quán)，后升格為“基巧”，但仍稱為宗，其權(quán)限僅限于向其他3宗傳達西藏地方政府指示，催收差稅而已。
波窩，即波密地區(qū)，除曲宗外一直由當?shù)赝镣醪ǜC噶南木第巴統(tǒng)治，其統(tǒng)轄區(qū)就在上下波密、墨脫一帶。
波密境內(nèi)的轄區(qū)分布在6條小河流域，故稱“波曲龍楚”（意為波密6水之地）。
墨脫境內(nèi)的轄區(qū)有5錯（“錯”為村級建制）分別是當普、或熱（今墨脫縣德興鄉(xiāng)霍熱村）、背崩（今墨脫縣背崩鄉(xiāng)背崩村）、薩格爾、達昂（今墨脫縣加熱薩鄉(xiāng)境內(nèi)）。
“2地”指的羅查、堅珠玉措。
堅珠玉措今譯“金珠”，所在地為今墨脫縣格當鄉(xiāng)金珠河流域。
以上地區(qū)基本上囊括了今墨脫縣所轄的主要區(qū)域。
民國政府時期，設(shè)川邊特別行政區(qū)，在金沙江以西新設(shè)13個縣，其中包括林芝境內(nèi)的波密、桑昂曲宗（今察隅縣境內(nèi)）、察隅、江達（今工布江達縣）4個縣。
1912年（藏歷第十五饒迥水鼠年），民國政府在江達（今工布江達縣太昭）設(shè)太昭府。
1928年（藏歷第十六饒迥土龍年），民國政府將林芝的科麥（桑昂曲）、察隅（雜瑜）、太昭（工布江達）劃歸西康政務(wù)委員會。
1931年（藏歷第十六饒迥鐵羊年），西藏地方政府平息波密之亂后，將曲宗、波堆、波麥劃給朵麥基巧管轄，并在工布地區(qū)設(shè)立工基。
下轄塔堆群廓杰寺、朗谿卡、金東宗、古納木宗、則拉崗宗、嘎熱寺、第穆羌納寺、森浦谿卡、角木宗、雪卡谿卡、江達宗、拉里、杰廓谿卡。
1939年（藏歷第十六饒迥土兔年），中華民國設(shè)西康省，將林芝劃歸西康省管轄。
1944年（藏歷第十六饒迥木猴年）、1946年（藏歷第十六饒迥火狗年）英國軍隊兩次侵入察隅、珞瑜等地。
當?shù)厝嗣襁M行了英勇的抵抗。
到1950年，工基下轄朗谿卡、金東宗、古納木宗、則拉崗宗、森浦谿卡、角木宗、雪卡谿卡、江達宗、拉里、杰廓谿卡10個宗谿。
1951年1月，經(jīng)政務(wù)院批準，原西康所轄的昌都、武城、察雅、鹽井、察隅（今林芝市察隅縣）、碩督、太昭（今林芝市工布江達縣）、恩達、尋集、貢縣、寧靜、科麥、嘉黎13個縣由昌都地區(qū)人民解放委員會管轄。
1951年5月，西藏和平解放；11月，昌都地區(qū)解放委員會在波密（今林芝市波密縣）成立第二辦事處，轄傾多、曲宗、易貢3個宗。
1954年，西藏地方政府設(shè)立設(shè)塔工基巧，基巧公署設(shè)在則拉崗（今巴宜區(qū)布久鄉(xiāng)），管轄加查（今山南市加查縣）、朗宗、林芝、米林、工布江達、雪卡宗、覺木宗、澤拉崗宗、白瑪桂谿等10個宗谿。
1959年，實行民主改革，撤銷塔工基巧辦事處。
1960年1月，經(jīng)國務(wù)院批準成立塔工專區(qū)；同年2月，改設(shè)林芝專區(qū)，專署駐林芝縣。
1964年7月，經(jīng)國務(wù)院批準，撤銷林芝專區(qū)。
將其所轄的林芝、米林、工布江達、墨脫、雪巴5個縣劃歸拉薩市管轄；將嘉黎縣劃歸那曲專區(qū)管轄；將波密縣劃歸昌都專區(qū)管轄。
1964年10月，經(jīng)國務(wù)院批準，撤銷雪巴縣，原轄的雪卡、朱拉、錯高3個區(qū)劃入工布江達縣，百巴區(qū)劃入林芝縣，尼吾區(qū)劃入嘉黎縣。
1983年10月，經(jīng)國務(wù)院批準，恢復(fù)林芝地區(qū)。
1986年2月，林芝地區(qū)行署正式恢復(fù)。
原劃入拉薩市的林芝、米林、工布江達、墨脫縣，劃入昌都地區(qū)的波密縣，原屬昌都地區(qū)的察隅縣、原屬山南地區(qū)的朗縣劃入林芝地區(qū)。
2015年3月，經(jīng)國務(wù)院批準，撤銷林芝地區(qū)，設(shè)立地級林芝市。