臨武古屬楚地，戰(zhàn)國(guó)時(shí)期設(shè)臨武邑。

漢高祖五年（前202），置臨武縣。

新莽始建國(guó)元年（9），改名大武。

東漢建武元年（25），復(fù)稱臨武。

隋開皇九年（589），南平并入臨武。

五代后晉天福四年（939），臨武并入桂陽監(jiān)，南宋紹興十一年（1141），復(fù)置臨武縣。

明崇禎十二年（1639），劃臨武及桂陽各一部分，新設(shè)嘉禾縣。

1949年，臨武解放，屬郴縣專署。

1952年11月，撤郴縣專署，設(shè)湘南行政公署，臨武屬湘南行署。

1954年7月，湘南行署撤銷，臨武復(fù)歸郴縣專署管轄。

1961年7月，臨武縣恢復(fù)建制，隸屬郴州行署。

1994年12月17日，設(shè)立郴州市，臨武隸屬關(guān)系不變。