西漢，元封二年（前109）置宣城縣、春谷縣，南陵縣域分屬上述二縣，隸屬丹陽郡。

東晉于沿江赭圻城置南陵縣，兼置南陵戌。

南朝，梁普通六年（525）赭圻城置南陵縣，兼置南陵郡。

之后歷代沿用南陵縣名。

隋開皇九年（589），并石城、臨城、定陵、故治諸縣入南陵縣，屬宣州。

唐武德四年（621），改屬池州；貞觀元年（627），又歸宣州，屬江南道；天寶元年（742）屬江南西道宣城郡；乾元元年（758），屬宣歙觀察使宣州。

大順元年（890），屬寧國軍宣州。

五代，南唐升元元年（937），屬寧國軍宣州，隸江寧府。

宋開寶八年（975），改寧國軍，仍稱宣州，隸江南路。

南宋，乾道二年（1166），升為寧國府，江南東路寧國府。

元，至元十四年（1277），屬江浙行中書省寧國府。

明洪武十三年（1380），屬六部直隸寧國府；永樂元年（1403），屬南京直隸寧國府。

清順治二年（1645），屬江南省徽寧道；康熙六年（1667），屬安徽省徽寧道；太平天國期間，由浙江巡撫兼轄；同治四年（1865）仍由安徽省徽寧池太廣道分轄。

1912年1月，裁府，直屬安徽省。

1914年6月，劃屬安徽省蕪湖道。

1928年8月，廢道，直屬安徽省。

1932年10月，劃屬安徽省第二行政督察區(qū)。

1938年10月25日，劃屬安徽省第九行政督察區(qū)。

1940年8月6日，劃屬安徽省第六行政督查區(qū)。

1949年4月22日，南陵解放。

同年5月13日，歸屬皖南行署蕪當專區(qū)。

1950年5月26日，劃屬皖南行署宣城專區(qū)。

1952年2月4日，劃屬皖南行署蕪湖專區(qū)。

是年8月27日，改屬安徽省蕪湖專區(qū)。

1971年3月29日，屬安徽省蕪湖地區(qū)。

1980年1月29日，屬安徽省宣城地區(qū)。

1983年6月7日，劃歸蕪湖市。