周初屬郜國，秦置成武縣。

漢初，成武屬梁國。

中元六年（前144）分梁國為梁、濟川、濟東、山陽、濟陰五國，成武屬山陽國。

建元五年（前136）廢國置郡，成武仍屬山陽郡。

王莽（9～25年）建新朝，改成武為成安，屬山陽郡。

建武二年（26）劉秀封族兄劉順為成武侯，縣為其封地。

八年(32)，劉順遷六安太守，成武又為縣。

永平十五年（72），封劉長為濟陰王，成武屬濟陰郡。

建初四年（79），汝南王劉暢改封為王，成武劃屬梁。

永元五年（93）劉暢獲罪，削成武、單父二縣，重入濟陰郡。

三國，成武屬曹魏兗州濟陰郡，黃初三年彭城王據(jù)子范封平氏侯，四年（223）徒成武。

西晉（265～316）仍依曹魏舊制，成武縣屬濟陰郡。

永嘉之亂后，形成東郡與十六國對立的局面。

成武縣地先后屬后趙（327）高平郡，前燕（366）高平郡，前秦（382）高平郡，后燕（395）高平郡，東晉（409）高平郡，東晉王朝時僑置的“城武縣”隸屬于南兗州的南濟陰郡。

劉宋時（464），縣屬徐洲北濟陰郡。

北魏（497）于郜城置“城武縣”，仍屬北濟陰郡。

北齊天寶七年（556）撤北濟陰郡，于縣設(shè)永昌郡，治郜城，轄成武、豐、沛、單父等地。

北周改西兗州為曹州，永昌郡遂轄于曹州。

隋開皇初（581），廢永昌郡。

開皇十六年（596）于成武故城置戴州，轄成武、單父兩縣。

大業(yè)二年（606）撤戴州，成武復(fù)還舊治，屬曹州濟陰郡。

唐武德四年（621）復(fù)戴州，治成武；五年，戴州州治由成武移金鄉(xiāng)，成武縣仍屬之。

貞觀十七年（643）戴州撤銷，縣改屬曹州濟陰郡。

光化二年（899）于單父置輝州，成武縣屬輝州。

后唐滅梁，同光二年（924），改輝州為單州。

縣屬單州，歷后晉、后漢、后周未變。

宋，成武屬單州，縣屬京東西路，仍轄于單州。

建炎元年（1127）南宋建立，縣為金地，屬南京路，轄于單州。

元初，縣屬單州，屬中書省濟寧路，后改屬曹州。

明洪武四年（1371）縣屬濟寧府，名“城武”，十八年（1385）濟寧降為州，兗州升為府，縣改屬兗州府，隸山東布政使司。

清初沿明制，雍正十三年（1735）改屬曹州府。

1913年撤曹州府，縣直屬山東��；1914年山東全省設(shè)4道，縣屬濟寧道。

1925年，山東省由4道改為11道，縣屬曹濮道，1928年，廢除道制，縣直屬省。

1929年，設(shè)立山東省第二區(qū)行政督察專員公署，成武縣屬之。

1938年山東省第二區(qū)行政督察專員公署分為第十、第十一、第十二行政督察專員公署，縣屬第十一公署。

1939年7月1日，日本侵略者侵占縣城，后建立偽政權(quán)，屬魯西道；1940年，改屬曹州道。

1941年6月4日，于縣東北部合集一帶建立縣抗日民主政府，屬湖西專署。

1943年9月，在成武東南部建成曹縣，屬晉冀魯豫第二十專署。

1945年9月，撤成曹縣，并入復(fù)程成武。

1946年元月，屬第三專區(qū)（湖西）。

1949年8月，建平原省湖西專區(qū)，縣屬之。

1952年平原省撤銷，隨湖西專區(qū)改屬山東省，1953年8月，湖西專區(qū)撤銷，改屬菏澤專區(qū)。

1958年12月，菏澤專區(qū)撤銷，劃歸濟寧專區(qū)，1959年恢復(fù)菏澤專區(qū)（后改為菏澤地區(qū)）。

1958年10月撤銷定陶并入成武，1961年10月，恢復(fù)定陶縣。

2000年6月，菏澤地區(qū)撤地設(shè)市，成武縣隸屬菏澤市至今。