春秋、戰(zhàn)國(guó)屬楚。

秦末置縣，屬衡山郡。

漢置鄳縣，屬江夏郡。

三國(guó)、晉同漢制。

宋孝建三年（456）分鄳縣地增置寶城縣，同屬義陽(yáng)郡。

南齊改寶城縣為保城縣，與鄳縣均屬北義陽(yáng)郡。

梁武帝(512)合鄳縣、保城縣置汝南郡。

北魏分置保城縣、鄳縣、東隨縣，保城縣，鄳縣屬齊安郡，東隨縣屬宋安郡。

北齊合3縣置高安縣，屬齊安郡。

隋開皇三年（583）高安縣并入鐘山縣。

九年（589）析鐘山縣置禮山縣，屬義陽(yáng)郡。

十六年（596）又析鐘山縣置羅山縣，屬義陽(yáng)郡。

大業(yè)末年（618）禮山縣廢。

唐武德四年（621）于縣境置南羅州，領(lǐng)羅山縣。

八年（625）南羅州廢，羅山縣屬申州。

五代同唐制。

宋開寶九年（976）羅山縣廢。

雍熙三年（986）復(fù)置羅山縣，屬信陽(yáng)軍。

元至元二十年（1283）徙信陽(yáng)州治于羅山縣城，縣治遷往西南，稱羅山新縣，屬汝寧府信陽(yáng)州。

明洪武元年（1368）縣治復(fù)舊，仍稱羅山縣，屬信陽(yáng)州。

七年（1374）改屬汝寧府。

成化十年（1475）復(fù)屬信陽(yáng)州。

清屬汝寧府。

1913年廢府、州，羅山縣屬豫南道。

1914年屬汝陽(yáng)道。

1927年廢道，直屬河南省。

1928年屬第七（信陽(yáng)）行政區(qū)。

1932年屬河南省第九行政督察區(qū)。

1949年屬潢川專區(qū)。

1952年屬信陽(yáng)專區(qū)。

1969年屬信陽(yáng)地區(qū)。

1998年信陽(yáng)地區(qū)改為信陽(yáng)市，屬之。