殷商時(shí)屬畿內(nèi)牧野地。

周滅商后，先屬鄘，后屬衛(wèi)。

春秋時(shí)改屬晉。

戰(zhàn)國屬魏，始有汲邑之稱。

秦為河內(nèi)郡地。

西漢高帝二年(前205)始置汲縣，屬河內(nèi)郡。

三國時(shí)屬曹魏朝歌郡。

西晉泰始二年（266）屬汲郡。

北魏于今市區(qū)置伍城縣。

東魏興和年間于此置義州。

北齊改伍城郡，廢汲縣入伍城縣。

北周宣政元年（578）廢汲郡。

隋開皇六年(586)改伍城縣為汲縣，屬衛(wèi)州。

大業(yè)三年（607）改屬汲郡。

唐武德元年（618）再置義州，汲縣屬之。

四年廢義州，屬衛(wèi)州。

貞觀初為衛(wèi)州州治。

金屬衛(wèi)州河平軍。

元中統(tǒng)元年（1260）屬衛(wèi)輝路總管府，路治汲縣，素有“南通十省，北拱神京”之稱。

明、清屬衛(wèi)輝府，府治汲縣。

1913年屬河南省豫北道，道治汲縣。

1927年廢道，直屬河南省。

1933年屬第十三行政督察區(qū)。

1948年劃城區(qū)及城郊部分村莊設(shè)立衛(wèi)輝市，與汲縣同屬太行五專署。

1949年撤銷衛(wèi)輝市，復(fù)歸汲縣，屬平原省新鄉(xiāng)專區(qū)。

1952年改屬河南省新鄉(xiāng)專區(qū)。

1983年屬新鄉(xiāng)市。

1988年撤銷汲縣，設(shè)立衛(wèi)輝市（縣級(jí)）。