清末，屬杜爾伯特旗第十努圖克轄區(qū)。

中華民國(guó)時(shí)期，劃為第四族轄區(qū)，族長(zhǎng)駐小煙筒屯。

1940年，隸屬哈布塔保。

1946年8月隸屬哈布塔努圖克。

1947年1月，改為哈布塔區(qū)。

1948年7月，改稱第四區(qū)，后改為第三區(qū)。

1956年5月，撤區(qū)劃鄉(xiāng)，分設(shè)克爾臺(tái)、哈布塔兩個(gè)鄉(xiāng)。

1958年4月，將哈布塔鄉(xiāng)并入克爾臺(tái)鄉(xiāng)，同年9月改稱五一人民公社。

1960年1月，改稱克爾臺(tái)公社。

1984年8月，改為克爾臺(tái)鄉(xiāng)。

名稱沿用至今。