地名由来：据衡阳地方志记载:关云长与曹操战于武水，失落塑像一尊，随水漂泊至回水湾中，人们抬以为神，建庙敬供，名曰“关帝庙”，此地有墟场，为衡、邵、祁、娄五县交界集市，人们称之为“关市”，该镇由此得名。

衡阳县辖乡。1950年属第五区，1952年属第四区，1956年属关市乡，1958年属太阳升公社，1961年改关市公社，1984年改乡。位于县境西南部，武水上游，距县城39公里，面积83平方公里，人口4.6万，乡政府驻关帝庙。西(渡)关(市)公路、关(市)洪(桥)公路贯通境内。辖关市、黄泥、马岭、氽町、大众、分麓、兰山、栗坪、石头、石禾、石麓、茅坪、正当、龙头、坪源、黄町、源江、马安、贞福、雷祖、大雅、唐市、介福、葫井、寄龙、龟山、双溪、石狮岭、开元、石湾、桐木、高明、建新、汇水、荣集、庙湾、盘石、乌石、车头、梅岭、木兴、观山、观音、梅麓、金马、铁炉冲46个村委会。乡镇企业有沙场、花岗石、茶叶、制衣、防盗门等行业。农业主产水稻，兼产油菜。

历史沿革：

明代时期，属长乐乡。

清末时期，属水康镇。

民国时期，复置长乐乡。

1949年10月，属衡阳县第五区。

1952年7月，属第四区。

1956年5月，属关市乡。

1958年9月，为太阳升人民公社。

1961年12月，置关市公社，属长乐区。

1995年5月，撤区并乡，汇水乡、双溪乡并入关市乡。

2011年1月，撤乡设镇。