地名由来：乡境周围都是大山纯水绕，故名。

2021年3月，大山乡入选2020年云南省卫生乡镇名单。

永德县辖乡。1959年设大地公社，1964年分属德党、崇岗区，1973年建大山公社，1984年改区，1988年改乡。位于县境南部，距县城49公里。面积176平方公里，人口2万。大地河从中流过。永康镇至崇岗乡的公路经乡驻地。辖大山、麻栎寨、玉华、忙兑、税房、纸厂、笼楂、忙角8个行政村。农业主产玉米、水稻、小麦，经济作物有茶叶、核桃、棕片。驻地东部有县境内最热的玉华温泉(70℃)。境内有县办小石城煤矿、大山电站、笼楂三级水电站等企业。

历史沿革：

明清时期，为上10户地。

民国时期，为东区、二区、鼎石镇、文化镇地。

1950年后，属东区、二区、班卡区。

1954年后，为松林区属地。

1959年后，划归大地公社、崇岗区。

1973年，从崇岗公社划出11大队，组建大山公社。

1984年春，公社改区，下辖8乡。

1988年，改大山乡。