地名由来：小林镇因原驻地小林店而得名。

2023年2月，小林镇被命名为2023年度湖北省生态乡镇。

随州市辖镇。1950年置小林乡，1984年建镇。位于市境北部，距市区91公里。是随州市的北大门。面积127平方公里，人口3.2万。312国道、随(州)信(阳)公路在境内相交。辖上天梯、小林店、祝东、汉东、双沟、土城、袁家湾、信联、雷冲、张冲、八角楼、薛冲、大坡岭、花门楼、冠店、陈家寨、关堂、七里冲、粉坊、陈家棚子、石家咀、祝林店、新寨、大善.

历史沿革：

民国十八年（1929年）2月前，为祝林总，属随县；同年2月，成立中共祝林店特支，属信阳中心县委管辖。

民国十九年（1930年）3月，成立祝林区苏维埃政府。

民国二十年（1931年）4月，中共祝林特支改为祝林特别区委。

1950年春，划归随县，设置小林乡。

1984年，建立小林镇。