黑山明代名镇远堡，清初又叫小河山，小黑山。

县城东北隅有小黑山，古上帝庙建于其巅。该山虽不甚高，但登临其上，远望群山，近瞻县街，如在足下。黑山之名系依此山而得。