雾灵山历史上曾称伏凌山、孟广硎山、五龙山，明代始称雾灵山。自夏殷代以来就有人烟居住。

雾灵山地处我国古代山戎、东胡、拓跋、契丹等北方少数民族与幽燕汉族交往之地。雾灵山因其特点和所谓的灵性，历史上就有许多文人骚客吟颂雾灵，来此游览，并被她的险峻所折服。

北魏地理学家郦道元、唐朝进士祖咏都曾到过雾灵山，赞美过她的雄浑和壮美。郦道元在《水经注》中称“伏凌山（雾灵山）甚高峻，严障寒深。阴崖积雪，凝冰夏结，故世人因以名山也”。古人另称雾灵山“其山陡峻，峰峦拱列”。

顾炎武在《昌平山水记》中也称雾灵山“其山高峻，有云雾蒙其上，四时不绝”，这也可能就是称为雾灵山的原因。

雾灵山属燕山山脉，是燕山山脉的中段，其主峰歪桃峰即坐落在核心区的中央。被誉为“京东之首”。

中生代的燕山地壳运动和新生代的地壳运动，加速了山地的相对升高。自震旦纪以来即处于上升之中，使前震旦纪花岗岩和片麻岩大面积裸露地表，形成了雾灵山独特的地貌特征。

以森林景观为主体，苍山奇峰为骨架，清溪碧潭为脉络，文物古迹点缀其间，构成了一幅静态景观与动态景观相协调、自然景观与人文景观浑然一体、风格独特的生动画卷。