说到嵩山，人们首先会想到少林寺，因为少林武功和“十八棍僧救唐王”故事太深入人心了。但从历史长短这个角度看，嵩山上有许多寺庙的历史都要远远长于少林寺，中岳庙就是其中之一。中岳庙的历史可以追溯到秦代，西汉武帝时建太室阙祭祀嵩山太室山山神。山岳祭祀制度逐渐消亡后，中岳庙成为道教宫观。中岳庙依山而建，主要建筑“名山第一”坊、遥参亭、天中阁、“配天作镇”坊、崇圣门、化三门、峻极门、“嵩高峻极”坊、大殿、寝殿、御书楼沿中轴线排列。
名山第一坊
“名山第一”坊是中岳庙南起点的第一座建筑。“名山第一”坊始建于清顺治年间，当时为木构，清末时损毁。1942年时在坊址处建中华门。2000年，鉴于中华门的形制与中岳庙不甚协调，将其拆除，并重建“名山第一”坊。眼前的“名山第一”坊四柱三门七楼，庑殿顶，覆黄色琉璃瓦。
遥参亭
遥参亭起于高台，八角重檐攒尖顶，覆黄色琉璃瓦，是前来祭拜太室山山神的人祭拜开始的地方。因祭拜的中心殿堂还在远方的山上，故曰：遥参。遥参亭的亭基为原构，上层建筑为2002年重建。
天中阁
天中阁是中岳庙的正门，过天中阁才算正式进入中岳庙。天中阁为城楼式，城台部分辟有三个拱圈式门洞，中间门洞上方嵌“中岳庙”石额。城楼部分面阔五间，重檐歇山顶，覆黄色绿剪边琉璃瓦，顶层檐下悬“天中阁”匾额。
配天作镇坊
“配天作镇”坊又称“宇庙坊”，四柱三门三楼庑殿顶，覆黄色琉璃瓦。明间书坊额“配天作镇”，两次间分书“宇庙”和“俱瞻”。在中国传统神话中，“五岳”的山神分别为金、木、水、火、土，而中岳嵩山为土神，“配天作镇”的意思就是以地（土）配天。
崇圣门
崇圣门面阔五间，两层结构，单檐歇山顶，覆灰筒瓦，原为中岳庙的第二道门，现在辟为财神殿。
化三门
化三门是中岳庙的第三道门，面阔五间，单檐歇山顶，覆灰筒瓦。“化三”一词源自道教的“一气化三清”之语。
峻极门
峻极门是中岳庙核心院落的大门，面阔五间，单檐歇山顶，覆绿色琉璃瓦。因两次间各塑有一尊高达4.5米的护法天将而俗称“将军门”。该门始建于金大定年间，明崇祯年间被毁，清乾隆年间重修。
嵩高峻极坊
“嵩高峻极”坊又称迎神门，为清代遗构，四柱三门三楼，庑殿顶，覆黄色琉璃瓦，明间书坊额“嵩高峻极”。相传，汉武帝驾临嵩山祭山时，山谷中突然响起“万岁”的声音，武帝以为祥瑞，称之为“嵩呼”。这也是后来“山呼万岁”的来历。
峻极殿
峻极殿为中岳庙的主体建筑，面阔九间，重檐庑殿顶，覆黄色琉璃瓦，殿前出陛。殿内正中神龛内供奉中岳大帝，龛外左右为镇殿将军方弼、方相。这方弼、方相就是《封神演义》中救王子殷郊、殷洪逃出朝歌的那两位。神龛上方悬乾隆御笔“嵩高峻极”匾额。峻极殿最精彩的部分是它的蟠龙藻井，雕刻精美，巧夺天工。
寝殿
寝殿面阔七间，单檐歇山顶，覆黄色琉璃瓦，是中岳大帝和帝后日常起居的地方。该殿在明成化十六年（1480年）、清乾隆元年（1736年）和2002年三次重建。
御书楼
御书楼是中岳庙最北的建筑，原称黄箓殿，面阔十一间，高两层，单檐歇山顶，为中岳庙的藏经、存宝之所。“黄箓”指道士的道场。御书楼始建于明万历年间，现存建筑为民国年间所建，其形制与原建已经大有不同。
