三清山区域地层自元古宙至第四纪地层均有不同程度的出露，包括有中新元古宙的张村群、河上镇群、南华系、震旦系、古生界、中生界等。中新元古宙的张村群，分布于三清山北部地带，为洋盆岛弧型蛇绿混杂岩，岩石组合有浅变质细碧岩、石英角斑岩、火山凝灰质、泥砂质浊流沉积，混杂大量蛇绿岩块体。新元古界主要分布于三清山的北部地方，其下部为河上镇群，以浅变质的砂岩、板岩为主夹裂谷型双峰式火山岩（玄武岩、流纹岩），不整合于张村群之上；中部为南华系海相碎屑岩、冰碛泥砾岩夹灰岩；上部为震旦系矽质岩、碳酸盐岩。古生界主要分布于三清山山体周围及周边地区，寒武系以碳酸盐岩为主夹泥、矽质叶岩，底部为黑色叶岩；奥陶系以叶岩为主夹瘤状灰岩，产丰富的笔石动物化石；志留系为泥砂质碎屑岩；泥盆系为砂砾岩、石英砂岩、粉砂质叶岩，往往不整合于前泥盆系之上；石炭系与二叠系为碳酸盐岩。中生界以侏罗系和白垩系为主。

三叠系局部分布，中下部为碳酸盐岩与叶岩、上部为含煤碎屑岩且往往不整合于早期地层之上；侏罗系出露于三清山周边的中生代盆地的边缘地带，下部为浅色砂岩、中部为杂色砂叶岩并产有矽化木化石、上部为陆相火山杂岩；白垩系分布于三清山周边的中生代陆相盆地内，以红色及杂色碎屑岩系为主，下部为陆相火山碎屑岩，上部产有恐龙蛋及恐龙骨骼化石。新生界仅发育第四系，且分布局限，主要分布于沟谷凹地和平地，以冲洪积黏土、亚黏土、砂砾石层或碎石黏土层为主。

三清山的第一次大海浸发生于14亿年前的中元古宙。那时三清山地区的地壳运动正处于“地槽”沉降阶段，海水浸没达4亿年之久，沉积数千米厚的双桥山群的复理式海相碎屑岩，并夹杂有海底火山喷发物。在“晋宁运动”后，地壳开始逐渐回返上升，出水为陆，三清山地区进入相对稳定的“地台”阶段。10亿年前，三清山地区成为古南华洋中的一个岛弧，9至8.5亿年前后，洋盆消失、扬子古板块与华夏古板块碰撞，三清山地区恰处于古板块结合带。中生代以来，陆内A型俯冲与陆内伸展奠定了地质构造和地理格架，为三清山花岗岩地质地貌的形成、生物的繁衍以及人类的发展提供了优越的地质环境。约9亿年前后，扬子古板块与华夏古板块碰撞对接，并成为罗迪尼亚超大陆的组成部分，留下了珍贵的古洋壳残迹即蛇绿混杂岩带（9.68亿年）和兰闪石片岩（8.66亿年），是古板块对接和晋宁造山运动的重要见证。

8.3至8亿年前进入裂谷期，罗迪尼亚超大陆裂解，三清山位于扬子大陆板块与华南裂谷海盆之间的过渡带，形成了磨拉石和海洋复理石建造，与地壳裂谷作用半生的火山活动，产生了火山岩与熔岩。南华纪早期，区内处于溪海──陆表海的沉积环境中，以碎屑建造沉积为主；随之地球出现最严重的冰川作用──克里奥格尼冰川事件，称之为“雪球事件”出现，留下了古冰川活动的遗迹──南沱组冰碛岩。震旦纪，陆壳基本固结，气候转暖，冰雪消融，到了震旦纪末期，发生第二次大海浸，海水浸没达1.6亿年之久，一直延续到奥陶纪末期，沉积四千多米厚的浅海相砂叶岩和碳酸盐岩类，并含有三叶虫、笔石和海绵等海相古生物化石，沉积了一套浅海相泥矽质和碳酸盐建造。经奥陶纪末期的“加里东第一幕”造山运动，三清山从此完全脱离海水环境，不再接受沉积。在距今4.4亿年前的志留纪早期，虽发生第三次大海浸，但海水仅到达三清山东南角的边缘部分。2亿多年前，三清山结束了长期的海洋历史，开始进入内陆发展的新阶段。1.8亿年前，侏罗纪晚期与白垩纪，三清山区域内发生异常强烈的造山运动，即燕山期运动，并伴随有大规模的酸性岩浆浸入活动，从而奠定三清山构景的地质基础。中生代是三清山花岗岩成岩、成山的重要时期，也是花岗岩地质、花岗岩地貌、花岗岩生态的奠基时期。此后，又通过新生代的变化，才造就了现今的奇特的花岗岩景观和独特的生态系统。

三叠世印支运动之后，三清山及其相邻地区为陆内地势相对较低的复式向斜。此后，才逐渐形成今日所见的盆岭地貌格局。在中、晚侏罗世──早白垩世盆岭雏形期，由于欧亚板块与古太平洋板块相互作用，区内发生了强烈的燕山期陆内造山动动，随赣东北深断裂的陆内俯冲作用，形成了北东向三清花岗岩基，怀玉山脉开始呈挤压型“坳中隆”式低缓隆起，并逐渐发生弱剥蚀，两侧出现陆相盆地。当时，包括三清山在内的古欧亚大陆与古北美古大陆曾是相连的。

在晚白垩世盆岭伸展成型期，进入喜马拉雅期，地壳于造山后，强烈伸展，发生大规模断块作用。怀玉山脉急剧隆升，强烈剥蚀，花岗岩体暴露地表，估算剥蚀厚度约四千至五千米。山脉两侧作不均衡断陷，形成红色碎屑岩断陷盆地，北侧盆地规模较小，南侧信江断陷盆地规模大，堆积红色碎屑岩厚度二千至三千米。山体与盆地存在巨大反差，是怀玉山脉主要的形成期，欧亚古大陆与北美古大陆开始分离。在古近纪至新近纪盆岭缓变期，为地壳强烈伸展后的相对休眠期，山体剥蚀微弱，盆地萎缩，缺失沉积。在第四纪盆岭改造期，地壳作波浪状缓慢抬升，在怀玉山脉上部和近山麓地带的三清湖喀期特峰林都保留有三级夷平面，信江河谷形成三级阶地。从怀玉山山脉、山麓至信江盆地，地壳隆升幅度依次降低，同时沿部分断裂，发生差异升降作用。三清山受周边所围绕的三条正断裂控制，再次缓慢抬升，在怀玉山脉隆起的背景下，形成“隆上隆”，成为怀玉山山脉的最高峰，也是三清山峰林景观的造景时期。

三清山以无与伦比的花岗岩地貌而著称。三清山花岗岩地貌具有自身独特的特性，以形态量计可分为强烈中切割中山地貌区、强烈浅切割低山地貌区、微弱浅切割高丘地貌区、微弱浅切割低丘地貌区；而如果以花岗岩地貌景观又可分为：峰峦、峰墙、峰丛、石林、峰柱、石锥、峡谷、岩壁和造型石景等类型。这些形态各异的花岗岩奇峰，一尊尊，一座座，栩栩如生，仿佛每一座都在向世人讲述那悠久的历史和神奇的故事，让人久伫神思，不愿离去。另一种景致秀水幽谷则是由花岗岩内外地质营力作用的结果。这些幽深的深谷碧潭，多出现在地质构造断裂、节理的交汇部位。三清宫前的涵星池、清华池、清辉池，由于四周的景致天水一色，宛若天空中绚烂的彩霞，又被称为“流霞三池”。

三清山雨量丰沛，水量充足，径流发育，瀑布极多。主要的瀑布有8条，海拔标高一般为500至1000米，主要分布于山体中下部，落差一般10至30米，宽数米至数十米。三清山碧潭多与溪流、瀑布相连，澄清碧绿。碧潭面积多数十平方米，深达数米。碧潭的形成是内、外地质营力作用的结果，多出现在地质构造断裂、节理的交汇部位，由地表流水作用不断侵蚀冲刷而形成，如石鼓潭、玉女潭、五色碧玉潭等。在三清宫附近，流霞三池更是风景优美的风水宝地，使游人为其驻足。