桐柏山历为随州北面的屏障，西接枣阳，北连桐柏县，主峰太白顶，海拔1140米，又名凌云峰、白云山、胎簪山，以水分界，随州、桐柏县各占一半。以此峰为中心，东经元宝垛、田王寨、冠子垛、玉皇顶、鸡公山至大悟县与大别山相连。  

    历史上，江河淮济被誉为“四渎”——黄河石“母亲河”长江是“生命河”济水是“思源河”，淮河是“风水河”。四渎中，黄河、长江源头人迹罕至，发源于中原地区的淮河和济水源头便成为历代君王祭祀的场所。公元前221年，秦始皇诏令祭祀名山大川，其中就有淮河。于是桐柏山始建淮祠。历代君王为祈福消灾，对淮之神由东渎大淮之神，封到长源公、长源王。如今主峰太白顶上建有一井，称之“大淮井”。淮河从这里开始奔涌千余公里，流域面积达27万平方公里。大淮井终年丰沛，从未枯竭。唐代茶圣陆羽考察天下沏茶名泉时，将淮源之水列为“天下第九佳水”。

    因桐柏山占有淮源之灵气，所以隐士修行人曾在“天下七十二福地”中，将桐柏山列为“第四十一福地”。至清嘉庆年间，太白顶的云台禅寺便享有“南方普陀，北方云台”的盛名。这里成为中原著名的佛教胜地，名僧辈出。

    山顶有处塔林，古塔十余座，多由山石垒成。