惠山寺始建於西元423年，前身为南朝刘宋司徒右长史湛挺的历山草堂。历史上六经浩劫，刘宋景平年，草堂改作僧舍，称华山精舍。梁大同三年，华山精舍改为慧山寺。曾有过多名高僧在这里驻锡或主持，众多名流到此一游或寄寓。　

惠山寺在唐宋时，僧舍有1098间之多，香火很盛，寺院范围包括愚公谷和寄畅园等地。康熙帝南巡时至惠山寺，於漪澜堂品泉。干隆帝南巡时休憩於秦园（即寄畅园）和竹炉山房，书写了不少诗词和匾额，并特为惠山寺题额。同治二年，李鸿章军和太平军在此地打仗，惠山寺被毁，仅存寺门匾额，寺也被改为昭忠祠。

惠山寺景区有如下古迹：唐宋石经幢、日月池香花桥、金莲池金莲桥、御碑亭、听松石床、明洪武古银杏、龙眼泉、不二法门、碧螺泉以及罗汉泉、竹炉山房等。