惠山寺始建於西元423年，前身為南朝劉宋司徒右長史湛挺的曆山草堂。歷史上六經浩劫，劉宋景平年，草堂改作僧舍，稱華山精舍。梁大同三年，華山精舍改為慧山寺。曾有過多名高僧在這裏駐錫或主持，眾多名流到此一遊或寄寓。　

惠山寺在唐宋時，僧舍有1098間之多，香火很盛，寺院範圍包括愚公穀和寄暢園等地。康熙帝南巡時至惠山寺，於漪瀾堂品泉。乾隆帝南巡時休憩於秦園（即寄暢園）和竹爐山房，書寫了不少詩詞和匾額，並特為惠山寺題額。同治二年，李鴻章軍和太平軍在此地打仗，惠山寺被毀，僅存寺門匾額，寺也被改為昭忠祠。

惠山寺景區有如下古跡：唐宋石經幢、日月池香花橋、金蓮池金蓮橋、禦碑亭、聽松石床、明洪武古銀杏、龍眼泉、不二法門、碧螺泉以及羅漢泉、竹爐山房等。