南山寺自光绪28年创立至今已近百年历史，据说当年有一位学者名叫林扬，因识地理认为该处文山秀气风景甚佳，唯水口相冲，山形似剑，居住人易生冲突争斗，建议造寺以制化，所以当时区长杨心亮先生出面召起信者，发善劝募造了一间草庙，并聘请木栅指南宫孚佑帝君莅位显化威灵。

然数年后遇一火劫将草寺烧毁，但仙公神像丝毫未损，信众观之乃认为神恩广大慈悲显化，于是重盖瓦屋，又经年累月，瓦屋遭风蚁腐害，于民国68年再扩建，成为目前庙貌庄严的南山寺，本寺位于渔光知性之旅路径中，庙前有许多茶园。