少林寺始建於北魏太和十九年（495年）。32年后，印度名僧菩提达摩来到少林寺传授禅宗。经过一段的历史演变，少林寺发展成驰名中外的大佛寺，博得天下第一名刹的称号。

少林寺在明朝，少林寺到达鼎盛时期，从清朝开始衰落。1928年军阀混战，军阀石友三火烧少林寺，把天王殿、大雄宝殿、法堂和钟楼等主要建筑统统毁於一炬；许多珍贵的藏经、寺志、拳谱等化成灰烬。

现在还存在的建筑有山门、立雪亭、千佛殿等，其他建筑正在陆续恢复中。

千佛殿内供毗卢佛铜像，因此亦叫毗卢殿。殿内砖地上还保存著20多个直径约4.5厘米的洼坑，是以前寺僧练拳习武时的脚坑遗迹。