据南京市佛教协会介绍，定山寺始建于公元５０３年。公元５２６年，印度高僧达摩来到中国，崇佛的南朝梁武帝派使者将达摩迎至金陵（今南京）。达摩因梁武帝不能领悟自己的法言深意，于深夜不辞而别。梁武帝闻讯骑骡星夜追赶。达摩见有人追赶，便折苇渡江而去，即为“一苇渡江”。达摩渡江后便住在定山寺传法，使禅宗作为佛教中最具中国文化和本土特色的一派在中国传开，也使南京成为禅宗发祥地之一。

    定山寺毁于１９５４年的一场特大山洪。现在，定山狮子峰下仍有一处突出的崖石，被称为“达摩岩”，岩下“面壁处”留有达摩“宴坐石”，石上达摩的趺痕、掌痕清晰可辨。山脚下有“卓锡泉”，传说达摩思念故乡泉水，以锡杖卓地，泉水汩汩而出，因此得名。

    恢复后的定山寺将保留各类与达摩有关的遗迹，同时重现南朝时清雅、隽永的建筑景观。定山山顶还将修建铜殿，其中安放长达５３米的玉制卧佛。