根据史籍记载：佛陀涅槃后，有两颗佛牙舍利留存世间，一颗传入锡兰（今斯里兰卡），一颗传入当时的乌苌国，后由乌苌国传到于阗。五世纪中，南朝高僧“法献”游于阗，把佛牙带到中国的首都建康（今南京）上定林寺佛牙阁里，广受四方佛徒朝拜，这颗佛牙如今供养在北京西山八大处灵光寺佛牙舍利塔里。

南朝刘宋景平二年（423年）“慧觉”于南京钟山创建“下定林寺”。

南朝刘宋元嘉十六年（439年），外国高僧竺法秀（昙摩蜜多）在南京钟山紫霞湖一带建“上定林寺”。文艺评论家刘勰皈依佛门后，依止大学僧“僧祐”十余年，所著不朽巨著《文心雕龙》即完成于上定林寺。被《金陵梵刹志》列为中刹。