据《金陵梵刹志》记载：全国佛寺“轮藏”之祖——傅（翕）大士即在方山定林寺建轮藏并广为弘法，（史载傅翕与禅宗初祖菩提达摩、宝志共尊为“梁朝三大士”）。同时，南朝梁武帝萧衍时，来自天竺的达摩祖师留在建康期间，曾到方山定林寺举行佛事活动，方山尚保留有“达摩崖”等历史古迹，为禅宗之祖达摩偃坐之地，故此，在佛教界有“南定林、北少林”之说。

南宋孝宗乾道时（1164～1173年），高僧善鉴将“上定林寺”匾额移至方山，重建定林禅寺，与南京钟山上定林寺在子午线上南北正对，同时建定林寺塔，此塔已有800余年历史，专供佛像，不能上人。

据清同治《上江两县志》称：宋乾道间，善鉴和尚因钟山定林寺废，便募资建寺于此，沿袭寺名。塔建于乾道九年，高十三米。底层特高，南面开门，另三面各有佛龛，塔刹和腰檐已毁。此后，远近信徒、施者接踵而至，佛殿﹑法堂﹑僧房次弟建成。