远古时代时期

虎丘曾是海湾中的一座随着海潮时隐时现的小岛，历经沧海桑田的变迁，最终从海中涌出，成为孤立在平地上的山丘，人们便称它为海涌山。虎丘曾有过望海楼、海泉亭、海宴亭等胜景。

春秋至南北朝时期

春秋时期，虎丘是吴王阖闾的离宫所在。东周敬王二十四年（前496年），阖闾在吴越之战中负伤后死去，其子夫差把他的遗体葬在这里。据说葬经三日，金精化为白虎蹲其上，因号虎丘。虎丘由帝王陵寝成为佛教名山和游览胜地始于六朝。东晋时，司徒王珣及其弟司空王珉各自在山中营建别墅，东晋咸和二年（327年），双双舍宅为虎丘山寺，仍分两处，称东寺、西寺，刘宋高僧竺道生从北方来此讲经弘法，留下了“生公说法，顽石点头”的佳话和生公讲台、千人坐、点头石、白莲池等古迹。隋文帝杨坚，笃信佛教，隋仁寿年间（601年一604年）下诏各州郡建造舍利塔，并由“有司造样送往当州”，也就是附发了塔的样式，以便统一规制。虎丘历史上便有了第二座塔，位于山顶东晋王琴台故址，据古建筑专家刘敦桢考证，它只是一座方形的木塔，早已无有，非现存的以砖结构为主的八角形塔。

唐宋时期

为避唐高祖李渊祖父李虎名讳，虎丘一度改名武丘，寺名亦易为武丘报恩寺，仍分东西两寺。唐宝历元年（825年），五十四岁的白居易出任苏州刺史。

唐武宗李炎在位时，崇道辟佛，发动大规模的灭佛运动，於唐会昌五年（845年）诏令没收寺院土地财产，毁坏佛寺佛像，强迫僧尼还俗，史称“会昌灭佛”。建寺五百馀年的虎丘东西二寺当即被拆得片瓦无存。不久，佛教又得到恢复。重建的虎丘山寺合二寺为一寺，并从山下迁移到山上，逐步形成保留的依山而筑的格局。五代时期，大事修建佛寺、构筑圆林。虎丘现有的佛塔，是五代最后一年后周显德六年（959年）至北宋建隆二年（961年）的建筑。

清代

虎丘经历了一个盛极而衰的过程。虎丘最兴盛之时，为康熙至乾隆期间。虎丘于清康熙二十七年（1688年）至清康熙四十五年（1706年）先后建起了万岁楼、御碑亭、文昌阁，以及宏伟的行宫“含晖山馆”，接着又重修了大雄宝殿、千佛阁。清乾隆十五年（1750年），再次全面修整，清乾隆十九年（1754年）建千手观音殿、地藏殿，清乾隆三十八年（1773年）修塔。虎丘衰落之时，为清咸丰十年（1860年）至清同治二年（1863年）的兵火摧残。清咸丰十年（1860年），太平天国忠王李秀成自天京（南京）挥军东征，一路势如破竹，迅速逼近苏州，溃败的清军在城外枫桥、虎丘、山塘、上塘、下塘和南濠、北濠一带纵火，大火延烧三昼夜。清同治二年（1863年）虎丘又成为太平军苏城保卫战的西北前哨阵地，曾在附近修筑防御工事。战后的虎丘，殿阁楼台仅存断壁颓垣，唯有破败的云岩寺塔、二山门。清同治十年（1871年），起山寺殿宇才略有恢复，但因陋就简，规模已大不如前。清光绪十年（1884年），状元洪钧、词人郑文焯等集资于憨憨泉坡地依山势创建拥翠山庄。辛亥革命后，民国七年（1918年）吴中名士金松岑、费仲深、汪鼎丞等募建冷香阁于拥翠山庄北。此后十余年，又陆续修建了头山门、石观音殿、申公祠、三泉亭、致爽阁、可中亭等。

中华人民共和国成立后

1953年6月，苏州市设立园林管理处，并组成“园林古迹整修委员会”，接管虎丘及其他园林名胜，进行管理和维修，逐步对虎丘全面修葺。