远古时代，虎丘曾是海湾中的一座随着海潮时隐时现的小岛，历经沧海桑田的变迁，最终从海中涌出，成为孤立在平地上的山丘，人们便称它为海涌山。“何年海涌来？霹雳破地脉，裂透千仞深，嵌空削苍壁。”宋人郑思肖的诗句形象地道出了虎丘的由来。如今虎丘虽已远离大海，人们依然能感受到海的踪影，海的信息。人们来到虎丘，未踏进头山门，就看到隔河照墙上嵌有“海涌流辉”四个大字；进山门后，一座石桥跨过环山河，桥被称作“海涌桥”；上山路旁的一些怪石，圆滑的石体是因为海浪冲刷而致；憨憨泉因为潜通大海，又被称作“海涌泉”；拥翠山庄月驾轩内立有清代学者钱大昕书写的“海涌峰”石刻。虎丘曾有过望海楼、海泉亭、海宴亭等胜景。在历代文人笔下，更可见虎丘与海的渊源，“海当亭两面，山在寺中心。”（白居易）“宝刹近城郭，峰从海涌来。”（顾瑛）“尝疑海上峰，涌起自天外。”（王鏊） 

   虎丘的人文历史可追溯到二千五百年前，和苏州古城一样历史悠久。相传，春秋时期，这里就是吴王阖闾的离宫所在。公元前496年，阖闾在吴越之战中负伤后死去，其子夫差把他的遗体葬在这里。据《史记》等书记载，当时征调十万军民施工，并使用大象运输，穿土凿池，积壤为丘；灵柩外套铜椁三重，池中灌注水银，以金凫玉雁随葬，并将阖闾生前喜爱的“扁诸”、“鱼肠”等三千柄宝剑一同秘藏于幽宫深处。据说葬经三日，金精化为白虎蹲其上，因号虎丘。”宋代苏州州学教授朱长文则认为，虎丘因形似蹲虎而得名，并说：“然观其岩壑之势，出于天成，疑先有是丘，而阖闾因之以葬也。”清乾隆帝弘历也表示赞同：“本来岩壑擅天成，虎踞偏称金气精。”相传，吴国灭亡后的数百年间，越王勾践、秦始皇、东吴孙权，曾先后来次探宝求剑，结果都一无所获，徒劳而返。