该寺院起源于1126年，由僧人兴教大师在高野山上修建，1140年移到了现在的所在地——根来。
根来寺作为佛教的一大宗派——新义真言宗的中心寺院，从全国各地聚集来很多僧人前来学习教义，寺院护寺僧兵的势力也非常强大，这使得当时的统治者丰臣秀吉非常担心，1585年寺院受到了秀吉的进攻（根来攻势），大多数建筑也都受到了损坏。
在根来攻势中免遭损害的大塔是1496年建成的，高达40米，是国内最大的木制多宝塔，该塔是现存的唯一一座反映僧人弘法大师空海从唐朝带回的中国宝塔特征的塔，非常珍贵