双塔寺，本名“永祚寺”。只因其寺内那两座巍峨壮观，耸入云端的古塔，引人瞩目，才被世人习惯称呼为双塔寺。久而久之，真正的寺名渐不被人注视，而俗称却家喻户晓，尽人皆知。“永祚寺”之“永祚”二字，语出《诗经·大雅·既醉》中：“君子万年，水锡祚胤”句，“永祚”就是“水锡祚胤”的略写。《尔雅·释古》说：“永，长啊也；永，远也。”《说文解字》说：“祚，传也；祚，福也。”《晋书·乐府》说：“永祚，犹远祚也。”可见“永祚”一词，似有“永远传流，万世不竭”的意思。这就是寺名的来由和含意吧。 双塔寺始建于明代万历中叶，大约在明历二十五年至三十年之间（公元1597——1602年），距今 38O余年。初创之时，还不是我们今天看到的这所寺院，也没有达到现在这样的规模。那时，仅建了一座补辅太原“文运”不足的文峰塔，取名“宣文塔”，即如今偏于东南隅的那座旧塔。至于那紧靠塔而建的几间简陋寺舍，而今早已荡然无存。当时，寺名也不叫“永祚寺”，而是叫做“永明寺”。关于“永明寺”和“宣文塔”的起建原因，明万历本《山西通志》和万历本《太原府志》都曾作过明确的记载。
双塔寺现今共收藏和保护有价值的碑碣刻石 260余通。这些碑石中除一小部分是寺院原物外，绝大部分是“文化大革命”之后，从太原各个地方收集的散佚珍品。在这些碑石中，有明代的石刻珍品，名著三晋，海内知名的《宝贤堂集古法帖》180 余通；有清代的《古宝贤堂法帖》36通；有宋代大文豪苏东坡的醉笔石刻“赤壁怀古” 3通；有清代著名书家祁隽藻的“子史萃言”石刻 4通；还有记述内容别具一格的“晋溪隐君家训”碑，等等。这些古碑古碣，集清以前各代著名书法大家的墨迹宝瀚于一堂，真、草、隶、篆各种书体，无一不有，不仅为书法界和爱好书法的各界人士所珍视，也极为到此观光和游览的人们所喜闻乐见。
双塔寺“碑廊” 的最北端，镶嵌有宋代大文豪，一代书法家苏东坡的墨迹“ 赤壁怀古”刻石。这套刻石共三块，是苏武原迹的摹勒本，也是双塔寺“碑廊”众刻石中引以为重的佼佼者。据该刻石末一通的“跋文”看，该石为乾隆二十七年仲夏（公元1762年），依旧拓摹勒上石，迄今227年。兹引原“跋文”如后：
右东坡先生自书大江东去词，乃为醉后神到之笔。余家藏旧拓也。词与书并挟，莫伟劲杰之气雅，类其为人。余爱而重之，固复钩摹勒石以广所传。按先生脱御史台，狱谪黄州团练副使，前后赤壁二赋成于迁所，此词寄托略同，应亦是时所作。观其淋漓杯酒，逸兴遄飞，伸底挥毫，盎然天趣，非见道深而胸无块垒者能之乎？吁！信可爱而重也美，乾隆二十有七年壬午仲夏。西村鄂弼跋。