這對古塔，遠望像兩個孿生姊妹，亭亭玉立，挺拔秀美，矗立在山口兩旁，人稱之為「一對千年的西夏美女」。因為年代久遠，相傳的故事頗多，人們還送給它們許多美麗的名字如：「山神塔」、「海神塔」、「相望塔」、「夫妻塔」、「飛來塔」等等。
根據史料記載，西夏開國皇帝李元昊，通曉浮圖之學，所以境內佛教盛行，即使身處戰亂時期，仍不忘興辦佛事，其在賀蘭山拜寺口修建寺院，作為「避暑宮」。這是為中國最大的西夏皇家寺廟建築遺址群，隨寺廟而建立的雙塔，是避暑宮建築的一個組成部分，西夏輝煌的歷史給人留下了許多神秘色彩，其在建築方面的精湛技藝也令後人讚嘆。
明朝萬曆年間修訂寧夏《萬曆朔方新志》一書，其卷首《寧夏鎮北路圖》中，在拜寺口就標示有雙塔的存在。根據發現的文物推測，雙塔於元代時期曾經裝修彩繪，進行塔剎的修繕，粉妝了雙塔壁面，但塔身則未有大規模的修筑。「遺址尚存，人於朽木中嘗有拾鐵釘長一二尺者」，經專家以碳-14測定雙塔遺址之朽木，認為是西夏中晚期所建。而西塔則早建於東塔。
拜寺口雙塔建立在向陽的山坡上，相距約百米，東西對峙，皆為平面八角形十三層、「密檐式樓閣磚塔」 建築。雙塔沒有基座，底層較高，由平地直起。塔身華麗絢麗多彩，每層均以各色琉璃瓦來裝飾。
除第一層之外，其餘各層塔身的八面正中央，皆砌有一淺的長方型壁龕，龕內設置一尊佛像。分別雕塑著護法金剛十六尊，僧人二十四位，羅漢十六尊等。在眾多的造像中，有拄杖倚立的老者，有身著法袍的羅漢，以及神態瀟灑的壯漢。他們有的腰繫長帶，項挂瓔珞，或手執法器等神態各異。千姿百態，或坐或站，動作自然，展露出濃郁的生活與宗教色彩。
二層以上，每層每面都飾有兩個直徑30厘米的圓形磚雕彩塑獸面，左右並列。獸面口中銜著紅色彩繪連珠流蘇七串，呈八字形下垂狀。獸面獠牙外齜，怒目圓睜，形態威猛可怖。其形象奇特誠屬鮮見。每個佛龕的左右上方，塔身兩面的磚折處，又各雕飾有一尊佛像。塔壁的轉角處則有「寶珠火焰」、「雲托日月」的彩塑圖案。這些造像和裝飾圖案，佈滿了整個塔身壁面。顯示了西夏建築精湛的彫刻技巧。
塔頂剎座是一排排施以彩繪的上仰的蓮花瓣型組成，剎座下平座八角轉角處，塑有磚雕蹲踞狀護塔力士像，力士裸體昂頭挺腹，手托蓮座，栩栩如生。塔頂，承托著13層相輪作為，「十三天」寶剎。外檐飾以圓形獸頭構件，檐下每面並列裝飾兩個磚雕獸面，十分威猛。
東塔，磚筑八角形13層，高達45米，從底層到塔頂層收分不大，塔身外觀呈直線錐體，外形挺拔，剛直有力，典雅秀麗。每邊長2．5米，第一層塔身較高，底層每邊長2.93米，無塔基座，第一層層塔身為素面。
第二層以上檐與檐之間的塔身高度逐步依次縮短，越往上越逐層加密。呈現密檐式的顯著特點。每層由疊澀棱角牙和疊澀磚構成腰檐，腰檐外挑。塔檐的轉角處，又雕有蓮瓣。這些磚雕，都是十分珍貴的藝術珍品。
正南方辟有一券門，有一條寬50厘米、高2米的券道，可進入空心筒狀塔室。塔室正面牆壁上有彩繪壁畫。塔室內第一層高3米，為圓木板閣樓。有70乘50厘米的方孔，並採用厚壁空心式木板樓梯形結構。遊客沿梯而上，登上最高層可遠眺銀川平原。
西塔比東塔稍顯得豐滿、粗壯、高大、古樸一些，外形和高度與東塔相似。磚筑14層，外形整體呈拋物線狀，殘高41米，底層邊長 3.1 米。有一高1．5米、寬40厘米的券門，可進入直徑2．5米的圓形塔室。正面牆上有金色菩薩像彩繪壁畫，旁繪有各色人物、器皿，色澤光彩奪目。
西塔的第十層正東的平座上，置有一完整的綠色琉璃套獸。正東面第十二層佛龕內右側上方，發現有西夏文遺蹟。塔頂佛龕內有一根六個棱面、直徑約30厘米的木質中心剎柱，柱上有梵文字以及墨書的西夏文題記。剎座的穹室內則發現有梵文題記11條、西夏文題記 6條、彩膠漆絹佛畫2幅、喜吉金剛像2尊，元代中統交鈔2張、銀幣1枚、絹紙供花2束、小供桌1張、為研究西夏和元代的佛教藝術，提供了寶貴的線索。
明清時期，銀川地區地震頻繁，尤以清乾隆三年十一月二十四日(西元1739年1月3日)發生的八級以上地震尤巨，附近的建築均被震毀，可是雙塔卻傲然矗立於崇山峻嶺之中，充分體現了西夏建築的高超技術。
雙塔既有中原磚塔的建築特色，又有西夏藏傳佛教的風格，集彫刻、繪畫以及佛塔建築藝術於一體。雙塔造型精美，雄偉壯觀是中國佛塔建築史上的藝術珍品。
早在遠古時代，西夏這個集高山、綠洲、大漠、黃河於一體的邊陲重地，創造了許多輝煌燦爛的文化。屹立於賀蘭山下的拜寺口雙塔及寺廟建築群遺址，始終見證著一個曾經輝煌而又神秘的西夏王朝的昔日盛景和精湛的建築技藝。
