大兴善寺位于西安长安路西侧的兴善寺西街，相传寺建于晋武帝司马炎泰始至太康年间(公元265年—公元289年)，距今约1600多年，初名“遵善寺”。开皇二年(公元582年)，隋文帝杨坚作新都于长安，都城曰“大兴城”，因寺在京城“靖善坊”，于是取都城和坊名中各一字，改名“大兴善寺”。

　　隋唐时代，长安佛教盛行，国外来长安传教及留学的僧侣，多住在此寺翻译佛经和传授密宗。隋朝开皇年间(公元581年—公元600年)，印度僧人那连提黎耶舍、阇那崛多和达摩发多先后来长安，住在此寺内翻译佛教经典，计五十九部二百七十八卷，同时传授“密宗”。到唐玄宗李隆基开元四年至八年(公元716—公元720年)，有号称“开元三大士”的印度僧人善无畏三藏、金刚智及不空等也先后来此传授密宗。不空和尚是北印度婆罗门族人，十五岁出家，拜印度高僧金刚智为师，二十岁受具足戒。

　　不空和尚在唐玄宗、肃宗、代宗时被尊为灌顶国师。唐德宗建中二年(公元781年)为不空和尚刻立了“唐大兴善寺大辩正广智三藏国师之碑”，记叙了不空的事迹，是西安碑林的唐代名碑之一。碑文记载，不空“大士右我三宗(即玄宗、肃宗、代宗)道为帝师”，足见其在唐代地位之高和时间之久。代宗封不空为“特进大鸿胪卿，加号大智三藏”。当不空病重“不起”时，又加封“开府仪同三司、肃国公”。大历六年(公元771年)夏六月，不空圆寂于大兴善寺，代宗悲痛异常，下令“废朝三日”，并“以舍利起塔”于大兴善寺。因此，大兴善寺不仅是中国佛教密宗的发祥地，也是中印文化交流史上值得纪念的一座寺院。

　　这一寺院的变迁，大抵在唐会昌年间(公元841—公元846年)武宗灭佛时被拆毁，唐以后历代曾作修复。明永乐年间(公元1403—公元1424年)僧人云峰禅师重修殿堂和钟楼，稍获旧制；清顺治五年(公元1648年)憎人鼓斋又修建了方丈、大雄等殿；清康熙二十四年(公元1685年)，憨休和尚重修山门及大佛殿，三十年(公元l691年)约参和尚募修方丈殿廊及钟楼等。到了清同治年间(公元1862公元1874年)，因回民起兵，寺院建筑多遭焚毁，仅存钟楼、鼓楼及前门。

　　1956年人民政府拨款大规模整修，使寺院面貌焕然一新，并将其列为省级重点文物保护单位。现有山门、钟鼓二楼、金刚殿、大雄殿、观音殿、方丈殿及东西禅堂等建筑，是西安市现存历史最悠久的佛教寺院。