Zur Unterscheidung vom zweiten Heiligtum Mariazell in der Steiermark wurde das 1136 gegründete Benediktinerkloster Klein-Mariazell ursprünglich "Mariazell in Österreich" bezeichnet. Im späten 12. Jahrhundert wurde die dreischiffige romanische Pfeilerbasilika errichtet. Besonders bemerkenswert sind die beiden spätromanischen Portale, die die Auseinandersetzung mit der von Kaiser Friedrich II. besonders geschätzten normannischen Kirchenbaukunst zeigen. Unter dem letzten Abt, Jakobus Pach II., wurde die Klosterkirche barockisiert (1752-1782). Die Fresken von Johann Bergl - vor allem die "Himmelfahrt Mariens" - gelten als Hauptwerke dieses Künstlers.
Nach der Aufhebung des Klosters 1782 wurden die Pfarrkirche St. Michael und der Karner links von der Stiftskirche zusammen mit einigen anderen Bauten abgebrochen. Pfarrkirche wurde nun die Stiftskirche. Auf dem Kupferstich von Georg Matthäus Vischer aus dem Jahr 1672 sind die um drei Höfe angeordneten Klosterbauten zu sehen.