Die historische Kirche in den Höhlen wurde 1903 zu Ehren der Ikone geweiht, die 1888 in St. Petersburg bekannt wurde. Als ein Blitz in die Kapelle der Glasfabrik schlug, wurde der Innenraum des Gebäudes durch Feuer beschädigt, aber das Bild der Gottesmutter blieb unversehrt. Münzen aus dem zerbrochenen Spendenbecher klebten an der Ikone. Bald begannen die Menschen, Heilungen von Krankheiten zu empfangen. 1897 bestellte der Abt Michael, der Leiter des Buzuluk-Klosters, eine Kopie dieser Ikone. Das Bild wurde von einer großen Menschenmenge empfangen und wurde ebenfalls für seine Wunder bekannt, erhielt den Namen der Ikone der Gottesmutter "Freude aller Trauernden" mit den Groschen. Die Kirche zu Ehren dieser Ikone wurde in den Höhlen eingerichtet, die in den 1820er Jahren gegraben wurden.

Nach der Eröffnung des Klosters in den Höhlen, die aus unterirdischen Korridoren und Erdkellern bestehen, lebten dort die Alten. Leo Tolstoi kam speziell aus seinem Buzuluk-Anwesen, um einen von ihnen zu treffen. Dieser Besuch wird in seiner Korrespondenz mit seiner Frau und in den Erinnerungen seiner Kinder erwähnt. Nach der Schließung des Klosters wurde die Kirche zerstört, und die Höhlen wurden wahrscheinlich gesprengt, was durch die Art der Zerstörungen bestätigt wird. Die Wiederbelebung der Klostertraditionen in der heutigen Zeit erfolgt auf der Basis der Gemeinde der Spaso-Transfiguration in Buzuluk, wo der Klerus aus Mönchen besteht. Unter der Leitung des Dekans Leonid Antipov, der jetzt Bischof der Buzuluk-Diözese ist, des Hochwürdigen Alexius und des Abtes Vitali Klimov begannen Ende der 1990er Jahre die Arbeiten zur Räumung der Höhlen. Im Jahr 2001 wurde eine neue Kirche errichtet, deren Bau 2007 abgeschlossen wurde. Die Weihe der Kirche der Ikone der Gottesmutter "Freude aller Trauernden" fand am 5. August 2012 statt. Die Spaso-Transfiguration-Kirche wurde an den Mauern des alten Klosters wiederhergestellt, das jetzt eine Frauenkolonie ist. Heute finden in der Kirche wöchentliche Gottesdienste statt.