Исторический храм на пещерах был освящен в 1903 году в честь иконы, которая стала известна в 1888 году в Санкт-Петербурге. Когда молния ударила в часовню у стеклянного завода, внутреннее пространство здания пострадало от огня, но образ Божией Матери остался невредим. Монеты из разбившейся кружки с пожертвованиями прилипли к иконе. Вскоре люди начали получать исцеления от болезней. В 1897 году игумен Михаил, настоятель Бузулукского монастыря, заказал список с этой иконы. Образ был встречен большим количеством народа и тоже стал известен чудотворениями, получив название иконы Божией Матери «Всех скорбящих Радости» с грошиками. Храм в честь этой иконы был устроен на пещерах, выкопанных в 1820-е годы.

После открытия монастыря в пещерах, представляющих собой подземные коридоры и земляные кельи, жили старцы. Лев Толстой специально приезжал из своего бузулукского имения, чтобы встретиться с одним из них. Это посещение отражено в его переписке с женой и воспоминаниях детей. После закрытия монастыря храм был разрушен, а пещеры, вероятно, взорваны, что подтверждается характером разрушений. Возрождение монастырских традиций в наши дни происходит на базе прихода Спасо-Преображения в Бузулуке, где клир состоит из монашествующих. Под руководством благочинного Леонида Антипова, ныне архиерея Бузулукской епархии, Преосвященного Алексия и игумена Виталия Климова в конце 1990-х годов начались работы по расчистке пещер. В 2001 году был заложен новый храм, строительство которого завершилось в 2007 году. Освящение храма иконы Божией Матери «Всех скорбящих Радости» прошло 5 августа 2012 года. Спасо-Преображенский храм был восстановлен у стен старинного монастыря, который теперь является женской колонией. Сегодня в храме проводятся еженедельные богослужения.