La iglesia en honor a la Alabanza de la Santísima Virgen sirvió como iglesia cálida de invierno de la catedral de Prokopyevsky. El primer edificio de madera apareció en 1495. En 1672, por orden del metropolitano de Rostov, Ionas, y con los fondos del comerciante Afanasy Guselnikov, se construyó un templo de piedra de una planta con un altar en honor del santo Alexio, metropolitano de Moscú. En 1690 se añadió un segundo piso, consagrado en honor del Nacimiento de Cristo, que se conectaba con las cámaras de los príncipes mediante pasarelas de madera. Después del incendio de 1715, el templo fue restaurado en 1716 por el arzobispo de Veliky Ustyug y Totma, José, y fue consagrado en honor del metropolitano Alexio, el milagroso de Moscú. A finales del siglo XVII, la iglesia de Alexio se convirtió en parte de la Casa Arzobispal y fue transformada en iglesia doméstica arzobispal. En 1820, fue nuevamente asignada a la catedral de Prokopyevsky, y en 1821 se completó la creación del iconostasio del piso superior, en el que trabajaron Prokopy y Andrey Sokolov, Petr y Nikolai Protopopov. En 1835 se fabricó el iconostasio del piso inferior, consagrado en honor de la catedral de Juan Bautista. En 1868, después de la construcción del cálido altar de Tikhon en la catedral de Prokopyevsky, los servicios en el primer piso de la iglesia de Alexio cesaron, y este piso se destinó a espacios auxiliares. Desde 1923 hasta 1927, el edificio de la iglesia albergó el archivo provincial. En 1941, todos los locales de la Casa Arzobispal fueron destinados a un hospital, y desde 1948, aquí se encuentra un hospital para veteranos de la Gran Guerra Patria.