En octubre de 1822, el gobernador civil de Perm, Kirill Yakovlevich Tyufyaev, se dirigió al Ministerio del Interior con la solicitud de permitir la construcción de un segundo piso sobre el cuartel de prisioneros del castillo penitenciario en Perm. Esto era necesario, ya que el antiguo edificio ya no podía albergar a todos los prisioneros, cuyo número seguía creciendo. El gobernador planeaba ubicar en el segundo piso no solo espacios adicionales para los prisioneros, sino también un hospital y una iglesia, para que los prisioneros no fueran privados de apoyo espiritual y orientación moral. Junto con el informe, se enviaron al ministerio un plano y un presupuesto de construcción, preparados por el arquitecto provincial Vasiliev. Tras recibir la aprobación del Ministerio del Interior y del Santo Sínodo, las autoridades provinciales comenzaron la reconstrucción del castillo penitenciario. La sociedad de Perm participó activamente en la construcción de la iglesia penitenciaria: muchos funcionarios y empresarios donaron varios miles de rublos, el empresario Yartsev adquirió en Moscú vestimentas y utensilios eclesiásticos, y en la fábrica de Suksun se fundieron tres campanas de cobre. En 1829, se completó la construcción y el obispo de Perm y Ekaterimburgo, Meletiy, consagró la iglesia en nombre de la Madre de Dios 'Alegría de Todos los Afligidos'. Se designó un personal permanente para la iglesia, que incluía un sacerdote y dos asistentes, quienes recibían un salario del Comité Penitenciario de Perm.

En 1878, durante la reconstrucción del castillo penitenciario, la iglesia fue reconstruida con la ayuda del anciano de la iglesia, el ciudadano honorario Petr Georgievich Shavkunov. La iglesia de la prisión provincial funcionó hasta 1918. El decreto del SNK 'Sobre la separación de la iglesia del estado y la escuela de la iglesia' prohibió la realización de rituales religiosos y la colocación de imágenes religiosas en edificios estatales y públicos. En mayo de 1918, el rector de la iglesia de la Madre de Dios de los Afligidos, el protoierey Andrey Znamenksy, recibió una notificación de la Inspección Penitenciaria de la Gobernación de Perm de que todos los clérigos que servían en el departamento penitenciario serían despedidos. El personal de la iglesia penitenciaria fue disuelto y el pago de salarios se detuvo, aunque se permitió al sacerdote continuar con los servicios religiosos a cambio de una compensación acordada con el departamento penitenciario, siempre que la iglesia se mantuviera con fondos propios. En la época soviética, la prisión en Razgulyae y la iglesia asociada fueron completamente reconstruidas. Actualmente, en el edificio de la antigua prisión provincial se encuentra un centro de detención preventiva.