A principios del siglo XIX, los descendientes arruinados del comerciante Kholodilov vendieron su casa y el complejo adyacente a la policía local y a la prisión del distrito. Fue entonces cuando apareció la iglesia penitenciaria de Todos los Afligidos en el recinto del complejo, ya que en esos tiempos las iglesias para los prisioneros eran algo común.

La iglesia de los Afligidos fue construida entre 1854 y 1857 en un estilo tomado de la arquitectura rusa antigua. Era un edificio bastante simpático, destacando especialmente las ventanas con kokoshniks y la hermosa cúpula de la iglesia. Junto a la pared oriental del templo había una simple campanario, ya que no se preveía una torre de campana completa en el complejo penitenciario.

Durante el período soviético, la antigua comisaría destruida se convirtió en una comisaría de milicia. El nuevo poder bolchevique no aprobaba la vecindad de la iglesia con la milicia popular, por lo que la cúpula y todos los elementos decorativos, incluidos los kokoshniks, fueron destruidos. Sin ellos y con las ventanas completamente selladas, el edificio, que ahora es utilizado por la división local de la GAI-GIBDD, ha perdido por completo su atractivo.