Die Kirche der Apostel Peter und Paul, die 1770 an der Stelle eines alten Frauenklosters erbaut wurde, ist ein herausragendes Beispiel für die provinzielle Architektur der zweiten Hälfte des 18. Jahrhunderts. In ihrem Erscheinungsbild verbinden sich eklektisch barocke Elemente und Formen, die aus dem 17. Jahrhundert entlehnt sind, was besonders in der volumetrisch-räumlichen Lösung des zentralen Teils mit dem traditionellen fünfkuppigen Aufbau und seiner Dekoration auffällt. Der Einfluss der Architektur der Neuzeit zeigt sich in den Abschlüssen des Vierecks und des Glockenturms, den hohen Dächern und den eleganten Zwiebelkuppeln.

Die Backsteinkirche befindet sich östlich des Kremls, im Stadtzentrum, in einem Wohnviertel. Der Grundriss des Gebäudes stellt ein Rechteck dar, das entlang der Achse Ost-West gestreckt ist, mit einer fünfseitigen Apsis im Osten, die etwas schmaler ist als das Viereck, und einem rechteckigen Speisesaal mit abgerundeten östlichen Ecken im Westen. Die zentrale Symmetrie des Plans wird durch die Verschiebung des Volumens des Glockenturms nach Norden gestört, sodass die nördlichen Wände des Speisesaals und des Glockenturms in einer Linie stehen. Der zweite Stock des Glockenturms, wo sich die Kapelle befindet, hat eine rechteckige Form mit abgeschrägten nordwestlichen Ecken und ist entlang der Achse Nord-Süd gestreckt, mit einer fünfseitigen Apsis, die sich im Osten anschließt.

Das ursprüngliche Erscheinungsbild der Kirche hat bis heute nicht überdauert. In der Mitte des 20. Jahrhunderts wurde der obere Teil des Hauptvolumens abgerissen, der zweite Stock des Glockenturms abgetragen und im Westen ein Holzbau hinzugefügt. Bis zum Sommer 2012 befand sich hier ein Museum zur Geschichte der Region.

Im Jahr 2012 wurde der Tempel restauriert. Es wurden Arbeiten zur Verstärkung des Bruchsteinmauerwerks der Fundamente, zur Abdichtung der Wände, zur Restaurierung des Mauerwerks, zur Reparatur des Daches, zum Austausch der Fenster, zur Anstrich der Fassaden, zur Gestaltung des Geländes, zur Errichtung eines Fußwegs und zur Verkleidung der Treppe mit weißem Stein durchgeführt. Die Restaurierung wurde im September 2012 abgeschlossen.

Seit Oktober 2016 wurde der Tempel der Diözese Tscherepowez übergeben, und hier wurde die Gemeinde der Kirche der heiligen Apostel Peter und Paul gegründet.