An der Stelle der ehemaligen Jamka-Siedlung, an der Kreuzung der modernen Straßen Sowetskaja und Kalinina, befindet sich die Heilig-Geist-Kirche, auch bekannt als die Kirche der Heiligen Lebensspendenden Dreifaltigkeit. Ihre Geschichte beginnt im frühen 17. Jahrhundert, als in der Mzensk-Festung die Dreifaltigkeitsgemeinde entstand. Etwa 1625 wurde eine hölzerne Kirche mit drei Altären erbaut: dem Altar der Heiligen Lebensspendenden Dreifaltigkeit, der Geburt Christi und der Heiligen Kosmas und Damian. Doch am 26. Dezember 1676 wurde das Gebäude durch ein Feuer vollständig zerstört. Bald darauf wurde an derselben Stelle eine neue hölzerne Kirche mit den vorherigen Altären errichtet.

Bis zur zweiten Hälfte des 18. Jahrhunderts war die hölzerne Kirche stark verfallen, und es wurde beschlossen, eine neue steinerne Kirche auf dem Gebiet der Jamka-Siedlung zu bauen. Dieser Ort wurde nicht zufällig gewählt, da die Fuhrleute Privilegien genossen und großzügige Spender werden konnten. Der Bau der steinernen Kirche begann 1770 und sie wurde das erste steinerne Gebäude in der Neuen Ansiedlung. Die Mittel für den Bau spendete der Kaufmann Alexei Ivanovich Inozemtsev, obwohl laut anderen Quellen es Philipp Inozemtsev war. Der Bau dauerte sieben Jahre, und 1777 fanden die ersten Gottesdienste in der Kirche statt.

Im Jahr 1841 wurde nach dem Entwurf des Architekten Visconti der Kirchturm erbaut. Er hat eine runde Form und ist mit toskanischen Halbsäulen geschmückt. In der Mitte des 19. Jahrhunderts gab es an der Kirche einen steinernen Laden und ein Waisenhaus, das mit Mitteln des Kaufmanns O. I. Soplyakov eröffnet wurde. Im Jahr 1856 lebten im Waisenhaus 12 Frauen.

Im Jahr 1935 wurde die Kirche geschlossen und das Gebäude wurde als Lager genutzt, was erheblichen Schaden an der Steinmauer verursachte. In den Jahren der Perestroika stand das Gebäude leer und wurde vandalisiert. Im Jahr 1991 wurde die Kirche der Gläubigengemeinde zurückgegeben, und 1993 wurden die Gottesdienste wieder aufgenommen. Im Jahr 1996 wurde der Speisesaal eröffnet, und 1997 begannen regelmäßige Gottesdienste im Altar des Heiligen Nikolaus von Myra.

Der Hauptaltar wurde 1999 von Erzbischof Paisij von Orjol und Liwen geweiht. Derzeit laufen in der Kirche Restaurierungsarbeiten. Im Jahr 2008 wurden neue vergoldete Kreuze installiert und die Dachrenovierung fast abgeschlossen. Es ist geplant, die Bodenfliesen zu ersetzen und die Fassaden der Gebäude zu verändern.