In Penza wurde 1980 ein Denkmalensemble geschaffen, das die historische Komposition "Verteidigungswall von Penza aus dem 17. Jahrhundert" darstellt. Zum Ensemble gehört ein Glockenturm, an dessen Fuß eine echte gusseiserne Mörserkanone steht, ein kurzläufiges Artilleriegeschütz, das an eine Kanone erinnert. Hier kann man auch eine Gedenktafel mit dem Gründungsjahr von Penza und einen teilweise wiederhergestellten Festungszaun sehen. All dies befindet sich auf den Überresten des Erdverteidigungswalls der Festung, der seit der Gründung der Stadt erhalten geblieben ist.

Im 17. Jahrhundert befand sich an dieser Stelle eine hölzerne Stadtfestung, die die Grenzen des Russischen Staates vor Angriffen der steppe nomadischen Völker schützte. Der Festungswall war Teil der Verteidigungsanlagen. Oben auf dem Erdwall verlief eine Wand aus scharf zugespitzten Baumstämmen, und an den Ecken standen Wachtürme und Beobachtungstürme. Der Wall diente bis zur ersten Hälfte des 18. Jahrhunderts zum Schutz der Festung. Vor dem Wall wurde ein Graben ausgehoben, der mit Wasser gefüllt und mit scharfen Pfählen gespickt war, auf dessen Grund eiserne Spitzen verstreut lagen, die die Beine der feindlichen Pferde verletzten.

Während des Kubanischen Pogroms wurden alle Festungen im Gebiet von Penza zerstört und ihre Verteidiger getötet. Doch die Festung Penza hielt dank ihrer Lage und dem Mut der Garnison, die mit Kanonen und Musketen bewaffnet war, stand.

Die Verteidiger der Festung hofften auf Hilfe von oben. Im Zentrum der Festung beteten sie in der Kirche vor dem Bildnis der Gottesmutter. Das Antlitz des Bildnisses war geschwärzt, aber am Morgen, als die Priester das Bildnis auf den Verteidigungswall der Stadt trugen, erhellte es sich und erfüllte die Herzen der Verteidiger mit Glauben und Hoffnung. Gefangene Kubanesen berichteten, dass sie auf dem Wall eine feurige Jungfrau gesehen hatten, umgeben von strahlenden Strahlen, wie feurige Schwerter. Die geblendeten Kubanesen, die sich gegenseitig erschlugen, zogen sich von der Stadt zurück.