La seule église vieux-croyante à Penza était située à la périphérie de la ville, dans le quartier des rues modernes Kavkaz et Chevtchenko. Aujourd'hui, il n'en reste rien.

Les vieux-croyants ont commencé à s'installer dans cette région dès la fin du XVIIe siècle. Ils cherchaient refuge dans le Champ Sauvage, échappant aux persécutions du gouvernement qui les considérait en fait comme des sectaires. À la frontière de l'État de Moscou, la pression était ressentie moins intensément, et les premiers colons s'efforçaient de ne pas déranger les vieux-croyants, car ils avaient suffisamment de soucis. Avec le temps, le nombre de vieux-croyants à Penza a augmenté, et à la fin du XIXe siècle, ils étaient plusieurs dizaines de milliers. À cette époque, la communauté a obtenu la permission de créer un lieu de prière officiel. Cependant, ils n'ont pas été autorisés à construire l'église au centre de la ville, et un terrain a été attribué à la périphérie. Le temple était en bois et modeste, mais c'est ici que les vieux-croyants de Penza se rassemblaient pour leurs fêtes religieuses. Il a tenu jusqu'aux années 1920, après quoi les informations à son sujet disparaissent.

Les dernières mentions des communautés vieux-croyantes datent des années 1930. Avec l'arrivée de la politique anti-ecclésiastique, elles n'ont pas disparu, mais sont simplement temporairement passées dans la clandestinité.