À l'angle des rues Dvoryanskaya et Poperechno-Pokrovskaya se trouvait une maison de deux étages, appartenant à Maria Mikhailovna Kiseleva, une bienfaitrice connue de Penza. Après que son domaine a été acquis par le ministère spirituel pour la construction d'un nouveau bâtiment de la séminaire spirituelle de Penza, il a été décidé d'y installer une école modèle, ainsi que des appartements pour l'enseignant et le spirituel de la séminaire. Cependant, en 1896, le recteur de la séminaire a adressé une demande au Saint-Synode pour transformer ce bâtiment en son propre appartement, et en décembre de la même année, il a reçu l'autorisation de le faire.