El zoológico de Penza, anteriormente conocido como jardín arzobispal, sirvió como residencia de verano para el líder espiritual de Penza.

En la publicación "Trabajos de la Comisión Archivística Científica de Penza" (Vol. 2, 1904) se menciona que bajo el obispo Afanasio se adquirió la finca del difunto doctor Peterson, fuera de la ciudad en la calle Upper Pesha. En 1797, se le otorgó en propiedad eterna, y el 31 de octubre de 1812, los hijos de Peterson, Alexander y Nikolai, se la vendieron al obispo Afanasio, de Penza y Saratov, por 4 mil rublos.

Del jardín arzobispal también se conducían pasajes subterráneos. En el libro de Samsonov "Secretos Subterráneos" se dice: "Logramos recorrer un tipo más reciente de subterráneos, en forma de arco, revestidos de ladrillo rojo. Un túnel similar fue descubierto por los trabajadores durante la construcción de la casa n.º 7 en la calle Krasnaya" (frente al zoológico).

Hasta nuestros días se ha conservado la casa n.º 12, que era parte de la finca.

En el área de 10,5 hectáreas hay tres cuerpos de agua con alimentación natural, así como una colección única de especies arbóreas, arbustivas y herbáceas.

El zoológico también es interesante porque a lo largo de su límite sur se encuentran los restos del terraplén de la línea defensiva (calle Primorsky).