Пензенский зоопарк, ранее известный как архиерейский сад, служил летней резиденцией для духовного владыки Пензы.

В издании «Труды Пензенской ученой архивной комиссии» (Кн. 2, 1904) упоминается, что при епископе Афанасии была приобретена усадьба покойного доктора Петерсона за городом на Верхней Пешей улице. В 1797 году она была передана ему в вечное владение, а 31 октября 1812 года дети Петерсона, Александр и Николай, продали её епископу Афанасию, Пензенскому и Саратовскому, за 4 тысячи рублей.

Из архиерейского сада также вели подземные ходы. В книге Самсонова «Подземные тайны» говорится: «Нам удалось пройти по более позднему типу подземелий, аркообразным, выложенным красным кирпичом. Подобный тоннель обнаружили рабочие при строительстве дома № 7 на улице Красной» (напротив зоопарка).

До наших дней сохранился дом № 12, который был частью усадьбы.

На территории площадью 10,5 гектаров расположены три водоема с естественным питанием, а также уникальная коллекция древесных, кустарниковых и травяных пород.

Зоопарк также интересен тем, что по его южной границе проходят остатки вала оборонительной засечной черты (Первомайский переулок).