El edificio fue construido entre 1786 y 1787 por el comerciante de Penza, Gerasim Shabonin, según el proyecto del arquitecto Yakov Ananievich Ananin de Nizhni Nóvgorod. El proyecto fue aprobado por Catalina II el 6 de febrero de 1786. En este edificio se ubicaban la administración del gobernador (gubernamental) y la cámara de tesorería, que era el órgano gubernamental del Ministerio de Finanzas. Entre 1791 y 1797, el presidente fue el poeta y dramaturgo, así como organizador del primer teatro en Penza, el vicegobernador príncipe Ivan Mikhailovich Dolgorukov. En 1865-1866, esta posición fue ocupada por el escritor satírico Mikhail Yevgrafovich Saltykov-Shchedrin.

En este edificio trabajaron memoristas como Ivan Ivanovich Meshkov, quien en 1832 creó algunos de los primeros recuerdos sobre la región de Penza, describiendo los eventos de 1774 relacionados con los pugachevistas. Su hijo, Grigory Ivanovich Meshkov, dejó "Notas sobre la ciudad de Penza", y Vasily Antonovich Insarsky escribió seis volúmenes de sus "Notas", publicadas en varias revistas. Este edificio también está asociado con el nombre del vicegobernador Alexander Mikhailovich Zhemchuzhnikov, quien fue coautor de varias obras de Kuzma Prutkov, un seudónimo colectivo de un grupo de escritores que incluía a su hermano V. M. Zhemchuzhnikov y al poeta A. K. Tolstoy.

Entre 1853 y 1854, el edificio fue remodelado según el proyecto del ingeniero gubernamental de Penza, Alexander Konradovich Shtorkh.