Entre la principale garnison et la chambre de l'État se trouvait la trésorerie de district, construite en 1843. Elle servait à stocker et à distribuer des pièces de monnaie en cuivre, des assignats d'État, ainsi qu'à vendre du papier à en-tête. La façade à cinq fenêtres du bâtiment a été élargie par la suite, ce qui a presque doublé son volume.

Pendant la période soviétique, ce bâtiment abritait le restaurant "Neva".