Au 18ème siècle, les portes postales de Penza se trouvaient à la périphérie, près de la future rue Karakozov. C'est ici que commençait un long et dangereux chemin vers Moscou. En 1981, un monument inhabituel a été érigé à cet endroit, comprenant un obélisque en pierre pyramidal, une cabane de garde et une barrière, en mémoire de la poste. Autrefois, il y avait une véritable station postale avec une auberge et une écurie, où toute la correspondance de la ville était rassemblée pour être ensuite distribuée par des coureurs à travers le pays. Selon les règles, ces postes devaient être situées tous les 40-50 verstes, mais parfois les cochers pouvaient parcourir beaucoup plus sans croiser personne. Ces stations servaient également de lieux de repos : les voyageurs pouvaient se reposer, et les cochers changer de chevaux. La correspondance officielle était transportée dans des carrosses spéciaux, attelés en trio. Les messages urgents étaient livrés sans arrêts : à chaque station, le coureur montait dans un nouveau diligence et poursuivait son chemin. Dans ces cas, les cochers travaillaient en paire, se relayant. Au 19ème siècle, il était prévu que la rue Moscou se termine ici, initialement créée comme route vers Moscou. Cependant, en 1874, la construction de la station Penza-I et le chemin de fer ont séparé cette partie de la ville du centre, et les plans architecturaux n'ont jamais été réalisés.