В дореволюционной Пензе было множество разнообразных храмов, что удивляло даже путешественников. Помимо церквей, в городе имелись и часовни. Одна из самых почитаемых располагалась за 15-м домом на улице Кирова.

История этой часовни началась с небольшого источника, который бил из-под горы, где сейчас находится смотровая площадка. В 1765 году бывший монастырский крестьянин Фёдор Бочкарёв решил построить свою церковь и воздвиг рядом с ручейком небольшую деревянную часовню. Согласно воспоминаниям современников, вскоре начали происходить настоящие чудеса. Первые случаи исцеления датируются 1831 годом. Летом того года в городе разразилась эпидемия холеры, и, как утверждают, во сне к жене титулярного советника Параскеве Мазыриной явился ангел, который велел молиться на икону Живоносного источника. Женщина последовала совету, и вскоре все больные исцелились. С тех пор часовня стала очень почитаемой. Епархиальное руководство даже выделило средства на её благоустройство. В середине 19 века часовню перестроили из дерева в камень, добавили трапезную на 250 человек и расширили приделы. Жители Пензы считали местный родник святым и набирали оттуда воду вёдрами.

Часовня обветшала и окончательно разрушилась в середине прошлого века. Исчез и сам источник, вероятно, пересохнув.