Главной достопримечательностью бывшего села Весёловка была Введенская церковь, расположенная на улице Пермской, 2а. Однако сто лет назад она выглядела иначе.

Храм был построен по распоряжению Синода. Церковная иерархия и структура напоминают светскую: в гражданской жизни Пенза делилась на районы, а в церковной, на приходы. Весёловка относилась к Введенскому приходу, и жители ходили молиться в храм на современной улице Куйбышева. Это было крайне неудобно, так как церковь находилась слишком далеко от деревни. Поэтому Синод решил построить отдельный храм. Проект здания в старинном русском стиле разработал архитектор Алексей Эренберг, а первый кирпич в фундамент заложили 27 июня 1899 года. Строительство затянулось, и церковь открылась только в 1906 году. Первый престол освятил епископ Тихон Никаноров, которого позже возвели в сан священномученика. Во время Гражданской войны Тихона повесили по приказу атамана Шкуро на воротах Благовещенского монастыря в Борисоглебске. Местные верующие очень почитают его.

Церковь не пережила сталинскую эпоху. В 30-е годы прошлого века храм закрыли, и долгое время здесь размещалось зернохранилище. Церковь вновь открылась только в 1991 году.