Дворец культуры имени Дзержинского стал культурным центром города лишь в 20-х годах прошлого века, хотя изначально это здание было Богоявленской церковью. Храм был построен в 1879 году на месте старой Воскресенской церкви, которая пришла в упадок. Основное финансирование строительства обеспечил тамбовский предводитель дворянства Сергей Башмаков, пожертвовавший 20 тысяч рублей, что сегодня эквивалентно почти 21 миллиону. Внутреннее убранство храма включало лепнину и живопись, а также знаменитую икону Христа Спасителя, украшенную позолотой и серебром 84-й пробы. Для иконы был изготовлен специальный ковчег из липового дерева стоимостью 750 рублей. Богоявленская церковь выделялась среди других храмов города своей высокой колокольней, которая достигала 40 метров и была видна даже с правого берега реки Суры. Однако в 1891 году во время сильного урагана колокольня обрушилась на Ярмарочную площадь, едва не причинив вред прохожим. В то же время строительные леса вокруг башни стали популярной смотровой площадкой. В 1891 году, когда через вокзал Пензы-I проезжал будущий император Николай II, люди, рискуя жизнью, забирались на вершину башни, чтобы увидеть его поближе.