Покровская улица, ныне известная как улица Большевиков, тянулась от реки Кур до городского выгона. На этой улице находилась деревянная Покровская церковь, построенная около 1712 года, которая существовала до 1725 года, когда она сгорела. Уже через год на этом же месте был возведен храм в честь Покрова Пресвятой Богородицы и Дмитрия Ростовского чудотворца. В 1762 году прихожане обратились к епископу Белгородскому и Обоянскому Иосафу с просьбой о строительстве новой каменной церкви на месте ветхой деревянной, используя пожертвования. В 1770 году церковь была построена и освящена 22 ноября. Эта двухпрестольная церковь существовала до 1827 года, когда прихожане попросили пристроить к ней еще два придела, во имя Тихвинской Божией Матери и для перемещения престола Дмитрия Ростовского чудотворца из трапезной, чтобы престолы располагались рядом. Также было предложено добавить колоннаду к главному церковному входу и устроить ограду вместе с караульной для сторожа. Пристройка приделов была завершена в 1827 году и освящена 20 июля.

Особой святыней Покровской церкви была древняя Феодоровская икона Божией Матери, к которой приходило множество паломников. В 1834 году при церкви были устроены два новых придела, в честь иконы Феодоровской (Костромской) Божией Матери и святителей Василия Великого, Григория Богослова и Иоанна Златоуста. Храм неоднократно улучшался благодаря средствам попечителей и прихожан. В церковном имуществе имелись серебряные царские врата, позолоченные иконостасы, драгоценная утварь, напрестольные одежды с позолотой, шитая золотом плащаница с камнями и жемчугом и другие ценности. По словам современников, к концу XIX века Покровская церковь была одним из лучших храмов. Церковь была разрушена в 1937-1939 годах.