На восточной окраине Белозерска расположена бывшая Ямская слобода. Отсюда начинался тракт, который вел к переправе через реку Шексну в Кириллов, а затем на север, огибая Белое озеро через Крохинский посад. Эти дороги обслуживали ямщики, проживавшие в слободе. В 20-е годы XVIII века началось строительство нового каменного храма в честь святой мученицы Параскевы Пятницы. Этот храм также служит мемориалом в память о белозёрах, павших в Смутное время при защите своей земли.

Церковь святой мученицы Параскевы Пятницы была возведена в 1795 году и приписана к Троицкой, Иоанно-Предтеченской церкви. Основной храм с престолом освящён в честь мученицы Параскевы, известной как Пятница, а придел, во имя Алексея человека Божия. В советское время стены трапезной и придела были полностью разрушены. Церковь закрыли в 1928 году. В конце 1980-х годов начались реставрационные работы, которые были остановлены в 1991 году.