Покровская и Николаевская церкви, обе каменные и окруженные обширной каменной оградой, расположены неподалеку от крепости. До 1783 года здесь находился мужской монастырь, основанный в первой половине XVI века иеромонахом Пафнутием. После учреждения штатов, когда монастырские земли перешли в государственное управление, монастырь еще некоторое время существовал на собственные средства. Однако они постепенно иссякли, и в 1783 году монахи разошлись по другим монастырям, а монастырские церкви стали приходскими, включая Покровскую.

В XVI веке в Покровском монастыре были деревянная Покровская церковь и каменная Никольская с приделом Сергия Радонежского, отреставрированная в 1674 году. Несмотря на ремонт, она остается значимым памятником церковного зодчества XVI века. Покровская церковь была перестроена из деревянной в каменную в середине XVII века. При ней находились трапезная и придел святого Иоанна Златоуста, а под трапезной, хлебня и хлебодарня. На колокольне были установлены боевые часы. Церковь сгорела в 1680 году во время большого пожара и была восстановлена в 1682 году.

Особенно примечательна икона Одигитрии Божией Матери, датируемая XV или XVI веками. В 1833 году при Покровской церкви, где похоронен основатель монастыря, был устроен придел святого Пафнутия Боровского. Приход существовал и в монастырский период, а теперь в нем числится 132 мужчины и 164 женщины. К Покровской церкви 1 октября совершается крестный ход из собора.