Церковь апостолов Петра и Павла, возведенная в 1770 году на месте старинного женского монастыря, является ярким образцом провинциальной архитектуры второй половины XVIII века. В ее облике эклектично сочетаются барочные элементы и формы, заимствованные из XVII века, что особенно заметно в объемно-пространственном решении центральной части с традиционным пятиглавием и ее декоре. Влияние архитектуры нового времени проявляется в завершениях четверика и колокольни, высоких кровлях и изящных луковичных главках.

Кирпичная церковь расположена к востоку от Кремля, в центре города, в жилом квартале. План здания представляет собой прямоугольник, вытянутый по оси восток-запад, с пятигранной апсидой на востоке, которая немного уже четверика, и прямоугольным помещением трапезной с округленными восточными углами на западе. Центральная симметрия плана нарушена из-за смещения объема колокольни к северу, так что северные стены трапезной и колокольни выстроены в одну линию. Второй ярус колокольни, где находится придел, имеет прямоугольную форму со скошенными северо-западными углами и вытянут по оси север-юг, с примыкающей с востока пятигранной апсидой.

Первоначальный облик церкви не сохранился до наших дней. В середине XX века была разобрана верхняя часть основного объема, снесен второй ярус колокольни, а с запада добавлена деревянная пристройка. До лета 2012 года здесь находился музей истории края.

В 2012 году храм подвергся реставрации. Были выполнены работы по укреплению бутовой кладки фундаментов, гидроизоляции стен, реставрации кладки, ремонту кровли, замене окон, покраске фасадов, благоустройству территории, устройству отмостки и облицовке крыльца белым камнем. Реставрация завершилась в сентябре 2012 года.

С октября 2016 года храм передан Череповецкой епархии, и здесь создан приход храма святых апостолов Петра и Павла.