Храм Вознесения Господня расположен на небольшом холме у устья речки Мцны напротив Соборной горы. В XVI веке здесь был основан женский Архангельский монастырь, который прекратил своё существование в период Смутного времени.

Согласно писцовой книге Мценска 1625 года, составленной Василием Васильевичем Чернышевым и подьячим Осипом Богдановым, на этом месте находились две деревянные церкви: Благовещения Богородицы и Святого Архангела Михаила. При этом Благовещенская церковь была в ветхом состоянии. При храмах было три двора для священнослужителей и пономаря.

К середине XVII века в Мценске образовалась женская община из двух десятков стариц, которые подали прошение о возобновлении монастыря. В 1659 году митрополит Сарский и Полонский Питирим выдал грамоту на строительство монастыря церквей Архангела Михаила и Благовещения Христова. В 1662 году по его указу старица Ефросинья Ивановская была назначена строительницей девичьего монастыря, и вскоре началось возведение монастырских построек. Однако монастырь находился в гуще посада и был окружен дворами, что вызывало частые конфликты с местными жителями. В 1675 году Андрей Яковлевич Пятово, а затем Василий Чертов и другие мценские служилые люди пожертвовали монастырю свои дворовые места, что позволило расширить его территорию.

По сметной книге Мценска 1691 года в монастыре был один деревянный храм Святого Михаила Архангела. 6 мая 1695 года во время городского пожара Вознесенский монастырь полностью сгорел.

Это несчастье, вероятно, подтолкнуло игуменью Февронию к началу строительства в конце XVII века каменной соборной Вознесенской церкви с тремя престолами: Вознесения Господня, Святого Михаила Архангела и Святого Иоанна Предтечи, которое продолжалось в начале XVIII века. В монастыре также находилась деревянная церковь Михаила Архангела, разобранная после завершения строительства, и 27 келий. В 1702 году в монастыре, помимо игуменьи, было 56 монахинь. В сентябре 1744 года, возвращаясь из Киева, в Мценске побывала императрица Елизавета Петровна с наследником Петром Федоровичем, пожертвовавшая средства на постройку колокольни. В память об этом визите крест храма увенчала императорская корона.

23 апреля 1757 года монастырь снова сгорел и был восстановлен под руководством капитана Родиона Языкова подрядчиками купцами П. М. Москвитиновым и Ф. П. Иноземцевым. Тогда же его окружили каменной оградой длиной более 380 метров с воротами и тремя башнями, которые были разобраны в XIX веке. В 1764 году монастырь был закрыт и преобразован в приходскую церковь. В середине XIX века к храму пристроили каменное крыльцо по проекту мценского мещанина Александра Яхонтова.

В 1938 году храм был закрыт и использовался как клуб. Тогда же он лишился светового барабана и верхнего яруса колокольни. Во время Великой Отечественной войны фашисты превратили полуразрушенную церковь в огневую точку, и она сильно пострадала в боях.

После войны храму угрожало полное уничтожение из-за строительства шоссейной дороги Москва-Симферополь через Мценск. Его спасение стало возможным благодаря Михаилу Васильевичу Каплинскому, который, понимая бесполезность попыток защитить культовое здание, выдал его за светскую постройку XVII века. Это стало возможным благодаря утрате внешних признаков культового сооружения. Встреча Каплинского с Григорием Григорьевичем Пушкиным, потомком А. С. Пушкина, помогла убедить военных в значимости здания. Г. Г. Пушкин подтвердил слова Каплинского своим авторитетом, что в итоге спасло памятник. Каплинский добился выделения средств и материалов для реставрации здания, и в 1949 году под его руководством был проведен ремонт. Здание накрыли крышей сложной формы, и оно стало напоминать жилую постройку XVII века, войдя в краеведческую литературу как "дом боярина".

В 1992 году Вознесенскую церковь передали общине верующих, и в 1995 году храм вновь открыл свои двери.