Согласно преданию, в XVI веке на месте нынешнего собора находилась Пятницкая церковь. В 1678 году в переписной книге упоминается Никитский храм на этом месте. К концу XVIII века церковь обветшала, и было принято решение о строительстве нового храма. В 1773 году орловский купец Константин Семенович Пастухов, получивший исцеление от болезни после молитвы перед чудотворной Ахтырской иконой Божией Матери, решил построить каменный храм в ее честь на Пятницком погосте. Получив благословение, в том же году началось строительство, и в 1775 году церковь была освящена.

В 1876 году храм расширили, добавив придел в честь святого великомученика Никиты. Город разросся, и церковь с кладбищем оказалась в городской черте, кладбище закрыли, а храм стал приходским. В 1803 году были проведены работы по поднятию сводов главного алтаря и освящению нового придела в честь Казанской иконы Божией Матери. В 1823 году построили высокую четырехярусную колокольню, которую в 1870 году соединили с храмом по проекту архитектора И. П. Лутохина. В 1875 году вокруг церкви возвели ограду, уничтоженную перед Великой Отечественной войной. Причт храма состоял из двух священников, диакона и двух псаломщиков. К приходу относились 275 дворов и более 1000 человек. При храме были два церковных дома и свечная лавка на рынке. В октябре 1897 года благодаря церковному старосте М. М. Борзенкову открылась церковно-приходская школа для сорока детей, обучение в которой было бесплатным. Первым заведующим стал священник Василий Леонов.

После революции храм и его прихожане пережили тяжелые времена. Во время изъятия ценностей был конфискован серебряный крест, древняя святыня храма. Ахтырская церковь была закрыта 3 февраля 1938 года и использовалась как зернохранилище. 15 марта 1942 года, во время оккупации Орла, храм вновь открыли и больше не закрывали. При освобождении Орла в 1943 году на колокольне храма был водружен один из первых красных флагов.

В 1962 году храму был присвоен статус кафедрального собора. В 1986 году проведены реставрационные работы: стены и потолок расписаны библейскими сюжетами, пол выложен мрамором, иконостас украшен резьбой и позолотой. Восстановлена форма куполов и шпиля колокольни, произведены работы по восстановлению кирпичной кладки. Главки храма и шпиль колокольни покрыты медью и позолочены.

Среди святынь храма, чудотворная Ахтырская икона Божией Матери и иконы с частицами мощей святого великомученика Никиты и священноисповедника Георгия Косова. В храме некоторое время находились мощи святителя Тихона Задонского. В 1991 году они были возвращены в Задонский монастырь, но кисть святителя осталась в храме и почитается как одна из главных святынь. Для нее была написана икона и изготовлены ковчег и киот.

В июне 2008 года Смоленский собор был определен как кафедральный собор епархии, но за Ахтырским собором также закреплен статус кафедрального собора.