История храма во имя Архангела Михаила начинается с XII века, когда город Карачев впервые упоминается в Ипатьевской летописи 1146 года. Как и многие древние города Руси, Карачев был защищен земляными валами, на которых стоял деревянный кремль, служивший резиденцией Карачевских князей. Одним из храмов кремля был храм Святого великомученика Георгия, вероятно разрушенный в Смутное время. После восстановления города на его месте построили деревянный храм во имя Архистратига Михаила, который просуществовал около ста лет и был заменен каменным в середине XVIII века.

Изначально в храме был один престол в честь Архистратига Михаила. В 1786 году появился первый придел в честь Страстной иконы Божией Матери, в 1809 году, второй придел во имя Святителя Димитрия Ростовского и колокольня. В 1844 году карачевский купец Николай Бочаров устроил третий придел в честь иконы Божией Матери «Взыскание погибших», а в 1848 году церковный староста Константин Писковитин построил четвертый придел во имя Великомученика Георгия Победоносца. В 1900 году вместо разобранной колокольни возвели деревянную звонницу. После переворота 1917 года храм некоторое время оставался действующим, но был закрыт в 1938 году, а перед войной разобрали звонницу. В 1941 году, во время немецкой оккупации, храм вновь открыли. В 1961 году его снова закрыли советские власти, а в 1973 году здание передали детской спортивной школе и затем использовали как склад стройматериалов.

В 1989 году здание храма вернули верующим, и начались восстановительные работы. В 1990-1992 годах были восстановлены росписи храма, а в 1994-1996 годах, колокольня. С 2003 года при храме работает Воскресная школа.