Храм был возведён по приказу князя Давыда Ростиславича, правившего в Смоленске с 1180 по 1197 год. Точные данные о времени строительства отсутствуют. Храм являлся частью архитектурного комплекса загородного княжеского двора. До его закрытия в первой половине XX века здесь находилась белокаменная гробница князя Давыда. Некоторое время при храме действовал монастырь.

Во время осады Смоленска в 1609 и 1611 годах польско-литовские войска использовали здание как крепость. В 1611 году здесь был организован католический приход. После возвращения Смоленска в состав российского государства в 1654 году храм вновь стал местом православных богослужений.

В начале XVIII века были перестроены верхние части стен и своды, изменена отделка фасадов, а в стенах пристроек появились большие окна.

В 1733 году к храму добавили теплый придел. К концу XIX века внутри находились четыре престола: главный, в честь Архангела Михаила, а также во имя Алексия, человека Божьего, благоверного князя Александра Невского и мучеников Бориса и Глеба.

Во второй половине XVIII века старостой храма стал купец Василий Григорьевич Хлебников. По благословению епископа Парфения, в 1775-1785 годах были построены каменная колокольня, каменная ограда и одноэтажный каменный дом в юго-западном углу церковного участка. В этом доме, на средства Хлебникова, обучались бедные и бездомные мальчики.

В 1775-1785 годы храм был побелен, построена кирпичная ограда и колокольня с луковичной главкой.

Во время Отечественной войны 1812 года Свирская церковь была разграблена французскими солдатами, но после войны восстановлена.

В 1930 году храм закрыли, и здание стало использоваться как военный склад.

Во время Великой Отечественной войны здание лишилось кровли, а штукатурка на стенах осыпалась в многих местах.

В 1963 году при установке кровли были убраны некоторые архитектурные детали XIX века. В 1976-1982 годах восстановили фасады и некоторые архитектурные формы XII века, а также отдельные детали XVIII века.

В 1990 году храм был передан Смоленской и Вяземской епархии, началась реставрация интерьера, который должен обрести облик XII века.

Богослужения возобновились в 1991 году, продолжаются восстановительные работы. Резной иконостас из белого камня и престол храма освятили 21 ноября 1999 года.