Еще до основания города на берегу Волги была создана рыбная слободка, известная как «Симбирская». К середине XVII века православные жители этой слободки уже построили Соборную церковь Смоленской Богородицы. Церковь находилась на Смоленском спуске к Волге, с северной стороны города, на крутом склоне, на небольшой относительно ровной площадке с живописным видом на Волгу, в окружении природы. Белая каменная церковь, напоминающая корабль, была посвящена Смоленской иконе Божией Матери. Строительство Смоленской церкви велось поэтапно. Самой старой частью является холодная церковь, расположенная на восточной стороне. Первоначально церковь была скитской или пустынской и принадлежала Успенскому монастырю. Во время осады и сражений с войсками Степана Разина крепость города и Смоленская церковь остались невредимыми.

В 1674 году после постройки Успенской церкви и восстановления Успенского монастыря Смоленская церковь отделилась от монастыря и стала приходской. Первоначально она содержалась за счет небольшого прихода и доходов от часовни на кладбище, расположенном недалеко от Волги. К 1674 году в состав Симбирского Успенского монастыря входили: Успенский монастырь с Успенской церковью, Соловецкая пустынь, находившаяся в 17 верстах севернее Симбирска на правом лесистом берегу Волги, и Смоленская церковь. Успенская церковь была разобрана в 1866 году и перенесена в Нагорную часть города. Соловецкая пустынь существовала до 1764 года, а Смоленская церковь, до начала XX века.

В 1751 году бывший симбирский купец И.И. Воронцов пристроил к существующей холодной каменной церкви теплую каменную церковь того же имени по оси запад-восток. Оба здания соединялись дверью, устроенной в алтаре теплой церкви, у места ее соединения с западной стеной холодной церкви. При теплой церкви была построена каменная трехъярусная колокольня. Сначала обе церкви были покрыты тёсом, затем железом и окрашены медянкой. Ограда была деревянной, но в XIX веке она исчезла.

В 1913 году храм сильно пострадал из-за оползня, а в конце 1920-х годов его закрыли из-за аварийного состояния. Окончательно Смоленскую церковь разобрали после 1932 года.