Собор, посвящённый иконе "Божией Матери Смоленской", является одним из первых храмов-памятников в Поволжье, возведённых в честь Государя Императора Александра II ещё при его жизни. Строительство этого величественного сооружения в небольшом городе Козьмодемьянске было инициировано после чудесного спасения императора от покушения 4 апреля 1866 года. Инициаторами строительства выступили отставной губернский секретарь М. И. Дьяконов, купцы Яков Морозов и Василий Замятин, а также жители города, неравнодушные к произошедшему. Проект собора был заказан у архитектора, работавшего в популярном тогда русско-византийском стиле Константина Тона.

Козьмодемьянский собор, построенный и освящённый к 1872 году, внешне напоминает московский храм Христа Спасителя: его стены завершаются килевидными медальонами, фасад украшен гранёными колоннами и куполами. Килевидные закомары, завершающие куб собора, повторяются в оформлении окон, белая окраска которых эффектно контрастирует с красно-коричневым фоном стен. Всё это придаёт фасаду монументальный и праздничный вид. Ленты поребрика визуально отделяют верхние части здания от основных. Широкие купола с крестами напоминают одновременно царский головной убор и шлемы русских воинов.

Пятиглавие собора позже было дополнено семью колоколами, самый большой из которых весил 139 пудов 10 фунтов, и его звук был слышен за многие километры. В соборе три алтаря: главный посвящён Смоленской иконе Божией Матери, правый, Архистратигу Михаилу, левый, князю Александру Невскому. Внутри храма четыре мощные колонны поддерживают свод, на северной стороне расположены хоры. Стены и верхние своды были украшены масляной живописью. Главными святынями храма были древние иконы, такие как Вознесение Господне, св. Архистратиг Михаил и Смоленская Божия Матерь. К храму были приписаны две часовни: одна в честь 300-летия Козьмодемьянска, другая, в честь восшествия на престол Александра III. При соборе была открыта церковно-приходская школа.

В отличие от других храмов Козьмодемьянска, которые были разрушены в период религиозных гонений, Смоленский собор пострадал меньше. Хотя церковные службы прекратились в конце 1920-х годов, размещение в нём краеведческого и художественного музеев спасло здание от сноса. В 1929 году собор лишился пятиглавия, была разобрана колокольня. Помещения бывшего храма срочно готовились для размещения музейных экспозиций. В процессе ремонта и демонтажа иконостаса и других предметов культа великолепные росписи были скрыты под известковой побелкой. В 1975 году по просьбе музейщиков был произведён косметический ремонт, в результате которого росписи частично отмыли. Тогда здесь работал художник-реставратор Ефимов Измаил Варсонофьевич, который восстановил небольшие фрагменты фресок с изображением ангелов и учеников Иисуса Христа.

Только в конце 1990-х годов Смоленский собор вновь стал духовным центром Козьмодемьянска. В краткие сроки было восстановлено пятиглавие, началось воссоздание внутреннего убранства. Первые богослужения состоялись в 1998 году, ещё до завершения реставрационных работ. Интерьер собора украсили золочёный резной иконостас, арочные своды и колонны, покрытые искусной росписью, а также тяжёлый позолоченный канделябр, служащий частью системы освещения и декоративным элементом. В 2008 и 2012 годах реставрацией масляной живописи XIX века занимались петербургские художники-реставраторы Юрий Гошпаренко и Антон Клюшанов. В 2004 году завершилось строительство новой колокольни, для которой были отлиты новые колокола на средства благотворителей. Сегодня Смоленский собор является главной архитектурной достопримечательностью Марийского края и символом духовного обновления Козьмодемьянска.