Согласно легенде, церковь Космы и Дамиана была возведена по приказу царя Ивана Грозного. В 1552 году, во время похода на Казань, царь остановился в Муроме и дал обет, что в случае успешного завершения похода в городе будут построены каменные храмы над мощами муромских святых князей Константина, Михаила, Федора, а также Петра и Февронии. Через три года в Муром прибыли мастера-каменщики, которые возвели несколько белокаменных церквей. На берегу Оки, где с 10 по 20 июля 1552 года находился царский шатер, знаменитые зодчие Барма и Постник построили храм Космы и Дамиана.

Согласно писцовой описи, составленной В. Д. Бартеневым в 1637 году, церковь Космы и Дамиана была "мирской", то есть построенной на средства жителей Мурома. В этой описи упоминается, что за городом, на берегу Оки, находился девичий монастырь с каменной церковью в честь великих чудотворцев Козьмы и Дамиана и деревянной церковью святой мученицы Екатерины с приделом святых Московских чудотворцев: Петра, Алексия и Ионы. В монастыре было 11 местных икон, 29 печатных и письменных книг и 4 колокола весом 8 пудов. Из-за малого количества келий и отсутствия настоятельницы монастырь пришел в упадок, а его лугами владел священник Максим.

Храм Космы и Дамиана представлял собой кубический одноапсидный храм с многогранным шатром сложной конструкции, первоначальная высота которого составляла 12 метров. Храм был освящен в 1565 году.

В 1868 году из-за смещения грунтов на берегу Оки шатер храма обрушился, и церковная утварь была перенесена в храм Смоленской иконы Божией Матери. Лишь в 1901 году в храме Космы и Дамиана была установлена крыша. В советское время предлагались проекты реконструкции храма, но они не были реализованы. В 1995 году храм был возвращен Русской православной церкви.

Шатер был восстановлен в измененном виде в 2009-2010 годах по проекту владимирского архитектора В. М. Анисимова. Средства на реконструкцию предоставил муромский Троицкий монастырь.