В 1693 году ярославский купец Иван Кемский на свои средства приказал построить два храма на противоположных берегах Волги. Один из них был посвящен преподобным Зосиме и Савватию, а второй, Вознесенско-Благовещенский. Эти храмы служили своеобразными маяками для переправы через Волгу. Путь через храм Зосимы и Савватия вел из Ярославля на север, в Кострому и Вологду. Каждый путешественник считал своим долгом посетить этот храм. Известно, что его посещали император Николай I во время поездки в Кострому и писатель М.Ю. Лермонтов. В 1771 году на средства прихожан рядом с храмом Зосимы и Савватия была построена еще одна каменная летняя церковь во имя Живоначальной Троицы с двумя приделами: Ильи Пророка и Николая Чудотворца.

В 30-е годы XX века, в период гонений на Русскую Православную Церковь, большой храмовый комплекс был закрыт, а Троицкая церковь разрушена до основания. Церковь Зосимы и Савватия чудом уцелела, хотя и пострадала от вандалов. Здесь размещались различные мастерские, затем прачечная, и к 80-м годам XX века храм оказался в запустении и превратился в руины.

В 1998 году Ярославской епархии были переданы руины церкви святых Зосимы и Савватия, единственного храма в епархии, посвященного святым Крайнего Севера. В 2002 году рядом с храмом была обустроена и освящена часовня во имя преподобных Зосимы и Савватия, где 7 января 2011 года прошло первое Рождественское богослужение.

В конце 2008 года начались реставрационные работы храма, который буквально поднимали из руин. Здания едва напоминали церковь, а звонница была разрушена. Были выполнены основные работы по укреплению фундамента и сводов, обновлена кровля, восстановлена колокольня и установлены купола. Колокольня выделяется необычным архитектурным решением: широкий восьмерик, аркады и еще один меньший восьмерик, увенчанный шатром. Однако ремонтно-реставрационные работы продолжаются, ведется внутренняя отделка храма и подведение необходимых коммуникаций.

24 апреля 2011 года, на Пасху, в храме состоялась первая служба, с тех пор богослужения стали регулярными.

По благословению Митрополита Ярославского и Ростовского Пантелеимона в 2012 году церкви Зосимы и Савватия был присвоен статус регионального Морского храма. Ярославское отделение Всероссийского движения поддержки военно-морского флота решило построить около храма мемориал в память о погибших моряках-ярославцах и увековечить святого праведника Феодора Ушакова большой иконой на этом мемориале.