Первый храм из дуба, посвящённый Успению Пресвятой Богородицы и ставший первой христианской церковью в Ростове Великом, был, согласно преданию, основан около 991 года первыми святителями, Киевским Михаилом и Ростовским Феодором. При храме был учреждён клир, и он стал кафедральной церковью для владыки Феодора и последующих архиереев Ростова, а также местом погребения многих из них.

С постройкой Ростовского Успенского собора связывается упоминание в Киево-Печерском Патерике о том, что князь Владимир Мономах, исцелившись благодаря поясу преподобного Симона варяга, решил создать в Ростове церковь, подобную Печерской, с такими же размерами и украшениями. Он записал на хартии, где и какие праздники изображены в церкви, и всё это было воспроизведено по образцу той великой церкви.

Патерик также упоминает, что Владимир Мономах подарил собору Владимирскую икону Божией Матери. В 1160 году храм сгорел в пожаре.

По указанию князя Андрея Боголюбского в 1162 году на месте прежнего был заложен новый каменный собор. 23 мая 1164 года при копании рвов были найдены гроб с мощами святителя Леонтия и гроб святителя Исаии, что привело к их канонизации. Строительство каменной церкви вскоре завершилось, но, по некоторым данным, своды, возведённые неопытными зодчими, обрушились, и храм пришлось строить заново.

Новый Успенский собор был заложен князем Константином Всеволодовичем в 1213 году и достроен при святом князе Василько в 1231 году. Тогда мощи святителя Леонтия Ростовского вернулись в собор и были помещены в приделе, посвящённом ему. Князья Юрий Владимирский и Василько Ростовский, погибшие от рук татар в 1238 году, были погребены под алтарём собора.

После 1253 года, когда сын хана Беркая исцелился благодаря молитвам святителя Кирилла Ростовского, хан распорядился, чтобы дань с Ростова поступала в Успенский собор. Епископ Кирилл украсил собор драгоценностями. Позже, когда преподобный Петр Ордынский прибыл на службу в собор, его впечатлила красота убранства и богослужения, что окончательно привело его к принятию Православия. Здесь он также венчался.

В 1408 году собор пострадал от пожара, уничтожившего украшения, иконы, книги, сосуды и камни. Верх церкви обрушился.

Несмотря на бедствия, собор оставался местом погребения Ростовских владык, включая святителей Игнатия I, Ефрема и Вассиана.

Здание собора, дошедшее до XXI века, было построено между 1508 и 1515 годами. Царь Иван Грозный трижды посещал собор, и владыка Никандр получил от него грамоту на владение землями.

6 октября 1608 года собор подвергся нападению поляков. Пан Сапега захватил город и приступил к взятию храма, где укрылись жители и священники во главе с митрополитом Филаретом. Поляки разграбили храм, взяв в плен архиерея и похитив церковные сокровища. Впоследствии мощи святителя Леонтия были положены под спудом.

Несмотря на бедствия, храм вновь украшался. Владыка Иона Сысоевич заботился о внутреннем убранстве собора, приглашая мастеров для росписи и построив колокольню с церковью. Для колокольни отлили 13 колоколов, среди которых были самые большие, Сысой, Полиелейный и Лебедь.

Стенопись и резной золоченый иконостас собора неоднократно обновлялись. В 1763 году стены собора были расписаны на средства императрицы Екатерины II. В конце XIX века собор посещали члены императорской семьи, а в 1913 году Николай II начал знакомство с городом с посещения собора. Чудотворные мощи и иконы привлекали сюда богомольцев со всей России.

После революции 1917 года собор некоторое время оставался действующим. В 1920 году мощи святителей Исаии и Игнатия были вскрыты для освидетельствования. С 1922 года началось изъятие ценностей. В 1935-1936 годах храм закрыли и использовали как склад.

В 1990 году Успенский собор был возвращён Русской Православной Церкви и вскоре стал вторым кафедральным собором Ярославской епархии.