Монастырь был основан в 1389 году епископом Ростовским, святым Иаковом. После изгнания из города, он обосновался к югу от Ростова, рядом с церковью Архангела Михаила, и построил деревянный храм в честь Зачатия Пресвятой Богородицы. Вокруг церкви вскоре собралась небольшая община, что положило начало новой обители.

После кончины святого Иакова его стали почитать как святого, а его могила стала святыней. В 1549 году на Макарьевском соборе состоялось его общецерковное прославление. Мощи святого Иакова покоятся в церкви Зачатия святой Анны.

Монастырь, известный как Зачатьевский или Иаковлевский, до конца XVII века состоял из деревянных построек. Первым каменным сооружением стал Троицкий, позже Зачатьевский собор, возведённый на месте деревянной церкви. Пятиглавый собор с тремя апсидами был освящён митрополитом Ионой Сысоевичем и расписан ярославскими мастерами в 1689 году. Над могилой святого Иакова была возведена каменная сень.

В начале XVIII века монастырь находился под покровительством митрополита Димитрия Ростовского. В 1702 году он прибыл в Ростов по указу Петра I и был торжественно встречен в монастыре, где отслужил молебен. Димитрий Ростовский был похоронен в Троицком храме, и над его могилой была установлена деревянная гробница. В монастырь поступили две иконы Богоматери по его завещанию. В 1725 году к собору был пристроен северный Зачатьевский придел, который позже стал отдельным храмом. В 1754 году собор был переименован в Зачатьевский, а придел, в честь Иакова Ростовского. В 1757 году состоялась канонизация святителя Дмитрия Ростовского, что привело к увеличению числа паломников. В том же году был построен гостиный двор для богомольцев. Митрополит Арсений поручил вести записи о чудесных исцелениях у гробницы святого, которые ныне хранятся в архиве Ростовского музея.

С 1764 года монастырь стал ставропигиальным, подчинённым Святейшему синоду. В том же году к нему были приписаны строения упразднённого Спасо-Песецкого монастыря, включая Спасо-Преображенский собор XVII века. В 1765 и 1836 годах обитель называлась Спасо-Иаковлевским Зачатьевским монастырём.

В 1760-х годах в Зачатьевский собор был установлен деревянный резной иконостас, для которого харьковский иконописец Ведерский написал иконы. В конце XVIII века деревянные стены монастыря заменили каменной оградой с башнями и колокольней. Были построены братские кельи и настоятельский корпус.

В конце XVIII века в монастыре расцвело искусство финифтянной иконы. Митрополит Арсений пригласил иконописцев для обновления и написания новых икон. Основным заказчиком финифтяных икон стал Спасо-Яковлевский монастырь. В 1794 и 1802 годах на средства графа Николая Шереметева был построен Димитриевский собор. Однако мощи святителя Димитрия не были перенесены в новый храм. Шереметев стал крупнейшим благотворителем монастыря, жертвуя облачения и церковную утварь. В память о нём Димитриевский собор называют Шереметевским.

В начале XIX века в монастыре подвизался старец Амфилохий, почитаемый после смерти. В 1836 году на месте старого придела был построен храм святого Иакова Ростовского. В том же году возведена паперть Зачатьевского собора, где установлены гробницы.

В 1860-х годах был обновлён иконостас Димитриевского собора. В 1836 году обитель получила новое название, Спасо-Иаковлевский Димитриевский монастырь.

Монастырь посещали многие российские императоры. В начале XX века были освящены новые храмы. В 1912 году в Иаковлевской церкви открыт пещерный храм, а в 1916 году, придел в честь Ватопедской иконы. В 1909 году в юго-западной башне открыт храм в честь Толгской иконы.

С 1909 года настоятелем монастыря был епископ Иосиф. После 1917 года службы проводились только в Яковлевской церкви. В 1923 году монастырь закрыли, здания использовали под жилые помещения и мастерские. Часть имущества была передана в музей, часть разграблена.

В 1980-х годах был разобран иконостас XVIII века. В 1991 году монастырь возвращён Русской православной церкви и возобновлён. Здесь покоятся мощи святых Авраамия и Димитрия, а также хранится Ватопедская икона. В 1996 году над источником сооружена часовня в честь святителя Иакова.