Монастырь был основан в XV веке в местности, известной как Бабайки, где на берегу реки хранили вёсла для сплава леса. Это место находится рядом с селом Большие Соли, между Ярославлем и Костромой. Основание монастыря связано с обретением здесь в XIV веке иконы Николая Чудотворца, которая приплыла на одном из вёсел. Изначально икона была помещена в дубовой роще к югу от будущего монастыря. Основателем считается ученик Сергия Радонежского по имени Силуан.

Царь Алексей Михайлович подарил монастырю мельницу. К началу XVIII века монастырь владел обширными землями в Костромской губернии. В 1719 году пожар уничтожил значительную часть монастырского имущества и архива. В 1764 году по указу Екатерины Второй монастырь был причислен к сверхштатным.

Николай Некрасов часто посещал Бабайский монастырь, так как его детство прошло неподалёку, на противоположном берегу Волги, в селе Грешнево. Монастырь упоминается в его стихотворении «Горе старого Наума».

До революции сохранились здания монастыря, главным из которых был Никольский собор, построенный в XIX веке. В 1861 и 1867 годах здесь жил святитель Игнатий Брянчанинов, который нашёл средства на ремонт строений и строительство храма Иверской иконы Божьей Матери. Он вёл уединённую молитвенную жизнь, писал известные сочинения и поддерживал переписку с духовными детьми. После его смерти в 1867 году он был похоронен у малой больничной церкви Сергия Радонежского.

Монастырь был закрыт в 1919 году, а соборный храм взорван в 1940 году. Никольскую церковь также снесли. Некоторые документы монастыря были переданы в Москву и сейчас хранятся в РГАДА. На месте монастыря в советское время находился детский костно-туберкулёзный санаторий. В 1988 году, перед канонизацией Игнатия Брянчанинова, его мощи были перенесены в Толгский монастырь.

Монастырь был возрождён в 1998 году под руководством архимандрита Бориса Долженко. С 2003 года здесь жил митрополит Симон Новиков, бывший Рязанский, который скончался и был погребён в монастыре.

Главным праздником монастыря является день Рождества святителя Николая Чудотворца, который отмечается 29 июля по церковному стилю и 11 августа по новому стилю.

Современный монастырский собор построен в стиле, напоминающем храмы средневекового Новгорода, и не соответствует архитектурной традиции Верхней Волги.