Монастырь в селе Ковыляй появился благодаря благотворительности княжны Надежды Даниловны Бибарсовой, представительницы древнего татарского рода, принявшего православие в конце XVII века. Село Ковыляй, расположенное в Краснослободском уезде Пензенской губернии, возникло в конце XVI, начале XVII веков как часть первой засечной черты. До Смутного времени село было свободным, но позже, в результате пожалований, оно оказалось в крепости у татарских помещиков, охранявших Темниковскую и Саранскую засеку. Владельцы, принявшие крещение, стали русскими князьями, а те, кто не крестился, переселились. В селе жила крестная мать Надежды Даниловны, княжна Евдокия Борисовна Кугушева, которая была знакома с основательницей Дивеевской общины Агафьей Симеоновной Мельгуновой и часто её навещала. Евдокия помогала больным и бедным, а Надежда следовала её примеру, раздавая святыни и помогая нуждающимся.

До 1614 года в Ковыляе была построена деревянная Никольская церковь, а в 1699 году, новый храм Рождества Христова. По инициативе княжны Надежды и её родственников в 1826 году был возведён каменный храм Рождества Пресвятой Богородицы. Этот храм стал основой для монастыря, вокруг которого собралась первая группа мирских черниц.

Архитектура храма представляет собой пример позднего классицизма с простыми геометрическими формами. Официальным устроителем богадельни был князь Я. Д. Бибарсов, но фактически этим занималась Н. Д. Бибарсова. Она получила благословение трёх старцев на создание обители и с 1826 по 1833 год занималась её устройством. В 1833 году, после смерти брата, она стала полноправной владелицей Ковыляя и направила своё наследство на развитие монастыря.

В 1834 году в монастыре поселились первые 12 сестёр. В 1842-1847 годах княжна Бибарсова укрепила материальную базу обители, передав ей землю и дом. В 1847 году были утверждены дарения и устав обители. Под руководством настоятельницы Татьяны Мартыновны Мещериной монастырь пережил тяжёлые годы, но стал полноценным монастырём.

В 1860-х годах обитель была признана сестринской общиной, а в 1862 году началось строительство новых корпусов и храмов. Княжна Бибарсова умерла в 1862 году, но её дело продолжалось. В 1875 году монастырь получил статус Троицкого, а к 1884 году его возглавила игумения Феофания. Под её руководством обитель расцвела, были созданы мастерские, иконописная школа и социальные программы.

К 1910-м годам монастырь стал одним из крупнейших в регионе, с многочисленными зданиями и хозяйством. Однако в 1918 году начался его разгром, и в 1926 году монастырь был закрыт. В 1927 году игумения Викторина была арестована и расстреляна.

Сегодня в Старом Ковыляе возрожден женский монастырь, а церковь Рождества-Богородицы передана обители. Восстановительные работы ведутся на пожертвования прихожан, и с 2002 года монастырь возглавляет монахиня Магдалина. В 2004 году была освящена домовая церковь в честь иконы Божией Матери «Всех скорбящих радость».