Das Insar Heilig-Olga Frauenkloster wurde Ende des 19. Jahrhunderts als Außenstelle des Pajgarm Paraskewa-Überführungsklosters gegründet. Der Komplex umfasste einen Tempel, zwei Gebäude, ein Wohn- und ein Wirtschaftsgebäude sowie einen separaten Glockenturm.

In den 1880er Jahren erwarb die Äbtissin Paraskewa des Pajgarm Klosters in Insar ein Grundstück in der Nähe des Marktplatzes und baute ein kleines Hotel für Nonnen, die geschäftlich anreisten. In den 1890er Jahren bot der Kollegialassessor Alexander Alexejewitsch Delfinski, der in der Nähe lebte, der Äbtissin einen Teil seines Anwesens an, aber das Außenstelle wurde aufgrund von Geldmangel nicht erweitert.

Delfinski wollte, dass neben dem Außenstelle eine Kapelle entsteht. Nach 1895 unterstützte die neue Äbtissin Jewpraksija die Idee und beschloss zusammen mit Delfinski, eine Kapelle-Kirche mit ständigem Personal von Geistlichen und Zellen für 50-60 Schwestern zu bauen. Delfinski übernahm die Kosten, stellte jedoch die Bedingung, dass die Kirche zu Ehren der Heiligen Olga geweiht wird. 1897 stellte er einen Antrag beim Bischof von Penza, Pawel, und leistete die erste Zahlung von 2000 Rubel. Bischof Pawel wandte sich an Kaiser Nikolaus II., da die Abtretung des Landes über administrative Kanäle verlief. Im Mai 1898 begann der Bau der Kirche. Nach dem Tod von Delfinski konnte seine Frau O. P. Delfinskaja nur einen Teil der Mittel bereitstellen, den Rest investierte das Pajgarm Kloster. Bis August 1900 war der Komplex fertig, und am 6. September wurde die Kirche geweiht. Die Architekten planten das Außenstelle als Teil des Marktplatzes, gegenüber der Christgeburt-Kirche. Die Heilig-Olga-Kirche unterschied sich durch ihren Stil, der sich an den neu-russischen Motiven der zweiten Hälfte des 19. Jahrhunderts orientierte, und hatte 15 Kuppeln, um die Schwere der Fassaden zu verringern.

Hinter der Kirche wurden zwei Gebäude und eine freistehende Kapelle-Glockenturm gebaut. Der Komplex schloss sich zu einem Quadrat mit dekorativen Wänden zwischen den Gebäuden. Das Außenstelle wurde zu einer großen Frauen-Gemeinschaft, die Äbtissin Jewpraksija als selbstständig betrachtete. Bei der Weihe wurden zwei bekannte Ikonen übergeben: die der Märtyrerin Paraskewa und der Gottesmutter „Lindere meine Sorgen“. 1904 kaufte Jewpraksija ein Grundstück bei Insar, wo eine Holzkirche gebaut wurde. Bis 1907 überstieg die Zahl der Schwestern 80 Personen. 1909 erhielt das Außenstelle den Status eines Klosters, das Heilig-Olga Kloster genannt wurde, und Nonne Klawdia wurde Äbtissin. Das Kloster existierte bis zur Revolution, danach wurde es geschlossen, und die Gebäude wurden für wirtschaftliche Zwecke genutzt, in der Kirche wurde ein Heimatmuseum untergebracht.

Die Kuppeln der Kirche wurden abgerissen, der Glockenturm abgebaut. 1995 versuchten die Nonnen zurückzukehren, wurden jedoch vertrieben. Der Streit um das Kloster dauerte mehrere Jahre, bis es 1998 an das Bistum Saransk übergeben wurde. Jetzt wird das Kloster, geleitet von Äbtissin Anastasia, aktiv wiederhergestellt. In der Abtei leben bis zu 30 Schwestern.