Das Kloster wurde in den 1680er Jahren von dem Schemamonch Zosima gegründet, der aus dem Dreifaltigkeits-Sergius-Kloster kam und eine kleine Gemeinschaft um sich versammelte. Im Laufe der Zeit strömten Pilger hierher, darunter die Schwester von Peter I, Natalia Alexejewna. Nach dem Tod des Alten verließen jedoch die meisten Mönche die Abtei, und sie verfiel. Dennoch verehrten die Einheimischen das Grab des Gerechten als Heiligtum. Der Legende nach besuchte hier die zukünftige Kaiserin Elisabeth Petrowna, die lange Zeit in der benachbarten Stadt Alexandrow lebte.

Am Ende der 1890er Jahre wurde das Kloster durch die Bemühungen des Archimandriten Pawel Glebow aus der Dreifaltigkeits-Sergius-Lavra und des Hieromönchs Herman Gomsin wiederhergestellt, der 1896 zum Baumeister des Klosters wurde und am 30. Januar 1923 starb. Das Kloster wurde zu einem der Zentren der Alten Väter.

Von 1897 bis 1923 wurde das Kloster von dem Scheiigumen Herman geleitet. In dieser Zeit wurden alle erhaltenen Steingebäude aus rotem Ziegel im russischen Stil erbaut. Im Jahr 1900 wurde der Haupttempel zu Ehren des Smolensker Ikone der Gottesmutter geweiht.

Von 1898 bis zur Schließung des Klosters im Jahr 1923 lebte hier der Alte Alexij Solowjow, der im „Alten“ Gebäude bei den Heiligen Toren wohnte, das mit Mitteln der Großfürstin Elisabeth Fjodorowna erbaut wurde.

Im Jahr 1917 lebte vorübergehend Makarius von Nischni Nowgorod im Kloster. Das Kloster wurde häufig von Mitgliedern des Moskauer religiös-philosophischen Kreises unter der Leitung von Michail Nowosjolow besucht, der versuchte, seine Freunde hierher zu ziehen, darunter Nikolai Berdjajew und Sergei Bulgakow. Auch Pawel Florenskij besuchte regelmäßig die Zosimova-Wüste.

Im Mai 1923 wurde das Kloster, das als Genossenschaft fungierte, endgültig geschlossen.

Es wurde im April 1992 wiedereröffnet. Im Juli 1994 fand die Heiligsprechung des Gründers der Abtei, des Schemamonchs Zosima, zur allgemeinen kirchlichen Verehrung sowie des heiligen Herman Gomsin auf diözesaner Ebene statt. Im Jahr 2000 wurde der heilige Alexij Solowjow zur allgemeinen kirchlichen Verherrlichung heiliggesprochen.