Jusqu'au début du XXe siècle, les vieux-croyants de Riazan n'avaient pas de temple et tenaient des services dans des maisons de prière. En 1904, le marchand riazanien Feodot Ignatievitch Maslennikov, avec le soutien de ses frères, décida de construire un temple à ses frais. Malgré les persécutions contre les vieux-croyants, il acquit un terrain pour le cimetière et construisit une maison de garde, où se tinrent les premiers offices. En 1904, le terrain du cimetière fut entouré d'un mur de pierre sur ordre de l'administration provinciale de Riazan. Après l'édit de tolérance religieuse de l'empereur Nicolas II en 1905-1906, Maslennikov soumit une demande au ministère de l'Intérieur et à l'administration provinciale de Riazan pour obtenir la permission de construire un temple sur le cimetière. À la demande était joint un plan de construction, approuvé par l'archevêque vieux-croyant Jean.

Les travaux préparatoires commencèrent en 1907-1908, lorsque le projet d'un temple en pierre avec un clocher fut approuvé. L'été suivant, la première pierre fut posée. L'église de la Vierge Marie fut consacrée en l'honneur de son icône « Joie pour tous les affligés ». Lors d'une réunion de la communauté le 21 novembre 1910, le prêtre Erasm Ivanovitch Pchelin fut élu père spirituel de l'église. En 1912, la consécration et l'élévation des cloches au clocher eurent lieu. Après 12 ans de service, Pchelin fut transféré à Egorievsk, et son poste fut occupé par le père Dimitri Varakin, qui a aidé l'évêque Alexandre pendant la guerre civile. En 1929, Varakin fut transféré à une autre paroisse, mais les offices continuèrent jusqu'en 1937, lorsque les répressions commencèrent et que l'église fut fermée.

Le dernier prêtre avant la Grande Guerre patriotique fut le père Timofei, qui fut arrêté et exécuté. De 1937 à 1945, l'église resta fermée et pillée. Depuis 1991, les bâtiments du complexe ecclésiastique ont été remis à la communauté, qui, sous la direction du prêtre Alexandre, s'emploie activement à leur restauration. Les frères en Christ effectuent des travaux de restauration, cherchant à redonner à l'église son apparence d'antan.