La iglesia de los Tres Santos, dedicada a la imagen de Kazán de la Madre de Dios, ocupa un lugar importante en la parte baja de la ciudad, fuera de los suburbios urbanos. Construida con los fondos de los habitantes del barrio de Perevedennaya, combinaba elementos de antiguos templos rusos, barroco y clasicismo. Hoy en día no queda rastro del clasicismo, y aunque las características barrocas están distorsionadas por las adiciones, aún son visibles. La fría iglesia, erigida en 1761, albergaba la principal reliquia, la imagen de la Madre de Dios de Kazán. El altar cálido estaba dedicado a los tres santos: Basilio el Grande, Gregorio el Teólogo y Juan Crisóstomo. En la iglesia también había pequeños altares en honor a Simeón el Estilita y Ana la Profetisa, y en el segundo nivel del campanario se encontraba el altar de Paraskeva-Piatnitsa. La construcción se llevó a cabo por etapas: primero se erigió la iglesia fría, luego la sala de comidas y el campanario, y se completó en 1765. Junto a la iglesia, durante mucho tiempo estuvo la casa del voivoda Kaménitski, donde alguna vez estuvo Emelyan Pugachov. Aunque la casa fue demolida a finales del siglo pasado, se conservó un almacén de piedra que perteneció antes de la revolución al comerciante Kubantsev. La leyenda vincula este 'granero' con Pugachov, y todavía se le llama la tienda de Pugachov.

La iglesia fue cerrada en 1935, más tarde que muchas otras en la ciudad. Se demolió la cúpula y el campanario, y el edificio fue entregado al museo local, que se trasladó aquí desde la iglesia de Vladimir del monasterio de Petropavlovsk, que iba a ser demolida. Con el tiempo, el museo se expandió, y las adiciones ocultaron las características arquitectónicas del templo. El octógono desempeñó un papel importante, permitiendo la entrada de luz adicional y creando un efecto de altura. Era casi igual en diámetro al cuadrado, por lo que se puede considerar que la iglesia tiene tres luces. Los arquitectos encontraron una solución para colocar una pequeña cúpula sobre el amplio octógono, finalizándolo con una cubierta casi cónica. Esto le dio al domo una forma de casco, creando la ilusión de una cúpula. Sin esta solución, habría sido necesario colocar un enorme tambor, lo que habría aumentado significativamente la altura del edificio. La curva de la cúpula se continuaba lógicamente en la cubierta de la cúpula. La iglesia no se caracteriza por la abundancia de decoraciones, pero los marcos, portales y cornisas están hechos de ladrillo moldeado de manera robusta. Los marcos de la segunda luz son especialmente destacados, cuyas coronas de tres lóbulos cruzan el cinturón decorativo inferior de la cornisa, dando al frente un aire festivo. Otra característica es la inusual construcción de la sala de comidas, situada de manera transversal a la línea principal, de norte a sur. La base del campanario también es inusual, rectangular en planta, lo que le da a la iglesia la apariencia de una cruz desde lo alto. Las ventanas de la sala de comidas están decoradas de la misma manera que las de la propia iglesia.

La iglesia de los Tres Santos fue un centro espiritual para artesanos, soldados de labranza y trabajadores. El barrio de Perevedennaya era denso en población, y en invierno se necesitaba mucho espacio para reuniones y servicios religiosos. En 2008, en el 90 aniversario del museo local, las autoridades anunciaron la asignación de fondos para la construcción de un nuevo edificio del museo, y se planea devolver el edificio liberado a la diócesis de Saransk y Mordovia.