En 1898, se construyó en la Plaza de Caballos el primer templo de madera en honor a los Santos Doce Apóstoles. La iglesia fue consagrada el 17 de diciembre de ese mismo año por el obispo de Tula y Belev, Pitirim. El lugar donde se encontraba el santo altar del templo de madera ahora está marcado por una capilla en las puertas de entrada occidentales. La iglesia de madera fue desmantelada y trasladada a la aldea de Tovarkovo en el distrito de Bogoroditsk.

El 8 de julio de 1903, comenzó la construcción de un nuevo templo junto a la iglesia de madera de los Doce Apóstoles. Su constructor es considerado el confitero local Vasili Evlampievich Serikov, quien más tarde fue enterrado junto a la pared sur del templo. La construcción se completó en 1908, y la torre campanario se terminó en 1909.

El templo tiene tres altares: el central en honor a los Doce Apóstoles, el derecho, en honor a San Nicolás el Milagroso, y el izquierdo, en honor a la Gran Mártir Catalina. Los coros están ubicados en las puertas occidentales sobre columnas de hierro fundido. El templo tiene cinco cúpulas, está construido de ladrillo rojo y se realiza en un estilo característico de muchos templos de la franja media de Rusia de esa época. Los marcos de las ventanas, pilastras con capiteles, arcos en forma de casco, kokoshniks, balaustradas y un friso de arquerías están hechos de piedra caliza blanca o pintados de blanco, creando la impresión de un encaje de piedra blanca sobre un fondo de paredes rojo ladrillo, lo que subraya la severidad y la solidez de la arquitectura, así como la ligereza y elegancia de la construcción.

El iconostasio del templo es de madera, de tres niveles, dorado y decorado con tallas. Los pisos del templo y del altar están revestidos con baldosas metlakh, y las paredes están pintadas.

El templo está decorado con copias de pinturas de artistas famosos, como V. M. Vasnetsov, A. T. Markov, Yevgraf Semyonovich Sorokin, Heinrich Hofmann y Bernhard Plokhorst. Entre ellas se pueden ver "La Crucifixión", "San príncipe igual a los apóstoles Vladimir", "Señor Sabaoth", "Jesús de 12 años entre los maestros" y otros.

Entre las reliquias veneradas del templo se encuentran las íconos del Salvador Pasional, de la Madre de Dios de Tikhvin, de la Asunción de la Madre de Dios y del Santo Nicolás, que fueron trasladadas del monasterio femenino de la Asunción, cerrado en los años 30. También hay íconos de la Madre de Dios "Tres Manos" de la iglesia del Gran Mártir Jorge en Rzhavets y de Bogolyubskaya de la iglesia de Flora y Lavra.

En 1912, se abrió una escuela parroquial y un hogar para ancianos en el templo.

La altura de la cúpula dentro del templo es de 21.5 metros, y la altura del techo en el altar principal es de 8 metros. El templo puede albergar de 900 a 1350 personas.

Durante los años del poder soviético, el templo no fue cerrado. El sacerdote protodiácono Mikhail Ponyatsky, que sirvió aquí durante la Gran Guerra Patria, fue galardonado en 1944 con la medalla "Por la defensa de Moscú".