La iglesia está situada al pie de la montaña, a diferencia de otros templos y monasterios de Sarov, y se encuentra sobre una alta base arqueada. Esto se debe a que fue construida directamente sobre una fuente que alguna vez brotó de la montaña y dio origen a un arroyo que desembocaba en el río Satis. Junto a esta fuente aparecieron las primeras construcciones de los monjes, cuyo asentamiento más tarde se convirtió en el desierto de Sarov. Inicialmente, el constructor Juan planeó erigir el primer templo del desierto de Sarov aquí, pero luego cambió de opinión. Por lo tanto, la iglesia se llama informalmente el templo sobre el pozo del Primordial.

La construcción de la iglesia de piedra en honor a San Juan Bautista sobre la fuente comenzó bajo el constructor Filaret en 1747-1749, continuó con Markel en 1749-1751 y se completó con la consagración el 13 de septiembre de 1752. La iglesia era pequeña, de un solo altar, con una cúpula. El nombre de la iglesia sobre la fuente fue explicado por A. N. Muravyov de la siguiente manera: "es muy apropiado que esté dedicada al Bautista, sobre las aguas, donde se realiza la consagración del Jordán".

En 1812 se construyó una escalera de piedra que lleva hacia abajo a la iglesia por la empinada ladera. Fue erigida por un equipo de canteros de Temnikov bajo la dirección del comerciante Andrei Martynovich Sitnikov y del ciudadano Ivan Alexeyevich Telyatnikov.

La iglesia en su forma original estuvo en pie durante aproximadamente 70 años. En 1820, Sarov fue visitado por el empresario pesquero de Astracán, el assessor colegiado Kirill Fedorovich Fedorov, quien deseaba donar fondos para la expansión del templo. En 1821, la antigua iglesia fue desmantelada y comenzó la construcción de una nueva. Los trabajos se completaron en 1824, en los cuales Fedorov donó 30,580 rublos, y otros 10,000 rublos los destinó al mantenimiento del templo.

Por deseo de Fedorov, la iglesia fue hecha de tres altares: el altar principal fue dedicado a San Juan Bautista, y dos adicionales, al apóstol Santiago el Menor y a Cirilo de Jerusalén, santos del día de nacimiento y del onomástico del donante.

El altar principal fue consagrado por el obispo de Tambov, Afanasiy Telyatev, el 19 de junio de 1827. El altar izquierdo, en honor a Santiago el Menor, fue consagrado por el abad Nifont el 30 de septiembre de 1828, y el derecho, por el obispo de Tambov, Arseniy Moskvín, el 1 de julio de 1834. La nueva iglesia, en estilo clasicista, tenía cinco cúpulas y dimensiones de 21 metros de largo, 15 de ancho y 38 de alto. No estaba calefaccionada. El escritor y estudioso local de Arzamás, Yeremeyev, sugirió que el autor del proyecto fue el arquitecto M. P. Korinfskiy, quien diseñó la catedral de la Resurrección en Arzamás.

Simultáneamente con la construcción de la iglesia, se estaba construyendo el acueducto del monasterio. El agua de la fuente bajo la iglesia se bombeaba hacia arriba. Esto se realizaba con una máquina de un solo eje. El tanque de agua con una capacidad de 500 cubos se encontraba en la torre de esquina noreste, llamada Torre del Agua. Desde el tanque, el agua fluía a través de tuberías de madera a la fábrica de kvass, al panadero, al hospital y a otros edificios. Las partes de hierro fundido de la máquina de elevación de agua fueron fabricadas en la fábrica de Vyksa en 1823. El maestro Yegor Mikhailov, un carpintero de la provincia de Nizhni Nóvgorod, diseñó y construyó el acueducto, quien se mudó al desierto de Sarov en 1841 y en 1845 tomó los votos monásticos con el nombre de Mijaíl. Todos los trabajos de construcción en la comunidad en la década de 1840 se llevaron a cabo bajo su dirección, incluyendo las remodelaciones de las iglesias y la construcción de una posada comercial.

La fuente bajo la iglesia de San Juan Bautista no solo se utilizaba para el acueducto. Al estanque que contenía la fuente, se realizaba una procesión en días festivos, y se ofrecían servicios de oración con la consagración del agua.

En 1893, las bóvedas sobre el pozo bajo la iglesia fueron decoradas y pintadas, y los arcos fueron cerrados con rejas de vidrio. Un año antes, en 1892, la ladera de la colina junto a la iglesia fue reforzada con mampostería de ladrillo y contrafuertes.

En los años soviéticos, el edificio del templo se utilizó como administrativo, y la fuente del Primordial fue tapada y sellada. La iglesia de San Juan Bautista se conservó en una forma alterada: las cúpulas fueron demolidas, y el volumen interior se dividió en pisos. Durante la restauración del templo, se encontró y restauró la fuente del Primordial, incluyendo los antiguos anillos de alerce del pozo. La restauración se completó a finales de julio de 2006. Durante la celebración del 300 aniversario de la fundación del desierto de Sarov, la iglesia de San Juan Bautista fue nuevamente consagrada por Su Santidad el Patriarca de Moscú y de toda Rusia, Alexis II.