L'église est située au pied de la montagne, contrairement aux autres églises et monastères de Sarov, et repose sur une haute base en arc. Cela s'explique par le fait qu'elle a été construite directement au-dessus d'une source qui jaillissait autrefois de la montagne et donnait naissance à un ruisseau se jetant dans la rivière Satis. Près de cette source, les premières constructions des moines sont apparues, dont le peuplement est devenu plus tard le Désert de Sarov. À l'origine, le constructeur Jean avait prévu de construire le premier temple du Désert de Sarov ici, mais a ensuite changé d'avis. C'est pourquoi l'église est surnommée de manière informelle le temple au-dessus du puits du Primordial.

La construction de l'église en pierre en l'honneur de Jean-Baptiste au-dessus de la source a commencé sous le constructeur Philaret entre 1747 et 1749, a été poursuivie sous Markel entre 1749 et 1751 et s'est achevée par la consécration le 13 septembre 1752. L'église était petite, à un autel, avec une seule coupole. Le nom de l'église au-dessus de la source a été expliqué par A. N. Mouraviev ainsi : « elle est très convenablement dédiée au Baptiste, au-dessus des eaux, où se fait la consécration du Jourdain ».

En 1812, un escalier en pierre a été construit, menant vers le bas à l'église le long d'une pente raide. Il a été érigé par une équipe de maçons de Temnikov sous la direction du marchand Andreï Martynovitch Sitnikov et du bourgeois Ivan Alexeïevitch Teliatnikov.

L'église dans sa forme originale a tenu environ 70 ans. En 1820, Sarov a été visité par le pêcheur industriel d'Astrakhan, le conseiller de collège Kirill Fiodorovitch Fiodorov, qui a souhaité faire un don pour l'agrandissement du temple. En 1821, l'ancienne église a été démolie et la construction d'une nouvelle a commencé. Les travaux se sont achevés en 1824, Fiodorov ayant fait un don de 30 580 roubles, et 10 000 roubles supplémentaires ont été donnés pour l'entretien du temple.

À la demande de Fiodorov, l'église a été construite à trois autels : l'autel principal était dédié à Jean-Baptiste, et deux autres, à l'apôtre Jacques le Mineur et à Cyrille de Jérusalem, saints du jour de naissance et de fête du donateur.

L'autel principal a été consacré par l'évêque de Tambov Athanase Teliatiev le 19 juin 1827. L'autel gauche, en l'honneur de Jacques le Mineur, a été consacré par le supérieur Niphont le 30 septembre 1828, et le droit, par l'évêque de Tambov Arsène Moskvine le 1er juillet 1834. La nouvelle église dans le style classique avait cinq coupoles et mesurait 21 mètres de long, 15 de large et 38 de haut. Elle n'était pas chauffée. L'écrivain et historien local d'Arzamas, Eremeev, a supposé que l'auteur du projet était l'architecte M. P. Korinski, qui avait créé la cathédrale de la Résurrection à Arzamas.

Simultanément à l'élévation de l'église, la construction d'un aqueduc monastique était en cours. L'eau de la source sous l'église était pompée vers le haut. Cela se faisait à l'aide d'une machine à entraînement à une seule chaîne. Un réservoir d'eau d'une capacité de 500 seaux était situé dans la tour angulaire nord-est, appelée la tour de l'Eau. De la cuve, l'eau était acheminée par des tuyaux en bois vers la brasserie, la boulangerie, l'hôpital et d'autres bâtiments. Les pièces en fonte de la machine de levage d'eau ont été fabriquées à l'usine de Vyksa en 1823. L'aqueduc a été conçu et construit par le maître Egor Mikhaïlov, un charpentier de la province de Nijni Novgorod, qui a déménagé au Désert de Sarov en 1841 et a pris le nom de moine Mikhaïl en 1845. Tous les travaux de construction dans le monastère dans les années 1840 ont été réalisés sous sa direction, y compris les reconstructions des églises et la construction d'une auberge marchande.

La source sous l'église de Jean-Baptiste a été utilisée non seulement pour l'aqueduc. Lors des fêtes, une procession était organisée vers le bassin où la source était contenue, et des prières étaient célébrées avec bénédiction de l'eau.

En 1893, les voûtes au-dessus du puits sous l'église ont été décorées et peintes, et les arcs ont été fermés par des grilles vitrées. L'année précédente, en 1892, la pente de la colline près de l'église a été renforcée par une maçonnerie en briques et des contreforts.

Pendant les années soviétiques, le bâtiment du temple a été utilisé à des fins administratives, et la source du Primordial a été bouchée et murée. L'église de Jean-Baptiste a été conservée sous une forme modifiée : les dômes ont été démolis, et le volume intérieur a été divisé en étages. Lors de la restauration du temple, la source du Primordial a été retrouvée et restaurée, y compris les anciens couronnements en mélèze du puits. La restauration s'est achevée fin juillet 2006. Lors de la célébration du 300e anniversaire de la fondation du Désert de Sarov, l'église de Jean-Baptiste a été à nouveau consacrée par Sa Sainteté le Patriarche de Moscou et de toute la Russie Alexis II.