En el centro del cuerpo oriental se encuentran las principales puertas de entrada, sobre las cuales se eleva la iglesia de Pedro y Pablo. Originalmente, en 1692, se construyó aquí una iglesia en honor a san Efrén el Sirio, pero más tarde fue renombrada en honor a los apóstoles Pedro y Pablo.

En 1770, un gran incendio ocurrió en el monasterio, que dañó seriamente las iglesias, incluida la iglesia de san Efrén el Sirio y la iglesia hospitalaria en honor a los milagrosos Solovetsky Zosima y Savvatiy. Después de la restauración, se decidió consagrar la iglesia de la puerta en honor a los apóstoles Pedro y Pablo, y en la iglesia hospitalaria se estableció un altar dedicado al venerable Efrén el Sirio.

El 12 de julio de 2005, en el día de la festividad del templo, se celebró la primera Divina Liturgia en la iglesia de los apóstoles Pedro y Pablo, oficiada por los monjes del monasterio de las Cuevas bajo la dirección del igumen Tikhon. Después del servicio, se llevó a cabo una procesión hacia la tumba restaurada del príncipe Boris Golitsyn y se realizó una litía por los difuntos superiores del monasterio.

En agosto de 2009, los artistas del taller "Tradición" en la catedral de san Alejandro Nevski de Nizhni Nóvgorod completaron la pintura del altar de la iglesia de la puerta en honor a los apóstoles Pedro y Pablo, utilizando como modelos obras bizantinas del siglo XII. La iglesia fue completamente pintada a finales de 2012, ya que los trabajos se realizaron de manera cuidadosa y pausada. El 14 de diciembre de 2012, el obispo de Vyksa y Pavlovsk, Varvara, llevó a cabo el rito de la Gran Consagración de la iglesia.