El desfiladero, ubicado a 15 km de Sudak en dirección a Feodosia, es conocido como "Kiziltash", que en traducción del tártaro significa "piedra roja". Este nombre está relacionado con el tono rojizo de las rocas locales, especialmente la mediana, de menor tamaño. Se considera que en el siglo VII aquí fue la residencia de verano del santo Esteban de Surozh, arzobispo de Sugdeia. Esteban de Surozh, una figura histórica, es conocido como el difusor del cristianismo en el Sureste de Tavrida. En el sinaxario griego de los siglos XII-XIII se menciona que el 15 de diciembre se conmemora su muerte, ya que convirtió al cristianismo a los habitantes de Sugdeia. Debido a la secretividad del territorio en Kiziltash, hoy Krasnokamenka, no se han realizado excavaciones arqueológicas, por lo que las fechas exactas son desconocidas. Alrededor del desfiladero se han encontrado restos de asentamientos medievales que datan de los siglos VIII-XV, lo que confirma la posibilidad de que aquí existiera la residencia del arzobispo.

En la ladera de una de las rocas se encuentra una cueva en forma de cuña, donde, según la tradición, oraba el santo Esteban. En el fondo de la cueva hay un pequeño estanque, donde en la década de 1820 un pastor tártaro encontró un ícono de madera de la Asunción de la Madre de Dios flotando. Los rumores sobre el hallazgo atrajeron a numerosos peregrinos, y el agua de la cueva se consideraba curativa, especialmente para tratar enfermedades oculares, sordera y trastornos nerviosos. Investigaciones modernas han confirmado las propiedades curativas del agua, que tiene una composición de bicarbonato de sodio y contiene sulfuro de hidrógeno.

Recientemente, la entrada a la cueva fue cerrada con un muro de piedra y una puerta de hierro. En la entrada del monasterio se estableció seguridad y carteles que dicen "Prohibida la entrada a turistas", lo que llevó a la desecación de la fuente. En 2013 se cerró el pozo del monasterio, y ahora el agua se puede obtener en la iglesia o comprar en Feodosia. Actualmente, los turistas solo pueden acceder al monasterio desde el lado de Sandyk-Kaya, mientras que desde el lado de Krasnokamenka el acceso está prohibido.

En 1855, se fundó un monasterio masculino en el desfiladero bajo la roca en honor a Esteban de Surozh. La comunidad prosperó hasta la revolución de 1917. La cueva con la fuente se convirtió en un skete con celdas para 50 novicios, una iglesia y hospedajes. En 1894, 65 personas vivían en el monasterio. El bosque se convirtió en un jardín y huerto, había un molino y se criaba ganado. El monasterio atraía a numerosos peregrinos, que lo llamaban el paraíso terrenal o la Suiza de Crimea.

El monasterio de Kiziltash, aunque montañoso, no es una cueva. Todos sus edificios estaban en terrazas rocosas. La cueva con la fuente tiene origen natural, y otra cueva, la de los bandidos, sirvió de refugio para Alim el bandido en el siglo XIX, según las leyendas.

El igumen Parfeniy, destacado representante del monasterio, dejó una huella significativa en la historia gracias a su vida de ascetismo y muerte martirial. Fue asesinado el 4 de septiembre de 1866 tras enfrentamientos con los lugareños. En 2000, Parfeniy fue canonizado por la Iglesia Ortodoxa Rusa.

En 1923, el monasterio fue cerrado y en su lugar se creó una colonia infantil, y más tarde un sanatorio. Durante la Gran Guerra Patria, aquí se estableció una base de partisanos. En 1950, comenzó la construcción de una planta de ingeniería mecánica, y los edificios del monasterio fueron destruidos. El territorio fue estrictamente vigilado, lo que generó numerosas leyendas.

En 1995, el arzobispo de Simferópol y Crimea, Lazaro, solicitó la devolución de los edificios eclesiásticos. En 1997, el monasterio fue renacido, y en 1998, el sacerdote Nikolai Demyanyuk tomó el hábito monástico con el nombre de Nikon. Actualmente, el monasterio se está restaurando lentamente, y el número de sus habitantes es de tres personas. El templo central está consagrado en nombre de todos los santos de las Cuevas.

El 28 de julio de 2007, el asentamiento de Krasnokamenka celebró su primer cumpleaños, convirtiéndose en un asentamiento ordinario. Ahora se puede llegar aquí desde Feodosia en autobús de línea.