El Templo de la Elevación de la Cruz del Señor en el desierto de Krestovaya de Solokhaule se encuentra en el único edificio monástico, construido a principios de los años 2000. El edificio se destaca por su campanario en forma de tienda, y en el segundo piso se encuentra la iglesia doméstica de San Juan Bautista.

El monasterio está ubicado en el pueblo de Solokhaule, en las pintorescas estribaciones del Cáucaso, en las cabeceras del río Shahe. Según los ancianos, antes de la revolución de octubre de 1917, aquí vivían monjes ermitaños, y anteriormente este lugar se consideraba como uno de los posibles para la construcción del monasterio de Novo-Afon, que finalmente se construyó en Abjasia.

El monasterio de Krestovaya Pustyn fue concebido a imagen de los monasterios de Athos, con la regla de Athos, y como símbolo de la unidad y amistad espiritual serbio-rusa. Esto se evidencia en las inscripciones en ruso y serbio en las placas de mármol en las columnas del templo. El monasterio fue fundado por decisión del Santo Sínodo el 7 de marzo de 2000, y el proyecto del complejo fue desarrollado por el arquitecto de Sochi Boris Babakov.

La construcción se llevó a cabo principalmente con fondos de la comunidad serbia. El monasterio ocupa un pequeño terreno con un único edificio de ladrillo. La empresa constructora serbia "Putevi" no solo construyó el monasterio, sino que también donó para él, embelleciendo el templo con amor. Los nombres de los maestros que realizaron los mosaicos y la decoración del templo, como Lubish, Predrag, Nenad, Milos y otros, están inmortalizados en placas de mármol. El coro del templo está realizado en la tradición de los monasterios de Athos en forma de poliedro con íconos y velas en cada cara.

En el monasterio se combinan el templo en honor a la Elevación de la Cruz Vivificante del Señor, las celdas de los hermanos y el refectorio. En el segundo piso se encuentra la iglesia doméstica en honor al profeta San Juan, el Precursor y Bautista del Señor.

En el camino al monasterio, en el lugar donde la carretera conduce al pueblo de Nizhny Solokh-Aul, se ha construido una capilla en nombre del ícono de la Madre de Dios de Hilandar "Tres Manos". En junio de 1999, la capilla fue consagrada por el obispo de Maikop y Armavir, Filaret (Karagodin), en la cocelebración del clero de la parroquia de Sochi.